Eigentlich wollte ich heute pünktlich raus. Es ist Montagabend, der Regen peitscht gegen das Fenster der S8 Richtung Düsseldorf-Bilk, und ich tippe diese Zeilen in mein Handy, während mein Kopf sich anfühlt wie eine überhitzte Festplatte. Du kennst das sicher auch: Man denkt, man hat alles im Griff, und dann kommt ein einziger Satz, der das ganze mühsam aufgebaute Kartenhaus zum Einsturz bringt. Bei mir war es ein Satz über Wartungsprotokolle.
KW 06: Der Moment, in dem mir der Kaffee fast aus der Hand fiel
Es war der 11. Februar 2026. Ich stand in der Kantine, direkt neben der großen Fräsmaschine, die gerade gewartet wurde. Einer unserer fähigsten Techniker – nennen wir ihn Mike – grinste mich an und sagte beiläufig: „Du, das neue Tool ist echt der Hammer. Ich spreche meine Notizen nur noch ins Handy, die KI macht daraus ein fertiges Protokoll für Frau Krüger. Spart mir jeden Tag eine halbe Stunde.“
Mein Herz rutschte mir nicht nur in die Hose, es blieb irgendwo in meinen Sicherheitsschuhen liegen. In meinem Kopf ratterte es: Welches Tool? Wer hat das bezahlt? Wo liegen die Daten? Und vor allem: Steht das in meinem Verzeichnis für den Gesetz über künstliche Intelligenz? Spoiler: Nein, stand es nicht.
Ich bin HR-Managerin. Ich habe BWL studiert, weil ich mit Menschen arbeiten wollte, nicht weil ich Software-Architekturen oder Brüsseler Verordnungstexte auswendig lernen wollte. Aber seit ich im Herbst 2024 zur „AI-Act-Beauftragten“ ernannt wurde (weil sonst niemand hier wusste, was das Wort überhaupt bedeutet), bin ich wohl auch die offizielle Software-Detektivin. Ich bin eigentlich hier, um Menschen einzustellen, nicht um Software-Detektivin für Brüsseler Bürokraten zu spielen. Aber Mike hat mir gerade gezeigt, dass meine bisherige Liste ein Witz war.
KW 11: Die Flut der anonymen Geständnisse
Nach dem Gespräch mit Mike wusste ich: Ich kann nicht länger so tun, als hätten wir nur drei Tools im Einsatz. Offiziell bekannt waren uns zu Beginn genau drei: ChatGPT Enterprise für das Marketing, DeepL für die Export-Abteilung und ein Modul in unserer HR-Software. Das war meine Welt. Überschaubar. Sicher.
Am 18. März 2026 startete ich eine anonyme Umfrage unter allen 78 Kollegen. Ich habe es bewusst nicht „Kontrolle“ genannt, sondern „Produktivitäts-Check“. Ich wollte wissen: Was nutzt ihr wirklich, um euren Job zu schaffen? Ich habe den Leuten versprochen: Niemand bekommt Ärger. Ich will nur verstehen, wo wir stehen.
Das Ergebnis war ein Schock. Statt der erwarteten vielleicht fünf oder sechs Rückmeldungen landeten 39 durch die Umfrage entdeckte Schatten-KI-Tools auf meinem Tisch. Neununddreißig! Zusammen mit den offiziellen drei waren wir plötzlich bei einer Gesamtanzahl von 42 zu prüfenden Anwendungen. Von dubiosen „KI-Excel-Formel-Generatoren“, die wahrscheinlich irgendwo im Ausland unsere Tabellen fressen, bis hin zu Bild-KIs, mit denen die Jungs in der Montage heimlich ihre Anleitungen „verschönern“.
Ich erinnere mich an diesen einen Moment an der Kaffeemaschine. Das kalte Metall der Kaffeemaschine, an der ich mich festhalte, während der IT-Leiter Tobias mir gesteht, dass er von den 39 Tools auch nichts wusste. Er sah genauso blass aus wie ich. Da wurde mir klar: Wir haben hier eine riesige Schatten-IT aufgebaut, weil wir als Unternehmen zu langsam waren. Aber hier kommt mein unpopulärer Gedanke: Vielleicht war das gar nicht so schlecht. Statt KI-Richtlinien zentral vorzugeben und alles zu verbieten, haben wir durch diesen Raum für illegitime Nutzung erst gesehen, was die Leute wirklich brauchen. Hätte ich Mike vor einem Jahr ein Tool verboten, hätte er nie herausgefunden, wie viel Zeit er sparen kann.
KW 16: Yoga, Risikomatrizen und die 17,5 Stunden Wahrheit
Der April war der Monat der Wahrheit. Ich saß vor einer Excel-Liste, die ich „Inventur des Grauens“ getauft habe. 42 Zeilen. Jedes Tool musste bewertet werden. Ich hatte mir vorgenommen, pro Tool eine Erst-Klassifizierung vorzunehmen. Wie gefährlich ist das Ding nach den Regeln des AI Acts? Ist es „Unacceptable Risk“ (sofort verbieten!), „High Risk“ oder nur „Minimal Risk“?
Ich habe pro Tool-Erstprüfung im Schnitt 25 Minuten gebraucht. Das klingt wenig, aber rechne das mal hoch: 42 Tools mal 25 Minuten ergibt 1050 Minuten. Das sind 17,5 Gesamtstunden für die Erst-Klassifizierung. Nur das Einordnen! Ohne Dokumentation, ohne Rücksprache mit den Anbietern. Ich saß da mit meinem 400-seitigen PDF des AI Acts und suchte nach Begriffen wie „biometrische Identifizierung“ oder „Eignungsprüfung“.
Das Ziehen im Nacken, wenn ich das 400-seitige PDF der Verordnung öffne und nach dem Wort „Hochrisiko“ suche, ist mittlerweile mein ständiger Begleiter. Jeden Mittwochabend um 19 Uhr ist meine Rettung: Yoga. Ohne diese eine Stunde würde ich wahrscheinlich schreiend durch die Montagehalle laufen. Dort, auf der Matte, wurde mir plötzlich etwas klar: Ich muss nicht jedes Tool technisch bis ins Detail verstehen. Ich bin keine Informatikerin. Ich muss nur stur die Risikomatrix des Gesetzes abarbeiten. Ist es Recruiting? Ist es Sicherheit? Ist es Biometrie?
Am Ende der Prüfung am 22. April 2026 war das Ergebnis gar nicht so katastrophal wie befürchtet. Von den 42 Tools fielen nur 2 in die Einstufung als Hochrisiko-KI. Das eine war ein Tool, das ein Kollege im Recruiting zum Filtern von Lebensläufen testen wollte (absolutes Minenfeld!), und das andere war eine biometrische Zugangskontrolle, die wir in der Testphase für das Lager hatten. Der ganze Rest? Fast alles „Minimal Risk“. Ein KI-Excel-Helfer ist kein Weltuntergang, solange keine Kundendaten drin landen.
Was ich daraus gelernt habe (und was du wissen solltest)
Wenn du in einem KMU sitzt und denkst, ihr nutzt nur ChatGPT: Du irrst dich. Deine Leute sind kreativ. Sie wollen ihren Job schneller machen. Und das ist eigentlich ein Geschenk, kein Problem. Wir müssen aufhören, den AI Act als reines Verbotsinstrument zu sehen. Er ist eher wie die Datenschutz-Grundverordnung: nervig, bürokratisch, aber am Ende zwingt er uns dazu, mal ordentlich aufzuräumen.
Hier sind meine drei wichtigsten Erkenntnisse aus dieser Inventur-Hölle:
- Ehrlichkeit schlägt Kontrolle: Hätte ich gedroht, hätte Mike mir nie von seinem Tool erzählt. Wir brauchen eine Kultur, in der Schatten-KI gemeldet werden darf, ohne dass der Kopf abgerissen wird.
- Fokus auf das Risiko, nicht auf die Technik: Ich verstehe immer noch nicht, wie ein Large Language Model mathematisch funktioniert. Aber ich weiß jetzt, dass ein Tool, das Schichtpläne optimiert, ein höheres Risiko hat als eines, das E-Mails formuliert.
- Dokumentation ist alles: Mein Verzeichnis der KI-Anwendungsfälle ist jetzt mein wichtigstes Dokument. Es ist nicht perfekt, es ist von einer BWLern geschrieben, aber es zeigt, dass wir uns kümmern.
Morgen treffe ich mich mit Frau Krüger, unserer Fertigungsleiterin. Ich werde ihr nicht sagen, dass wir Mikes Tool verbieten. Ich werde ihr sagen, wie wir es so konfigurieren, dass es konform ist. Und dann gehe ich nach Hause und mache vielleicht noch zehn Minuten extra Yoga. Einfach nur für den Nacken.
Wir hören uns nächste Woche – hoffentlich mit weniger Schatten und mehr Licht im KI-Dschungel.