Es war spät am Abend, weit nach Einbruch der Dunkelheit, als ich im Homeoffice saß und eigentlich nur noch diesen einen Entwurf für die neue Stellenausschreibung im Qualitätsmanagement fertigmachen wollte. Das Licht über meinem Schreibtisch flackerte leicht, und ich spürte dieses typische, trockene Gefühl im Hals, das sich immer dann einstellt, wenn man zu lange die klimatisierte Büroluft eingeatmet hat und sich dann zu Hause durch endlose Paragraphen des EU AI Act quält.
Ich hatte die KI gebeten, die Anforderungen für die Stelle zusammenzufassen. Der Text sah auf den ersten Blick perfekt aus. Professionell, präzise, modern. Doch beim dritten Lesen stutzte ich: Da stand etwas von „tiefgreifenden Kenntnissen in Quantum-Excel 5.0“. Ich hielt inne. Wir nutzen viel Software hier im Maschinenbau, aber von einer Version 5.0 oder gar einer „Quantum“-Variante hatte ich noch nie gehört. Eine kurze Suche bestätigte meinen Verdacht: Das Programm existiert schlichtweg nicht. Es war eine klassische Halluzination. Hätte ich das so veröffentlicht, ich hätte mich vor der Geschäftsführung und den Bewerbern komplett lächerlich gemacht.
KW 48: Wenn das Sprachmodell anfängt zu flunkern
Dieser Moment Ende letzten Jahres war mein persönlicher Weckruf. Als ich im Herbst 2024 zur AI-Act-Beauftragten ernannt wurde, dachte ich noch, es ginge nur um Verbote und Datenschutz. Aber das eigentliche Problem im Alltag ist die schleichende Unzuverlässigkeit. Unsere 78 Mitarbeitenden fangen an, die Tools für alles Mögliche zu nutzen – von der E-Mail-Antwort bis zur komplexen Fertigungsplanung. Aber wer prüft eigentlich, ob das, was da rauskommt, auch stimmt?
Ich habe damals gemerkt, dass wir eine völlig neue Fehlerkultur brauchen. KI ist kein Lexikon, sondern ein statistisches Wahrscheinlichkeitsmodell. Wenn du sie fragst, antwortet sie nicht mit Wissen, sondern sie würfelt Wörter so zusammen, dass sie für uns Menschen plausibel klingen. Das ist gefährlich, besonders in einem technischen Betrieb wie unserem. Ich frage mich oft, ob die Kollegen eigentlich merken, dass ich die Checklisten zur Prüfung der Ergebnisse auch erst am Vorabend beim Tee entworfen habe, während ich selbst noch versuchte, den Unterschied zwischen „begrenztem Risiko“ und „hohem Risiko“ im Gesetzestext zu verstehen.
KW 10: KI-Kompetenz ist kein Luxus, sondern Pflicht
Während der ersten Schulungswochen im März wurde mir klar, dass ich nicht nur Regeln aufstellen kann. Der EU AI Act verpflichtet uns in Artikel 4 sogar dazu, die KI-Kompetenz (AI Literacy) im Unternehmen zu fördern. Das klingt so hochtrabend, bedeutet aber eigentlich nur: Die Leute müssen verstehen, dass die Maschine lügt, ohne rot zu werden.
Ich saß mit Tobias aus der IT zusammen, der mir erklärte, dass viele Fehler entstehen, weil wir die KI „überfüttern“ oder zu vage fragen. Wir haben dann angefangen, den sogenannten KI-Führerschein zu entwickeln. Ein zentraler Punkt dabei ist das „Human-in-the-loop“-Prinzip. Das ist nicht nur ein schicker Begriff aus der Verordnung für Hochrisiko-Systeme, sondern sollte unser Standard für jedes noch so kleine Tool im Büro sein. Kein Text, kein Rechenergebnis darf das Haus verlassen, ohne dass ein Mensch den „Plausibilitäts-Check“ gemacht hat.
Ich bin keine Juristin, aber wenn ich mir die vier Risikostufen der KI-Verordnung ansehe, wird mir klar: Selbst wenn wir meistens im Bereich des „minimalen Risikos“ arbeiten, kann ein falscher Wert in einer statischen Berechnung für einen Kunden am Ende haftungsrechtlich böse enden. Wenn du es genauer wissen willst, solltest du unbedingt eine Anwältin für IT-Recht fragen, aber für uns im HR und in der Verwaltung reicht erst einmal der gesunde Menschenverstand – gepaart mit einer gesunden Portion Skepsis.
Der Trick mit der zweiten Meinung: Der KI-Cross-Check
Vor ein paar Wochen, im Juni, hatte ich eine Diskussion mit Frau Krüger, unserer Fertigungsleiterin. Sie war genervt, weil sie eine halbe Stunde lang einen Fehler in einer KI-generierten Prognose für Materialbestellungen gesucht hatte. „Das dauert ja länger als es selbst zu machen!“, rief sie durch den Flur. Und sie hatte recht. Wenn wir alles händisch nachrechnen müssen, können wir es gleich lassen.
Da kam mir eine Idee, die ich in einem Forum für HR-Manager aufgeschnappt hatte: Hör auf, die Ergebnisse der KI mühsam selbst Zeile für Zeile zu korrigieren. Nutze stattdessen eine zweite, völlig unabhängige KI für einen Cross-Check. Ich habe das Frau Krüger so erklärt: Wenn KI A eine Tabelle erstellt, kopieren wir das Ergebnis in KI B (ein anderes Modell eines anderen Anbieters) und geben den Befehl: „Prüfe diesen Text auf logische Inkonsistenzen und Rechenfehler. Markiere alles, was verdächtig erscheint.“
Das Ergebnis war verblüffend. Die zweite KI fand den Rechenfehler in der Prognose innerhalb von Sekunden. Es ist wie ein Korrekturlesen unter Kollegen. Da beide Modelle unterschiedlich trainiert wurden, halluzinieren sie selten an der exakt gleichen Stelle. Dieser Workflow hat die Akzeptanz enorm gesteigert. Wir merken jetzt, wie der KI-Führerschein die Qualität unserer Büroarbeit dauerhaft sichert, indem er uns zeigt, wie wir die Tools gegeneinander ausspielen, anstatt ihnen blind zu vertrauen.
KW 28: Ein Mittwochabend nach dem Yoga
Heute Abend, nach meiner wöchentlichen Stunde Yoga, fühle ich mich das erste Mal seit Monaten nicht mehr so, als würde ich unter der Last der Verantwortung als KI-Beauftragte zusammenbrechen. Der Stresspegel sinkt, weil wir jetzt Prozesse haben. Wir haben gelernt, dass Fehler okay sind, solange wir nicht die Kontrolle abgeben.
Ein Kollege aus der Fertigungsplanung kam heute kurz vor Feierabend vorbei und erzählte mir stolz, dass er durch unsere neue Prüf-Checkliste einen massiven Fehler in einer Lieferantenbewertung gefunden hat, bevor die Mail rausging. Die KI hatte zwei Firmennamen verwechselt, weil sie sich so ähnlich anhörten. „Früher hätte ich das einfach so abgeschickt“, gab er zu. Das System „Mensch-als-Korrektor“ fängt an zu greifen.
Ich klappe jetzt den Laptop zu. Die Klimaanlage im Büro ist längst aus, und hier zu Hause ist es ruhig. Wir sind noch weit davon entfernt, alles perfekt zu beherrschen, aber wir haben den ersten Schritt gemacht: Wir wissen, dass wir nichts wissen – und wir wissen, wie wir die Maschine dabei erwischen, wenn sie dasselbe tut. Morgen werde ich noch einmal über die Dokumentationspflichten schauen, aber für heute ist der Kopf frei von Paragraphen und halluzinierten Excel-Versionen.