Es war spät am Abend in unserem Büro in Düsseldorf, als ich die letzte Korrektur an einer Stellenausschreibung vornahm. Das einzige Licht kam von meinem Monitor, und draußen auf der Straße war es längst still geworden. Ich starrte auf den Text, den mir eine KI ausgespuckt hatte, und spürte diesen vertrauten Frust. Die Sätze klangen glatt, fast schon zu perfekt, aber sie passten überhaupt nicht zu uns als mittelständischer Maschinenbau-Zulieferer. Sie waren seelenlos. Und was noch schlimmer war: Die KI hatte uns Fähigkeiten angedichtet, die wir gar nicht suchen. In diesem Moment wurde mir klar, dass wir ein Problem haben, das über reine Software-Fragen hinausgeht.
Kleine Anmerkung am Rande: In meinen Texten findest du hin und wieder Links zu KI-Schulungen oder Tools. Wenn du darüber buchst, erhalte ich eine kleine Provision — für dich ändert sich am Preis absolut nichts. Ich verlinke hier nur Dinge, die ich selbst ausprobiert habe oder für die ich meine Kollegen angemeldet habe, damit wir nicht völlig im Compliance-Chaos versinken.
KW 48: Wenn das Bauchgefühl gegen die Verordnung verliert
Ende November 2025 saß ich vor den 144 Erwägungsgründen der KI-Verordnung, besser bekannt als AI Act mit der Nummer 2024/1689. Der Geruch von abgestandenem Kaffee hängte schwer im Raum, und das leise, monotone Summen des Laserdruckers im Flur war das einzige Geräusch, das mich begleitete. Ich bin keine Juristin, ich habe BWL studiert und bin seit 2021 hier im Unternehmen für das HR-Management von 78 Mitarbeitern zuständig. Aber plötzlich war ich die "AI-Act-Beauftragte". Warum? Weil niemand sonst wusste, was das bedeutet, und die Geschäftsführung keinen externen Berater bezahlen wollte.
Besonders nervös machte mich der Anhang III der Verordnung. Dort steht schwarz auf weiß, dass KI-Systeme im Bereich Beschäftigung und Personalmanagement fast immer als Hochrisiko-Systeme eingestuft werden. Wenn wir also Tools nutzen, um Bewerber zu sortieren oder Leistungen zu bewerten, gelten extrem strenge Regeln. Ich habe damals gemerkt: Wir können nicht einfach so weitermachen wie bisher. Tobias aus der IT installiert zwar fleißig Updates, aber er kann nicht kontrollieren, was meine Kollegen in ihre Browser-Fenster tippen. Wir brauchten eine Struktur, etwas Greifbares, um die Haftungsrisiken zu senken.
Anfang Januar: Die Suche nach dem Rettungsanker
Kurz nach dem Jahreswechsel wurde mir bewusst, dass reine PDF-Richtlinien im Intranet nichts bringen. Ich hatte sie geschrieben — trocken, rechtssicher (hoffe ich zumindest) und völlig ignorierbar. Ich sah, wie Frau Krüger, unsere Fertigungsleiterin, Berichte mit KI-Hilfe zusammenbaute, ohne zu hinterfragen, ob die Datenbasis überhaupt stimmte. Es war dieses blinde Vertrauen in die Technik, das mich nachts wachhielt. Ich fragte mich: Wie bringe ich 78 Menschen dazu, KI kritisch zu nutzen, ohne sie zu verschrecken?
Ich stieß auf das Konzept eines zertifizierten Nachweises, einer Art KI-Führerschein. Es ging mir dabei nicht um ein weiteres Zertifikat für die Wand, sondern um eine gemeinsame Sprache. Ich wollte, dass jeder hier versteht, warum eine "Halluzination" der KI kein lustiger Programmierfehler ist, sondern ein echtes Qualitätsrisiko für unsere Dokumentationen. Wir mussten lernen, wie man menschliche Aufsicht bei KI-Systemen im HR-Alltag und im Büro wirklich umsetzt. Denn wenn die KI einen Fehler macht und wir ihn ungeprüft übernehmen, haften am Ende wir als Unternehmen.
Mittwochabend im Mai: Der Moment der Wahrheit
Es war ein Mittwochabend im Mai 2026, kurz bevor ich zu meiner wöchentlichen Yoga-Stunde aufbrach. Ich hatte die ersten zehn Kollegen durch den Kurs für den KI-Führerschein geschickt. Tobias aus der IT war natürlich der Erste, aber auch Frau Krüger war dabei. Ich war skeptisch, ob unsere bodenständigen Maschinenbauer das ernst nehmen würden. Dann passierte etwas Unerwartetes: Frau Krüger kam in mein Büro, hielt mir einen Ausdruck hin und sagte: "Wissen Sie, ich dachte immer, die KI denkt für mich mit. Aber jetzt verstehe ich erst, dass ich diejenige bin, die die Verantwortung für den Prompt trägt."
In diesem Moment spürte ich das erste Mal seit Monaten ein plötzliches Lockerlassen meiner Nackenmuskulatur. Es war, als würde eine Last von mir abfallen. Wir hatten angefangen, die KI-Regeln im Büro leichter einzuführen, weil wir nicht mehr nur über Verbote sprachen, sondern über Kompetenz. Der KI-Führerschein gab den Kollegen die Sicherheit, die sie brauchten, um keine Angst vor Abmahnungen oder Fehlern zu haben. Sie lernten, dass sie das Werkzeug beherrschen müssen — und nicht umgekehrt.
Die Gefahr der Denkfalle
Aber ich muss auch ehrlich sein: Ein solcher Führerschein birgt eine Gefahr, die ich anfangs völlig unterschätzt habe. Ich nenne es die "Automatisierung der Denkfaulheit". Wenn man lernt, wie man perfekte Prompts schreibt, neigt man dazu, den Output als "geprüft" abzuhaken, nur weil man den Prozess richtig befolgt hat. Ich habe das bei mir selbst beobachtet, als ich eine Daten-Governance für unsere KI-Anwendungen entworfen habe. Ich verließ mich so sehr auf die gelernten Strukturen, dass ich fast vergessen hätte, mein eigenes Gehirn einzuschalten.
Ein KI-Zertifikat darf niemals dazu führen, dass wir das kritische Hinterfragen einstellen. Im Gegenteil: Es muss uns dazu befähigen, die KI noch schärfer zu korrigieren. Ich sage meinen Kollegen heute immer: Die KI ist wie ein sehr fleißiger Praktikant, der manchmal lügt, um zu gefallen. Man muss alles nachprüfen. Wer nur starr die Prozessvorgaben abarbeitet, sichert keine Qualität, sondern zementiert Mittelmäßigkeit. Das ist ein schmaler Grat, und ich lerne jeden Tag dazu, wie wir diese Balance halten.
Letzte Woche: Ein Fazit zwischen Akten und Yoga
Letzte Woche habe ich die Fehlerquote in unseren internen Berichten verglichen. Sie ist seit der Einführung der Schulungen massiv gesunken. Nicht, weil die KI besser geworden ist, sondern weil die Menschen davor aufmerksamer sind. Wir haben jetzt 78 Mitarbeiter, von denen die meisten wissen, was ein Hochrisiko-System nach Künstliche Intelligenz Standards ist und warum Transparenz so wichtig ist.
Wenn ich heute Abend beim Yoga auf der Matte liege, muss ich nicht mehr über Haftungsfragen nachgrübeln. Ich weiß, dass ich keine IT-Expertin und keine Juristin bin — und das ist okay. Ich bin eine HR-Managerin, die einen Weg gefunden hat, Compliance und Alltagstauglichkeit zu verbinden. Falls du in einer ähnlichen Situation bist: Such dir Hilfe, aber fang bei der Kompetenz deiner Leute an. Ein Tool allein rettet dich nicht vor dem AI Act, aber gut geschulte Kollegen tun es.
Natürlich bin ich keine Rechtsberaterin. Alles, was ich hier schreibe, sind meine persönlichen Erfahrungen aus dem Maschinenbau-Alltag. Wenn du rechtlich wirklich auf der sicheren Seite sein willst, sprich bitte unbedingt mit einer Anwältin für IT-Recht. Aber für den praktischen Start kann ich dir nur raten: Investiere in das Wissen deiner Leute. Schau dir zum Beispiel den KI-Führerschein an, den wir genutzt haben. Es macht den Kopf frei für die Dinge, die wirklich zählen — wie die nächste Yoga-Stunde oder das nächste Projekt, bei dem wir Menschen unsere Stärken voll ausspielen können.