Eigentlich sollte es ein ganz normaler Mittwochabend werden. Ich kam gerade aus meiner Yoga-Stunde – die einzige Stunde in der Woche, in der ich mein Handy nicht auf dem Küchentisch liegen habe – und wollte mir nur noch schnell einen Tee machen. Doch da war diese E-Mail von Markus aus der Fertigung. Er hatte sich auf die interne Stelle als Schichtleiter beworben und eine Absage erhalten, die durch unser neues Recruiting-Tool generiert wurde. Er fragte ganz direkt: „Warum hat mich die Maschine aussortiert? Ich will wissen, nach welchen Kriterien hier entschieden wurde.“
Ich starrte auf den Bildschirm und spürte, wie der Entspannungs-Effekt vom Yoga innerhalb von Sekunden verpuffte. Seit ich im Herbst 2024 zur KI-Beauftragten für unsere 78 Mitarbeiter ernannt wurde, hatte ich genau vor diesem Moment Angst. Ich bin keine Juristin, ich habe BWL studiert und versuche mich gerade selbst durch die EU-KI-Verordnung (Verordnung 2024/1689) zu kämpfen. Aber Markus hat recht: Er hat ein Recht auf eine Antwort.
Hinweis: In diesem Tagebuch teile ich meine Erfahrungen als HR-Managerin. Du findest hier auch Affiliate-Links zu Schulungen, wie dem KI-Führerschein, den ich selbst absolviert habe. Wenn du darüber buchst, bekomme ich eine Provision – für dich ändert sich nichts am Preis. Ich verlinke nur Dinge, die ich für unseren Betrieb im Maschinenbau wirklich hilfreich fand.
KW 46: Wenn die Black Box zur Rechtsfalle wird
In den dunklen Wochen im Februar saß ich oft bis spät im Büro und habe versucht zu verstehen, was der AI Act eigentlich von uns verlangt, wenn es um unsere Mitarbeiter geht. Eines habe ich schnell gelernt: Fast alles, was wir im HR-Bereich mit KI machen – egal ob Recruiting, Beförderungen oder Leistungsbewertung – gilt als „Hochrisiko-KI-System“. Das ist kein Pappenstiel. Wenn wir hier Transparenzpflichten verletzen, drohen theoretisch Bußgelder von bis zu 35.000.000 Euro oder 7 % des Vorjahresumsatzes. Klar, das betrifft eher die ganz Großen, aber für ein KMU wie uns wäre schon ein Bruchteil davon das Ende.
Das Problem ist, dass viele Tools wie eine Black Box funktionieren. Unser ITler Tobias zuckte nur mit den Schultern, als ich ihn fragte, wie das Tool die Vorauswahl trifft. „Das ist ein Algorithmus, Sonja. Da kann ich nicht einfach reingucken“, meinte er. Aber genau das verlangt der AI Act in Artikel 86: Betroffene Personen haben ein Recht auf eine Erläuterung der Logik hinter einer Entscheidung, wenn diese sie erheblich beeinflusst. Eine Absage bei einer Bewerbung ist definitiv eine solche Entscheidung. Ich habe in dieser Woche gelernt, dass ich mich nicht mehr auf die Aussagen der Software-Anbieter verlassen darf. Ich muss verstehen, welche Parameter gewichtet werden.
Was Mitarbeiter konkret fragen dürfen
Ich habe angefangen, mir eine Liste zu schreiben, was ich Markus eigentlich antworten müsste. Laut Verordnung geht es nicht darum, dass ich ihm den Quellcode zeige (den verstehe ich ja selbst nicht). Es geht um die „erklärbare Logik“. Er darf wissen:
- Welche Daten über ihn wurden herangezogen? (Sein Lebenslauf, seine internen Leistungsdaten?)
- Welche Kriterien waren ausschlaggebend? (Fehlende Zertifikate, Betriebszugehörigkeit, Sprachkenntnisse?)
- Wie wurde die Entscheidung am Ende menschlich überprüft?
Besonders der letzte Punkt ist kritisch. Wir dürfen niemals sagen: „Die KI hat das so entschieden.“ Es muss immer eine menschliche Aufsicht geben, die das Ergebnis validiert. Ich gebe offen zu: Das hatten wir bisher schleifen lassen. Wir haben den Vorschlägen der Software oft blind vertraut.
KW 18: Das Problem mit der Schichtplanung und dem Betriebsrat
Im Mai kam ein ganz neues Thema auf den Tisch, das ich völlig unterschätzt hatte: die automatisierte Schichtplanung. Frau Krüger, unsere Fertigungsleiterin, wollte ein Tool einführen, das Schichten basierend auf Verfügbarkeit, Qualifikation und sogar Gesundheitsparametern (wie Ruhezeiten) plant. Klingt super effizient, oder? Aber unser Betriebsrat war sofort auf den Barrikaden.
Hier merkte ich, dass das Auskunftsrecht bei KI-Entscheidungen im Alltag an Grenzen stößt. Ein Schichtplan-Algorithmus trifft hunderte kleine Entscheidungen pro Sekunde. Wenn sich kurzfristig jemand krankmeldet, schiebt die KI alles um. Der Betriebsrat argumentierte, dass sie gar nicht mehr prüfen können, ob die Mitbestimmung bei der Arbeitszeitgestaltung gewahrt bleibt, wenn die Logik so kurzlebig ist. Das ist mein „Unique Angle“ der Woche: Das Auskunftsrecht greift bei diesen hochdynamischen Systemen oft zu kurz, weil die Entscheidung von heute morgen schon wieder durch neue Daten überschrieben ist. Wir müssen hier Wege finden, wie wir die Logik des Tools dokumentieren, ohne den Betrieb durch endlose Auskunftsanfragen lahmzulegen. Vielleicht hilft es hier, Effizienzgewinne fair zu verteilen, um die Akzeptanz zu erhöhen.
KW 24: Mein Rettungsanker – Transparenz durch Wissen
Kurz vor der Urlaubszeit im Juni wurde mir klar: Ich kann das nicht alles alleine wissen. Ich bin HR-Managerin, keine IT-Forensikerin. Ich habe angefangen, unsere Software-Lieferanten mit Fragebögen zu löchern. „Wie garantiert ihr die Erklärbarkeit nach Artikel 86?“ war meine Standardfrage. Viele Anbieter drucksen herum. Aber wir müssen sie in die Pflicht nehmen. Wenn wir als Unternehmen für die Auskunft geradestehen, müssen sie uns die Werkzeuge dafür liefern.
Um im Team mehr Verständnis für diese Prozesse zu schaffen, habe ich angefangen, Kollegen in den KI-Führerschein zu schicken. Es bringt nichts, wenn nur ich im stillen Kämmerlein die Verordnung lese. Auch die Führungskräfte wie Frau Krüger müssen wissen, warum sie eine KI-Entscheidung gegenüber ihren Leuten begründen können müssen. Es nimmt den Stress aus der Sache, wenn man merkt: Man muss keine Angst vor der Technik haben, man muss sie nur führen können. Wenn du also auch in einem KMU sitzt und dich fragst, wie du dein Team mitnimmst, ist so eine strukturierte Weiterbildung Gold wert.
KW 30: Ein Leitfaden entsteht
Heute ist Ende Juli und ich habe endlich den ersten Entwurf für unseren internen „KI-Auskunfts-Leitfaden“ fertiggestellt. Ich habe mich dabei an den FAQs des Bundesbeauftragten für den Datenschutz (BfDI) orientiert – eine super Quelle, wenn man wie ich keine Juristin ist. Ich bin zwar immer noch keine Expertin für IT-Recht (und wenn es hart auf hart kommt, müssen wir sowieso eine Kanzlei einschalten), aber ich fühle mich jetzt sicherer.
Was ich gelernt habe: Das Auskunftsrecht ist kein Feind. Es zwingt uns dazu, unsere Prozesse sauberer zu definieren. Wenn ich Markus erklären kann, warum das Tool ihn aussortiert hat, dann ist das auch eine Chance zur Fairness. Wir haben zum Beispiel gemerkt, dass das Tool eine bestimmte Fortbildung zu stark gewichtet hat, die Markus gar nicht machen konnte, weil sie während seiner Schichtzeit lag. Das haben wir korrigiert. Diskriminierung durch KI zu verhindern ist harte Arbeit, aber es lohnt sich für das Betriebsklima.
Mein Rat an dich: Fang klein an. Dokumentiere, welche KI-Systeme ihr nutzt und frag die Anbieter nach einer verständlichen Zusammenfassung der Logik. Und redet mit dem Betriebsrat, bevor das Kind in den Brunnen gefallen ist. Falls du dich selbst fit machen willst, schau dir den KI-Führerschein an – mir hat er geholfen, die Sprache der ITler besser zu verstehen und meine Rolle als Beauftragte nicht mehr nur als Last zu sehen.
Jetzt ist es fast dunkel draußen. Zeit, den Laptop zuzuklappen. Nächste Woche stehen die ersten Schulungen für die Schichtführer an. Ich bin gespannt, ob sie genauso kritisch sind wie Markus. Aber diesmal habe ich Antworten vorbereitet.