Es war spät an einem Abend Ende letzten Novembers, als ich noch im Büro saß. Das blaue Licht meines Monitors war die einzige Lichtquelle, während ich mir die Demo eines neuen CV-Screening-Tools ansah. Versprochen wurde das Blaue vom Himmel: Die Software sollte uns helfen, für unsere Montagebänder in Düsseldorf die perfekten Kandidaten zu filtern, völlig objektiv und blitzschnell. Ich weiß noch, wie ich auf den Bildschirm starrte und dachte: Wenn das klappt, habe ich endlich wieder Zeit für echte Personalentwicklung statt nur für das Sichten von Papierbergen. Aber irgendetwas fühlte sich zu glatt an. Als frischgebackene AI-Act-Beauftragte für unsere 78 Mitarbeitenden wusste ich zwar noch nicht viel, aber ich wusste, dass solche Versprechen im Personalwesen oft einen Haken haben.
Der Sprung ins kalte Wasser: Wenn HR plötzlich Hochrisiko ist
Ich bin HR-Managerin, keine Informatikerin. Mein BWL-Studium hat mich auf vieles vorbereitet, aber nicht darauf, die mathematische Fairness eines Algorithmus zu bewerten. Beim Durchforsten der Unterlagen wurde mir jedoch schnell klar: Unsere neue Software fällt unter den Anhang III.4 der KI-Verordnung. Das bedeutet, sie ist ein Hochrisiko-System. Ich kann das Ding nicht einfach installieren und hoffen, dass alles gut geht. In diesem Moment roch mein Schreibtisch nach kaltem Pfefferminztee, während ich durch die hunderte Seiten des Entwurfs scrollte und versuchte zu verstehen, was das für unseren Alltag bei einem mittelständischen Maschinenbau-Zulieferer bedeutet.
Ich habe dann erstmal kurz auf den Tisch gestarrt. Der Druck von der Geschäftsführung war groß – wir müssen schneller einstellen, die Konkurrenz schläft nicht. Aber Hochrisiko heißt eben auch: Wir tragen die Verantwortung für die Grundrechte der Bewerber. Wenn die KI jemanden aussortiert, weil er eine Lücke im Lebenslauf hat oder aus einem bestimmten Stadtteil kommt, hängen wir mit drin. Ich habe mir vorgenommen, das Thema nicht nur als lästige Compliance-Pflicht zu sehen, sondern als Chance, wirklich fairer zu werden.
Zwischen Daten-Bias und dem Blick in die Fertigung
Im frühen Frühjahr diesen Jahres saß ich mit Frau Krüger, unserer Fertigungsleiterin, zusammen. Ich versuchte ihr zu erklären, was ein algorithmischer Bias ist. Ich weiß noch genau, wie ich dachte: 'Ich bin Personalerin, keine Data Scientistin', während ich mit Händen und Füßen versuchte, die Logik hinter Trainingsdaten zu erläutern. Frau Krüger schaute mich nur trocken an und fragte: "Soll das Ding jetzt entscheiden, wer bei mir an die Fräse darf, oder mache ich das noch?"
Genau das ist der Punkt. Die KI lernt aus der Vergangenheit. Wenn wir in den letzten zehn Jahren vor allem Menschen mit einem ganz bestimmten, lückenlosen Werdegang eingestellt haben, wird die KI das als das Idealbild abspeichern. Das ist das Problem mit der Qualität der Trainingsdaten. Wenn die Datenbasis schon eine Schieflage hat, verstärkt die KI diese nur noch. Ich habe gemerkt, dass Transparenz hier alles ist. Wir müssen wissen, wonach das System sucht. Falls du dich fragst, wie man so etwas im Team bespricht, ohne alle zu verschrecken: Ich habe damals über unsere KI-Einsatz-Kommunikation und Transparenzregeln nachgedacht, um die Akzeptanz zu erhöhen.
Die Yoga-Erkenntnis: Warum Anonymisierung tückisch sein kann
An einem Mittwochabend nach dem Yoga – ich versuche diese Stunde strikt einzuhalten, damit mein Kopf nicht explodiert – saß ich noch kurz auf der Matte und dachte über unsere Anonymisierungs-Strategie nach. Wir dachten ursprünglich, wenn wir Namen, Geschlecht und Herkunft einfach löschen, kann die KI gar nicht diskriminieren. Aber das ist ein Trugschluss, den ich schmerzhaft lernen musste. Vor etwa zwei Wochen habe ich einen Testlauf mit anonymisierten, aber realen Altdaten gemacht.
Das Ergebnis war ernüchternd: Das Tool bevorzugte immer noch Lebensläufe mit absolut geradlinigen Zeitstrahlen. Wer wegen Kindererziehung oder der Pflege von Angehörigen pausiert hatte – was in unserer Region oft Frauen betrifft –, rutschte im Ranking nach unten. Die strikte Anonymisierung hat uns hier blind gemacht. Wenn wir den Kontext komplett löschen, nehmen wir uns die Möglichkeit, historische Benachteiligungen überhaupt zu erkennen und durch den Algorithmus korrigieren zu lassen. Manchmal braucht die KI eben doch Informationen über den Kontext, um echte Chancengleichheit zu fördern, statt nur eine scheinbare Neutralität vorzugaukeln. Das war so ein Moment, in dem ich merkte: Wir müssen das System aktiv steuern, nicht nur passiv Daten füttern.
Human-in-the-Loop: Artikel 14 in der Praxis
Wir haben uns schließlich dazu entschieden, die volle Automatisierung zu stoppen. Wir setzen jetzt konsequent auf das Prinzip des 'Human-in-the-Loop', wie es in Artikel 14 der KI-Verordnung gefordert wird. Das bedeutet, dass kein Bewerber abgelehnt wird, ohne dass ich oder jemand aus meinem Team noch einmal drübergeschaut hat. Tobias aus der IT war erst skeptisch, weil er meinte, das würde den Effizienzgewinn wieder auffressen. Aber ich war hartnäckig. Die KI ist eine Sortierhilfe, kein Richter.
Um sicherzustellen, dass wir nicht blind dem vertrauen, was der Algorithmus uns vorschlägt, haben wir kleine Kontrollmechanismen eingebaut. Wir prüfen regelmäßig Stichproben der 'abgelehnten' Kandidaten. Dabei habe ich gelernt, wie wichtig es ist, die eigenen Vorurteile nicht auf die Maschine zu übertragen. Es ist ein ständiger Lernprozess. Ich habe dazu auch schon mal etwas über die neue KI-Etikette am Arbeitsplatz geschrieben, weil Fairness eben auch eine Frage der Unternehmenskultur ist und wie wir mit diesen neuen Kollegen aus Code umgehen.
Was ich heute anders machen würde
Wenn ich auf die letzten Monate zurückblicke, war mein größter Fehler zu glauben, dass ich das alles alleine mit dem Gesetzestext lösen kann. Ich bin keine Juristin und habe keine IT-Zertifikate. Wenn du vor derselben Aufgabe stehst: Such dir Verbündete im Unternehmen. Frau Krügers praktischer Blick auf die Qualifikationen war genauso wichtig wie Tobias' technisches Verständnis. Wir haben keinen teuren Berater gebraucht, aber wir mussten ehrlich zueinander sein, was unsere Unwissenheit angeht.
Wir dokumentieren jetzt jeden Schritt. Das ist zwar mühsam, hilft aber ungemein, wenn man sich rechtfertigen muss, warum ein System so entschieden hat, wie es entschieden hat. Falls du tiefer in die Materie einsteigen willst, schau dir die FAQs des Bundesbeauftragten für den Datenschutz (BfDI) an – das ist oft verständlicher als der reine Verordnungstext. Und ganz wichtig: Verlass dich nicht blind auf die Versprechen der Software-Anbieter. Stell kritische Fragen zum Datensatz, mit dem die KI trainiert wurde. Ein gesundes Misstrauen ist in diesem Job deine beste Eigenschaft.
Ein Fazit für den Mittelstand
Fairness im HR-Bereich durch KI ist kein Ziel, das man einmal erreicht und dann abhakt. Es ist eine Daueraufgabe. Wir bei unserem 78-Mann-Betrieb sind noch lange nicht perfekt, aber wir sind sensibilisiert. Wir wissen jetzt, dass Anonymisierung allein keine Diskriminierung verhindert und dass wir Menschen die letzte Entscheidung behalten müssen. Das gibt auch den Mitarbeitern Sicherheit. Übrigens, falls das Team noch Berührungsängste hat, hilft oft eine kleine interne Schulung. Wir haben das sehr gut über einen KI-Führerschein im Büro gelöst, um die Berührungsängste abzubauen. Am Ende des Tages geht es darum, die Technik zu beherrschen, statt sich von ihr beherrschen zu lassen. Und jetzt ist es wieder Mittwochabend – Zeit für Yoga, bevor ich morgen wieder in die Welt von Annex III eintauche.
Ein kurzer Hinweis am Rande: Ich teile hier meine persönlichen Erfahrungen als HR-Managerin. Dies stellt keine Rechtsberatung dar. Wenn du es für dein Unternehmen rechtssicher klären willst, frag bitte unbedingt eine Anwältin für IT-Recht.