Ich sitze hier an meinem Küchentisch, es ist spät an einem Mittwochabend und der Duft von Lavendelöl aus meiner Yoga-Stunde hängt noch in der Luft. Eigentlich sollte ich abschalten, aber mein Laptop strahlt mich unerbittlich an. Ich habe gerade das Update-Log unserer neuen HR-Software überflogen und bin über den Begriff "Predictive Productivity Analytics" gestolpert. Ein flaues Gefühl im Magen und ein leichtes Zittern der Hände stellten sich sofort ein, als ich realisierte, dass die Software-Standardeinstellungen gegen EU-Recht verstoßen könnten. Das grelle weiße Licht des Laptop-Bildschirms im dunklen Wohnzimmer brennt in meinen Augen, während draußen der Regen gegen die Scheibe peitscht. Ich ahne, was das für unsere 78 Leute im Betrieb bedeutet.
Seit ich 2021 hier in Düsseldorf angefangen habe, war HR für mich vor allem Beziehungsarbeit. Aber seit man mich im Herbst 2024 zur internen AI-Act-Beauftragten ernannt hat – einfach, weil ich wohl am wenigsten laut "Nein" geschrien habe – fühle ich mich oft wie eine Detektivin im Paragrafendschungel. Die Geschäftsführung sieht in diesen Dashboards die Rettung vor dem Fachkräftemangel. Sie wollen wissen, wer im Werk oder im Büro am effizientesten arbeitet. Aber wer schützt eigentlich die Privatsphäre, wenn der Algorithmus anfängt, jeden Klick zu bewerten?
KW 46: Der Schock nach der Yoga-Stunde
Es war Mitte November 2025, als ich das erste Mal begriff, wie tief diese Tools graben. Tobias aus der IT war völlig begeistert. Er zeigte mir, wie das System "ganz nebenbei" die Antwortzeiten auf E-Mails und die Konzentrationsphasen misst. Er nannte es "Optimierungspotenzial". Ich nannte es Bauchschmerzen. Wenn man plötzlich sieht, dass Frau Krüger aus der Fertigungsleitung scheinbar nachmittags weniger produktiv ist, fragt die KI nicht nach dem Grund. Sie sieht nur die Kurve, die nach unten geht.
Ich habe mir dann die Künstliche-Intelligenz-Verordnung, also die Verordnung (EU) 2024/1689, vorgenommen. Ich bin keine Juristin – mein BWL-Studium hat mich auf vieles vorbereitet, aber nicht auf die Analyse von Hochrisiko-KI-Systemen. Wenn du dich da einliest, merkst du schnell: Systeme, die zur Überwachung und Bewertung von Verhalten am Arbeitsplatz eingesetzt werden, fallen fast immer unter Anhang III, Punkt 4. Das bedeutet: Hochrisiko. Und das wiederum bedeutet: Wir können das nicht einfach so "anschalten".
Frühjahr 2026: Wenn Effizienz auf Grundrechte trifft
Kurz nach der ersten Quartalssitzung im Frühjahr 2026 wurde es ernst. Unser Chef wollte eine Liste der "Top-Performer", generiert durch die neue KI. Ich musste ihn bremsen. Es ist ein schmaler Grat zwischen technischer Machbarkeit und dem Schutz unserer 78 Kollegen. Ich erklärte ihm, dass wir laut Artikel 88 DSGVO und dem deutschen Datenschutzrecht (besonders BDSG § 26) extrem vorsichtig sein müssen. Eine KI, die die Leistung permanent trackt, greift tief in das Persönlichkeitsrecht ein.
Was viele unterschätzen: Die strikte Trennung zwischen KI-Leistungskontrolle und dem Schutz der Privatsphäre ist ein Mythos. Moderne HR-Algorithmen erstellen durch Verhaltensmuster auch ohne direkte Videoüberwachung tiefgreifende Persönlichkeitsprofile. Sie analysieren, wie schnell wir tippen, wie oft wir Pausen machen und wie wir Sätze formulieren. Das ist oft viel invasiver als eine Stechuhr. Ich habe damals auch angefangen zu dokumentieren, wie ich die KI-Kompetenz der Mitarbeiter ohne IT-Wissen strukturiert messe, um einen fairen Gegenpol zu diesen rein quantitativen Daten zu schaffen.
Juli 2026: Die heiße Phase der Risikoanalyse
Während der heißen Phase im Juli saß ich nächtelang über der Grundrechte-Folgenabschätzung. Das klingt so hochtrabend, ist aber im Grunde die Frage: Was macht dieses Tool mit der Seele unseres Unternehmens? Der AI Act verbietet in Artikel 5 sogar explizit den Einsatz von KI zur Emotionserkennung am Arbeitsplatz. Wenn eine Software also versucht zu interpretieren, ob ein Mitarbeiter gestresst oder unmotiviert in die Kamera schaut, sind wir rechtlich ganz schnell im tiefroten Bereich.
Tobias aus der IT verdrehte die Augen, als ich ihm sagte, dass wir die Standard-Einstellungen deaktivieren müssen. Er meinte, wir würden so wertvolle Daten verlieren. Aber ich blieb hart. Wir brauchen menschliche Aufsicht. Ein Algorithmus darf niemals das letzte Wort über eine Beförderung oder – Gott bewahre – eine Kündigung haben. Ich habe gemerkt, dass viele meiner HR-Kollegen in anderen KMU vor genau demselben Berg stehen. Man fühlt sich oft allein gelassen, weil kein externer Berater da ist, der einem die Verantwortung abnimmt.
Vor etwa zwei Wochen: Ein kleiner Sieg für die Transparenz
Anfang August hatten wir endlich eine Betriebsvereinbarung stehen. Wir haben uns darauf geeinigt, dass KI-Tools nur aggregierte Daten liefern dürfen. Das bedeutet: Der Chef sieht, dass das Team im Schnitt überlastet ist, aber er sieht nicht, dass es speziell Herr Müller ist, der gerade eine schwere Zeit durchmacht. Das ist Transparenz ohne Überwachung. Ich habe in dieser Zeit oft darüber nachgedacht, warum der KI-Führerschein für Quereinsteiger im Büro die beste Lösung ist, um das Team mitzunehmen, anstatt sie nur zu kontrollieren.
Es war ein harter Kampf, und ich habe mehr als einmal daran gezweifelt, ob ich als BWL-erin ohne Jura-Hintergrund diesen Posten ausfüllen kann. Aber genau dieser Blickwinkel – der Fokus auf die Menschen und nicht nur auf die Paragrafen – war am Ende entscheidend. Wenn du selbst in der Situation bist, ein solches System einzuführen, frag im Zweifel immer eine Anwältin für IT-Recht. Ich kann hier nur meine Erfahrungen teilen, aber die rechtliche Absicherung ist bei 78 Mitarbeitenden einfach existenziell.
Heute weiß ich: KI im Büro ist kein rechtsfreier Raum. Wir als HR-Leute sind die Wächter dieser neuen Grenze. Es geht nicht darum, Technik zu verhindern, sondern sie so zu gestalten, dass sie uns hilft, ohne uns zu gläsernen Menschen zu machen. Wer sich tiefer mit der Materie beschäftigen will, sollte sich unbedingt damit befassen, wie man AI Act Compliance für KMU ohne Rechtsabteilung im Büroalltag umsetzen kann. Es ist machbar, Schritt für Schritt. Und jetzt? Jetzt klappe ich den Laptop zu. Morgen ist wieder Yoga – und hoffentlich mal ein Abend ganz ohne Verordnungstexte.