Nicht „HR-KI", sondern die konkrete Funktion beurteilen
Eine reine Formulierungshilfe für eine Stellenanzeige hat ein vergleichsweise geringes KI-VO-Risiko (AGG und Datenschutz gelten trotzdem). Ein System, das Bewerber automatisch filtert, bewertet oder Entscheidungen über Beschäftigungsbedingungen vorbereitet, kann dagegen in den Hochrisikobereich nach Anhang III fallen. Bewerten Sie deshalb nie ein Produkt pauschal als „HR-KI", sondern jede konkrete Funktion.
Die besonderen materiellen Hochrisiko-Pflichten für diese Anhang-III-Systeme gelten nach der Fristverschiebung grundsätzlich ab dem 2. Dezember 2027. Das bedeutet aber nicht, dass HR-KI bis dahin rechtsfrei wäre: DSGVO, BDSG, AGG, BetrVG und die bereits geltenden Verbote der KI-VO greifen schon heute. Wer heute ein System beschafft, dessen Betrieb ab Dezember 2027 umfangreiche Nachweise (Dokumentation, Konformität) erfordert, sollte das bereits vertraglich absichern.
Automatisierte Entscheidungen – „formal hat ein Mensch entschieden" genügt nicht
Die Aussage, eine vollautomatisierte Bewerberentscheidung sei ausnahmslos verboten oder nur mit Einwilligung zulässig, ist zu pauschal. Art. 22 DSGVO gewährt das Recht, nicht einer ausschließlich automatisierten Entscheidung mit erheblicher Wirkung unterworfen zu werden, kennt aber eng zu prüfende Ausnahmen. Der EuGH hat den Anwendungsbereich konkretisiert: In SCHUFA Holding (07.12.2023, C-634/21) kann bereits die automatisierte Erstellung eines Wahrscheinlichkeitswerts eine Entscheidung sein, wenn ein Dritter maßgeblich darauf abstellt. In Dun & Bradstreet Austria (27.02.2025, C-203/22) können Betroffene eine aussagekräftige Erläuterung der Logik verlangen – der bloße Hinweis auf einen Algorithmus genügt nicht.
Ein Unternehmen erhält 340 Bewerbungen und setzt ein System ein, das jeder einen Eignungswert von 0 bis 100 zuweist. Die Personalabteilung lädt ausnahmslos die zwanzig höchstbewerteten Kandidaten ein und sieht sich die übrigen nicht an. Formal hat ein Mensch entschieden – der Sache nach hat das System die Auswahl determiniert. Nach der SCHUFA-Rechtsprechung ist das als automatisierte Entscheidung zu bewerten. Rechtssicherer: Das System strukturiert nur, die Personalabteilung sichtet eigenständig und dokumentiert auch außerhalb der Rangfolge, verbunden mit einer Stichprobenprüfung niedrig bewerteter Bewerbungen.
KI kann historische Verzerrungen reproduzieren
Lernt ein Modell aus früheren Einstellungen, kann es Muster fortsetzen, die bestimmte Gruppen benachteiligen. Auch scheinbar neutrale Variablen können als Stellvertretermerkmal wirken (Postleitzahl, Beschäftigungslücken, Studiendauer). Das Unternehmen bleibt dafür verantwortlich, dass niemand wegen eines nach § 1 AGG geschützten Merkmals benachteiligt wird – besonders relevant ist die mittelbare Benachteiligung (§ 3 Abs. 2 AGG).
Beweislast beachten (§ 22 AGG): Legt eine benachteiligte Person Indizien dar, trägt der Arbeitgeber die Beweislast, dass kein Verstoß vorlag. Wer nicht erklären kann, nach welchen Kriterien sein System aussortiert, gerät in eine strukturell ungünstige Beweissituation. Klären Sie beim Anbieter vertraglich und technisch, welche Informationen Sie für diese Prüfung benötigen – und untersuchen Sie Datenbasis, Kriterien und Monitoring vor dem produktiven Einsatz.
Emotionserkennung am Arbeitsplatz ist grundsätzlich verboten
Systeme, die aus Gesicht, Stimme, Körperhaltung oder anderen biometrischen Signalen emotionale Zustände ableiten sollen, sind am Arbeitsplatz nach Art. 5 Abs. 1 lit. f KI-VO grundsätzlich verboten – außer bei der engen Ausnahme für medizinische oder Sicherheitszwecke. Der Einsatz zur vermeintlichen Messung von Motivation, Stress, Loyalität oder Stimmung in Bewerbungsgesprächen oder Videokonferenzen ist damit nicht nur ein Hochrisikothema, sondern kann bereits eine verbotene Praxis sein, für die der höchste Bußgeldrahmen gilt.
Abzugrenzen ist die Emotionserkennung von der bloßen Auswertung geäußerter Inhalte: Wie häufig bestimmte Fachbegriffe fallen, ist keine Emotionserkennung; ein Schluss von Stimmlage und Sprechgeschwindigkeit auf den emotionalen Zustand ist es dagegen. Weil viele Produkte zur Gesprächsqualitätsanalyse beide Funktionen kombinieren, sollte diese Abgrenzung vor dem Einsatz ausdrücklich geprüft und dokumentiert werden.