Immer mehr Unternehmen setzen KI im Bewerbungsprozess ein -- von der Vorauswahl bis zur Videoanalyse. Doch welche arbeitsrechtlichen, datenschutzrechtlichen und betriebsverfassungsrechtlichen Grenzen gelten? Ein Compliance-Leitfaden für Arbeitgeber.
KI im Recruiting: Revolution mit Risiken
Der Bewerbungsprozess verändert sich grundlegend. Wo früher Personalverantwortliche Lebensläufe einzeln sichteten, übernehmen heute zunehmend Algorithmen die Vorauswahl: KI-gestützte Systeme analysieren Bewerbungsunterlagen, werten Videointerviews aus, bewerten Persönlichkeitsmerkmale und erstellen Prognosen über die künftige Leistungsfähigkeit von Kandidatinnen und Kandidaten.
Die Versprechen klingen verlockend -- schnellere Prozesse, objektivere Auswahl, geringere Kosten. Doch der Fall Amazon zeigt exemplarisch, was schiefgehen kann: Das Unternehmen musste 2018 sein KI-gestütztes Recruiting-Tool einstellen, nachdem sich herausgestellt hatte, dass der Algorithmus systematisch Frauen benachteiligte. Die Ursache lag in den Trainingsdaten -- zehn Jahre überwiegend männlicher Bewerbungen hatten den Algorithmus geprägt.
Für deutsche Arbeitgeber wirft der Einsatz von KI im Bewerbungsprozess eine Vielzahl rechtlicher Fragen auf. Dieser Beitrag beleuchtet die wesentlichen Rechtsgrundlagen und gibt praktische Handlungsempfehlungen.
Das AGG: Diskriminierungsschutz auch bei algorithmischen Entscheidungen
Das Allgemeine Gleichbehandlungsgesetz (AGG) schützt Bewerberinnen und Bewerber vor Benachteiligung aufgrund von Rasse, ethnischer Herkunft, Geschlecht, Religion, Behinderung, Alter oder sexueller Identität. Dieser Schutz gilt uneingeschränkt auch dann, wenn die Entscheidung von einem Algorithmus getroffen oder vorbereitet wird.
Mittelbare Diskriminierung durch Algorithmen
Besonders tückisch ist die Gefahr der mittelbaren Diskriminierung gemäß § 3 Abs. 2 AGG. Ein Algorithmus kann scheinbar neutrale Kriterien verwenden, die faktisch bestimmte Gruppen benachteiligen:
- Wohnort-Filter: Benachteiligt Bewerber aus bestimmten Stadtteilen, was mit ethnischer Herkunft korrelieren kann
- Lücken im Lebenslauf: Trifft überproportional Frauen mit Erziehungszeiten
- Absolventen bestimmter Hochschulen: Kann soziale Herkunft als verstecktes Kriterium einführen
- Sprachanalyse in Videointerviews: Benachteiligt möglicherweise Nicht-Muttersprachler oder Menschen mit Behinderungen
Beweislastumkehr nach § 22 AGG
Kann ein abgelehnter Bewerber Indizien für eine Benachteiligung vortragen, kehrt sich die Beweislast um. Der Arbeitgeber muss dann nachweisen, dass keine Diskriminierung vorliegt. Bei algorithmischen Systemen ist dieser Nachweis besonders schwierig, wenn der Arbeitgeber die Funktionsweise des Algorithmus selbst nicht vollständig versteht -- ein häufiges Problem bei komplexen Machine-Learning-Modellen.
§ 26 BDSG: Beschäftigtendatenschutz im Bewerbungsverfahren
§ 26 BDSG regelt die Verarbeitung personenbezogener Daten im Beschäftigungskontext. Obwohl der EuGH in seiner Entscheidung vom 30. März 2023 (C-34/21) Zweifel an der Vereinbarkeit nationaler Beschäftigtendatenschutzregelungen mit der DSGVO geäußert hat, bleibt § 26 BDSG bis zu einer Neuregelung die zentrale deutsche Vorschrift.
Anforderungen an die Datenverarbeitung im Bewerbungsverfahren
Die Verarbeitung personenbezogener Daten von Bewerberinnen und Bewerbern ist zulässig, wenn sie für die Entscheidung über die Begründung eines Beschäftigungsverhältnisses erforderlich ist. Beim Einsatz von KI-Systemen ergeben sich besondere Anforderungen:
- Datensparsamkeit: Nur die für die Stellenbesetzung tatsächlich relevanten Daten dürfen verarbeitet werden
- Zweckbindung: Die erhobenen Daten dürfen nicht für andere Zwecke verwendet werden
- Transparenz: Bewerber müssen über Art und Umfang der Datenverarbeitung informiert werden
- Löschung: Daten abgelehnter Bewerber sind grundsätzlich innerhalb von sechs Monaten zu löschen
Das Verbot automatisierter Einzelentscheidungen
Art. 22 DSGVO verbietet grundsätzlich Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und der betroffenen Person gegenüber rechtliche Wirkung entfalten. Eine vollautomatisierte Absage im Bewerbungsverfahren ohne jegliche menschliche Beteiligung ist daher unzulässig.
In der Praxis bedeutet das: KI-Systeme dürfen Bewerbungen vorfiltern und Empfehlungen abgeben, aber die finale Entscheidung muss von einem Menschen getroffen werden, der die algorithmische Empfehlung kritisch prüft und eigenständig würdigt.
§ 87 Abs. 1 Nr. 6 BetrVG: Mitbestimmung des Betriebsrats
Die vielleicht praxisrelevanteste Hürde beim Einsatz von KI im Recruiting ist das Mitbestimmungsrecht des Betriebsrats nach § 87 Abs. 1 Nr. 6 BetrVG. Danach hat der Betriebsrat mitzubestimmen bei der Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen.
KI-Recruiting-Tools als technische Überwachungseinrichtung
Die Rechtsprechung des Bundesarbeitsgerichts legt den Begriff der technischen Überwachungseinrichtung weit aus: Es genügt bereits, dass die technische Einrichtung zur Überwachung geeignet ist -- eine entsprechende Absicht des Arbeitgebers ist nicht erforderlich.
KI-gestützte Bewerbermanagementsysteme sind regelmäßig als technische Überwachungseinrichtungen im Sinne des § 87 Abs. 1 Nr. 6 BetrVG einzuordnen, da sie:
- Verhaltens- und Leistungsdaten von Bewerbern systematisch erfassen und auswerten
- Bewertungen und Rankings erstellen, die Rückschlüsse auf das Verhalten und die Leistungsfähigkeit zulassen
- Persönlichkeitsmerkmale analysieren (bei Videointerviews)
Rechtsfolgen fehlender Mitbestimmung
Führt ein Arbeitgeber ein KI-Recruiting-System ohne Beteiligung des Betriebsrats ein, ist die Maßnahme rechtswidrig. Der Betriebsrat kann die Unterlassung verlangen und gegebenenfalls im Eilverfahren gerichtlich durchsetzen. Bereits gewonnene Daten dürfen nicht verwertet werden.
Der EU AI Act: Neue Regulierungsebene ab 2026
Der EU AI Act klassifiziert KI-Systeme im Bereich Beschäftigung und Personalmanagement als Hochrisiko-KI-Systeme (Anhang III, Nr. 4). Dies betrifft ausdrücklich Systeme, die bestimmungsgemäß verwendet werden für:
- Die Einstellung oder Auswahl natürlicher Personen, insbesondere für gezielte Stellenanzeigen, die Analyse und Filterung von Bewerbungen und die Bewertung von Kandidaten
- Entscheidungen über Beförderungen und Kündigungen
- Die Zuweisung von Aufgaben aufgrund individuellen Verhaltens oder persönlicher Merkmale
- Die Überwachung und Bewertung von Leistung und Verhalten im Beschäftigungsverhältnis
Pflichten für Arbeitgeber ab August 2026
Die zentralen Vorschriften für Hochrisiko-KI-Systeme werden am 2. August 2026 durchsetzbar. Arbeitgeber, die KI-Systeme im Recruiting einsetzen, müssen dann:
- Menschliche Aufsicht sicherstellen: Angemessene menschliche Überwachung über den Betrieb des KI-Systems
- Transparenzpflichten erfüllen: Bewerber über den Einsatz von KI-Systemen informieren und erklären, wie das System funktioniert
- Datenqualität gewährleisten: Sicherstellen, dass die Trainingsdaten relevant, repräsentativ und frei von Verzerrungen sind
- Risikomanagement betreiben: Kontinuierliche Überwachung des KI-Systems und Identifikation von Risiken
- Dokumentation führen: Lückenlose Dokumentation des Systembetriebs
Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Der Amazon-Fall: Lehren für die Praxis
Der Amazon-Fall von 2018 ist mehr als eine Anekdote -- er illustriert ein strukturelles Problem algorithmischer Personalauswahl:
Was geschah?
Ab 2014 entwickelte Amazon ein KI-System zur automatisierten Bewertung von Bewerbungen. Das System wurde mit zehn Jahren historischer Bewerbungsdaten trainiert. Da die Tech-Branche männlich dominiert ist, stammte die überwiegende Mehrheit der Bewerbungen von Männern. Der Algorithmus "lernte" folglich, männliche Bewerber zu bevorzugen und:
- Wertete Lebensläufe ab, die das Wort "women's" enthielten (z. B. "women's chess club")
- Benachteiligte Absolventinnen bestimmter Frauenhochschulen
- Reproduzierte die bestehende Geschlechterverteilung statt sie zu korrigieren
Warum der Fall auch für deutsche Unternehmen relevant ist
Obwohl Amazon das System einstellte, verdeutlicht der Fall universelle Risiken:
- Historische Bias werden algorithmisch perpetuiert: Wenn Trainingsdaten vergangene Diskriminierung widerspiegeln, schreibt der Algorithmus diese fort
- Proxy-Diskriminierung: Scheinbar neutrale Merkmale (Hochschule, Wohnort, Hobbys) können als Stellvertreter für geschützte Merkmale fungieren
- Opazität: Arbeitgeber verstehen oft nicht, welche Kriterien der Algorithmus tatsächlich anwendet
Compliance-Checkliste für Arbeitgeber
Für Unternehmen, die KI im Bewerbungsprozess einsetzen oder einsetzen möchten, empfiehlt sich folgende Checkliste:
Vor der Einführung
- Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchführen
- Betriebsrat einbeziehen und Betriebsvereinbarung über den Einsatz des Systems schließen
- Diskriminierungsrisiken prüfen: Bias-Audit der Trainingsdaten und des Algorithmus
- Informationspflichten klären: Transparente Information der Bewerber über den KI-Einsatz vorbereiten
- Rechtsgrundlage dokumentieren: Erforderlichkeit der Datenverarbeitung nach § 26 BDSG begründen
Im laufenden Betrieb
- Menschliche Letztentscheidung sicherstellen: Keine vollautomatisierten Absagen
- Regelmäßige Bias-Audits durchführen: Mindestens jährlich die Ergebnisse auf Diskriminierungsmuster prüfen
- Bewerber-Feedback ermöglichen: Auf Anfrage Auskunft über die Beteiligung von KI-Systemen erteilen
- Schulung der HR-Mitarbeiter: Personalverantwortliche müssen die Grenzen und Risiken des Systems kennen
- Dokumentation pflegen: Entscheidungsprozesse und Systemanpassungen lückenlos festhalten
Ab August 2026 (EU AI Act)
- Konformitätsbewertung für das eingesetzte KI-System veranlassen oder vom Anbieter nachweisen lassen
- Risikomanagementsystem implementieren
- Transparenzpflichten des AI Act zusätzlich erfüllen
- Registrierungspflicht prüfen für Hochrisiko-KI-Systeme
Fazit: Technologie im Dienst fairer Personalauswahl
KI kann den Bewerbungsprozess effizienter und -- bei sorgfältiger Implementierung -- sogar fairer gestalten als rein menschliche Entscheidungen. Die Voraussetzung ist jedoch, dass Unternehmen die rechtlichen Rahmenbedingungen ernst nehmen und KI-Systeme nicht als "Black Box" einsetzen, deren Funktionsweise niemand versteht.
Die Kombination aus AGG, BDSG, DSGVO, BetrVG und dem bevorstehenden EU AI Act schafft einen dichten regulatorischen Rahmen, der Arbeitgeber zu verantwortungsvollem Einsatz von KI im Personalwesen verpflichtet. Wer diese Vorgaben frühzeitig umsetzt, schützt nicht nur Bewerberinnen und Bewerber vor Diskriminierung, sondern auch das eigene Unternehmen vor erheblichen rechtlichen und reputativen Risiken.
Bei compleneo unterstützen wir Sie bei der rechtskonformen Implementierung von KI-Systemen im Personalwesen -- von der Datenschutz-Folgenabschätzung über die Betriebsvereinbarung bis zur Vorbereitung auf den EU AI Act. Sprechen Sie uns an.
