De plus en plus d'entreprises utilisent l'IA dans le processus de recrutement -- de la présélection à l'analyse vidéo. Mais quelles limites en droit du travail, en protection des données et en droit de la représentation du personnel s'appliquent ? Un guide de conformité pour les employeurs.
L'IA dans le recrutement : une révolution à risques
Le processus de recrutement connaît une transformation fondamentale. Là où les responsables RH examinaient autrefois les CV un par un, des algorithmes prennent de plus en plus en charge la présélection : des systèmes assistés par l'IA analysent les dossiers de candidature, évaluent les entretiens vidéo, apprécient les traits de personnalité et établissent des pronostics sur les performances futures des candidats.
Les promesses sont séduisantes -- processus plus rapides, sélection plus objective, coûts réduits. Mais le cas Amazon montre de manière exemplaire ce qui peut mal tourner : en 2018, l'entreprise a dû abandonner son outil de recrutement assisté par l'IA après avoir découvert que l'algorithme désavantageait systématiquement les femmes. La cause résidait dans les données d'entraînement -- dix années de candidatures majoritairement masculines avaient façonné l'algorithme.
Pour les employeurs allemands, l'utilisation de l'IA dans le processus de recrutement soulève une multitude de questions juridiques. Cet article examine les principaux cadres juridiques et fournit des recommandations pratiques.
L'AGG : protection contre la discrimination y compris dans les décisions algorithmiques
La loi générale sur l'égalité de traitement (Allgemeines Gleichbehandlungsgesetz, AGG) protège les candidats contre toute discrimination fondée sur la race, l'origine ethnique, le sexe, la religion, le handicap, l'âge ou l'identité sexuelle. Cette protection s'applique sans restriction même lorsque la décision est prise ou préparée par un algorithme.
Discrimination indirecte par les algorithmes
Particulièrement insidieux est le risque de discrimination indirecte au sens du § 3, al. 2, AGG. Un algorithme peut utiliser des critères apparemment neutres qui désavantagent dans les faits certains groupes :
- Filtres de localisation : désavantagent les candidats de certains quartiers, ce qui peut corréler avec l'origine ethnique
- Lacunes dans le CV : affectent de manière disproportionnée les femmes ayant pris un congé parental
- Diplômés de certaines universités : peuvent introduire l'origine sociale comme critère caché
- Analyse linguistique dans les entretiens vidéo : peut désavantager les locuteurs non natifs ou les personnes en situation de handicap
Renversement de la charge de la preuve selon le § 22 AGG
Si un candidat rejeté présente des indices de discrimination, la charge de la preuve s'inverse. L'employeur doit alors démontrer qu'aucune discrimination n'a eu lieu. Avec les systèmes algorithmiques, cette preuve est particulièrement difficile lorsque l'employeur lui-même ne comprend pas pleinement le fonctionnement de l'algorithme -- un problème fréquent avec les modèles complexes d'apprentissage automatique.
§ 26 BDSG : protection des données des employés dans le processus de recrutement
Le § 26 de la loi fédérale sur la protection des données (Bundesdatenschutzgesetz, BDSG) régit le traitement des données personnelles dans le contexte de l'emploi. Bien que la CJUE ait exprimé des doutes dans son arrêt du 30 mars 2023 (C-34/21) quant à la compatibilité des dispositions nationales sur la protection des données des salariés avec le RGPD, le § 26 BDSG reste la disposition centrale allemande jusqu'à l'adoption d'une nouvelle réglementation.
Exigences relatives au traitement des données dans le recrutement
Le traitement des données personnelles des candidats est licite lorsqu'il est nécessaire à la décision sur l'établissement d'une relation de travail. L'utilisation de systèmes d'IA entraîne des exigences particulières :
- Minimisation des données : seules les données réellement pertinentes pour pourvoir le poste peuvent être traitées
- Limitation de la finalité : les données collectées ne peuvent être utilisées à d'autres fins
- Transparence : les candidats doivent être informés du type et de l'étendue du traitement des données
- Effacement : les données des candidats rejetés doivent en principe être supprimées dans un délai de six mois
L'interdiction des décisions individuelles automatisées
L'art. 22 RGPD interdit en principe les décisions fondées exclusivement sur un traitement automatisé produisant des effets juridiques à l'égard de la personne concernée. Un rejet entièrement automatisé dans le processus de recrutement sans aucune intervention humaine est donc illicite.
En pratique, cela signifie : les systèmes d'IA peuvent préfiltrer les candidatures et émettre des recommandations, mais la décision finale doit être prise par un être humain qui examine de manière critique et apprécie de manière autonome la recommandation algorithmique.
§ 87, al. 1, n° 6, BetrVG : codétermination du comité d'entreprise
L'obstacle peut-être le plus significatif en pratique lors du déploiement de l'IA dans le recrutement est le droit de codétermination du comité d'entreprise (Betriebsrat) prévu par le § 87, al. 1, n° 6, de la loi sur la constitution de l'entreprise (Betriebsverfassungsgesetz, BetrVG). Selon cette disposition, le comité d'entreprise a un droit de codétermination concernant l'introduction et l'utilisation de dispositifs techniques destinés à surveiller le comportement ou les performances des salariés.
Les outils de recrutement par IA comme dispositifs techniques de surveillance
La jurisprudence du Tribunal fédéral du travail (Bundesarbeitsgericht) interprète largement la notion de dispositif technique de surveillance : il suffit que le dispositif soit apte à la surveillance -- une intention correspondante de l'employeur n'est pas requise.
Les systèmes de gestion des candidatures assistés par l'IA sont régulièrement qualifiés de dispositifs techniques de surveillance au sens du § 87, al. 1, n° 6, BetrVG car ils :
- Collectent et évaluent systématiquement les données comportementales et de performance des candidats
- Génèrent des évaluations et des classements permettant de tirer des conclusions sur le comportement et les capacités
- Analysent les traits de personnalité (dans le cas d'entretiens vidéo)
Conséquences juridiques de l'absence de codétermination
Si un employeur introduit un système de recrutement par IA sans impliquer le comité d'entreprise, la mesure est illicite. Le comité d'entreprise peut exiger la cessation et, le cas échéant, l'obtenir en justice par voie de référé. Les données déjà collectées ne peuvent être utilisées.
Le règlement européen sur l'IA : un nouveau niveau de réglementation à partir de 2026
Le règlement européen sur l'IA (AI Act) classe les systèmes d'IA dans le domaine de l'emploi et de la gestion des ressources humaines comme des systèmes d'IA à haut risque (annexe III, n° 4). Sont expressément visés les systèmes destinés à être utilisés pour :
- Le recrutement ou la sélection de personnes physiques, notamment pour les annonces d'emploi ciblées, l'analyse et le filtrage des candidatures et l'évaluation des candidats
- Les décisions relatives aux promotions et aux licenciements
- L'attribution de tâches en fonction du comportement individuel ou de caractéristiques personnelles
- La surveillance et l'évaluation des performances et du comportement dans la relation de travail
Obligations des employeurs à partir d'août 2026
Les dispositions centrales relatives aux systèmes d'IA à haut risque deviendront exécutoires le 2 août 2026. Les employeurs utilisant des systèmes d'IA dans le recrutement devront alors :
- Assurer une surveillance humaine : supervision humaine appropriée du fonctionnement du système d'IA
- Respecter les obligations de transparence : informer les candidats de l'utilisation de systèmes d'IA et expliquer le fonctionnement du système
- Garantir la qualité des données : s'assurer que les données d'entraînement sont pertinentes, représentatives et exemptes de biais
- Mettre en œuvre une gestion des risques : surveillance continue du système d'IA et identification des risques
- Tenir une documentation : documentation exhaustive du fonctionnement du système
En cas d'infraction, des amendes allant jusqu'à 35 millions d'euros ou 7 pour cent du chiffre d'affaires mondial annuel sont encourues.
Le cas Amazon : enseignements pour la pratique
Le cas Amazon de 2018 est plus qu'une anecdote -- il illustre un problème structurel du recrutement algorithmique :
Que s'est-il passé ?
À partir de 2014, Amazon a développé un système d'IA pour l'évaluation automatisée des candidatures. Le système a été entraîné sur dix années de données historiques de candidatures. Le secteur technologique étant à dominante masculine, la grande majorité des candidatures provenait d'hommes. L'algorithme a par conséquent « appris » à privilégier les candidats masculins et :
- Dévalorisait les CV contenant le mot « women's » (p. ex. « women's chess club »)
- Désavantageait les diplômées de certains établissements féminins
- Reproduisait la répartition existante des genres au lieu de la corriger
Pourquoi le cas est également pertinent pour les entreprises allemandes
Bien qu'Amazon ait mis fin au système, le cas illustre des risques universels :
- Les biais historiques sont perpétués algorithmiquement : lorsque les données d'entraînement reflètent des discriminations passées, l'algorithme les perpétue
- Discrimination par procuration : des caractéristiques apparemment neutres (université, lieu de résidence, loisirs) peuvent servir de substituts aux caractéristiques protégées
- Opacité : les employeurs ne comprennent souvent pas quels critères l'algorithme applique réellement
Liste de contrôle de conformité pour les employeurs
Pour les entreprises qui utilisent ou souhaitent utiliser l'IA dans le processus de recrutement, la liste de contrôle suivante est recommandée :
Avant la mise en œuvre
- Réaliser une analyse d'impact relative à la protection des données selon l'art. 35 RGPD
- Impliquer le comité d'entreprise et conclure un accord d'entreprise sur l'utilisation du système
- Évaluer les risques de discrimination : audit des biais des données d'entraînement et de l'algorithme
- Clarifier les obligations d'information : préparer une information transparente des candidats sur l'utilisation de l'IA
- Documenter la base juridique : justifier la nécessité du traitement des données au titre du § 26 BDSG
En cours d'exploitation
- Garantir une décision humaine finale : pas de rejets entièrement automatisés
- Réaliser des audits de biais réguliers : examiner les résultats au moins annuellement pour détecter des schémas discriminatoires
- Permettre le retour des candidats : fournir sur demande des informations sur l'implication de systèmes d'IA
- Former le personnel RH : les responsables RH doivent connaître les limites et les risques du système
- Tenir la documentation : consigner intégralement les processus de décision et les ajustements du système
À partir d'août 2026 (règlement européen sur l'IA)
- Faire procéder à l'évaluation de conformité du système d'IA déployé ou la faire attester par le fournisseur
- Mettre en place un système de gestion des risques
- Satisfaire aux obligations de transparence supplémentaires du règlement sur l'IA
- Vérifier l'obligation d'enregistrement pour les systèmes d'IA à haut risque
Conclusion : la technologie au service d'un recrutement équitable
L'IA peut rendre le processus de recrutement plus efficace et -- avec une mise en œuvre soigneuse -- même plus équitable que des décisions purement humaines. La condition préalable est toutefois que les entreprises prennent le cadre juridique au sérieux et n'utilisent pas les systèmes d'IA comme une « boîte noire » dont personne ne comprend le fonctionnement.
La combinaison de l'AGG, du BDSG, du RGPD, du BetrVG et du prochain règlement européen sur l'IA crée un cadre réglementaire dense qui oblige les employeurs à utiliser l'IA de manière responsable dans les ressources humaines. Ceux qui mettent en œuvre ces exigences de manière précoce protègent non seulement les candidats contre la discrimination, mais aussi leur propre entreprise contre des risques juridiques et de réputation considérables.
Chez compleneo, nous vous accompagnons dans la mise en œuvre juridiquement conforme de systèmes d'IA dans les ressources humaines -- de l'analyse d'impact relative à la protection des données à l'accord d'entreprise en passant par la préparation au règlement européen sur l'IA. Contactez-nous.
