Cada vez más empresas utilizan IA en el proceso de selección -- desde la preselección hasta el análisis de vídeo. Pero, ¿qué límites del derecho laboral, la protección de datos y la representación de los trabajadores se aplican? Una guía de cumplimiento para empleadores.
IA en el reclutamiento: una revolución con riesgos
El proceso de selección de personal está experimentando un cambio fundamental. Donde antes los responsables de RRHH revisaban los currículos uno a uno, hoy los algoritmos asumen cada vez más la preselección: sistemas asistidos por IA analizan la documentación de las candidaturas, evalúan entrevistas en vídeo, valoran rasgos de personalidad y generan pronósticos sobre el rendimiento futuro de los candidatos.
Las promesas suenan tentadoras -- procesos más rápidos, selección más objetiva, costes más bajos. Sin embargo, el caso Amazon demuestra de forma ejemplar lo que puede salir mal: en 2018, la empresa tuvo que retirar su herramienta de reclutamiento asistida por IA al descubrir que el algoritmo perjudicaba sistemáticamente a las mujeres. La causa residía en los datos de entrenamiento: diez años de candidaturas predominantemente masculinas habían moldeado el algoritmo.
Para los empleadores alemanes, el uso de IA en el proceso de selección plantea una multitud de cuestiones jurídicas. Este artículo examina los principales marcos legales y ofrece recomendaciones prácticas de actuación.
La AGG: protección contra la discriminación también en decisiones algorítmicas
La Ley General de Igualdad de Trato (Allgemeines Gleichbehandlungsgesetz, AGG) protege a los candidatos frente a la discriminación por motivos de raza, origen étnico, sexo, religión, discapacidad, edad o identidad sexual. Esta protección se aplica sin restricción alguna también cuando la decisión es adoptada o preparada por un algoritmo.
Discriminación indirecta mediante algoritmos
Especialmente insidiosa es la amenaza de discriminación indirecta conforme al § 3, ap. 2, AGG. Un algoritmo puede utilizar criterios aparentemente neutros que en la práctica perjudican a determinados grupos:
- Filtros de ubicación: perjudican a candidatos de ciertos barrios, lo que puede correlacionar con el origen étnico
- Lagunas en el currículum: afectan desproporcionadamente a mujeres con periodos de crianza
- Titulados de determinadas universidades: pueden introducir el origen social como criterio oculto
- Análisis lingüístico en entrevistas en vídeo: puede perjudicar a hablantes no nativos o a personas con discapacidad
Inversión de la carga de la prueba según el § 22 AGG
Si un candidato rechazado presenta indicios de discriminación, se invierte la carga de la prueba. El empleador debe entonces demostrar que no hubo discriminación. Con sistemas algorítmicos, esta prueba resulta especialmente difícil cuando el propio empleador no comprende plenamente el funcionamiento del algoritmo -- un problema frecuente con modelos complejos de aprendizaje automático.
§ 26 BDSG: protección de datos de empleados en el proceso de selección
El § 26 de la Ley Federal de Protección de Datos (Bundesdatenschutzgesetz, BDSG) regula el tratamiento de datos personales en el contexto laboral. Aunque el TJUE expresó dudas en su sentencia de 30 de marzo de 2023 (C-34/21) sobre la compatibilidad de las disposiciones nacionales de protección de datos de los empleados con el RGPD, el § 26 BDSG sigue siendo la disposición central alemana hasta que se adopte una nueva normativa.
Requisitos para el tratamiento de datos en la selección de personal
El tratamiento de datos personales de los candidatos es lícito cuando resulta necesario para la decisión sobre el establecimiento de una relación laboral. Al utilizar sistemas de IA surgen requisitos particulares:
- Minimización de datos: solo pueden tratarse los datos realmente relevantes para cubrir el puesto
- Limitación de la finalidad: los datos recogidos no pueden utilizarse para otros fines
- Transparencia: los candidatos deben ser informados sobre el tipo y alcance del tratamiento de datos
- Supresión: los datos de candidatos rechazados deben eliminarse, por regla general, en un plazo de seis meses
La prohibición de decisiones individuales automatizadas
El art. 22 RGPD prohíbe, como regla general, las decisiones basadas únicamente en un tratamiento automatizado que produzcan efectos jurídicos sobre el interesado. Un rechazo completamente automatizado en el proceso de selección sin intervención humana alguna es, por tanto, ilícito.
En la práctica, esto significa: los sistemas de IA pueden prefiltrar candidaturas y emitir recomendaciones, pero la decisión final debe ser adoptada por un ser humano que examine críticamente y valore de forma autónoma la recomendación algorítmica.
§ 87, ap. 1, n.º 6, BetrVG: codeterminación del comité de empresa
Quizás el obstáculo más relevante en la práctica al implantar IA en el reclutamiento sea el derecho de codeterminación del comité de empresa (Betriebsrat) previsto en el § 87, ap. 1, n.º 6, de la Ley de Constitución de la Empresa (Betriebsverfassungsgesetz, BetrVG). Según esta disposición, el comité de empresa tiene derecho de codeterminación respecto a la introducción y aplicación de dispositivos técnicos destinados a supervisar el comportamiento o el rendimiento de los trabajadores.
Herramientas de reclutamiento por IA como dispositivos técnicos de vigilancia
La jurisprudencia del Tribunal Federal de Trabajo (Bundesarbeitsgericht) interpreta el concepto de dispositivo técnico de vigilancia de forma amplia: basta con que el dispositivo sea apto para la vigilancia -- no se requiere una intención correspondiente del empleador.
Los sistemas de gestión de candidaturas asistidos por IA se clasifican regularmente como dispositivos técnicos de vigilancia en el sentido del § 87, ap. 1, n.º 6, BetrVG porque:
- Recogen y evalúan sistemáticamente datos de comportamiento y rendimiento de los candidatos
- Generan evaluaciones y clasificaciones que permiten extraer conclusiones sobre el comportamiento y las capacidades
- Analizan rasgos de personalidad (en el caso de entrevistas en vídeo)
Consecuencias jurídicas de la falta de codeterminación
Si un empleador introduce un sistema de reclutamiento por IA sin la participación del comité de empresa, la medida es ilícita. El comité de empresa puede exigir el cese y, en su caso, obtenerlo judicialmente mediante procedimiento de urgencia. Los datos ya obtenidos no pueden ser utilizados.
El Reglamento Europeo de IA: un nuevo nivel regulatorio a partir de 2026
El Reglamento Europeo de IA (AI Act) clasifica los sistemas de IA en el ámbito del empleo y la gestión de recursos humanos como sistemas de IA de alto riesgo (anexo III, n.º 4). Se refiere expresamente a sistemas destinados a ser utilizados para:
- La contratación o selección de personas físicas, en particular para anuncios de empleo dirigidos, el análisis y filtrado de candidaturas y la evaluación de candidatos
- Las decisiones sobre ascensos y despidos
- La asignación de tareas en función del comportamiento individual o de características personales
- La supervisión y evaluación del rendimiento y el comportamiento en la relación laboral
Obligaciones para empleadores a partir de agosto de 2026
Las disposiciones centrales para los sistemas de IA de alto riesgo serán ejecutables a partir del 2 de agosto de 2026. Los empleadores que utilicen sistemas de IA en la selección de personal deberán entonces:
- Garantizar la supervisión humana: vigilancia humana adecuada sobre el funcionamiento del sistema de IA
- Cumplir las obligaciones de transparencia: informar a los candidatos sobre el uso de sistemas de IA y explicar cómo funciona el sistema
- Garantizar la calidad de los datos: asegurar que los datos de entrenamiento sean relevantes, representativos y libres de sesgos
- Gestionar los riesgos: supervisión continua del sistema de IA e identificación de riesgos
- Mantener la documentación: documentación exhaustiva del funcionamiento del sistema
En caso de infracción, se prevén multas de hasta 35 millones de euros o el 7 por ciento de la facturación mundial anual.
El caso Amazon: lecciones para la práctica
El caso Amazon de 2018 es más que una anécdota -- ilustra un problema estructural de la selección algorítmica de personal:
¿Qué ocurrió?
A partir de 2014, Amazon desarrolló un sistema de IA para la evaluación automatizada de candidaturas. El sistema fue entrenado con diez años de datos históricos de solicitudes. Dado que el sector tecnológico está dominado por hombres, la gran mayoría de las candidaturas procedían de hombres. En consecuencia, el algoritmo "aprendió" a preferir candidatos masculinos y:
- Devaluaba los currículos que contenían la palabra "women's" (p. ej., "women's chess club")
- Perjudicaba a las graduadas de ciertos centros de enseñanza femeninos
- Reproducía la distribución de género existente en lugar de corregirla
Por qué el caso también es relevante para las empresas alemanas
Aunque Amazon discontinuó el sistema, el caso ilustra riesgos universales:
- Los sesgos históricos se perpetúan algorítmicamente: cuando los datos de entrenamiento reflejan discriminaciones pasadas, el algoritmo las perpetúa
- Discriminación por aproximación: características aparentemente neutras (universidad, lugar de residencia, aficiones) pueden funcionar como sustitutos de características protegidas
- Opacidad: los empleadores a menudo no entienden qué criterios aplica realmente el algoritmo
Lista de verificación de cumplimiento para empleadores
Para las empresas que utilizan o desean utilizar IA en el proceso de selección, se recomienda la siguiente lista de verificación:
Antes de la implantación
- Realizar una evaluación de impacto en la protección de datos conforme al art. 35 RGPD
- Implicar al comité de empresa y celebrar un acuerdo de empresa sobre el uso del sistema
- Evaluar los riesgos de discriminación: auditoría de sesgos de los datos de entrenamiento y del algoritmo
- Clarificar las obligaciones de información: preparar información transparente para los candidatos sobre el uso de la IA
- Documentar la base jurídica: justificar la necesidad del tratamiento de datos conforme al § 26 BDSG
Durante el funcionamiento
- Garantizar la decisión humana final: ningún rechazo completamente automatizado
- Realizar auditorías de sesgo periódicas: revisar los resultados al menos anualmente para detectar patrones discriminatorios
- Permitir la retroalimentación de los candidatos: proporcionar información sobre la participación de sistemas de IA a petición
- Formar al personal de RRHH: los responsables de RRHH deben conocer los límites y riesgos del sistema
- Mantener la documentación: registrar íntegramente los procesos de decisión y los ajustes del sistema
A partir de agosto de 2026 (Reglamento Europeo de IA)
- Gestionar la evaluación de conformidad del sistema de IA implantado o solicitar su acreditación al proveedor
- Implementar un sistema de gestión de riesgos
- Cumplir las obligaciones adicionales de transparencia del Reglamento de IA
- Verificar la obligación de registro para sistemas de IA de alto riesgo
Conclusión: la tecnología al servicio de una selección de personal justa
La IA puede hacer el proceso de selección más eficiente y -- con una implementación cuidadosa -- incluso más justo que las decisiones puramente humanas. La condición previa es, sin embargo, que las empresas se tomen en serio el marco jurídico y no utilicen los sistemas de IA como una "caja negra" cuyo funcionamiento nadie comprende.
La combinación de la AGG, el BDSG, el RGPD, la BetrVG y el próximo Reglamento Europeo de IA crea un denso marco regulatorio que obliga a los empleadores a utilizar la IA de manera responsable en los recursos humanos. Quienes implementen estos requisitos de forma temprana protegen no solo a los candidatos frente a la discriminación, sino también a su propia empresa frente a riesgos jurídicos y reputacionales considerables.
En compleneo le apoyamos en la implementación conforme a derecho de sistemas de IA en recursos humanos -- desde la evaluación de impacto en la protección de datos hasta el acuerdo de empresa, pasando por la preparación para el Reglamento Europeo de IA. Póngase en contacto con nosotros.
