IA en RRHH y selección de personal: qué exige el AI Act a las PYMES
Los sistemas de IA utilizados para la contratación, selección, evaluación del desempeño o terminación de relaciones laborales se clasifican como de alto riesgo en el Anexo III del Reglamento (UE) 2024/1689 y están sujetos a obligaciones reforzadas de transparencia, supervisión humana y evaluación de impacto.
Por qué RRHH es el área más expuesta al AI Act
El Anexo III, apartado 4, del Reglamento incluye expresamente entre los sistemas de alto riesgo aquellos destinados a la contratación o selección de personas físicas, en particular para publicar ofertas de empleo dirigidas, analizar y filtrar candidaturas o evaluar a los candidatos. También entran los usados para tomar decisiones sobre condiciones laborales, promoción, terminación o para asignar tareas en función del comportamiento o rasgos de personalidad.
Esto significa que la práctica totalidad de herramientas que una PYME utiliza hoy en su funnel de selección (parsers de CV, plataformas ATS con scoring, video-entrevistas con análisis automatizado, tests psicotécnicos basados en IA) caen dentro del régimen reforzado del Reglamento, con independencia de que la PYME sea proveedora o simplemente usuaria.
Obligaciones concretas para el deployer en RRHH
Como responsable del despliegue, la PYME debe: utilizar el sistema conforme a las instrucciones del proveedor, garantizar supervisión humana efectiva por personas con competencia, formación y autoridad para revertir o anular la decisión automatizada, mantener los logs durante al menos seis meses, informar a los trabajadores y a sus representantes antes de poner en servicio el sistema, y realizar una evaluación de impacto sobre los derechos fundamentales (FRIA).
Adicionalmente, si los datos de entrada son personales (y en selección casi siempre lo son), aplica el RGPD: información al candidato sobre el tratamiento, base jurídica, derecho a no ser sometido a decisiones automatizadas con efectos significativos (Artículo 22) y evaluación de impacto del Artículo 35.
Supervisión humana real, no cosmética
El AI Act exige que la persona supervisora pueda comprender las capacidades y limitaciones del sistema, interpretar correctamente sus salidas, decidir no utilizarlas en un caso concreto y revertir o anular la decisión. Un cribado automático que descarta candidatos sin que ninguna persona revise el resultado antes de comunicarlo no cumple.
En la práctica esto se traduce en un flujo donde el sistema propone un ranking, un técnico de selección revisa al menos un porcentaje significativo de los descartes y deja constancia escrita de su criterio. Esa traza es la principal evidencia de cumplimiento ante una inspección.
Información a la plantilla y a los candidatos
Antes de desplegar un sistema de alto riesgo en el ámbito laboral, el Artículo 26.7 obliga a informar a los trabajadores afectados y a sus representantes. La información debe ser previa, clara y accesible, incluir la finalidad, las categorías de datos tratados, la lógica aplicada y el derecho a solicitar intervención humana.
A los candidatos externos hay que informarles en la propia oferta o en el primer contacto del proceso, no al final. Conviene preparar una cláusula breve y un anexo ampliado para quien lo solicite, y archivar la evidencia de entrega.
Sesgos, calidad de los datos y auditoría
El Reglamento exige que los conjuntos de datos de entrenamiento, validación y prueba sean pertinentes, representativos, sin errores y completos en la medida de lo posible. La PYME no entrena el modelo, pero sí debe exigir al proveedor evidencia de pruebas de sesgo por género, edad, origen y discapacidad, y realizar pruebas internas con su propia bolsa de candidatos.
Una auditoría anual interna o externa de los resultados (tasas de paso por etapa segmentadas por variables sensibles) es la forma más eficaz de detectar discriminación indirecta y, llegado el caso, defenderse ante una reclamación.