En 2026, un artículo de Reuters reveló que Amazon había abandonado discretamente una herramienta de reclutamiento basada en inteligencia artificial. El algoritmo, diseñado para automatizar la selección de currículums, había aprendido por sí solo a descartar las candidaturas femeninas. La información causó un shock en el mundo tecnológico y más allá. Sin embargo, casi ocho años después, la cuestión de los sesgos de género en las herramientas de reclutamiento asistidas por IA sigue siendo candente. Este artículo propone una inmersión en este caso de estudio, sus causas profundas y las lecciones que los profesionales del ámbito digital deben extraer.
El fiasco de Amazon: un sesgo sexista aprendido por el algoritmo
La herramienta desarrollada por los equipos de Amazon asignaba a los candidatos una puntuación de una a cinco estrellas, siguiendo el modelo de las reseñas de clientes. ¿El problema? Había sido entrenada con los currículums recibidos por la empresa durante un período de diez años, un período en el que las candidaturas masculinas eran ampliamente mayoritarias en los puestos técnicos. Por lo tanto, el algoritmo aprendió a asociar "buen candidato" con "hombre". Resultado: los currículums que contenían palabras como "mujeres" o el nombre de asociaciones femeninas eran sistemáticamente devaluados. Según Reuters, la herramienta incluso penalizó a las graduadas de dos universidades no mixtas. Amazon terminó abandonando el proyecto en 2026, pero el caso dañó duraderamente la reputación de la IA aplicada al reclutamiento.
¿Por qué la IA reproduce los sesgos humanos?
Contrariamente a una idea preconcebida, un algoritmo no es objetivo por naturaleza. Refleja los sesgos contenidos en los datos de entrenamiento. En el caso de Amazon, los datos históricos ya estaban sesgados a favor de los hombres. La IA no hizo más que amplificar y sistematizar ese sesgo. Varios estudios, incluido uno publicado en Nature en 2026, muestran que los sistemas de reclutamiento basados en IA pueden discriminar no solo por género, sino también por origen étnico, edad o discapacidad. La discriminación algorítmica no es un error, es una consecuencia directa de datos imperfectos y de decisiones de diseño.
El legado del caso Amazon: lo que ha cambiado (y lo que no)
Desde 2026, el debate se ha intensificado. Regulaciones como la Ley de IA europea imponen ahora una evaluación de riesgos para los sistemas de IA de alto riesgo, incluido el reclutamiento. Sin embargo, una investigación de la BBC publicada en 2026 revela que muchas herramientas de reclutamiento por IA continúan filtrando a los mejores candidatos, a menudo de manera opaca. Los sesgos de género persisten, como lo confirman análisis recientes en ResearchGate y ScienceDirect. Por lo tanto, el problema no está resuelto, solo es mejor conocido.
Los errores clásicos de las empresas que despliegan IA de reclutamiento
1. Usar datos históricos sin limpiarlos. Si tus datos reflejan discriminaciones pasadas, la IA las reproducirá. Esto es exactamente lo que sucedió en Amazon.
2. Confundir correlación con causalidad. Un algoritmo puede aprender que los candidatos de cierta universidad tienen más éxito, sin entender que esto se debe a otros factores.
3. Descuidar la transparencia. Muchas herramientas son cajas negras: los reclutadores no saben por qué se rechaza un currículum. Esto hace imposible la detección de sesgos.
4. Ausencia de diversidad en el equipo de diseño. Un equipo homogéneo tiene menos probabilidades de anticipar o detectar sesgos.
Hacia soluciones técnicas y de gestión
La investigación, especialmente la publicada en Nature y MDPI, explora vías para corregir estos sesgos:
- Auditorías regulares de los algoritmos por equipos independientes.
- Limpieza y reequilibrio de los datos de entrenamiento.
- Transparencia de los modelos (IA explicable).
- Equipos multidisciplinarios que incluyan éticos y sociólogos.
Pero la técnica no es suficiente. Como señala la ACLU, los sesgos algorítmicos son ante todo un reflejo de sesgos sociales. Sin una voluntad política y de gestión fuerte, las herramientas de IA corren el riesgo de perpetuar las desigualdades que se supone deben combatir.
Conclusión: la IA, espejo de nuestros prejuicios
El caso Amazon no es un simple hecho aislado. Es una advertencia. La IA puede ser una herramienta formidable para objetivar el reclutamiento, siempre que los datos y los diseñadores sean conscientes de sus sesgos. Para los profesionales del ámbito digital, la lección es clara: nunca confiar ciegamente en un algoritmo, y siempre cuestionar los datos que lo alimentan. El caso Amazon, analizado en profundidad por investigadores de todo el mundo, seguirá siendo una referencia para cualquiera que diseñe o despliegue IA en el reclutamiento.
Para profundizar
- Insight - Amazon scraps secret AI recruiting tool that showed bias against women - Reuters
- AI hiring tools may be filtering out the best job applicants - BBC
- Why Amazon's Automated Hiring Tool Discriminated Against Women - ACLU
- Amazon's sexist AI recruiting tool: how did it go so wrong? - Becoming Human AI
- Gender Bias in Hiring: An Analysis of the Impact of Amazon's Recruiting Algorithm - ResearchGate
- Ethics and discrimination in artificial intelligence-enabled recruitment - Nature
- Gender biases within Artificial Intelligence and ChatGPT - ScienceDirect
- A Comprehensive Review of AI Techniques for Addressing Bias in Hiring - MDPI