¿Es más objetiva la IA que criba CVs?
“La IA quita el sesgo humano.”
Lo que dice la evidenciaLos sistemas de IA para criba de CVs no eliminan el sesgo humano: lo codifican en el algoritmo y, cuando asisten a una persona, se lo transfieren también a ella.
Las cifras subrayadas se abren: ves la frase del estudio que las respalda.
Los sistemas de IA para criba de CVs no eliminan el sesgo humano: lo codifican en el algoritmo y, cuando asisten a una persona, se lo transfieren también a ella.
Preguntas y respuestas: lo que la evidencia responde
¿De dónde viene la promesa de objetividad?
Del supuesto de que una máquina no tiene prejuicios conscientes. El consenso del mercado promete neutralidad automática al sustituir el juicio humano por un modelo entrenado. La evidencia entrega un patrón opuesto: sesgos raciales y de género medibles en los modelos , que se transfieren a quien supervisa su recomendación . De esa distancia —neutralidad prometida, sesgo entregado— procede la brecha.
¿Los LLMs modernos son distintos?
No de forma sustantiva. El benchmark FAIRE (Wen et al., 2025), que evaluó varios LLM, entre ellos GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Claude 3.5 Haiku y Llama 3.3 70B, encontró algún grado de sesgo en todos, con magnitud y dirección muy variables: Claude 3.5 Sonnet y Llama 3.3 70B mostraron un sesgo negativo más fuerte, especialmente contra candidatos asiáticos y negros, y Claude 3.5 Haiku dio los resultados más equilibrados .
¿Y si el humano supervisa la recomendación?
La supervisión sin estructura no es suficiente. Un estudio experimental (EE.UU., 2025) mostró que, cuando la IA favorecía a un grupo, las personas también favorecían a esos candidatos hasta en el 90 % de las ocasiones; sin IA, o con una IA sin preferencias por raza, seleccionaban a todos los candidatos en la misma proporción . La IA no solo sesga su propia salida: condiciona el juicio humano posterior.
¿El sesgo afecta a todos los candidatos por igual?
No. El problema puede agravarse estructuralmente: si múltiples empresas utilizan el mismo proveedor de software, los mismos candidatos o subgrupos podrían ser rechazados de forma consistente y errónea, lo que crearía un cuello de botella especialmente severo en el acceso al empleo .
¿Qué dice el marco legal europeo?
Lo suficiente para saber que el propio legislador no considera estos sistemas neutrales. El Reglamento de IA (UE 2024/1689) clasifica como de alto riesgo los sistemas de IA que se usan en el ámbito del empleo . La Ley Orgánica 3/2018 remite al art. 22 del RGPD (UE 2016/679), que protege frente a las decisiones individuales automatizadas que produzcan efectos jurídicos sobre la persona o le afecten significativamente .
Resumen de evidencias primarias
| Estudio / fuente | Ámbito | Hallazgo principal |
|---|---|---|
| Wen et al., arXiv:2504.01420, 2025 | Internacional | Claude 3.5 Sonnet y Llama 3.3 70B con sesgo negativo especialmente contra asiáticos y negros; todos los modelos con algún sesgo, de magnitud variable |
| arXiv:2509.04404, 2025 | EE.UU. | Con una IA que favorecía a un grupo, las personas lo favorecían hasta en el 90 % de los casos; sin IA, misma proporción por raza |
| Ip, Socius (SAGE), 2025 | EE.UU., sector masculinizado | Todos los métodos de debiasing estudiados aumentaron significativamente el número de candidaturas femeninas |
| arXiv:2305.08157, 2023 | EE.UU. / internacional | Argumento teórico: un proveedor compartido podría rechazar de forma consistente a los mismos subgrupos |
| AI Act, UE 2024/1689 | UE / España | IA en el ámbito del empleo clasificada como de alto riesgo |
| Art. 22 RGPD / LOPDGDD | UE / España | Protección frente a decisiones individuales automatizadas |
Por qué persiste la promesa de neutralidad
La promesa es comercialmente útil. Presentar la IA como objetiva reduce la percepción de riesgo legal y organizacional en el momento de la compra, aunque el riesgo legal real sea el contrario bajo el AI Act y el RGPD .
La asistencia algorítmica no activa el pensamiento crítico: lo inhibe. Las personas asumen que el sistema ya filtró lo irrelevante; el experimento de 2025 documenta que el sesgo del modelo se transfiere al juicio humano sin que el evaluador lo perciba .
La concentración de mercado multiplica el daño. Si muchas organizaciones usan el mismo proveedor, el sesgo de un único algoritmo podría excluir de forma consistente a los mismos subgrupos a escala masiva, sin que ninguna empresa individual lo perciba como problema propio .
La conciencia del sesgo disuade precisamente a quienes más protección necesitan. Ip (2025) documenta que la mera percepción de que un algoritmo está sesgado reduce las candidaturas de las mujeres más cualificadas, deteriorando la calidad y diversidad del pool antes de que el algoritmo procese un solo CV .
En su lugar
La evidencia ya citada señala dos direcciones concretas: la combinación híbrida en la que el humano revisa primero la recomendación algorítmica antes de buscar manualmente produce listas más equitativas en género que la IA sola o el humano solo , y los métodos de debiasing bien aplicados aumentan significativamente el número de candidaturas femeninas reales . Ambos hallazgos apuntan a reemplazar la promesa de neutralidad automática por diseños auditables con supervisión humana estructurada, no como complemento opcional, sino como requisito de funcionamiento.
Fuentes
- Wen et al., 'FAIRE: Assessing Racial and Gender Bias in AI-Driven Resume Evaluations', arXiv:2504.01420, 2025 Ver fuente ↗
«Claude 3.5 Sonnet and Llama 3.3 70B showed stronger negative bias, especially against Asian and Black resumes.»
Lo respalda en parteComprobada el 20 de octubre de 2026Preprint sin revisión por paresEl texto sitúa el sesgo negativo contra asiáticos y negros en Llama 3.3 70B; en Claude 3.5 Sonnet lo sitúa contra asiáticos y nativos, no contra negros.
- Autores de 'No Thoughts Just AI: Biased LLM Recommendations Limit Human Agency in Resume Screening', arXiv:2509.04404, 2025 Ver fuente ↗
«When making decisions without AI or with AI that exhibits no race-based preferences, people select all candidates at equal rates.»
Lo respalda en parteComprobada el 20 de octubre de 2026Preprint sin revisión por paresEl texto respalda que sin IA no hay diferencias de selección y que las decisiones siguen de cerca las sugerencias de la IA, pero no que repliquen los sesgos 'casi exactamente' (habla de favorecer hasta el 90% de las veces) ni habla de significación estadística en el caso sin IA.
- Ip, 'Fair AI in hiring: Experimental evidence on how biased hiring algorithms and different debiasing methods affect the quality and diversity of applicants', Socius (SAGE), 2025 Ver fuente ↗
«awareness of gender bias in an algorithm significantly deterred women from applying, including those who were most qualified for the job»
Frase literal comprobadaComprobada el 20 de octubre de 2026Artículo revisado por pares - Autores de 'Human, Algorithm, or Both? Gender Bias in Human-Augmented Recruiting', arXiv:2603.06240, 2026 Ver fuente ↗
«interacting with the slate of recommended candidates first before manually searching for additional candidates has a beneficial effect on the gender fairness»
Lo respalda en parteComprobada el 20 de octubre de 2026Preprint sin revisión por paresEl texto dice que la combinación híbrida es la más equitativa e interactuar primero con las recomendaciones ayuda, pero no dice que solo funcione así (la condición «sólo cuando»).
- Art. 22 RGPD (UE) 2016/679; Ley Orgánica 3/2018, de 5 de diciembre (BOE-A-2018-16673), España Ver fuente ↗
«derecho a oponerse a la adopción de decisiones individuales automatizadas que produzcan efectos jurídicos sobre él o le afecten significativamente de modo similar»
Lo respalda en parteComprobada el 20 de octubre de 2026El texto solo remite al art. 22 RGPD y al derecho de oposición a decisiones automatizadas; no dice que se garantice no ser objeto de decisiones únicamente automatizadas, ni menciona los procesos de selección ni el derecho a recibir información sobre la lógica aplicada.
- Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 (AI Act) Ver fuente ↗
«También deben clasificarse como de alto riesgo los sistemas de IA que se utilizan en los ámbitos del empleo, la»
Lo respalda en parteComprobada el 20 de octubre de 2026El texto solo muestra, en fragmentos truncados, que los sistemas de IA usados en el ámbito del empleo son de alto riesgo; no dice 'selección y gestión de personas' ni enumera evaluaciones de conformidad, transparencia y supervisión humana como exigencias conjuntas previas al despliegue.
- Autores de 'Algorithmic Pluralism: A Structural Approach To Equal Opportunity', arXiv:2305.08157, 2023 Ver fuente ↗
«many employers rely on the same large third-party provider of candidate screening software, the same individual candidates or subgroups could be consistently and erroneously rejected»
Frase literal comprobadaComprobada el 20 de octubre de 2026Preprint sin revisión por pares