El problema
Un candidato se postuló a más de 100 puestos de trabajo a través de la plataforma de Workday. Fue rechazado en casi todos ellos, a menudo en cuestión de minutos y fuera del horario laboral. Ningún ser humano revisó jamás su currículum. Derek Mobley, un hombre afroamericano mayor de 40 años con discapacidades, presentó una demanda que ahora ha transformado el derecho laboral en los Estados Unidos. En mayo de 2025, un tribunal federal certificó una acción colectiva a escala nacional que abarca potencialmente a millones de solicitantes mayores de 40 años a quienes se les denegaron recomendaciones de empleo mediante las herramientas de filtrado por IA de Workday.
Las cifras son abrumadoras. Durante el período en cuestión, los propios documentos presentados por Workday mostraron que su software procesó aproximadamente 1100 millones de rechazos de solicitudes. No se trata de un error tipográfico. Miles de millones de decisiones automatizadas, muchas de ellas tomadas sin una supervisión humana significativa.
Esto es lo que ha cambiado para su empresa: en julio de 2024, la jueza Rita Lin del Distrito Norte de California dictaminó que los proveedores de IA como Workday no son meros proveedores de software neutrales. Son «agentes» de los empleadores que los utilizan. Eso significa que enfrentan una responsabilidad directa en virtud del Título VII, la ADA y la ADEA, las mismas leyes federales contra la discriminación que se le aplican a usted. Si su herramienta de contratación basada en IA discrimina, tanto usted como su proveedor pueden ser considerados responsables. El tribunal trazó una línea clara: un sistema de IA que puntúa, clasifica y recomienda activamente a candidatos está desempeñando una función de contratación fundamental, no simplemente ordenando una hoja de cálculo.
Por qué esto le importa a su empresa
Este fallo judicial cambia su perfil de riesgo de tres maneras concretas.
La exposición financiera es masiva y va en aumento. La acción colectiva contra Workday cubre a todo solicitante mayor de 40 años al que se le haya denegado una recomendación desde septiembre de 2020. El tribunal amplió su alcance en julio de 2025 para incluir a los solicitantes procesados por HiredScore AI, una tecnología adquirida por Workday. Su responsabilidad potencial escala con cada solicitud que sus herramientas de IA rechazan.
Las sanciones regulatorias ya están aquí. La Ley Local 144 de la Ciudad de Nueva York exige auditorías de sesgo independientes y anuales de las herramientas automatizadas de toma de decisiones de empleo. Las sanciones comienzan en 500 $ por la primera infracción y ascienden a 1500 $ por infracción y día en caso de reincidencia. Múltiples ciudades y estados están siguiendo el ejemplo de Nueva York.
El daño reputacional es el coste oculto. El tribunal puede ordenar a las empresas que notifiquen a millones de solicitantes afectados. Imagine el nombre de su empresa en una lista ordenada por un tribunal enviada a cada persona que su IA rechazó. La directriz de la EEOC de mayo de 2023 hace explícitas sus obligaciones: usted es responsable de los resultados de las herramientas algorítmicas, incluso si un tercero las diseñó o ejecutó.
Este es el balance final para su presupuesto:
- 500 $–1500 $ al día en sanciones de NYC por omitir auditorías de sesgo
- 1100 millones de rechazos procesados a través de una sola plataforma durante el período del litigio
- Más de 100 rechazos para un solo solicitante, a menudo en cuestión de minutos: el patrón que lo inició todo
- Cada solicitante mayor de 40 años desde septiembre de 2020 es un demandante potencial en este caso
Si su proveedor no puede explicar por qué se rechazó a un candidato —o si se exime de toda responsabilidad por sesgo—, su empresa asume el 100 % del riesgo.
Qué ocurre realmente bajo el capó
La mayoría de las herramientas de contratación basadas en IA funcionan con modelos de lenguaje de gran tamaño (LLM), sistemas diseñados para predecir la palabra siguiente más probable, no para tomar decisiones justas. Piense en ellos como motores de autocompletado que operan a escala masiva. Están construidos para la verosimilitud, no para la precisión. Cuando se envuelve uno de estos modelos con una fina capa de aplicación y se le denomina «solución de contratación», se obtienen tres modos de fallo peligrosos.
En primer lugar, pierden información en el medio. Las investigaciones demuestran que los modelos de IA estándar prestan mucha atención al principio y al final de los documentos, pero desarrollan lo que los investigadores llaman un «valle de atención» en el medio. En un currículum de 10 páginas, las certificaciones críticas o los logros recientes en las páginas intermedias tienen estadísticamente más probabilidades de ser pasados por alto.
En segundo lugar, inventan cosas. Cuando un LLM no puede encontrar una cualificación específica, a menudo genera una suposición verosímil basada en el texto circundante. Su sistema podría rechazar a un candidato cualificado basándose en un «hecho» que no existe en ningún lugar de su expediente real.
En tercer lugar, discriminan mediante variables proxy. Un modelo de IA no necesita ver su edad para deducirla. Aprende que una dirección de correo electrónico @aol.com, más de 15 años de experiencia, referencias a tecnologías más antiguas como Lotus Notes o puestos de trabajo al inicio de la carrera profesional en la década de 1990 se correlacionan con tener más de 40 años. Cuando el modelo se entrena con los «empleados de alto rendimiento» de una empresa que tienden a ser más jóvenes, trata estas señales sustitutas como indicadores negativos. Esto genera un bucle de retroalimentación: el sistema replica y amplifica exactamente los mismos sesgos que se suponía que debía eliminar.
La EEOC utiliza la «regla de los cuatro quintos» para comprobar la existencia de discriminación. Si la tasa de selección de un grupo protegido cae por debajo del 80 % de la tasa del grupo con mayor selección, se produce un impacto adverso. En el caso de Workday, los patrones de rechazo en los distintos grupos de edad levantaron exactamente estas señales de alerta.
Qué funciona (y qué no)
Comencemos con tres enfoques habituales que fracasan en entornos de contratación regulados.
«Añadimos un prompt de sistema que indica a la IA que sea justa». Los prompts de sistema son sugerencias, no reglas. Se anulan fácilmente y proporcionan cero defensa legal. Un juez no aceptará «le dijimos a la IA que fuera imparcial» como estrategia de cumplimiento normativo.
«Auditamos una vez al año». Las auditorías anuales detectan los problemas después de que el daño ya se ha producido. Si su modelo sufre desviaciones entre auditorías —y los modelos sí sufren desviaciones—, usted acumula responsabilidad cada día que no realiza una supervisión.
«Nuestro proveedor se encarga del cumplimiento». El tribunal en Mobley v. Workday dictaminó que delegar funciones de contratación en un sistema automatizado amplía la cadena de responsabilidad; no le pone fin. El cumplimiento de su proveedor es su propio cumplimiento.
Lo que sí funciona es una arquitectura que separa el procesamiento del lenguaje de la toma de decisiones. Así es como funciona en tres pasos:
Entrada y traducción. Una IA especializada lee un currículum o expediente y extrae hechos concretos: «El candidato tiene 5 años de experiencia en Python». En esta fase, las barreras de protección (guardrails) de entrada comprueban problemas de calidad de datos, filtraciones de información de identificación personal e intentos de manipulación adversaria. La IA actúa como traductora, no como responsable de la toma de decisiones.
Razonamiento estructurado. Esos hechos extraídos se mapean en un grafo de conocimiento: un mapa estructurado que define cómo se relacionan entre sí las habilidades, los roles y los requisitos. A continuación, un motor de reglas aplica la lógica de negocio de manera determinista: SI la experiencia es de al menos 5 años Y la habilidad es igual a Python, ENTONCES elegible es igual a verdadero. La IA no puede «alucinar» una política porque las reglas están escritas en código, no generadas mediante predicción.
Salida auditable. Cada recomendación genera un rastro lógico claro que muestra con exactitud qué regla se activó, mediante qué dato concreto y en qué documento. Las barreras de protección de salida analizan sesgos, errores e infracciones de políticas antes de que cualquier resultado llegue a un seleccionador. Técnicas como SHAP —que asigna un valor de contribución específico a cada factor en una decisión— le permiten demostrar ante un regulador o un juez que «la habilidad X aportó +15 a la puntuación de este candidato» y que ningún otro elemento determinó el resultado.
Esta es la diferencia que le importa a su equipo de cumplimiento. Cuando un organismo regulador pregunta «por qué se rechazó a esta persona», usted puede señalar una regla específica aplicada a un hecho concreto. No le está pidiendo a una IA que intente adivinar su propio razonamiento a posteriori.
Su organización también debería implementar la mitigación de sesgos mediante técnicas adversarias (adversarial debiasing) durante el entrenamiento del modelo. Esta técnica entrena un modelo secundario para detectar si las salidas del modelo principal revelan características protegidas como la raza o la edad. Si el modelo secundario tiene éxito, el modelo principal es penalizado y reentrenado. El resultado es un sistema que elimina activamente los patrones discriminatorios en lugar de esperar que no aparezcan.
Por último, implemente un modelo de tres líneas de defensa para la gestión de riesgos de IA. Sus unidades de negocio asumen el riesgo operativo diario de la IA, incluida la selección de datos de entrenamiento y la anonimización de candidatos. Una función de riesgo y cumplimiento mantiene registros de modelos y supervisa las tasas de selección de forma continua. Una función de auditoría independiente verifica todo, incluidas las auditorías de sesgo anuales obligatorias exigidas por normativas como la Ley Local 144 de NYC.
La transición hacia el despliegue de IA soberana —ejecutar modelos dentro de su propia infraestructura en lugar de mediante API de terceros— le otorga el control sobre la procedencia y trazabilidad de los datos. Sus datos propietarios de contratación siguen siendo suyos. Sus modelos no cambian de forma impredecible porque un proveedor haya lanzado una actualización.
El sector de la tecnología de RR. HH. y gestión del talento está pasando de la automatización a la verificación. Las empresas que integren auditorías de equidad y mitigación de sesgos en su arquitectura central —y no como una ocurrencia tardía— serán las que sigan en pie cuando se dicte la próxima sentencia judicial. Puede leer el análisis técnico completo o explorar la versión interactiva para obtener más detalles sobre los precedentes legales y la arquitectura técnica.
Puntos clave
- Un tribunal federal dictaminó en 2024 que los proveedores de IA para contratación califican legalmente como «agentes», lo que los hace directamente responsables por discriminación bajo el Título VII, la ADA y la ADEA.
- La plataforma de Workday procesó aproximadamente 1100 millones de rechazos de solicitudes durante el período del litigio, y una acción colectiva a escala nacional cubre ahora a potencialmente millones de solicitantes mayores de 40 años.
- Los modelos de IA discriminan mediante variables proxy como dominios de correo, años de experiencia y referencias tecnológicas obsoletas, sin ver jamás directamente la edad del candidato.
- Las auditorías de sesgo anuales por sí solas no bastan; se requiere una supervisión continua, motores de reglas deterministas y rastros lógicos auditables para defender las decisiones de contratación en los tribunales.
- Las sanciones de la Ley Local 144 de NYC oscilan entre 500 $ y 1500 $ por infracción y día, pero el coste real es que su empresa sea incluida en una notificación judicial enviada a millones de solicitantes rechazados.
En resumen
El fallo en Mobley v. Workday significa que la discriminación del proveedor de IA para contratación es ahora su propia discriminación. Cada rechazo automatizado que su empresa no pueda explicar representa una responsabilidad legal. Pregunte a su proveedor: ¿puede mostrarme la regla exacta, aplicada al dato exacto, que provocó el rechazo de cada candidato, y puede presentar ese rastro lógico ante un tribunal?