Creamos una auditoría de sesgos para cumplir con seis leyes de contratación con IA. Falló la misma semana en que la lanzamos.

Lo primero que tuve que explicarle a una directora de personal el invierno pasado fue que su empresa estaba ahora infringiendo la ley de una manera que nadie en su equipo tenía el vocabulario para describir.

Ella dirigía la contratación en Nueva York, Chicago, Denver, Austin y una oficina en Londres. Su stack era corriente: un sistema de seguimiento de candidatos, una capa de cribado con IA acoplada a él, un proveedor de entrevistas en vídeo, un chatbot de programación de citas. Adquisiciones estándar de 2024. El problema era que, entre octubre de 2025 y agosto de 2026, seis gobiernos distintos decidieron, más o menos de forma independiente, que exactamente este stack era una actividad regulada de alto riesgo. Y cada uno redactó las reglas de una manera algo diferente.

Esto es lo que el cumplimiento normativo de la contratación con IA realmente parece ahora: no una sola ley que cumplir, sino un montón de leyes solapadas que en ocasiones se contradicen entre sí, apiladas sobre un proceso de contratación que nunca se construyó para ser inspeccionado. Cuando empecé a indagar en ello, supuse que el trabajo consistía en realizar una buena auditoría de sesgos. Me equivoqué, y la forma en que me equivoqué es toda la historia.

La CHRO que estaba sujeta a seis regímenes antes de la hora de comer

Permítanme exponer a qué se enfrentaba en realidad, porque la convergencia es la parte que la gente subestima.

Las enmiendas de la FEHA de California sobre los sistemas de decisión automatizada entraron en vigor el 1 de octubre de 2025: cuatro años de conservación obligatoria de cada entrada, salida y resultado de las pruebas de sesgo, y una responsabilidad que se aplica con independencia de si la discriminación fue intencionada o no, para cualquier empresa que contrate en California, independientemente de dónde tenga su sede. La HB 3773 de Illinois entró en vigor el 1 de enero de 2026 y prohíbe explícitamente el uso de códigos postales como sustitutos de clases protegidas. La TRAIGA de Texas entró en vigor el mismo día, salvo que Texas rechazó deliberadamente el impacto dispar como teoría y solo castiga la intencional discriminación, con multas que van desde $12,000 por una infracción subsanable hasta $200,000 por una que no lo es, con un plazo de 60 días para subsanarla antes de que la sanción se endurezca, un detalle que cambia cómo se prioriza un aviso de Texas frente a uno de Nueva York. La Ley de IA de Colorado entra en vigor el 30 de junio de 2026. La Ley de IA de la UE trata la contratación como actividad de alto riesgo del Anexo III a partir del 2 de agosto de 2026, con sanciones que alcanzan los 35 millones de euros o el 7% de la facturación anual mundial.

Así que una sola empresa con oficinas en esas cinco ciudades y en Londres responde ante seis regímenes, tres de ellos ya en vigor y tres que entrarán en acción antes de que termine el verano. La misma decisión de contratación. Seis definiciones distintas de lo que la hace ilegal.

Una empresa que contrata en Nueva York, Chicago, Denver, Austin y Londres no ejecuta un solo proceso de contratación. Ejecuta un único proceso que seis gobiernos creen, cada uno, que les pertenece.

Y luego la parte que hizo que la sala se quedara en silencio: aquello en lo que la mayoría se había apoyado para mantenerse a salvo acababa de dejar de funcionar.

¿Sigue siendo una defensa "Nuestro proveedor dice que no es un AEDT"?

Durante dos años, la estrategia silenciosa en Nueva York fue algo que los investigadores denominaron Null Compliance: y una vez que lo ves, lo ves en todas partes. La Ley Local 144 de la Ciudad de Nueva York permite que el empleador decida si su herramienta "asiste sustancialmente" en una decisión de contratación. Así que los empleadores decidieron que no. Un estudio de Cornell, Data & Society y Consumer Reports presentado en FAccT en 2024 encuestó a 391 empleadores de Nueva York que usaban estas herramientas y descubrió que solo el 4.6% había publicado la auditoría de sesgos que exige la ley. Solo el 3.3% había publicado el aviso de transparencia. El resto se había autoclasificado, en la práctica, fuera del ámbito de aplicación.

Era un memorando. En algún lugar del departamento jurídico había un memorando de una página de 2024 que decía nuestro proveedor nos dijo que esto no es un AEDT, así que la LL144 no aplica. Ese memorando era el programa de cumplimiento.

Entonces llegó el 2 de diciembre de 2025. El Contralor del Estado de Nueva York auditó la aplicación de la ley por parte de la ciudad y encontró 17 posibles infracciones de la LL144 en la misma muestra de 32 empresas en la que la propia agencia de la ciudad había encontrado una. El setenta y cinco por ciento de las llamadas de denuncia se habían enrutado mal. La agencia admitió, oficialmente, que su personal carecía de la experiencia técnica para evaluar estas herramientas, y acordó pasar a una aplicación proactiva y basada en la investigación. La estructura de sanciones no cambió: hasta $1,500 por día, por infracción. Si ejecutas una herramienta sin auditar de forma continua en Nueva York, te enfrentas a más de medio millón de dólares al año antes de que nadie presente una demanda privada.

El "Null Compliance" nunca fue una posición jurídica. Fue una apuesta a que nadie estaba comprobando. El 2 de diciembre de 2025, alguien empezó a comprobar.

Recuerdo estar leyendo el PDF de la auditoría del Contralor un domingo y pensar: cada uno de esos memorandos de autoclasificación de 2024 acababa de convertirse en una prueba de la fase de exhibición probatoria (discovery). Lo cual, resulta, no es una metáfora.

Las demandas que están reescribiendo en silencio quién es responsable

Porque lo otro que está ocurriendo en paralelo es que los tribunales están desmantelando la idea de que la opinión del proveedor te protege.

En Mobley v. Workday, la jueza Rita F. Lin se negó a desestimar el caso, sosteniendo que un proveedor de contratación con IA puede ser directamente responsable como "agente" del empleador cuando su herramienta recomienda o filtra candidatos, independientemente de lo que el memorando del empleador afirme que hace la herramienta. El tribunal concedió la certificación colectiva preliminar en mayo de 2025, y el plazo de adhesión (opt-in) para los solicitantes mayores de 40 años se cerró el 7 de marzo de 2026. Entonces la jueza ordenó a Workday que presentara una lista exhaustiva de cada empleador que hubiera habilitado sus productos de cribado HiredScore, rechazando el intento de mantener las herramientas posteriores a la adquisición fuera del caso. Según el propio cálculo del tribunal, más de mil millones de solicitantes pueden haber pasado por ese proceso.

Y el 20 de enero de 2026 se abrió un nuevo frente. Kistler v. Eightfold plantea una pregunta que nadie en el sector de la tecnología de RR. HH. quería que se hiciera: ¿son estas plataformas agencias de informes al consumidor en virtud de la Fair Credit Reporting Act? La demanda alega que Eightfold extrajo datos de LinkedIn, GitHub y Stack Overflow, ensambló expedientes de candidatos a partir de "más de 1.500 millones de puntos de datos globales" y produjo una puntuación de "probabilidad de éxito" de 0 a 5 sin notificación al candidato, sin divulgación y sin proceso de impugnación. Si un tribunal está de acuerdo, toda plataforma similar debe a cada candidato puntuado un aviso de acción adversa y una forma de impugnarlo, y los daños legales de la FCRA oscilan entre $100 y $1,000 por consumidor, por infracción. Multiplica eso por cada candidato que una plataforma haya puntuado alguna vez.

Así que ese era el panorama en el que se encontraba mi cliente. Seis regímenes, dos demandas activas redefiniendo la responsabilidad, un regulador que acababa de aprender a auditar. Mi instinto —y lo asumo, porque me costó un mes— era que la respuesta consistía en una auditoría de sesgos universal realmente buena.

La auditoría universal que no podía existir

Lo que construí primero merece describirse, porque es exactamente donde todo el enfoque se rompió.

El plan era elegante: un análisis riguroso de impacto adverso, ejecutado según la metodología que utilizan auditores independientes como DCI Consulting y ORCAA, que mapearíamos a las seis jurisdicciones. Aprobarlo una vez, documentarlo bien, satisfacer a todos. Construimos el pipeline, extrajimos los datos de contratación, calculamos los ratios de impacto de cuatro quintos e incluso hicimos los cortes interseccionales de raza por sexo que Nueva York exige específicamente.

Entonces me senté a mapear el resultado único frente a los seis regímenes, y se desmoronó ante mis ojos.

Nueva York exige ratios de impacto interseccionales. Colorado pide un "cuidado razonable" sin ningún requisito interseccional en absoluto. Texas ni siquiera reconoce el impacto dispar como teoría, de modo que allí todo el ejercicio estadístico es jurídicamente irrelevante: solo importa la intención. La Ley de IA de la UE no tiene una regla de cuatro quintos; tiene un mandato de representatividad de los datos en virtud del artículo 10. Una auditoría, ejecutada de una sola manera, produce un entregable que es correcto para una jurisdicción e insuficiente o irrelevante para las demás.

El más profundo —el que de verdad me detuvo— era el código postal. La HB 3773 de Illinois prohíbe explícitamente el uso de códigos postales como sustitutos de clases protegidas; elimínalos y cumples. Pero el artículo 10(3) de la Ley de IA de la UE exige que los datos de entrenamiento sean "pertinentes, representativos y libres de errores", y la cobertura geográfica que hace representativo a un conjunto de datos es a menudo exactamente lo que codifican los códigos postales. Elimina el campo y suspendes la prueba de representatividad de Europa. Mantenlo y suspendes en Illinois.

El mismo campo de datos es contrabando en Illinois y prueba obligatoria en Bruselas. No hay ninguna versión del conjunto de datos que esté limpia en ambos lugares a la vez.

No puedes auditar para salir de una contradicción en la ley. Había pasado semanas construyendo una herramienta para responder a una pregunta, y el verdadero problema era que la pregunta tenía seis respuestas correctas distintas, dos de las cuales eran mutuamente excluyentes. Ese fue el punto de inflexión. El producto no era un mejor motor de auditoría. El producto era aquello que se sitúa por encima de las auditorías y las reconcilia, y te dice con honestidad qué conflictos no pueden reconciliarse, para que tu asesor jurídico principal pueda tomar una decisión de estrategia legal en lugar de fingir que el conflicto no existe.

La exposición que ninguna auditoría de sesgos estaba detectando

Una vez que dejé de intentar construir una sola auditoría, empecé a ver las lagunas que las auditorías nunca cubrían. Dos de ellas son grandes.

La primera es la accesibilidad, y es todo un universo legal en sí mismo. En marzo de 2025, la ACLU presentó una denuncia en nombre de una solicitante indígena sorda, "D.K.", alegando que un proceso de entrevista en vídeo impulsado por IA la discriminó en virtud de la ADA, el Título VII y la ley de derechos civiles de Colorado. Deja de lado los estatutos y el daño es evidente: una candidata cualificada fue descartada porque la máquina literalmente no podía oírla, y nadie en RR. HH. vio nunca cómo ocurría el rechazo. La realidad técnica que subyace a esa reclamación es brutal: el reconocimiento automático del habla todavía funciona mucho peor con el habla de personas con discapacidad. El modelo Whisper de OpenAI presenta aproximadamente el triple de la tasa de error por palabra en el habla multilingüe y no estándar, e incluso el equipo ganador del Interspeech Speech Accessibility Project Challenge de 2025 —entrenado con más de 400 horas de más de 500 hablantes con discapacidades del habla— alcanzó una tasa de error por palabra del 8.11% en el habla con discapacidad, todavía varias veces superior al referente estándar del inglés. Una auditoría de sesgos que comprueba los ratios de impacto por raza y sexo aprobará una herramienta que sistemáticamente no puede entender a una candidata sorda, porque esa es una teoría jurídica diferente con una prueba diferente que casi nadie está ejecutando. Ahora trato las pruebas de accesibilidad como una disciplina aparte con su propio entregable, porque lo es.

La segunda es la seguridad, y aprendí a ponerla sobre la mesa después de McHire. En junio de 2025, los investigadores Ian Carroll y Sam Curry descubrieron que la plataforma de contratación de McDonald's, construida sobre Paradox.ai, había expuesto los registros de alrededor de 64 millones de solicitantes: nombres, correos electrónicos, números de teléfono, transcripciones completas de entrevistas con el chatbot. La causa raíz fue una cuenta de administrador de prueba de 2019 en la que el nombre de usuario y la contraseña eran ambos 123456, sin autenticación multifactor, además de un fallo en la API que permitía a cualquiera iterar a través de los ID de los solicitantes. A tu stack de cumplimiento no le importa que el eslabón débil fuera la cuenta de prueba olvidada de un proveedor. La obligación de notificar la brecha, la exposición a demandas colectivas, la pérdida de la base jurídica para seguir tratando esos datos: todo ello recae sobre el empleador. Tras esa divulgación, el CISO está en la mesa en cada compra de tecnología de RR. HH., y una carta genérica de SOC 2 no es una revisión de seguridad consciente de la IA.

¿Por qué no puedes simplemente comprar una herramienta para esto?

La gente siempre me pregunta alguna versión de: ¿no puedo simplemente comprar una herramienta para esto? Y entiendo el instinto, porque el mercado está lleno de opciones que parecen creíbles. La respuesta honesta es no, y vale la pena saber por qué antes de gastar.

Las plataformas de gobernanza especializadas —FairNow, Holistic AI, Credo AI, que ha recaudado alrededor de 45 millones de dólares— son realmente buenas en lo que hacen. Pero cada una ofrece esencialmente una sola metodología y funciona con tus datos; ninguna se sitúa entre tú y Workday y extrae lo que el contrato real con tu proveedor sí protege y lo que no. Los auditores independientes como DCI y ORCAA producen un trabajo excelente por entre $50,000 y $200,000 por sistema y año, pero es una instantánea con una cadencia anual, no una respuesta permanente a seis regímenes en movimiento. Y las Big Four sin duda aceptarán el encargo —por entre $500,000 y varios millones— con equipos de asesoría que no construyen tecnología y no pueden entrar en el detalle técnico de por qué tu modelo de cribado se comporta como lo hace.

La brecha no es la falta de un proveedor de auditorías. Es que nadie en tu lista de finalistas puede situarse entre la CHRO, el GC, el CISO y todos los proveedores de tecnología de RR. HH. a la vez, y está dispuesto a decirte dónde la ley simplemente no se puede satisfacer.

Lo que construimos en Veriprajna es aquello que habita en esa brecha: una práctica de reconciliación jurisdiccional y diligencia debida de AEDT que inventaría cada herramienta que interviene en tu contratación, ejecuta la correcta auditoría para cada régimen que te aplique en lugar de una genérica, prueba la accesibilidad y la seguridad como disciplinas propias, y le da a tu asesor jurídico principal las cifras de costes y los calendarios de litigios para defender el presupuesto ante un CFO. No es un seguro que esperas no usar nunca: es documentación que te alegrarás mucho de tener cuando la aplicación proactiva de Nueva York, o la lista de exhibición de Mobley, venga a buscar.

Los 120 días que deciden esto

La razón por la que mantengo una cuenta atrás sobre esto no es el dramatismo. Es que el calendario es inusualmente implacable en este momento. El plazo de Colorado está a unas doce semanas. Las obligaciones de alto riesgo de la UE llegan unas cuatro semanas después. La postura de aplicación de Nueva York ya cambió. La exhibición de pruebas de Mobley está produciendo la lista de empleadores mientras lees esto.

Lo que cambió mi propia forma de pensar, y lo que querría que una CHRO o un asesor jurídico principal se lleven de todo esto, es concreto y específico: la vieja maniobra protectora —dejar que el proveedor defina la herramienta como fuera del ámbito, ejecutar una auditoría, archivar el memorando— nunca fue un programa de cumplimiento. Fue una apuesta a que nadie con capacidad técnica estaba mirando. Ahora todos están mirando, desde seis direcciones, y dos de esas direcciones no se ponen de acuerdo sobre lo que se supone que debes hacer siquiera. El trabajo ya no consiste en aprobar una auditoría. Consiste en saber, régimen por régimen, exactamente en qué situación te encuentras, incluidos los lugares donde la respuesta honesta es que la ley se contradice a sí misma y alguien tiene que decidir hacia qué lado inclinarse. Eso no es una herramienta que compras. Es un juicio que tienes que ganarte haciendo realmente el trabajo. Puedes ver cómo lo hacemos aquí.