O Problema
Um candidato se inscreveu para mais de 100 vagas por meio da plataforma da Workday. Ele foi rejeitado em quase todas elas — frequentemente em questão de minutos, fora do horário comercial. Nenhum ser humano chegou a avaliar seu currículo. Derek Mobley, um homem afro-americano com mais de 40 anos e com deficiência, moveu uma ação judicial que agora reformulou o direito trabalhista nos Estados Unidos. Em maio de 2025, um tribunal federal certificou uma ação coletiva de âmbito nacional cobrindo potencialmente milhões de candidatos com mais de 40 anos que tiveram recomendações de emprego negadas pelas ferramentas de triagem por IA da Workday.
Os números são estarrecedores. Durante o período em questão, os próprios autos processuais da Workday demonstraram que seu software processou aproximadamente 1,1 bilhão de rejeições de candidaturas. Isso não é um erro de digitação. Bilhões de decisões automatizadas, muitas tomadas sem nenhuma supervisão humana significativa.
Eis o que mudou para a sua empresa: em julho de 2024, a juíza Rita Lin, do Distrito Norte da Califórnia, decidiu que fornecedores de IA como a Workday não são provedores de software neutros. Eles são "agentes" dos empregadores que os utilizam. Isso significa que eles enfrentam responsabilidade jurídica direta sob o Title VII, a ADA e a ADEA — as mesmas leis federais antidiscriminação que se aplicam a você. Se a sua ferramenta de contratação por IA discriminar, tanto a sua empresa quanto o seu fornecedor poderão ser responsabilizados. O tribunal estabeleceu um limite claro: um sistema de IA que pontua, classifica e recomenda candidatos ativamente está desempenhando uma função essencial de contratação, e não apenas organizando uma planilha.
Por Que Isso Importa para a Sua Empresa
Esta decisão altera o seu perfil de risco de três maneiras concretas.
A exposição financeira é enorme e crescente. A ação coletiva contra a Workday abrange todos os candidatos com mais de 40 anos a quem foi negada uma recomendação desde setembro de 2020. O tribunal ampliou seu escopo em julho de 2025 para incluir candidatos avaliados pela HiredScore AI, uma tecnologia adquirida pela Workday. Sua responsabilidade potencial aumenta proporcionalmente a cada candidatura rejeitada pelas suas ferramentas de IA.
As penalidades regulatórias já são uma realidade. A Local Law 144 da cidade de Nova York exige auditorias independentes anuais de viés em ferramentas automatizadas de tomada de decisão de emprego. As penalidades começam em US$ 500 para a primeira infração e sobem para US$ 1.500 por violação, por dia, em caso de reincidência. Diversas cidades e estados estão seguindo o exemplo de Nova York.
O dano reputacional é o custo oculto. O tribunal pode determinar que as empresas notifiquem milhões de candidatos afetados. Imagine o nome da sua empresa em uma lista determinada pela Justiça enviada a cada pessoa que sua IA rejeitou. A orientação de maio de 2023 da EEOC torna suas obrigações explícitas: você é responsável pelos resultados de ferramentas algorítmicas, mesmo que terceiros as tenham projetado ou operado.
Eis o resumo prático para o seu orçamento:
- US$ 500 a US$ 1.500 por dia em penalidades em Nova York por ausência de auditorias de viés
- 1,1 bilhão de rejeições processadas por uma única plataforma durante o período do litígio
- Mais de 100 rejeições para um único candidato, frequentemente em minutos — o padrão que deu início a tudo
- Todos os candidatos com mais de 40 anos desde setembro de 2020 são potenciais autores nesta ação
Se o seu fornecedor não puder explicar por que um candidato foi rejeitado — ou se ele se isentar de qualquer responsabilidade por viés —, a sua empresa arcará com 100% do risco.
O Que Realmente Acontece nos Bastidores
A maioria das ferramentas de contratação por IA opera com base em grandes modelos de linguagem (LLMs) — sistemas projetados para prever a próxima palavra mais provável, e não para tomar decisões justas. Pense neles como mecanismos de preenchimento automático operando em escala massiva. Eles são construídos para gerar plausibilidade, não precisão. Quando você envolve um desses modelos em uma camada superficial de aplicação e o chama de "solução de contratação", você obtém três modos perigosos de falha.
Primeiro, eles perdem informações no meio. Pesquisas mostram que modelos padrão de IA prestam muita atenção ao início e ao fim de documentos, mas desenvolvem o que os pesquisadores chamam de "vale de atenção" no meio. Em um currículo de 10 páginas, certificações críticas ou realizações recentes nas páginas intermediárias têm probabilidade estatística muito maior de serem desconsideradas.
Segundo, eles inventam informações. Quando um LLM não consegue encontrar uma qualificação específica, ele frequentemente gera uma suposição plausível com base no texto ao redor. O seu sistema pode rejeitar um candidato qualificado com base em um "fato" que não existe em nenhum lugar de seu dossiê real.
Terceiro, eles discriminam por meio de proxies. Um modelo de IA não precisa ver a sua idade para deduzi-la. Ele aprende que um endereço de e-mail @aol.com, mais de 15 anos de experiência, referências a tecnologias legadas como o Lotus Notes ou cargos de início de carreira da década de 1990 correlacionam-se com ter mais de 40 anos. Quando o modelo é treinado com base nos "profissionais de alto desempenho" de uma empresa que tendem a ser mais jovens, ele trata esses sinais substitutos como indicadores negativos. Isso cria um ciclo de retroalimentação: o sistema replica e amplifica exatamente os vieses que deveria eliminar.
A EEOC utiliza a "Regra dos Quatro Quintos" para testar a ocorrência de discriminação. Se a taxa de seleção de um grupo protegido ficar abaixo de 80% da taxa do grupo com maior índice, isso configura impacto adverso. No caso da Workday, os padrões de rejeição entre diferentes faixas etárias levantaram exatamente esses sinais de alerta.
O Que Funciona (E O Que Não Funciona)
Comecemos por três abordagens comuns que falham em ambientes regulados de contratação.
"Adicionamos um prompt de sistema instruindo a IA a ser justa." Prompts de sistema são sugestões, não regras. Eles são facilmente ignorados e oferecem zero defesa jurídica. Um juiz não aceitará a justificativa de que "pedimos à IA para ser boazinha" como estratégia de conformidade.
"Fazemos auditoria uma vez por ano." Auditorias anuais detectam problemas somente após o dano ter sido causado. Se o seu modelo sofrer desvio entre as auditorias — e modelos de fato sofrem desvios —, você estará acumulando responsabilidade jurídica a cada dia em que não estiver monitorando.
"Nosso fornecedor cuida da conformidade." O tribunal no caso Mobley v. Workday decidiu que delegar funções de contratação a um sistema automatizado estende a cadeia de responsabilidade — não a encerra. A conformidade do seu fornecedor é a sua conformidade.
O que realmente funciona é uma arquitetura que separa o processamento de linguagem da tomada de decisões. Veja como isso funciona em três etapas:
Entrada e Tradução. Uma IA especializada lê um currículo ou transcrição e extrai fatos específicos: "O candidato possui 5 anos de experiência em Python". Nesta etapa, guardrails de entrada verificam problemas de qualidade de dados, vazamentos de informações de identificação pessoal e tentativas de manipulação adversária. A IA é a tradutora, não a tomadora de decisão.
Raciocínio Estruturado. Esses fatos extraídos são mapeados em um grafo de conhecimento — um mapa estruturado que define como competências, funções e requisitos se relacionam entre si. Um mecanismo de regras aplica então a sua lógica de negócios de forma determinística: SE a experiência for de pelo menos 5 anos E a competência for igual a Python, ENTÃO elegível é igual a verdadeiro. A IA não pode "alucinar" uma diretriz porque as regras são escritas em código, e não geradas por predição.
Saída Auditável. Cada recomendação gera uma trilha lógica clara demonstrando exatamente qual regra foi acionada, por qual ponto de dados e em qual documento. Guardrails de saída fazem a varredura em busca de vieses, erros e violações de diretrizes antes que qualquer resultado chegue ao recrutador. Técnicas como SHAP — que atribuem um valor de contribuição específico a cada fator em uma decisão — permitem que você comprove a um regulador ou a um juiz que "A habilidade X contribuiu com +15 para a pontuação deste candidato" e nada mais direcionou o resultado.
Esta é a diferença que realmente importa para a sua equipe de conformidade. Quando um órgão regulador pergunta "por que esta pessoa foi rejeitada?", você pode apontar para uma regra específica aplicada a um fato específico. Você não fica na dependência de pedir a uma IA para adivinhar seu próprio raciocínio a posteriori.
Sua organização também deve implementar a mitigação adversária de viés (adversarial debiasing) durante o treinamento dos modelos. Essa técnica treina um modelo secundário para detectar se as saídas do modelo primário revelam características protegidas, como raça ou idade. Se o modelo secundário for bem-sucedido nessa detecção, o modelo primário será penalizado e retreinado. O resultado é um sistema que remove ativamente padrões discriminatórios, em vez de apenas torcer para que eles não surjam.
Por fim, implemente um modelo de três linhas de defesa para gestão de riscos de IA. Suas unidades de negócios assumem a responsabilidade diária pelo risco de IA, incluindo a seleção de dados de treinamento e a anonimização de candidatos. Uma função de risco e conformidade mantém inventários de modelos e monitora taxas de seleção continuamente. Uma função de auditoria independente verifica tudo — incluindo as auditorias anuais obrigatórias de viés exigidas por legislações como a Local Law 144 de Nova York.
A transição para a implementação de IA soberana — executando modelos dentro da sua própria infraestrutura em vez de fazê-lo por meio de APIs de terceiros — proporciona a você controle sobre a proveniência e rastreabilidade dos dados. Seus dados proprietários de contratação permanecem sob seu controle. Seus modelos não mudam de forma imprevisível porque um fornecedor lançou uma atualização.
O setor de tecnologia de RH e gestão de talentos está migrando da automação para a verificação. As empresas que incorporam auditorias de equidade e mitigação de viés em sua arquitetura central — e não como uma reflexão tardia — serão as que continuarão de pé quando a próxima decisão judicial for proferida. Você pode ler a análise técnica completa ou explorar a versão interativa para obter detalhes mais aprofundados sobre os precedentes jurídicos e a arquitetura técnica.
Principais conclusões
- Um tribunal federal decidiu em 2024 que fornecedores de IA para contratação qualificam-se como "agentes" jurídicos — tornando-os diretamente responsáveis por discriminação sob o Title VII, a ADA e a ADEA.
- A plataforma da Workday processou cerca de 1,1 bilhão de rejeições de candidaturas durante o período do litígio, e uma ação coletiva de âmbito nacional cobre agora potencialmente milhões de candidatos com mais de 40 anos.
- Modelos de IA discriminam por meio de variáveis proxy, como domínios de e-mail, anos de experiência e referências a tecnologias desatualizadas — sem jamais visualizar a idade do candidato.
- Auditorias anuais de viés isoladas não são suficientes; monitoramento contínuo, mecanismos de regras determinísticas e trilhas lógicas auditáveis são indispensáveis para defender suas decisões de contratação em juízo.
- As penalidades da Local Law 144 de Nova York variam de US$ 500 a US$ 1.500 por violação ao dia — mas o verdadeiro custo é ter o nome da sua empresa citado em uma notificação determinada pela Justiça a milhões de candidatos rejeitados.
Conclusão
A decisão no caso Mobley v. Workday significa que a discriminação cometida pelo seu fornecedor de IA para contratação é agora a sua discriminação. Cada rejeição automatizada que a sua empresa não puder explicar representa um passivo jurídico. Pergunte ao seu fornecedor: você pode demonstrar a regra exata, aplicada ao dado específico, que causou a rejeição de cada candidato — e pode apresentar essa trilha lógica em juízo?