Illinois proíbe o campo de código postal que o EU AI Act quer mantido. Construí uma auditoria de contratação com IA que diz isso em vez de emitir uma aprovação.

Em 2 de dezembro de 2025, o Controlador do Estado de Nova York publicou uma revisão da mesma amostra de 32 empresas que o Departamento de Proteção ao Consumidor e ao Trabalhador da cidade já havia examinado sob a Local Law 144, e contabilizou 17 possíveis infrações onde o DCWP havia encontrado uma. O DCWP concordou em adotar uma fiscalização proativa.

Li isso e presumi que o problema de engenharia difícil era a detecção: construir algo que capturasse o viés que a primeira análise não identificou. Escrever os pacotes de regras mudou minha opinião, porque a detecção acabou sendo a metade fácil. A metade difícil é que um empregador que utiliza ferramentas automatizadas de contratação em Nova York, Colorado, Illinois, Texas, Califórnia e na UE está respondendo a seis reguladores que querem seis documentos com formatos diferentes, e em pelo menos um caso dois deles querem coisas opostas da mesma coluna de dados.

Então construí uma camada de conformidade para isso, um console que nomeei Clarion e que fica sobre as ferramentas de contratação com IA que um empregador já utiliza, lê uma exportação de pontuação de fornecedor, calcula todas as estatísticas de impacto adverso em código determinístico e distribui essa auditoria única em seis entregas adaptadas a cada jurisdição. Você pode ver como funciona em veriprajna.com/demos/ai-hiring-compliance. Tudo o que aparece abaixo é executado em uma exportação sintética pré-configurada de 1.040 registros de candidatos para um empregador fictício, "Acme Logistics, Inc.", na requisição REQ-2026-0412. Plantei a violação nesses dados eu mesmo, o que é o único motivo pelo qual posso dizer exatamente o que o motor deveria encontrar.

A auditoria que passa não é a que a lei exige

Eu configurei o conjunto de dados, então o primeiro resultado ainda conseguiu me irritar. O teste marginal dos quatro quintos, aquele que uma autoauditoria de fornecedor entrega, passa sem problemas: taxa de impacto mínima de raça de 0,8196, com hispânicos e negros empatados nesse mínimo, e taxa mínima de sexo de 0,8744. Ambas ficam na linha de 0,80 ou acima dela. Nenhuma parte do código afirma essa aprovação. O 0,8196 é o que o cálculo retorna para o conjunto de dados de teste, e ele ultrapassa a linha por conta própria. Na tela, a tabela de taxas diz claramente: o fornecedor para aqui.

A Local Law 144 não para aí. Ela exige razões de impacto adverso interseccionais de raça por sexo, e os candidatos sintéticos são avaliados por três ferramentas simuladas (um avaliador estilo Workday-Spotlight, uma rodada de vídeo estilo HireVue e um motor de correspondência estilo Eightfold) que são adaptadores de teste para esses dados sintéticos, arquétipos em vez de integrações. Ao cortar os mesmos registros por raça e sexo, o quadro se inverte. Em relação à célula de referência Branco / Masculino, que avança 68 dos 130 candidatos a uma taxa de 52,31%, a célula Negra / Feminina avança 44 dos 130, ou 33,85%. Razão de impacto 0,6471. Hispânica / Feminina também não passa, com 0,7647.

Hispânica / Feminina é onde discuti com meu próprio motor. Sob o controle de taxa de falsa descoberta de Benjamini-Hochberg com alfa 0,05, apenas a célula Negra / Feminina é estatisticamente robusta, com q = 0,0185. Hispânica / Feminina chega a q = 0,1629, portanto o motor a sinaliza e explicitamente declina classificá-la como significativa. Eu queria que ambas as células contassem, porque duas células reprovadas é uma história melhor do que uma. O motor distingue uma descoberta robusta de uma casual, que é a mesma disciplina que eu gostaria que fosse aplicada aos meus próprios números se eu fosse o empregador do outro lado do relatório.

Seis reguladores, seis documentos diferentes

Escrevi os seis pacotes de regras um após o outro e continuei tentando condensá-los em uma única pontuação, porque um único número é o que um painel consegue conter e o que um comprador espera. Nunca sobreviveu ao contato com as leis. A cidade de Nova York quer um relatório de impacto adverso interseccional mais um resumo público publicado. O SB 24-205 do Colorado quer uma avaliação de impacto de due diligence documentada e um programa de gestão de riscos, e não especifica nenhuma metodologia, em vigor a partir de 30 de junho de 2026. O TRAIGA do Texas rejeita o impacto disparatado como base isolada e questiona a intenção. As emendas FEHA ADS da Califórnia estão em vigor desde 1.º de outubro de 2025 e exigem novamente seu próprio formato de documentação. O EU AI Act trata o recrutamento como de alto risco conforme o Annex III e exige governança de dados segundo o Article 10 mais um arquivo técnico conforme o Article 11, a partir de 2 de agosto de 2026.

A pontuação única morreu no pacote do Texas. Eu já havia construído a entrega da cidade de Nova York com base em razões interseccionais, e o TRAIGA torna essas estatísticas exatas irrelevantes como prova para sua própria avaliação, portanto não havia nenhuma ponderação que eu pudesse aplicar para que um único número significasse as duas coisas. Seis perguntas diferentes, feitas em seis formatos diferentes, e uma pontuação de equidade responde a aproximadamente uma delas e meia. Portanto, o Clarion produz seis entregas, cada uma com sua própria citação, data de vigência e formato exigido, e os indicadores de destaque do console relatam a cobertura em vez de uma nota: Entregas por Jurisdição 6, Razão de Impacto Mais Baixa 0,65, Itens que Requerem Ação Humana 9.

Essa coluna mista é o resultado honesto, e também é o que ninguém está entregando. Pesquisadores da Cornell, Data & Society e Consumer Reports verificaram 391 empregadores de Nova York quanto à auditoria que a Local Law 144 exige e encontraram auditorias de viés publicadas para 4,6% deles (FAccT 2024). A obrigação está em vigor. A conformidade com ela está próxima de um erro de arredondamento, e minha leitura é que grande parte dessa lacuna é de empregadores que genuinamente acreditam que a única razão aprovada do fornecedor encerrou a questão.

Cramér's V 0,3321 em zip_region, e dois regimes que querem coisas opostas

Escrevi um resolvedor para o problema do código postal antes de entender o problema do código postal, e deletá-lo foi o momento em que o produto mudou de forma. O motor detecta proxies de classe protegida por correlação, e zip_region retorna com Cramér's V 0,3321 em relação à raça, 0,3253 com correção de viés, acima do limite de 0,2. É um proxy. Isso também não é uma heurística de sinalizar tudo: school_tier fica em 0,0711 na mesma execução e passa.

O Illinois HB 3773, em vigor desde 1.º de janeiro de 2026, proíbe os códigos postais como proxies de classe protegida, portanto a configuração segura para Illinois mascara a informação geográfica. O Article 10(3) do EU AI Act exige dados de treinamento que sejam relevantes, representativos e completos, o que na prática depende da cobertura geográfica que Illinois acabou de pedir para remover. Mascare o campo e a obrigação de representatividade da UE se enfraquece. Mantenha-o e Illinois é violado. Uma configuração de modelo não pode satisfazer as duas.

Meu resolvedor havia escolhido um vencedor. Ele comparou as duas exposições, escolheu a maior e emitiu um status limpo para o outro lado, que é exatamente o comportamento que insere uma declaração falsa em um documento arquivado. Eu o removi e o substituí por um veredicto que o portão tem permissão de alcançar: CONFLICT. O reconciliador então escreve um memorando de estratégia jurídica em vez de uma certificação. Execute duas configurações de implantação, uma máscara geográfica completa para inferência em Illinois e um recurso de região mais grosseiro para dados de treinamento na UE. Ou, se uma configuração for obrigatória, escolha o regime com maior exposição e documente o risco aceito, observando que as penalidades de alto risco da UE atingem o maior valor entre 15 milhões de euros ou 3% do volume de negócios anual global como máximo estatutário.

Um painel que diz 'em conformidade' é, em um tribunal, uma prova. Um memorando que diz 'sabíamos, precificamos ambas as opções e escolhemos' é uma defesa.

Essa é a troca que eu faria como Diretor Jurídico toda vez, e é a troca que nenhum produto construído para tranquilizar um comprador oferecerá, porque a versão tranquilizadora vende melhor até o momento do depoimento.

Tentei convencer meu próprio sistema a emitir uma aprovação

Executei o experimento que mais temia, que era descobrir se eu poderia manipular o sistema com prompts para obter um veredicto melhor. Há seis agentes jurisdicionais no Clarion, além de um reconciliador de conflitos e um cético adversarial, construídos com Pydantic AI e com provedores intercambiáveis. Reescrevi o prompt de narração para ser mais generoso, do jeito que um fornecedor sob pressão trimestral seria generoso. A prosa ficou mais calorosa. Nenhum número se moveu e nenhum veredicto mudou, porque toda estatística, toda comparação de limiar e toda decisão de portão está em engine.py e rulepacks.py, totalmente fora do framework de agentes.

A mesma propriedade aparece no sentido contrário. Sem nenhum provedor de modelo configurado, o conjunto cai de volta para modelos determinísticos e o aplicativo funciona de forma idêntica, mesmas seis entregas, mesmo 0,6471, mesmo CONFLICT. Agentes aconselham, código decide, e 12 de 12 testes do motor fixam a verdade fundamental plantada para que a aprovação marginal e a reprovação interseccional não possam se afastar entre execuções.

Agentes podem ler uma lei e escrever um memorando. Eles não podem ser a coisa que decide se um limite foi ultrapassado, porque sua concordância é comprável por um prompt mais persuasivo.

Não comecei com essa visão. Comecei pensando que os agentes eram o produto e a aritmética era a encanação, e eu estava exatamente ao contrário. Troquei o provedor, troquei o prompt, executei sem chave alguma e o motor ainda retornou 0,6471 para Negra / Feminina e CONFLICT em zip_region. Qualquer melhoria que eu faça no modelo melhora a prosa do memorando e nada que um auditor verificaria.

Três teorias jurídicas que uma auditoria de viés aprovada nunca tocou

Construí o cético adversarial esperando que ele argumentasse sobre estatísticas, e ele passou o tempo argumentando sobre escopo. Ele se recusa a aprovar três coisas, e cada uma é uma teoria jurídica separada que uma auditoria de viés aprovada não cobre.

A primeira é a autoclassificação. Um memorando de fornecedor afirmando 'nosso avaliador não é um AEDT' é rejeitado, porque sob a teoria do agente levantada em Mobley v. Workday uma ferramenta que recomenda ou filtra candidatos está dentro da decisão. Essa teoria é indecisa, não um precedente, razão pela qual o item vai para o advogado interno para uma atestação de escopo em vez de receber uma cor de status.

A segunda é acessibilidade. Dos 432 candidatos que passaram pela rodada de vídeo, a taxa de erro de palavras é 0,0794 para fala padrão e 0,3016 para os 104 candidatos com fala não padrão, uma disparidade de 3,8 vezes que a Local Law 144 nunca testa, porque a LL144 é sobre raça e sexo. A teoria levantada em D.K. v. Intuit/HireVue é uma teoria da ADA, e ela sobrevive intacta a uma auditoria de viés perfeita. O Clarion detecta a disparidade e a encaminha para uma revisão humana de acessibilidade sob a ADA. Ele não constrói o fluxo de trabalho de acomodação, e não vou fingir o contrário.

A terceira é a FCRA, que não se importa com equidade. Nessa exportação, 510 candidatos foram avaliados com dados obtidos de terceiros e filtrados por uma pontuação numérica, o padrão em questão em Kistler v. Eightfold. Se a plataforma é uma agência de relatórios ao consumidor, cada candidato avaliado tem direito a uma notificação de ação adversa e a um caminho de contestação, independentemente do equilíbrio dos resultados. O Clarion detecta o gatilho e o encaminha para a infraestrutura de ação adversa e contestação. Ele também não constrói o portal voltado ao candidato. Considero esta a menos intuitiva das três, e a mais propensa a ser ignorada por uma equipe que fez tudo certo em termos de equidade, porque nada nas estatísticas te dá a resposta. A pergunta que a FCRA faz é sobre o que a plataforma é, e uma empresa pode passar por todas as razões de impacto no relatório e ainda assim dever a várias centenas de pessoas uma notificação que nunca foi enviada.

O pacote que eu entregaria a quem assina

Mantive uma pergunta fixada na minha frente durante toda a construção: o que a pessoa que realmente assina isso precisa, e não é uma pontuação. Nos seis regimes, o motor avalia 13 obrigações e retorna 2 PASS, 2 FAIL, 7 NEEDS_PROOF e 2 CONFLICT. Declarado como cobertura nesta exportação sintética pré-configurada, 2 de 13 obrigações são satisfeitas automaticamente apenas pelos dados, e 9 de 13 são encaminhadas a um humano nomeado porque são NEEDS_PROOF ou CONFLICT. Em um sistema vendido como automação, essa proporção parece falha. Como auditoria, é o único formato sob o qual eu assinaria meu nome.

A exportação é um pacote encadeado por hash SHA-256 de 17 nós, cada nó vinculado ao hash do nó anterior, de modo que qualquer edição em qualquer nó quebra a cadeia. Ele emite como JSON e como um pacote HTML imprimível, com cada número carregando suas entradas e seu cálculo e cada veredicto carregando sua citação. A cadeia é verificada em cada execução e a evidência de adulteração é testada por unidade.

A Veriprajna não assina isso. O papel de auditor independente da Local Law 144 pertence a empresas como DCI, ORCAA e Secretariat, e o objetivo de design de todo o pacote é que uma delas possa assiná-lo sem precisar reescrevê-lo primeiro. O guia completo da execução, incluindo o memorando de conflito, está em veriprajna.com/demos/ai-hiring-compliance.

E se você preferir ver o portão recusar do que me ouvir descrevê-lo, aqui está toda a execução do início ao fim, memorando de conflito incluído.

O memorando de conflito deixa um empregador exatamente tão em conformidade quanto estava no dia anterior. O que ele acrescenta é uma troca que é legível, datada e atribuível, de modo que dois anos a partir de agora, quando alguém perguntar quem decidiu manter o campo de código postal e o que sabia no momento da decisão, há um documento que responde em vez de um selo verde que precisa ser explicado.