Sua IA de compras deu nota mais baixa a um fornecedor melhor — e aqui está a matemática que fez isso

Passei uma longa noite no último trimestre encarando um único scorecard de sourcing, e isso quebrou uma suposição que eu carregava havia anos trabalhando com compras.

Era um evento rotineiro — fixadores industriais, cinco fornecedores, o tipo de categoria com a qual ninguém perde o sono. A IA da plataforma os havia classificado por entrega, qualidade, estabilidade financeira e preço. O Fornecedor A, um incumbente de doze anos com milhares de transações em seu histórico, ficou com 92. Uma empresa certificada de propriedade de minorias, com três anos de histórico, pontuou 71. À primeira vista, é um resultado limpo. O incumbente venceu por mérito. Vida que segue.

Só que eu não segui em frente. Analisei as subpontuações de entrega, linha por linha, e o que encontrei é a razão pela qual hoje ganho a vida construindo auditoria de equidade em IA de compras. O fornecedor menor tinha uma melhor taxa de entrega no prazo — 98,1% contra os 97,2% do incumbente. E, ainda assim, pontuou mais baixo em entrega.

O fornecedor que teve o melhor desempenho foi classificado pior. Não porque o modelo tivesse viés contra ele — mas porque a matemática tinha.

Essa distância, entre o que os dados diziam e o que a pontuação dizia, é a história toda. Deixe-me mostrar como isso acontece, por que nenhuma plataforma de compras no mercado vai resolver isso para você e o que de fato foi preciso para construir algo que resolvesse.

O viés não está no modelo. Está no histórico.

Aqui está a parte que demorei demais para aceitar: não havia nada de malicioso naquele algoritmo. Ninguém programou uma penalidade para fornecedores diversos. O viés era uma consequência estrutural de treinar com dados históricos de gastos — e, uma vez que você percebe isso, não dá para desver.

O desempenho de entrega representava 25% da pontuação do fornecedor, e a IA o calculava como taxa de entrega no prazo ponderada pelo número de transações. Os 97,2% do incumbente em 4.200 transações geraram uma pontuação de entrega ponderada por confiança de 24,1 de 25. Os 98,1% do fornecedor de propriedade de minorias em apenas 180 transações geraram 16,8. Mesma métrica. Melhor número bruto. Oito pontos perdidos — só pela ponderação por confiança.

Depois, o mesmo padrão se repetiu em todos os lugares. A pontuação de qualidade se apoiava na frequência de auditorias, e a frequência de auditorias se correlaciona com o volume de contratos. A pontuação de estabilidade financeira tratava o porte da receita como um indicador de tolerância a risco. Quando o modelo chegou à competitividade de preço, a distância já era matematicamente intransponível.

A exclusão se autorreforça, e é isso que a torna feia. Um fornecedor pontua mais baixo, então ganha menos contratos, então acumula menos transações, então sua pontuação de confiança fica ainda mais baixa no ciclo seguinte. O algoritmo está equiparando mais dados históricos a mais confiável — e qualquer fornecedor que nunca teve a chance de construir esse histórico paga por isso para sempre.

Uma IA treinada com o seu histórico de gastos não prevê o melhor fornecedor. Ela prevê o fornecedor que você já usou.

Por que a sua plataforma de compras não vai resolver isso para você?

Meu primeiro instinto foi o óbvio: certamente SAP, Coupa, GEP ou Ivalua já lidam com isso. Elas estão investindo uma enorme quantidade de engenharia em IA agêntica. O Bid Analysis Agent do Joule compara propostas de fornecedores e recomenda adjudicações. O Navi da Coupa executa descoberta de fornecedores em linguagem natural, e a empresa registrou algo como US$ 15 bilhões em economia para clientes em um único trimestre. A Ivalua oferece mais de trinta agentes de IA prontos para uso. A GEP tem IA agêntica em toda a sua suíte source-to-pay.

Então fui procurar as métricas de equidade. Os testes de impacto desproporcional. A metodologia publicada sobre como elas auditam seus próprios mecanismos de pontuação em busca de impacto adverso.

Não há nenhuma. Verifiquei as quatro principais plataformas. Nenhuma delas publica métricas de equidade da pontuação de fornecedores. A Coupa reconhece em posts de blog que os provedores de IA deveriam "demonstrar mitigação de viés" — mas não há processo de auditoria documentado por trás da frase. É um discurso de efeito, não um recurso.

E, honestamente, quando você entende a economia das plataformas, para de esperar isso. Esses fornecedores constroem uma pontuação de propósito geral otimizada para redução de custos e mitigação de risco em toda a sua base de clientes. Adicionar restrições de equidade ajustadas às suas metas de subcontratação, às suas categorias de fornecedores, à sua jurisdição regulatória significaria manter uma configuração de modelo diferente para cada cliente que eles têm. Isso não é um roadmap de produto. É um pesadelo de suporte.

Há um lado mais afiado nisso do que a mera conveniência. Os contratos são cada vez mais redigidos de modo que a responsabilidade recaia sobre você, não sobre o fornecedor — os tribunais federais vêm ampliando a responsabilização por IA, e os acordos das plataformas silenciosamente transferem o risco para o cliente. Então, quando um fornecedor preterido acabar perguntando por que a sua pontuação foi 71, é o seu nome que estará no achado de auditoria, não o da SAP. E fica pior à medida que os agentes se tornam mais autônomos: quando um bot dispara sozinho uma adjudicação ou um pagamento — ou alucina um acordo fantasma que nunca existiu —, o contrato já garantiu que a responsabilidade é sua, não do fornecedor de IA. A plataforma lhe dá velocidade. A camada de equidade — e a responsabilidade que vem com ela — sempre esteve destinada a ser sua.

A solução que eu tinha certeza que funcionaria — e não funcionou

Vou lhe contar sobre a versão que fiz errado, porque é a versão que a maioria das equipes tenta primeiro.

Se o modelo subpontua fornecedores menores e diversos, a correção intuitiva é colocar o dedo na balança para o outro lado. Adicionar um ajuste de diversidade. Dar alguns pontos a mais aos fornecedores certificados para compensar a penalidade de confiança. Esboçamos exatamente isso. Parecia justo. Parecia corretivo.

Era uma armadilha, e o que a expôs não foi um problema de engenharia — foi um problema jurídico.

Enquanto construíamos o reforço, eu também estava lendo o ambiente regulatório em que os nossos clientes contratados federais de fato vivem, e ele tinha acabado de virar um campo minado. De um lado, a Parte 19 da FAR exige que os contratados atinjam metas percentuais separadas para subcontratados de pequeno porte, de propriedade de veteranos, de propriedade de veteranos com deficiência ligada ao serviço, de HUBZone e de propriedade de mulheres — e a fiscalização havia sido recentemente endurecida. Do outro lado, a Ordem Executiva 14319, assinada em julho de 2025, proíbe a compra federal de IA que carregue "vieses ideológicos ou agendas sociais", nomeando explicitamente DEI.

Pare um instante nisso. Um contratado federal agora é legalmente obrigado a promover fornecedores diversos sob uma regra, e legalmente proibido de embutir uma agenda social na IA de compras sob outra. Nosso reforço de diversidade — um dedo codificado na balança favorecendo uma categoria protegida — era exatamente o tipo de coisa que a EO 14319 foi escrita para eliminar. Teríamos entregue um passivo de conformidade disfarçado de solução. Não teria sobrevivido à primeira auditoria.

No momento em que você corrige um viés adicionando um viés diferente, você construiu algo que não consegue defender numa sala de audiência.

Esse fracasso foi o que reformulou todo o problema para mim. O objetivo nunca foi fazer a IA favorecer alguém. O objetivo era fazê-la comprovadamente não favorecer ninguém — e produzir a prova.

A regra de contratação que abriu tudo

O ponto de virada veio de uma regra de discriminação no emprego que, até onde consigo perceber, quase ninguém em compras estava aplicando.

A regra dos quatro quintos da EEOC — 29 CFR 1607.4 — diz que a taxa de seleção de qualquer grupo deve ser de pelo menos 80% da taxa do grupo mais selecionado. Ela foi escrita para discriminação na contratação. Mas a seleção de fornecedores é estruturalmente idêntica à seleção de candidatos: você tem categorias, taxas de avanço e um limiar. O mesmo teste estatístico se encaixa direto.

Então rodamos o teste contra a saída real de pontuação. Se uma IA promove 60% dos fornecedores não diversos além do limiar de pontuação, a regra dos quatro quintos diz que ela deve promover pelo menos 48% dos fornecedores certificados de propriedade de minorias e de mulheres. Na pontuação ponderada por volume, a taxa real que continuávamos vendo era mais próxima de 22%. Isso é uma razão de disparidade de 0,37 — menos da metade do piso legal.

Esse número não é um sinal fraco. Uma razão de disparidade de 0,37 é evidência prima facie de impacto adverso — o mesmo padrão que um tribunal aplicaria a uma reclamação de discriminação na contratação. É o tipo de achado que se transforma em perdas de contrato e apontamentos de auditoria, não num memorando com palavras duras.

E é por isso que importava mais do que qualquer reforço de equidade jamais poderia: o teste dos quatro quintos não favorece ninguém. Ele apenas mede. Ele nos deu uma forma de satisfazer os dois senhores ao mesmo tempo — de mostrar a um auditor da Parte 19 da FAR que os fornecedores diversos estavam recebendo uma chance justa, e de mostrar a um revisor da EO 14319 que não tínhamos acrescentado nenhum dedo ideológico na balança. Só matemática, aplicada simetricamente, com um número no final.

E isso não é apenas um problema federal. A maioria dos estados já embute a pontuação de diversidade em suas avaliações de compras — só Illinois direciona até 20% dos pontos técnicos de um RFP para a diversidade de fornecedores — de modo que a mesma razão de disparidade que afunda uma auditoria federal silenciosamente drena de um contratado estadual pontos que ele foi explicitamente instruído a capturar. O teste dos quatro quintos viaja para todo lugar aonde a pontuação vai.

Como você prova que uma IA de compras é justa?

Então paramos de tentar consertar o modelo de qualquer um e construímos uma camada de auditoria que fica por cima dele. Esse é o cerne do que agora está em veriprajna.com/solutions/procurement-ai-fairness: um auditor de equidade agnóstico em relação à plataforma que se conecta ao SAP Ariba, Coupa, GEP ou Ivalua, lê a saída de pontuação de fornecedores que a plataforma já produz e a testa quanto a impacto desproporcional.

Ser agnóstico em relação à plataforma foi uma escolha deliberada, não uma conveniência. Não tocamos no modelo da plataforma — não precisamos, e, francamente, não queremos o passivo de retreinar o mecanismo de pontuação de outra pessoa. Tratamos a saída da IA como o objeto em exame: extraímos as taxas de seleção por categoria de fornecedor, calculamos as razões de disparidade dos quatro quintos, decompomos onde na pilha de pontuação a distância se origina (quase sempre na ponderação por confiança, quase nunca no preço) e entregamos ao responsável por compras algo que ele possa levar para dentro de uma sala.

Essa última parte é o entregável que importa. Não um painel que diz "parece tudo bem". Uma prova matemática de que a IA trata cada categoria de fornecedor de forma equitativa — ou um achado específico e documentado de que não trata, com a razão de disparidade e o fator de pontuação problemático nomeados. Algo que um CPO possa colocar diante da liderança, que um responsável por conformidade possa arquivar e que um auditor não consiga ignorar.

"Isso não é só um programa de DEI com uma calculadora?"

Essa é a objeção que mais recebo, geralmente de alguém que se queimou com o chicote regulatório e desconfia de qualquer coisa que cheire a agenda social. É uma pergunta justa, e a resposta é não — e a distinção é o ponto inteiro.

Um programa de DEI decide de antemão que um resultado é desejável e conduz em direção a ele. Uma auditoria de impacto desproporcional não decide nada. Ela mede se as taxas de seleção superam um limiar estatístico há muito estabelecido que os tribunais aplicam a reclamações de discriminação. Se a sua IA passa no teste dos quatro quintos, a auditoria diz isso e você tem sua prova de neutralidade. Se ela falha, a auditoria lhe diz qual fator de pontuação a causou — e a correção quase sempre é tornar a matemática mais precisa, não menos, porque ponderar por confiança uma taxa de entrega de 98,1% até um 16,8 não é justo nem correto.

As pessoas também me perguntam por que isso é urgente agora, quando a IA de compras ainda parece incipiente. E é incipiente — é exatamente essa a janela. Em toda a indústria, 49% das equipes de compras estão rodando pilotos de IA, mas apenas 4% chegaram a uma implantação significativa. O gargalo não é a tecnologia. É a confiança. A liderança não vai dar sinal verde a uma pontuação autônoma de fornecedores que não consiga justificar a um stakeholder ou a um regulador. A prova de equidade não é um item opcional aparafusado depois da implantação. Para muitas organizações, é justamente o que desbloqueia a implantação.

A terceira pergunta é sempre sobre as ferramentas de descoberta de diversidade — a Supplier.io, com seu banco de dados de 20 milhões de fornecedores, a Tealbook, a Fairmarkit. Elas já não resolvem isso? Não. Elas ajudam você a encontrar fornecedores diversos. Nenhuma delas audita se o seu algoritmo de pontuação dá a esses fornecedores uma chance justa depois que entram no funil. Encontrar um fornecedor qualificado de propriedade de minorias e depois deixar a ponderação por confiança enterrá-lo em 71 não é progresso. É um caminho mais eficiente para a mesma exclusão.

O muro que ninguém pretendeu construir

Eu fico voltando àquele scorecard de fixadores. Cinco fornecedores, um evento rotineiro e um trecho de matemática que silenciosamente decidiu que um fornecedor de melhor desempenho merecia perder — não porque alguém quisesse isso, mas porque o algoritmo confundiu familiar com bom.

Essa é a questão com o viés na IA de compras. Ele não chega como preconceito. Chega como um intervalo de confiança, um número de transações, uma ponderação de 25% de aparência perfeitamente razoável. Cada passo é defensável. O muro que ele constrói não é.

Você não consegue argumentar para sair disso com boas intenções, e não consegue consertá-lo inclinando a balança para o outro lado — eu tentei, e a lei estava certa em proibir. Você só pode fazer uma coisa: medi-lo, prová-lo e tornar a prova algo que você entregaria a um auditor sem hesitar. Essa postura de medição, não correção, é a totalidade do que construímos na Veriprajna. Sua IA de compras é rápida. A única pergunta que vai importar, na primeira vez que um fornecedor preterido perguntar por quê, é se você consegue provar que ela foi justa. Se você conseguir mostrar a razão de disparidade e a auditoria que a produziu, você tem uma resposta. Se não conseguir, você não tem um problema de equidade — você tem um problema de discovery à espera de uma intimação.