Onze palavras em um relatório anual agora podem ser fraude de valores mobiliários

A primeira vez que realmente entendi o AI washing, eu estava encarando um único parágrafo no relatório anual de uma empresa. Onze palavras, algo como "nossa plataforma orientada por IA analisa risco em tempo real." Uma frase limpa e confiante. O tipo de linha que uma equipe de marketing escreve em cinco minutos e um CEO aprova sem pestanejar.

Então perguntei aos engenheiros qual modelo produzia aquela análise, com quais dados ele rodava e onde no fluxo de decisão ele de fato era acionado. A sala ficou em silêncio. Não porque estivessem escondendo algo. Mas porque ninguém jamais tinha conectado aquela frase a um sistema. A afirmação vivia no documento regulatório. O sistema vivia em produção. E não havia nada no meio — nenhum documento, nenhum mapa, nenhuma evidência — ligando os dois.

Essa lacuna é a história inteira. AI washing não é uma história sobre IA ruim. É uma história sobre a distância entre o que você disse que sua IA faz e o que sua IA realmente faz — e se você consegue fechar essa distância sob demanda. A SEC, a FTC e os procuradores-gerais estaduais todos perceberam que é nessa lacuna que estão os casos. Construí a prática de verificação de IA e combate ao AI washing da Veriprajna porque eu não parava de ver empresas descobrindo a lacuna somente depois que a carta do examinador chegava.

O dia em que "a sua IA funciona" deixou de ser a pergunta

Cheguei a isso vindo do trabalho de fiscalização de valores mobiliários, o lado sem glamour — montar as pastas que as empresas entregam a um examinador quando a carta de solicitação de documentos aparece. Então li cada ação de AI washing do jeito que leio um caso antigo de fraude: o que disseram, o que fizeram e qual era a luz do dia entre os dois.

O padrão é brutalmente consistente. A Delphia e a Global Predictions, os dois primeiros acordos de AI washing lá em março de 2024, pagaram um total combinado de US$ 400.000 não porque sua IA era ruim, mas porque a Delphia alegou ter investimentos movidos por machine learning que ela nunca havia de fato integrado. Os dados que ela se gabava de alimentar o modelo? Nunca chegaram ao modelo.

Depois a Presto Automation, janeiro de 2025 — o primeiro caso de AI washing contra uma empresa de capital aberto. A IA de voz de drive-thru da Presto era comercializada como eliminadora da anotação humana de pedidos. A SEC constatou que mais de 70% dos pedidos ainda exigiam um humano, e em alguns locais era 100%. O sistema era real. Só não estava fazendo a coisa que o marketing dizia que ele fazia.

E então a Nate. Em abril de 2025, a SEC e o DOJ ajuizaram ações paralelas contra o fundador da Nate Inc., que havia captado mais de US$ 42 milhões com a promessa de um app de compras movido por IA. A taxa real de automação era, nas palavras da SEC, essencialmente zero — centenas de terceirizados nas Filipinas completavam manualmente as compras que a IA deveria realizar. As acusações do DOJ preveem até 20 anos. Esse é o caso em que penso quando alguém me diz que AI washing é uma nota de rodapé de divulgação de marketing. Havia um comunicado de imprensa com o nome de um fundador nele e uma acusação criminal de fraude por baixo.

Cada um desses casos gira em torno da mesma luz do dia: o que o documento regulatório prometeu e o que o sistema em produção realmente fez.

Em fevereiro de 2025, a SEC tornou isso estrutural: criou uma Unidade de Cibersegurança e Tecnologias Emergentes dedicada dentro da Divisão de Fiscalização. E suas prioridades de exame para 2026 dizem isso claramente — os examinadores irão "revisar quanto à exatidão as representações dos registrantes sobre suas capacidades de IA." Essa frase é uma carta de solicitação de documentos esperando para ser enviada.

Três agências, um só movimento

O que me surpreendeu, uma vez que comecei a mapear isso, foi o quão pouco a teoria de fiscalização varia entre as agências. Todas executam a mesma jogada: alinhar a alegação contra a realidade e então pedir a evidência.

A FTC chegou a isso pela Seção 5 do FTC Act — práticas desleais ou enganosas — sob uma varredura que ela nomeou de Operation AI Comply, lançada em setembro de 2024. A DoNotPay, o autointitulado "primeiro advogado robô do mundo," firmou acordo por alegações que não conseguia sustentar. A Workado anunciava uma ferramenta de detecção de IA como 98% precisa; os próprios testes da FTC colocaram a precisão no mundo real em torno de 53%. Basicamente um cara ou coroa, vendido como quase certeza. O detalhe que deveria assustar qualquer diretor jurídico é a teoria de instrumentalidade da FTC: a responsabilidade desce pela cadeia, do desenvolvedor do modelo-base à empresa que o implanta até o usuário final. Se você repete o número de precisão de um fornecedor em seus próprios materiais, a FTC trata isso como a sua alegação — não a do fornecedor.

Não consigo enfatizar isso o suficiente, porque é a armadilha em que vejo empresas inteligentes caírem. Você licencia um modelo de terceiros, copia o benchmark do fornecedor para o seu 10-K ou para o seu deck de investidores e presume que o fornecedor é dono daquele número. Ele não é. No momento em que aparece no seu documento regulatório, é a sua representação, e "nosso fornecedor nos disse" não é comprovação independente.

Os estados vieram com suas próprias ferramentas. A lei de companheiros de IA de Nova York prevê penalidades de até US$ 15.000 por dia por violação. O AI Act do Colorado, em vigor a partir de 30 de junho de 2026, exige avaliações de impacto, notificação ao consumidor e cuidado razoável para sistemas de alto risco, a US$ 20.000 por violação. O Responsible AI Governance Act do Texas, vigente desde 1º de janeiro de 2026, entrega ao procurador-geral amplo poder de demanda de investigação civil a partir de uma única reclamação — uma carta de consumidor e a solicitação de documentos está na sua mesa. E quando o governo federal cogitou anular as leis estaduais de IA, uma coalizão bipartidária de 36 procuradores-gerais estaduais se alinhou contra isso. Seja lá o que os tribunais decidam ao final, os fiscalizadores não estão esperando.

Até a advocacia privada entrou. O Stanford Securities Class Action Clearinghouse contabilizou 53 ações coletivas de valores mobiliários relacionadas a IA ao longo do primeiro semestre de 2025, com um acordo mediano de US$ 11,5 milhões. Uma delas, Tucker v. Apple, ajuizada em junho de 2025, alega que as promessas da Apple na WWDC sobre a Apple Intelligence levaram investidores a comprar com base em recursos que a ação diz não terem tido protótipo funcional. Um slide de keynote virou a Prova A.

Por que "nós temos uma política de governança de IA" não te salva?

Aqui está a parte em que eu estava errado no início, e isso me custou alguns meses construindo a coisa errada.

Quando comecei a projetar para isso, presumi que a resposta era governança — a categoria que plataformas como Credo AI, watsonx.governance da IBM, Holistic AI, OneTrust e Fiddler já atendem bem. Construímos rumo a uma postura de governança: políticas, um inventário de IA, dashboards, fluxos de trabalho de supervisão. Fiz uma demonstração de uma versão inicial para uma responsável de compliance em uma empresa de médio porte e me senti bem com isso. Ela me deixou terminar e então fez a única pergunta que importava: quando um examinador exigisse a evidência de que uma alegação específica era verdadeira, qual botão ela deveria apertar?

Não havia um botão. Não havia um documento. O que eu tinha construído dizia a ela que ela deveria documentar seus sistemas. Ele não continha a documentação. Eu tinha construído uma coisa que apontava para a lacuna em vez de preenchê-la. Esse foi o fracasso que reformulou a empresa inteira para mim.

Governança te diz que você deveria documentar sua IA. Comprovação é a documentação — testada, datada e pronta para um examinador que a está lendo do zero.

As plataformas de governança são boas no que fazem. Elas monitoram, inventariam, aplicam políticas. Mas há uma camada por baixo delas que quase ninguém constrói: a cadeia real de evidências que um examinador da SEC ou um procurador-geral estadual pede para ver. Essa é a lacuna em torno da qual reconstruí a prática.

O que um examinador de fato pede que você apresente?

Quando me sentei para definir o que iríamos entregar, não parti de uma especificação de produto. Parti da lista de "por favor, apresente" — a solicitação literal de documentos que uma carta de fiscalização contém — e trabalhei de trás para frente. Um pacote de comprovação defensável, a coisa que agora construímos, tem algumas partes de sustentação.

Começa com um mapa de alegação para sistema: cada alegação pública de IA — do 10-K, do site, dos comunicados de imprensa, do pitch deck — vinculada ao modelo específico, ao pipeline de dados e ao ponto de decisão que a entrega. Quando um documento regulatório diz "análise de risco orientada por IA," o mapa nomeia qual modelo, quais dados, qual decisão. Este é o artefato que teria salvado a Delphia, porque força a pergunta "esta alegação está de fato conectada a um sistema?" antes que um regulador a faça.

Depois, uma pasta de evidências técnicas — arquitetura, metodologia de treinamento e benchmarks de desempenho medidos contra a métrica exata que você alegou. Testados, não teóricos. Se seus materiais dizem um número, a pasta mostra o teste que o produziu sob uma metodologia de mundo real, não uma demonstração escolhida a dedo. A Workado é o conto de advertência: 98% no folheto, 53% sob teste.

Depois, a validação operacional, que é onde a Presto morreu. O sistema existia. O que faltava era a prova de que a IA de fato conduzia as decisões que o marketing descrevia, em vez de rodar ao lado de humanos que faziam o trabalho de verdade. Provar a realidade operacional é mais difícil do que provar que um modelo existe, e é exatamente o que os examinadores agora investigam.

Por baixo de tudo isso está um AIBOM — um AI Bill of Materials, um inventário legível por máquina de cada componente: linhagem dos dados de treinamento, versões do modelo, dependências de terceiros, infraestrutura. Os padrões finalmente existem para fazer isso corretamente; o SPDX 3.0 adicionou um perfil de IA em outubro de 2024 e o CycloneDX 1.6 suporta bills of materials de machine learning, com o projeto OWASP AIBOM empurrando as ferramentas adiante. A verdade honesta é que a maioria das empresas hoje ainda rastreia isso em uma planilha que fica desatualizada no momento em que um modelo é retreinado. Já abri model cards carregando um número de versão duas rodadas de retreinamento desatualizado — documentação descrevendo um sistema que não existe mais. Um AIBOM que se atualiza junto com o pipeline é a diferença entre um instantâneo e um registro vivo.

E, por fim, evidência de monitoramento contínuo — resultados de detecção de deriva, logs de testes automatizados, a prova contínua de que a alegação permaneceu verdadeira após o lançamento. Um pacote de comprovação não é uma pasta única que você arquiva e esquece. É um registro que continua respirando, porque seu modelo continua mudando e seu documento regulatório não.

A conta de alucinação que ninguém está colocando no balanço

Há uma segunda frente nisso, e é a que me puxou para além dos documentos regulatórios de valores mobiliários, para dentro do próprio conteúdo.

Uma alegação não é só algo que você diz sobre sua IA em uma divulgação. É também cada saída que sua IA gera e à qual você associa seu nome — o relatório, a análise, o resumo voltado ao cliente. E essas saídas alucinam. O RegLab de Stanford descobriu que grandes modelos de linguagem alucinam em consultas jurídicas específicas em algum ponto entre 69% e 88% das vezes. Já há mais de 600 casos documentados de alucinações de IA surgindo em petições judiciais, com mais de 100 advogados implicados e juízes impondo sanções acima de US$ 10.000.

O custo empresarial é impressionante e estranhamente invisível. Uma análise colocou as perdas globais com alucinações de IA em US$ 67,4 bilhões em 2024, com empresas gastando cerca de US$ 14.200 por funcionário por ano só em mitigação — as horas que as pessoas queimam verificando os fatos de suas próprias ferramentas. Quando quase metade dos usuários corporativos de IA já tomou uma decisão importante com base em conteúdo alucinado, "a IA gerou isso" não é uma defesa. É a confissão.

É por isso que a verificação de conteúdo pertence à mesma prática que a comprovação de alegações: ambas dizem respeito à proveniência. O Artigo 50 do EU AI Act, em vigor a partir de agosto de 2026, exige que o conteúdo gerado por IA seja legível por máquina e detectável como tal, com um código de prática de rotulagem de conteúdo chegando junto. O padrão de proveniência C2PA — aquele com que os celulares carro-chefe da Samsung e do Google já assinam nativamente — está se tornando o encanamento para provar de onde uma peça de conteúdo veio. Se sua IA produziu um relatório e depois se descobre que ele contém uma fabricação, a única coisa entre você e a responsabilização é uma trilha de auditoria de volta à fonte. A maioria das empresas não tem uma.

A proveniência corta para o outro lado também. Sessenta e cinco por cento das empresas relataram um incidente de deepfake em 2023, e o mercado de detecção está disparando de US$ 5,5 bilhões rumo a projetados US$ 15,7 bilhões até 2026. Provar que seu próprio conteúdo é real está se tornando tão urgente quanto provar que o de outra pessoa é falso — e a mesma assinatura C2PA que autentica a saída da sua IA é a que permite renegar uma falsificação vestindo a sua marca.

As perguntas que recebo, e as que eu gostaria de receber

As pessoas sempre me perguntam se a certificação ISO 42001 dá conta de tudo isso. Ela ajuda — é um padrão real e auditável, e a certificação de terceiros tem peso junto a conselhos e áreas de compras. Mas custa de US$ 90.000 a mais de US$ 200.000 no primeiro ano e leva boa parte de um ano para ser implantada, e ela certifica que você tem um sistema de gestão, não que qualquer alegação de marketing específica seja verdadeira. Certificação e comprovação são trabalhos diferentes. Você pode estar certificado e ainda assim incapaz de responder à pergunta do examinador sobre uma frase no seu 10-K.

A outra pergunta, geralmente de fundadores, é se isso é só um problema de empresa grande. A Nate captou US$ 42 milhões e o fundador está enfrentando acusações criminais. A Delphia não era um nome conhecido. O procurador-geral do Texas pode abrir uma investigação a partir de uma única reclamação. O tamanho do risco de fiscalização acompanha o tamanho da alegação que você fez, não o tamanho da sua empresa.

A pergunta não é mais se a sua IA funciona. É se você consegue provar que ela faz o que seus documentos regulatórios dizem que ela faz.

Se eu pudesse plantar uma ideia em cada diretor jurídico e diretor de compliance que lê isto, é que a lacuna entre o marketing e a realidade da engenharia é agora uma responsabilidade legal com uma cifra em dólares atrelada a ela — e a única coisa que a fecha é a evidência que você construiu antes de alguém pedir. Essa é a premissa inteira do que construímos na Veriprajna: não mais um dashboard que te diz para documentar sua IA, mas o próprio pacote de comprovação — o mapa de alegação para sistema, a pasta de evidências, o AIBOM, a trilha de proveniência — montado e testado antes de a carta de solicitação de documentos chegar.

Eu não paro de voltar àquele relatório anual. Onze palavras, arquivadas e esquecidas, sem nada por trás delas — nenhum mapa, nenhuma pasta, nenhum log conectando a frase a um sistema. O modelo por baixo dela provavelmente funcionava bem; a maioria funciona. O que faltava era a única coisa que um examinador da SEC, um investigador da FTC e um advogado de autor todos pedem na mesma frase seca: mostre-me. Escreva a alegação que você consegue provar, e construa a prova antes de alguém pedir.