A multa de US$ 400 mil que deveria aterrorizar toda empresa de IA — e o que estou construindo no lugar

Eu estava em uma ligação com um potencial cliente do setor bancário quando a SEC anunciou as ações de fiscalização contra a Delphia e a Global Predictions. 18 de março de 2024. A responsável pelo compliance do cliente literalmente interrompeu nossa conversa para ler o comunicado à imprensa em voz alta. Quando terminou, houve um longo silêncio. Então ela disse: "Ou seja, a SEC acabou de nos dizer que tudo o que nosso atual fornecedor de IA nos prometeu é um processo judicial esperando para acontecer."

Ela não estava errada. A SEC acabara de multar duas empresas de consultoria de investimentos em um total de US$ 400 mil por aquilo que os reguladores chamaram formalmente de AI washing — fazer alegações falsas e enganosas sobre o uso de inteligência artificial. Uma delas, a Delphia, vinha dizendo aos clientes desde 2019 que usava machine learning para analisar seus padrões de gastos e sua atividade em redes sociais para "prever quais empresas e tendências estão prestes a estourar". A realidade? Ela nunca havia de fato integrado nenhum desses dados ao seu processo de investimento. Nenhuma vez. Estavam divulgando uma capacidade que literalmente não existia.

Aquele telefonema mudou a trajetória da minha empresa. Não porque as ações de fiscalização me surpreenderam — eu vinha acompanhando havia meses essa colisão entre o hype da IA e a realidade regulatória. O que mudou foi a urgência. De repente, todo banco, todo sistema de saúde, todo escritório de advocacia com quem eu conversava não perguntava mais "como adotamos IA?". Perguntavam "como provamos que nossa IA realmente faz o que dizemos que ela faz?"

Essa pergunta — como projetar uma verdade comprovável dentro de um sistema de IA — é o que passei todo o tempo desde então tentando responder obsessivamente.

O que exatamente é AI washing, e por que você deveria se importar?

Pense no greenwashing, mas para algoritmos. Uma empresa estampa "powered by AI" em seu material de marketing, vê o preço da ação subir ou o funil de clientes encher, e ninguém pergunta se a tecnologia por baixo realmente funciona como anunciado. A SEC tomou o termo emprestado deliberadamente — a mecânica do engano é idêntica.

A Delphia alegava usar um "modelo algorítmico preditivo" alimentado por machine learning. A SEC a examinou, mandou que parasse de mentir em 2021, e ela continuou fazendo isso por mais dois anos. Isso lhe rendeu uma multa de US$ 225 mil e uma censura. A Global Predictions, por sua vez, autodenominava-se "o primeiro consultor financeiro de IA regulamentado" e prometia "previsões especializadas orientadas por IA". Quando os reguladores pediram a documentação técnica que sustentasse essas alegações, a empresa não conseguiu apresentá-la. Mais US$ 175 mil pelo ralo.

A SEC não precisou de nova legislação específica sobre IA para processar esses casos. Usou os mesmos dispositivos antifraude que existem há décadas. Se você mente sobre o que sua tecnologia faz, está cometendo fraude. A parte da "IA" é irrelevante.

Eis o que torna isso diferente de um puxão de orelha regulatório comum: o presidente da SEC, Gary Gensler, deixou claro que aquilo era o começo, não um caso isolado. E a SEC não está sozinha. A FTC lançou a "Operation AI Comply" e foi atrás da DoNotPay — a empresa que se vendia como "o primeiro advogado robô do mundo" — porque não conseguiu comprovar suas alegações de que sua IA poderia substituir um advogado humano. O Departamento de Justiça anunciou que passaria a avaliar a gestão de risco de IA como parte das avaliações de compliance corporativo e a buscar penas mais duras para crimes facilitados pelo uso indevido de IA.

Três agências federais, todas convergindo para a mesma mensagem: prove ou pague.

A noite em que percebi que a maior parte da IA corporativa está construída sobre areia

Lembro-me de uma noite específica — minha equipe e eu estávamos fazendo benchmark da "ferramenta de pesquisa jurídica com IA" de um concorrente que um cliente estava considerando. Fizemos a ela uma pergunta direta sobre uma decisão recente de um tribunal federal de apelação. A ferramenta devolveu uma resposta lindamente formatada, com três citações de casos. Tom confiante. Linguagem profissional. Um problema: uma das citações era completamente inventada. O caso não existia. Os outros dois existiam, mas diziam o oposto do que a ferramenta afirmava.

Meu cofundador olhou para mim e disse: "Essa coisa escreve como um advogado e raciocina como um papagaio."

Esse é o problema técnico central, e não é um bug — é a arquitetura. A maioria dos Large Language Models funciona por previsão do próximo token. Eles calculam a probabilidade de qual palavra deve vir a seguir, dado tudo o que veio antes. A matemática é elegante: uma função softmax sobre os scores de saída do modelo, selecionando a continuação mais provável. Mas "mais provável" e "verdadeiro" são coisas fundamentalmente diferentes. O modelo não tem nenhum conceito interno de verdade. Ele nunca leu uma lei e a compreendeu. Ele processou bilhões de tokens e aprendeu quais palavras tendem a aparecer perto de quais outras.

Para gerar textos de marketing ou resumir notas de reunião, isso é suficiente. Para dizer a um banco se uma transação está em conformidade com as regulamentações de prevenção à lavagem de dinheiro, ou para dizer a um médico se uma interação medicamentosa é perigosa, "estatisticamente plausível" é juridicamente idêntico a "errado".

Em ambientes regulados, "correto na maior parte das vezes" não é um nível de qualidade — é uma categoria de responsabilidade legal.

E, ainda assim, a esmagadora maioria das "soluções de IA" vendidas hoje para grandes empresas é o que o setor eufemisticamente chama de "wrappers". Pegam uma API pública da OpenAI ou da Anthropic, acrescentam um pouco de prompt engineering e uma interface bonita, e colocam no ar. O wrapper não tem como verificar o próprio raciocínio. Não consegue provar de onde vieram suas respostas. Ele simplesmente repassa o que quer que o modelo-base gere, alucinações e tudo.

Escrevi sobre esse problema em profundidade na versão interativa da nossa pesquisa — a distância entre o que esses sistemas afirmam e o que eles arquiteturalmente conseguem fazer é assombrosa.

Por que o RAG falha em decisões de alto risco?

Quando explico esse problema para plateias técnicas, alguém inevitavelmente diz: "Mas e o RAG?" Retrieval-Augmented Generation — a abordagem em que você dá ao modelo acesso a uma base de documentos para que ele possa consultar as informações em vez de inventá-las. É o curativo predileto do setor.

Eis o problema. O Vector RAG padrão funciona convertendo sua pergunta e seus documentos em representações matemáticas (vetores) e depois encontrando os documentos que estão "mais próximos" da sua pergunta nesse espaço abstrato. É uma busca por similaridade semântica. E, para muitas aplicações, funciona razoavelmente bem.

Mas "razoavelmente bem" desmorona em domínios nos quais as relações entre as informações importam tanto quanto a própria informação. Veja a pesquisa jurídica. Um caso judicial não apenas existe — ele cita outros casos, revoga alguns, confirma outros e opera dentro de uma hierarquia jurisdicional específica. Quando você pergunta a uma IA jurídica "este precedente ainda é lei vigente?", uma busca vetorial pode trazer o caso porque as palavras coincidem. Mas ela não tem como lhe dizer que o caso foi revogado por um tribunal superior seis meses depois. Ela não consegue distinguir entre uma citação e uma repudiação.

Minha equipe discutiu isso durante semanas. Um engenheiro queria continuar melhorando nossa recuperação vetorial — embeddings melhores, melhores estratégias de chunking, reranking mais sofisticado. Outra insistia que o problema não era a qualidade da recuperação, e sim a sua arquitetura. Que todo o paradigma de "encontrar o documento mais próximo" estava errado para domínios em que as relações entre os documentos é que carregam o significado.

Ela estava certa. E foi esse debate que nos empurrou na direção do GraphRAG.

O que acontece quando você constrói uma IA capaz de provar seu raciocínio?

O GraphRAG — especificamente o que chamamos de Citation-Enforced GraphRAG — substitui a busca semântica difusa por um grafo de conhecimento estruturado. Em vez de vetores flutuando em um espaço abstrato, você constrói um mapa explícito de como as informações se conectam. Em um grafo de conhecimento jurídico, uma decisão judicial é um nó. Sua relação com outras decisões é uma aresta — CITES, OVERRULES, AFFIRMS, INTERPRETS. As leis se conectam aos casos que as interpretam. As hierarquias jurisdicionais são codificadas diretamente.

Quando a IA gera uma resposta, ela não apenas encontra um texto "parecido". Ela percorre caminhos verificados no grafo. Se ela afirma que o Caso A sustenta a Proposição B, tem de existir um vínculo real e auditável no grafo conectando os dois. Usamos decodificação restrita por grafo para impedir fisicamente que o modelo produza uma citação que não consiga verificar. O modelo literalmente não consegue alucinar uma citação, porque a arquitetura não permite.

É a isso que me refiro quando falo em IA determinística. Não "provavelmente certa". Comprovadamente fundamentada.

A diferença entre Vector RAG e GraphRAG não é uma melhoria incremental — é a diferença entre adivinhar qual livro é relevante e realmente ler as notas de rodapé.

Combinamos isso com orquestração multiagente. Em vez de um único modelo fazendo tudo — pesquisa, verificação, redação — usamos agentes especializados. Um Agente de Pesquisa recupera a informação bruta. Um Agente de Verificação faz a checagem cruzada contra o grafo de conhecimento. Um Agente Redator produz o texto usando apenas fatos verificados. Esses agentes operam por meio do que chamamos de Cyclic Reflection Pattern, revisando iterativamente os rascunhos em busca de alucinações antes que qualquer humano veja o resultado.

É mais lento que um wrapper. Custa mais para construir. E é a única arquitetura em que eu confiaria para uma decisão que pode acabar diante de um regulador.

O problema de soberania de dados sobre o qual ninguém quer falar

Há outra dimensão nisso que a conversa sobre AI washing em geral ignora: onde os dados moram.

Um cliente da área de saúde certa vez me perguntou sem rodeios: "Se usarmos o seu sistema, para onde vão os dados dos nossos pacientes?" Quando eu disse que eles nunca saem da infraestrutura deles, ficaram aliviados. Então me contaram que o fornecedor anterior — uma conhecida empresa de IA — não conseguia responder a essa pergunta com clareza. Os dados iam para a nuvem do fornecedor, eram processados em infraestrutura compartilhada, e os termos de serviço do fornecedor tecnicamente permitiam usá-los para melhorar seus modelos.

Para uma empresa que lida com dados regidos pela HIPAA, pelo GDPR ou pela CCPA, isso não é uma zona cinzenta. É uma violação.

Fazemos o deploy em infraestrutura soberana — totalmente auto-hospedada nas instalações do cliente ou dentro da nuvem privada dele (VPC), onde as instâncias de IA ficam isoladas da internet pública. Exige mais investimento inicial. O cliente precisa de GPUs e de infraestrutura especializada. Mas ele ganha algo que nenhuma API pública consegue oferecer: zero vazamento de dados e auditabilidade completa. Cada consulta, cada resposta, cada versão de modelo — tudo dentro do framework de governança deles.

Para a arquitetura técnica completa de como construímos isso — incluindo o schema do grafo de conhecimento, o framework de orquestração multiagente e nossa abordagem de deploy soberano — veja nossa análise técnica aprofundada.

Como governar a IA de fato sem se afogar em compliance?

Já estive em salas de conselho onde executivos tratam a governança de IA como um exercício de marcar caixinhas. Escolha um framework, preencha os formulários, siga em frente. Essa abordagem vai lhe render uma multa.

Dois frameworks se consolidaram como os padrões do setor, e eles servem a propósitos diferentes. O NIST AI Risk Management Framework é um guia tático voluntário — ajuda a identificar riscos, medi-los e construir processos internos. É rápido de implementar e ótimo para desenvolver o que eu chamo de "musculatura de risco de IA" dentro da organização. Mas é autodeclarado. Ninguém verifica se você realmente fez o que disse ter feito.

ISO/IEC 42001 é a norma internacional certificável. Um auditor terceirizado examina o seu sistema de gestão de IA e o certifica ou não. Essa certificação importa quando um regulador, um cliente ou um comprador pergunta "prove que a sua governança de IA é real".

A jogada inteligente é encadear os dois: use o NIST para construir controles internos ágeis rapidamente e depois mapeie esses controles para os requisitos da ISO 42001 visando à certificação formal. Um lhe dá velocidade; o outro lhe dá prova.

E, por baixo de ambos os frameworks, existe um requisito emergente do qual a maioria das empresas sequer ouviu falar ainda: o AI Bill of Materials (AIBOM). Pense nele como um rótulo nutricional para o seu sistema de IA. É um registro legível por máquina de tudo o que entrou na sua construção — datasets de treinamento, modelos-base, bibliotecas de terceiros, dependências de infraestrutura. Quando um auditor pergunta "que dados treinaram este modelo?" ou "qual versão do PyTorch estava rodando quando esta decisão foi tomada?", o AIBOM responde na hora.

Geramos AIBOMs automaticamente como parte do nosso pipeline de deploy. Cada versão de modelo é rastreável até as versões exatas de código e de dataset. Não é um trabalho glamouroso. Mas é a diferença entre passar em uma auditoria e correr atrás para reconstruir uma documentação que deveria existir desde o primeiro dia.

O investidor que me disse para "simplesmente usar o GPT"

Preciso contar esta história porque ela captura exatamente a mentalidade que a fiscalização do AI washing foi feita para punir.

No começo da vida da Veriprajna, eu estava apresentando a empresa a um investidor. Expliquei nossa arquitetura — os grafos de conhecimento, a verificação multiagente, o modelo de deploy soberano. Ele ouviu educadamente e então disse: "Por que vocês não fazem simplesmente um wrapper em cima do GPT-4, cobram menos e escalam mais rápido? Ninguém vai auditar o backend."

Eu disse a ele que a SEC acabara de multar duas empresas exatamente por essa lógica. Ele deu de ombros.

Seis meses depois, uma das empresas do portfólio dele — uma fintech "com IA" — recebeu uma consulta regulatória sobre suas alegações de marketing. Eles não conseguiram apresentar documentação mostrando que a IA deles realmente fazia o que o pitch deck dizia que fazia. Pelo que soube, estavam correndo para contratar consultores de compliance a preços de emergência.

As pessoas sempre me perguntam se o ambiente de fiscalização vai afrouxar — se um novo governo ou uma mudança de prioridades pode tornar o AI washing menos arriscado. Minha resposta honesta: não importa. A SEC usou a legislação antifraude já existente. A FTC usou a Seção 5 do FTC Act, que está em vigor desde 1914. Procuradores-gerais estaduais têm seus próprios estatutos de proteção ao consumidor. Mesmo que as prioridades federais de fiscalização mudem, a infraestrutura jurídica para processar o engano com IA é permanente e formada por múltiplas camadas.

AI washing não é um modismo regulatório. É fraude vestida de jaleco, e todos os níveis de governo agora têm as ferramentas e o apetite para processá-la.

A pergunta mais importante é o que acontece com o mercado. Quando empresas prosperam com base em capacidades de IA fabricadas, elas distorcem a concorrência e corroem a confiança de que as empresas legítimas de IA precisam para operar. Cada wrapper vendido como "IA avançada" torna mais difícil para as empresas que fazem engenharia de verdade explicar por que suas soluções custam mais e levam mais tempo para construir.

Como é, de fato, um sistema de IA confiável?

Se você tirar os frameworks e as siglas, construir uma IA capaz de sobreviver ao escrutínio regulatório se resume a quatro coisas.

Projete determinismo. Vá além das saídas probabilísticas rumo a arquiteturas — sistemas neuro-simbólicos, grafos de conhecimento, decodificação restrita por grafo — capazes de provar seu raciocínio. Se a sua IA não consegue mostrar o seu trabalho, ela não está pronta para ambientes regulados.

Arquitete soberania. Faça o deploy dentro de uma infraestrutura que você controla. Se os dados sensíveis do seu cliente tocarem infraestrutura pública compartilhada, você criou um passivo de compliance que nenhuma quantidade de prompt engineering consegue consertar.

Padronize a governança. Adote frameworks certificáveis. Mantenha AI Bills of Materials. Faça da documentação um processo contínuo e automatizado, não uma correria anual.

Valide continuamente. Implemente red-teaming adversarial, acompanhe as taxas de alucinação e as taxas de fundamentação como KPIs e mantenha humanos no circuito para decisões de alto risco. O modelo que era preciso no momento do deploy vai sofrer drift. Monitore-o como você monitoraria um algoritmo de trading — porque as consequências de uma falha são comparáveis.

Os US$ 400 mil em multas da SEC foram um erro de arredondamento para o setor financeiro. A mensagem por trás dessas multas, não. Saímos da era em que era possível vender capacidades de IA que você não possuía, colocar caixas-pretas em fluxos de trabalho regulados e presumir que ninguém iria conferir. Todo sistema de IA corporativo agora opera sob um ônus da prova implícito: você consegue demonstrar que isso faz o que você afirma?

Construí a Veriprajna — o nome combina "Veri" (verdade) e "Prajna" (sabedoria) — porque acredito que a crise de credibilidade do setor de IA é, fundamentalmente, uma crise de arquitetura. Você não resolve um problema de verdade com um sistema que nunca foi projetado para se importar com a verdade. Você tem de projetá-la de dentro para fora, do grafo de conhecimento para cima, passando por cada agente, cada loop de verificação, cada decisão de deploy.

As empresas que entenderem isso vão construir IA que realmente funciona. As que não entenderem vão continuar embrulhando APIs, escrevendo pitch decks impressionantes e torcendo para que ninguém olhe debaixo do capô. Os reguladores estão olhando agora. E não vão parar.