Governo e Setor Público
Sistemas de IA para os governos federal, estadual e municipal que resistem ao escrutínio da APA, às demandas da FOIA e a contestações do devido processo legal constitucional.
Quando uma agência federal implementa IA para a concessão de benefícios, ela exerce autoridade soberana — e cada resultado está sujeito à exigência de tomada de decisão fundamentada da Lei de Procedimento Administrativo (APA), à Cláusula do Devido Processo Legal e ao estatuto que rege esse programa. O padrão de decisão arbitrária e caprichosa da APA exige que a agência explique não apenas o que decidiu, mas por que, de modo que um sistema de IA cujas conclusões não possam ser examinadas de forma significativa falha no teste jurídico fundamental para a ação governamental.
A IA governamental opera sob restrições que implementações comerciais não enfrentam
Como afirmam especialistas no Yale Journal on Regulation: as agências conseguem demonstrar o que a ferramenta produziu, mas não por que esses resultados refletem o julgamento fundamentado exigido pela APA. É nessa lacuna que reside a exposição jurídica.
Os números de adoção mostram a rapidez com que a IA governamental avança e o quanto a governança não tem acompanhado esse ritmo. O GAO relatou em julho de 2025 que os casos de uso federais de IA quase dobraram de 571 em 2023 para 1,110 em 2024, com os casos de uso de IA generativa crescendo nove vezes, de 32 para 282. No mesmo período, a força de trabalho federal encolheu 12% entre setembro de 2024 e janeiro de 2026, caindo de 2,313,216 para 2,035,344 funcionários civis.
As agências estão implementando mais IA com menos pessoas para supervisioná-la. A auditoria de abril de 2026 do GAO sobre aquisições de IA no DoD, DHS, GSA e VA constatou que nenhuma delas possuía políticas exigindo que os gestores coletassem lições aprendidas com compras de IA. Enquanto isso, o Departamento de Defesa solicitou $13.4 billion para IA e autonomia apenas no ano fiscal de 2026 (FY2026).
A exposição constitucional é documentada, não hipotética
Três implementações mostram o que acontece quando a IA governamental opera sem validação, embasamento ou monitoramento de equidade — cada uma já litigada, auditada ou desativada.
MiDAS de Michigan: 40,000 falsas acusações de fraude
O sistema de seguro-desemprego MiDAS de Michigan acusou falsamente 40,000 moradores de fraude em benefícios entre 2013 e 2015. O Auditor-Geral de Michigan revisou 22,000 determinações do MiDAS e constatou que 93% não envolviam fraude de fato. As vítimas enfrentaram penhoras de salários; algumas perderam suas casas; outras faliram. O estado celebrou um acordo no processo coletivo Bauserman v. UIA pelo valor de $20 million em janeiro de 2024, indenizando cerca de 3,000 autores. O sistema foi construído pela contratada Fast Enterprises por $47 million — o custo da falha superou o custo de construí-lo corretamente.
Chatbot MyCity de Nova York: orientações ilegais aos cidadãos
O chatbot MyCity de Nova York disse a empresários que eles poderiam reter as gorjetas dos trabalhadores, violando a Seção 196-d da Lei Trabalhista de Nova York. Ele disse a proprietários de imóveis que poderiam recusar inquilinos com comprovantes de subsídio habitacional — ilegal na cidade de Nova York desde 2008 — e afirmou que não havia regulamentações exigindo a aceitação de dinheiro em espécie, contradizendo uma lei municipal de 2020. O prefeito Mamdani desativou o sistema.
O projeto de lei do Senado de Nova York S7263, que chegou à pauta do plenário do Senado em fevereiro de 2026, criaria o direito de ação individual por danos causados por orientações profissionais de chatbots. Quando um sistema governamental fornece orientação jurídica errônea a um cidadão — o modo de falha que nossa pesquisa sobre cumprimento de citações legais para IA governamental aborda —, isso não é um problema de experiência do usuário: é uma potencial violação de direitos civis.
Policiamento preditivo: um ciclo vicioso de viés que se autorreforça
O inspetor-geral do LAPD constatou que metade dos indivíduos sinalizados pelo programa preditivo do departamento tinha poucos ou nenhum vínculo com os crimes priorizados. Chicago suspendeu seu programa de policiamento preditivo após uma auditoria externa constatar que ele não tinha impacto preventivo e, em vez disso, resultava em perfilamento discriminatório pela polícia. Ambos os departamentos treinaram algoritmos em dados contaminados por décadas de policiamento discriminatório: prisões enviesadas geram dados de treinamento tendenciosos que produzem previsões enviesadas, as quais impulsionam mais prisões discriminatórias — a lacuna de integridade algorítmica que nossa pesquisa sobre arquiteturas confiáveis de IA mapeia.
O panorama regulatório muda trimestralmente
A política federal de IA mudou três vezes em quatorze meses. As diretrizes OMB M-25-21 e M-25-22 substituíram a M-24-10 e a M-24-18 da era Biden em abril de 2025, mudando o foco da mitigação de riscos para a adoção acelerada. A ordem executiva do presidente Trump de dezembro de 2025 estabeleceu a precedência federal sobre as leis estaduais de IA e criou uma Força-Tarefa de Litígios de IA para contestar regulamentações estaduais com base em fundamentos constitucionais.
Os estados moveram-se na direção oposta. Os legisladores apresentaram mais de 1,000 projetos de lei sobre IA em 2025. A Lei de IA do Colorado, que exige avaliações de impacto algorítmico para decisões de alto risco, foi adiada para 30 de junho de 2026. A Lei de Transparência em IA de Fronteira da Califórnia entrou em vigor em 1º de janeiro de 2026. A NASCIO relatou que a IA se tornou a prioridade número um dos CIOs estaduais para 2026, superando a cibersegurança pela primeira vez nos 20 anos de história da pesquisa.
O resultado é uma colcha de retalhos de conformidade sem um padrão uniforme. Uma agência estadual operando em várias jurisdições precisa de uma matriz, não de uma política única. Uma agência federal precisa acompanhar as diretrizes do OMB, os requisitos do NIST AI RMF 600-1 para IA generativa, o status de autorização no FedRAMP de seus fornecedores de IA e o inventário de casos de uso de seu próprio Chief AI Officer. Uma agência que implementou IA em janeiro de 2025 sob as diretrizes de segurança da M-24-10 viu essas proteções serem substituídas já em abril. A verdadeira questão não é "qual estrutura devemos seguir", mas "como construímos sistemas que permaneçam defensáveis à medida que os marcos normativos mudam sob eles".
O FedRAMP é o guardião, e ainda está se atualizando
A maioria dos fornecedores de IA carece de autorização do FedRAMP, e o processo tradicional leva 24 meses ou mais. A GSA lançou a iniciativa FedRAMP 20x em março de 2025 para reduzir esse prazo a semanas e, em agosto de 2025, começou a priorizar serviços de IA em nuvem. A Estratégia OneGov da GSA incluiu OpenAI, Anthropic e Google no cronograma Multiple Award Schedule a preços simbólicos — $1/year para ChatGPT e Claude, 47 cents para Gemini.
| Fornecedor / serviço | Status no FedRAMP |
|---|---|
| Serviços de IA da Microsoft | FedRAMP High confirmado para todos os serviços de IA (dezembro de 2025) |
| IBM watsonx | Autorização do FedRAMP recebida (abril de 2026) |
| Google Gemini | Único fornecedor autorizado pelo FedRAMP (por meio de sua oferta para estações de trabalho) na época dos acordos GSA OneGov |
| OpenAI (ChatGPT) / Anthropic (Claude) | Adicionados ao GSA Multiple Award Schedule, mas a Ask Sage contestou a ausência de autorização do FedRAMP para a infraestrutura de nuvem pública da OpenAI |
O acesso aos modelos não é mais o gargalo — a GSA resolveu isso, e as agências agora podem alcançar modelos de fronteira por menos de um dólar. O gargalo é o que fica entre o modelo e a decisão governamental: a camada de explicabilidade que satisfaz a APA, a trilha de auditoria que resiste às solicitações da FOIA, a arquitetura de validação que intercepta citações jurídicas alucinadas antes que cheguem ao cidadão, e o monitoramento de equidade que impede que um sistema de benefícios replique a taxa de 93% de falsos positivos de Michigan. Construir sobre esses modelos sistemas que resistam ao escrutínio constitucional é o verdadeiro trabalho.
Por que as consultorias e plataformas habituais deixam lacunas
A Booz Allen Hamilton gera anualmente mais de $600 million em projetos federais de IA e emprega 2,200 profissionais de IA. Os contratos federais da Palantir quase dobraram para $970.5 million em 2025, e seu Army Enterprise Agreement de 10 anos e $10 billion a posiciona como infraestrutura fundamental em vez de um fornecedor substituível. Deloitte, Accenture e SAIC mantêm grandes divisões governamentais, agregando escala, profissionais com credenciamento de segurança e veículos contratuais consolidados.
A lacuna é a independência arquitetural. Quando a Palantir se torna a espinha dorsal de integração de dados, a agência perde a capacidade de avaliar alternativas; quando um grande integrador de sistemas (SI) constrói sua estrutura de governança de IA, essa estrutura presume sua própria pilha de fornecedores preferenciais. O GAO constatou que nenhuma das principais agências auditadas estava coletando lições aprendidas com compras de IA, fazendo com que erros de contratação se acumulem ao longo dos ciclos de aquisição. O MIT constatou que 95% das organizações que investem em IA generativa obtiveram retorno zero — e as agências federais enfrentam o mesmo desafio com menos equipe técnica para diagnosticar o porquê.
Nossa abordagem: a camada entre o modelo e a obrigação constitucional
Nossa abordagem concentra-se na arquitetura de verificação, governança e explicabilidade que se posiciona entre qualquer plataforma ou modelo que a agência já utilize e as obrigações constitucionais, legais e regulatórias que diferenciam a IA governamental da IA comercial. Um projeto é estruturado para projetar e entregar:
- Verificação determinística de citações para chatbots governamentais e ofícios decisórios que referenciam leis e regulamentos — confira nossa demonstração funcional de um assistente de IA para governos.
- Trilhas de auditoria em conformidade com a APA projetadas para documentar não apenas o que a IA decidiu, mas o porquê, em termos que um responsável pelo FOIA possa apresentar e um juiz possa avaliar.
- Monitoramento de equidade algorítmica destinado a identificar padrões discriminatórios antes que se tornem passivos jurídicos sob a Seção 1983 (Section 1983).
- Implementação do NIST AI RMF que mapeia as diretrizes abstratas da estrutura para a arquitetura de sistemas real da agência.
A metodologia foi projetada para operar dentro dos limites existentes do FedRAMP, sobre o acesso a modelos do GSA OneGov e em conjunto com qualquer integrador de sistemas (SI) detentor do contrato principal. Ser neutro em relação a fornecedores significa que não competimos com as ferramentas que sua agência já possui — o objetivo é tornar essas ferramentas defensáveis.
Principais conclusões
- A IA governamental responde ao padrão de decisão arbitrária e caprichosa da APA, ao Devido Processo Legal e aos estatutos dos programas — um sistema cujo raciocínio não pode ser examinado falha no teste jurídico básico para a ação governamental.
- A exposição está documentada: MiDAS de Michigan (40,000 falsas acusações, 93% não eram fraude, acordo de $20M no caso Bauserman ), chatbot MyCity de Nova York (orientações ilegais, responsabilidade civil sob o S7263) e policiamento preditivo suspenso em LAPD/Chicago.
- O conjunto normativo muda a cada trimestre — OMB M-25-21/M-25-22, ordem de precedência federal de dezembro de 2025, mais de 1,000 projetos de lei estaduais, AI Act do Colorado para junho de 2026 e Frontier AI Act da Califórnia — exigindo sistemas defensáveis à medida que os marcos regulatórios mudam.
- O acesso ao FedRAMP está amplamente resolvido (20x, GSA OneGov, preços de modelos abaixo de um dólar); o trabalho não resolvido é a camada de explicabilidade, auditoria, validação e equidade sobre ele.
- Neutro em relação a fornecedores por concepção: nossa abordagem é construir a arquitetura de verificação e governança entre o seu modelo e suas obrigações legais, sem competir com seus fornecedores atuais.
Governo e Setor Público
AssistirResponsabilidade e Guardrails de IA Corporativa | Veriprajna
Em dezembro de 2023, um chatbot concordou em vender uma Chevy Tahoe de US$ 76.000 por US$ 1. Em janeiro de 2024, um chatbot de entregas escreveu um poema chamando a própria empresa de inútil. Em fevereiro de 2024, um chatbot de luto inventou um prazo de reembolso que não existia, e um tribunal responsabilizou a companhia aérea.
AssistirIA Governamental Que Cita a Lei, em Vez de Inventá-la | Veriprajna
O chatbot MyCity de Nova York disse a locadores que eles poderiam recusar vouchers da Section 8. Disse a empresas que elas poderiam ignorar a proibição de estabelecimentos sem dinheiro em espécie. Disse a empregadores que eles poderiam ficar com as gorjetas dos trabalhadores.
Perguntas Frequentes
Como tornar as decisões governamentais assistidas por IA defensáveis sob a Lei de Procedimento Administrativo (APA)?
O padrão de decisão arbitrária e caprichosa da APA exige que as agências expliquem não apenas o que decidiram, mas o porquê. Para decisões assistidas por IA, isso significa construir uma trilha de auditoria que rastreie cada resultado de volta aos dados de entrada, à lógica do modelo e à justificativa de política pública que o originou. Construímos camadas de explicabilidade que geram documentação de decisões em termos que um tribunal revisor possa avaliar, registrando a cadeia de raciocínio desde a entrada dos dados até a saída do modelo e o julgamento humano. O objetivo é um registro que atenda tanto à exigência de tomada de decisão fundamentada da APA quanto às obrigações de apresentação de documentos da FOIA, sem exigir que o revisor compreenda a arquitetura subjacente do modelo.
O que aconteceu com o sistema de seguro-desemprego MiDAS de Michigan e como evitar essa mesma falha?
O sistema MiDAS de Michigan acusou falsamente 40,000 residentes de fraude no seguro-desemprego entre 2013 e 2015. O Auditor-Geral de Michigan constatou que 93% das determinações sinalizadas não envolviam fraude de fato. As vítimas enfrentaram penhora de salários e perda de imóveis. O estado firmou um acordo de $20 million em janeiro de 2024. A falha central foi a autojudicação sem validação: o sistema sinalizava qualquer discrepância de dados como fraude e exigia que o requerente respondesse em até 10 dias, sob pena de sanções. A prevenção requer regras de validação determinísticas que sinalizem discrepâncias para revisão humana em vez de autojulgá-las, monitoramento contínuo de precisão contra resultados reais comprovados (ground-truth) e garantias constitucionais que assegurem notificação prévia e ampla defesa antes de qualquer medida adversa.
Um cidadão pode processar nossa agência com base na Seção 1983 por uma decisão algorítmica discriminatória?
Sim. A Seção 1983 (Section 1983) gera responsabilidade pessoal para autoridades estaduais que privem indivíduos de direitos constitucionais sob autoridade da lei. Decisões algorítmicas que produzem resultados desiguais em função de raça ou outras categorias protegidas são vulneráveis a contestações sob a cláusula de igual proteção perante a lei. Programas de policiamento preditivo em Chicago e Los Angeles foram suspensos após auditorias identificarem viés racial sem nenhum benefício preventivo. Sistemas de concessão de benefícios que replicam preconceitos históricos presentes nos dados de treinamento enfrentam a mesma exposição. A defesa reside na equidade demonstrável: avaliações de impacto algorítmico, monitoramento contínuo de viés, testes contrafactuais e documentação comprovando que o sistema foi projetado e validado para evitar resultados discriminatórios.
Como implementar IA quando a maioria dos fornecedores não possui autorização do FedRAMP?
A iniciativa FedRAMP 20x da GSA (março de 2025) está reduzindo os prazos de autorização de mais de 24 meses para semanas. A Estratégia OneGov da GSA adicionou OpenAI, Anthropic e Google ao Multiple Award Schedule em agosto de 2025. A Microsoft obteve a certificação FedRAMP High para todos os serviços de IA em dezembro de 2025. O IBM watsonx recebeu autorização em abril de 2026. O caminho prático consiste em estruturar seu sistema em torno de modelos com autorização do FedRAMP ou na trilha 20x, usar o GSA OneGov para acesso aos modelos e construir a camada de governança, validação e explicabilidade sobre eles. Ajudamos agências a elaborar pacotes de ATO (Autorização para Operar) para sistemas de IA que utilizam esses endpoints de modelos autorizados, atendendo ao mesmo tempo aos requisitos de limite do FISMA específicos de cada agência.
O chatbot de Nova York deu orientações ilegais aos cidadãos. Como evitar a responsabilidade jurídica por chatbots governamentais?
O chatbot MyCity de Nova York informou aos empregadores que poderiam ficar com as gorjetas dos funcionários (violando a Lei Trabalhista de NY 196-d), disse a proprietários que poderiam recusar inquilinos beneficiários de vales de moradia (ilegal desde 2008) e negou regulamentações sobre a aceitação de dinheiro em espécie em vigor desde 2020. O projeto de lei do Senado de Nova York S7263 criaria um direito individual de ação para orientações de chatbots que causem prejuízos. A prevenção consiste no embasamento determinístico (grounding): cada declaração emitida pelo chatbot sobre legislação, regulamento ou política deve ser validada em relação ao texto real da autoridade citada antes da resposta ser fornecida. Construímos sistemas de verificação de citações que checam cada referência jurídica em bases de dados regulatórias auditadas, retornando apenas respostas validadas e encaminhando para revisão humana quando o sistema não puder comprovar uma alegação.
O que o NIST AI RMF 600-1 exige para a nossa implementação de IA generativa?
O NIST AI 600-1 (publicado em julho de 2024) acrescenta mais de 200 ações específicas para riscos de IA generativa em quatro áreas: governança, procedência de conteúdo, testes pré-implementação e divulgação de incidentes. O documento identifica doze categorias específicas de risco de GenAI com suas respectivas mitigações. As contratações federais exigem cada vez mais governança alinhada ao NIST. O desafio é mapear as diretrizes conceituais da estrutura para a arquitetura real do seu sistema. Desenvolvemos planos de implementação do NIST AI RMF que conectam cada ação aplicável a controles técnicos específicos, requisitos de documentação e procedimentos de monitoramento na sua implementação, gerando artefatos que atendem tanto à estrutura quanto aos requisitos de ATO da sua agência.
Como estruturar um marco de governança de IA estadual sem orçamento dedicado?
A pesquisa de 2026 da NASCIO indica a IA como a prioridade máxima dos CIOs estaduais pela primeira vez, com mais de 90% dos CIOs de estados conduzindo pilotos de GenAI. No entanto, legisladores estaduais apresentaram mais de 1,000 projetos de lei sobre IA em 2025, as exigências de avaliação de impacto algorítmico do Colorado entram em vigor em junho de 2026 e o decreto de precedência do governo Trump adiciona incerteza à conformidade federal. A abordagem pragmática começa com um inventário de casos de uso de IA entre as agências, uma estrutura de níveis de risco que concentra os esforços de governança em aplicações críticas (benefícios, licenciamento, segurança pública) e uma matriz de conformidade que cruza as exigências estaduais com as diretrizes federais. Desenvolvemos essas estruturas para serem sustentadas pela equipe existente, sem demandar um time dedicado à governança de IA, recorrendo ao monitoramento automatizado sempre que possível.
Como evitar o aprisionamento tecnológico (vendor lock-in) do nível Palantir em plataformas governamentais de IA?
Os contratos federais da Palantir quase dobraram para $970.5 million em 2025, e seu Army Enterprise Agreement de $10 billion e 10 anos a torna infraestrutura básica em larga escala. O risco de aprisionamento tecnológico não é apenas financeiro. Quando um único fornecedor define como as investigações são conduzidas, como os alvos são priorizados e como as decisões são fundamentadas, a agência perde a capacidade de avaliar alternativas ou manter supervisão independente. A prevenção exige separação arquitetural: a camada de capacidade de IA deve ser distinta da camada de integração de dados, da camada de governança e da camada de suporte à decisão. Construímos arquiteturas neutras em relação a fornecedores, nas quais modelos e plataformas funcionam como componentes intercambiáveis, e não como dependências estruturais, para que a agência preserve a flexibilidade de trocar de provedor sem precisar reconstruir o sistema.
Construa sua IA com confiança.
Faça parceria com uma equipe que tem profunda experiência na construção da próxima geração de IA empresarial. Deixe-nos ajudá-lo a projetar, construir e implementar uma estratégia de IA em que você possa confiar.
Veriprajna consultoria de Deep Tech é especializada na construção de sistemas de IA críticos para a segurança nas áreas de saúde, finanças e domínios regulatórios. Nossas arquiteturas são validadas em relação a protocolos estabelecidos, com documentação de conformidade abrangente.