Grounding, Citação e Verificação

Sua IA cita fontes. Ela não as verifica.

A resposta de IA mais perigosa é aquela que parece citada. Um sistema de geração aumentada por recuperação retorna um trecho, o modelo gera uma resposta e uma citação surge ao lado dela. O usuário presume que a citação sustenta a afirmação. Em 57% dos casos, isso não acontece.

Um estudo de 2025 revelou que mais da metade das citações geradas por RAG exibe racionalização post-hoc: o modelo decide sua resposta primeiro e depois varre os documentos recuperados em busca de correspondências superficiais de tokens para fabricar uma referência. A citação é real. O documento existe. O trecho foi retirado daquele documento. Mas o trecho não sustenta, de fato, a afirmação.

Este não é um problema de recuperação. Seu pipeline de recuperação pode retornar os documentos corretos e suas citações ainda assim estarem erradas. Nossa abordagem é construir a camada de verificação que se posiciona entre a geração da sua IA e seus usuários — não uma recuperação melhor, não prompts melhores, mas uma verificação independente projetada para que cada afirmação no resultado seja realmente sustentada pela fonte que ela referencia — a arquitetura que estabelecemos em nosso whitepaper sobre a construção da verdade além do wrapper de LLM.

Por que recuperação somada a prompting não é verificação

A maioria das equipes trata o grounding como um problema de recuperação: fragmentos melhores, um reclassificador, "responda apenas com base no contexto fornecido" no prompt do sistema. Isso ignora a falha essencial. O modelo não está desobedecendo — ele está cumprindo a instrução de forma infiel, encontrando tokens no contexto que coincidem superficialmente e anexando uma citação. O trecho não sustenta a afirmação por entailment.

A verificação é um sistema distinto com um objetivo distinto. O componente de geração produz afirmações candidatas com anotações de fontes e otimiza a fluência. O componente de verificação avalia de forma independente se cada fonte citada realmente sustenta a afirmação anotada, otimizando para entailment: esta fonte sustenta logicamente esta afirmação específica? Quando funcionam como subsistemas independentes — o padrão de sistema duplo detalhado em nossa pesquisa sobre verificação neuro-simbólica — uma alucinação precisa enganar a ambos para atingir o usuário.

Implementamos essa arquitetura de sistema duplo utilizando modelos NLI ajustados para detecção de entailment, combinados com a decomposição de fatos atômicos. Na Google DeepMind, a abordagem SAFE demonstrou que dividir respostas em fatos atômicos individuais antes da verificação supera expressivamente a checagem em nível de sentença: o SAFE concorda com anotadores humanos 72% das vezes e, em divergências, a verificação automatizada está correta em 76% dos casos a um custo 20x menor. Adaptamos isso ao seu domínio, pois a definição de um "fato atômico" em uma petição jurídica difere daquela em um sumário clínico ou em uma divulgação financeira.

O que as APIs de grounding dos provedores realmente fazem (e o que não fazem)

Todos os principais provedores de nuvem lançaram recursos de grounding nos últimos 18 meses. Nenhum deles resolve o problema por completo.

A lacuna em todas as quatro: elas detectam quando o modelo se desvia do contexto fornecido, mas não verificam se a citação específica vinculada a uma afirmação específica é realmente sustentada por entailment. Essa camada de verificação é o que projetamos e construímos.

Três arquiteturas de verificação, alinhadas ao seu perfil de risco

Verificação de entailment baseada em NLI

Para equipes que precisam de verificação por afirmação sem o custo de latência da decomposição completa. Cada afirmação gerada é emparelhada com seu trecho citado e avaliada por um modelo NLI quanto a entailment, contradição ou neutralidade; afirmações classificadas como "contradição" ou "neutra" são sinalizadas ou suprimidas. Isso adiciona 50–200 ms por afirmação, suporta cargas de trabalho de alta taxa de transferência e captura o modo de falha mais comum: citações que apontam para trechos tematicamente relevantes, mas que não oferecem sustentação.

Utilizamos ensembles calibrados de NLI (a abordagem HALT-RAG ) em vez de modelos únicos, pois modelos individuais de NLI apresentam pontos cegos específicos de domínio que os ensembles atenuam.

Decomposição de fatos atômicos com verificação aumentada por busca

Para domínios de alto risco onde a checagem por afirmação é insuficiente porque uma única sentença pode conter múltiplas declarações verificáveis. Decompomos cada resposta em fatos individuais, geramos consultas de verificação direcionadas para cada um e checamos tanto em relação às fontes citadas quanto a referências autorizadas externas. Esta é a abordagem derivada do SAFE.

Ela captura erros que o NLI em nível de sentença ignora: uma sentença pode ser parcialmente sustentada (dois fatos corretos, um forjado) e o NLI frequentemente pontuará a sentença inteira como sustentada por entailment. A decomposição custa 3–5x mais em inferência , mas captura significativamente mais erros. Utilizamos isso para peças jurídicas, documentação clínica, demonstrações financeiras e qualquer domínio onde um único número incorreto traga consequências materiais.

Verificação contínua com checagem temporal e numérica

Para ambientes regulamentados onde a validade das fontes muda com o tempo. Isso expande a abordagem de decomposição com três checagens adicionais:

• Verificação temporal — este regulamento estava em vigor na data referenciada pela afirmação?
• Verificação numérica — esta porcentagem corresponde com exatidão à tabela de origem, e não de forma aproximada?
• Checagem de consistência cruzada entre afirmações — múltiplas afirmações fundamentadas na mesma resposta contradizem umas às outras?

Mantemos índices de atualização de fontes que monitoram quando os documentos citados foram validados pela última vez, disparando uma nova verificação quando o material de origem é atualizado. Esta é a arquitetura voltada a organizações onde uma citação a uma norma revogada ou a uma estatística desatualizada acarreta risco de conformidade, detalhada em nossa pesquisa sobre aplicação de citações estatutárias em IA governamental.

Medindo a qualidade do grounding (as métricas que realmente importam)

O cenário de avaliação é fragmentado. O HHEM da Vectara pontua a consistência factual, mas mede a fidelidade da sumarização, não a precisão das citações. O RAGAS checa o grounding, mas não a atribuição. O benchmark ALCE avalia a precisão e a revocação de citações em conjuntos de dados acadêmicos que não refletem os padrões corporativos. Pesquisas do Allen Institute constataram que a precisão de citações em RAG fica em média entre 65–70% sem treinamento específico de atribuição.

Nossa abordagem consiste em construir avaliações que medem o que realmente importa, operando continuamente com alertas baseados em limites pré-definidos:

• Precisão de citação — os trechos citados sustentam suas afirmações?
• Revocação de citação — as afirmações verificáveis estão adequadamente atribuídas?
• Acurácia de entailment — a taxa de aprovação no NLI.
• Especificidade da fonte — atribuição em nível de parágrafo versus nível de documento.

Quando a verificação completa é desnecessária

A verificação completa tem custo elevado. A decomposição atômica com checagem aumentada por busca adiciona 2–5 segundos e US$ 0,01–0,05 por resposta com os preços atuais dos modelos. Para um assistente interno de conhecimento que responde a 10.000 consultas por dia, isso representa US$ 100–500/dia apenas em custos de verificação, além da geração e da recuperação.

Nem toda aplicação necessita disso. Ajudamos você a alinhar a profundidade da verificação ao risco real — essa avaliação faz parte de cada projeto, e indicaremos quando uma abordagem mais simples for adequada ao seu caso de uso.

O que entregamos

Um projeto é dimensionado para entregar o seguinte — o mesmo nível de verificação demonstrado em nossa demonstração funcional de IA governamental com imposição de citações:

• Uma arquitetura de verificação alinhada ao seu perfil de risco, orçamento de latência e tipos de documentos de origem.
• Pipelines de verificação baseados em NLI ou em decomposição integrados à sua stack de recuperação existente.
• Um framework de avaliação de qualidade de citações com métricas de precisão, revocação, acurácia de entailment e especificidade da fonte.
• Monitoramento contínuo com alertas baseados em limites definidos.
• Integração com seu fluxo de conformidade para exigências de trilha de auditoria — telemetria FINRA, transparência do EU AI Act, rastreabilidade FDA.
• Uma suíte de testes com sondas de alucinações conhecidas calibradas para o seu domínio.
• O modelo de custos de verificação, permitindo decisões informadas sobre onde implantar a verificação completa versus checagens mais leves.