Grounding, citatie & verificatie

Uw AI citeert bronnen. Het verifieert ze niet.

De gevaarlijkste AI-output is die welke geciteerd lijkt. Een retrieval-augmented systeem levert een passage op, het model genereert een antwoord en daarnaast verschijnt een citatie. De gebruiker veronderstelt dat de citatie de bewering ondersteunt. In 57% van de gevallen is dat niet zo.

Een onderzoek uit 2025 wees uit dat meer dan de helft van de door RAG gegenereerde citaties post-hoc rationalisatie vertoont: het model bepaalt eerst zijn antwoord en scant vervolgens opgehaalde documenten op oppervlakkige tokenovereenkomsten om een referentie te fabriceren. De citatie is echt. Het document bestaat. De passage komt uit dat document. Maar de passage ondersteunt de bewering feitelijk niet.

Dit is geen retrieval-probleem. Uw retrieval-pipeline kan de juiste documenten opleveren en uw citaties kunnen nog steeds fout zijn. Onze aanpak is het bouwen van de verificatielaag die zich bevindt tussen de generatie van uw AI en uw gebruikers — geen betere retrieval, geen betere prompts, maar onafhankelijke verificatie die zodanig is ontworpen dat elke bewering in de output daadwerkelijk wordt ondersteund door de bron waarnaar wordt verwezen — de architectuur die we uiteenzetten in ons whitepaper over het bouwen van waarheid voorbij de LLM-wrapper.

Waarom retrieval plus prompting geen verificatie is

De meeste teams behandelen grounding als een retrieval-probleem: betere chunks, een reranker, "antwoord alleen vanuit de verstrekte context" in de systeemprompt. Dit mist de kern van het probleem. Het model is niet ongehoorzaam — het voldoet op ontrouwe wijze, zoekt tokens in de context die oppervlakkig overeenkomen en voegt een citatie toe. De passage impliceert de bewering niet logisch.

Verificatie is een afzonderlijk systeem met een afzonderlijk doel. De generatiecomponent produceert kandidaatbeweringen met bronannotaties en optimaliseert voor vlotheid. De verificatiecomponent evalueert onafhankelijk of elke geciteerde bron daadwerkelijk de geannoteerde bewering ondersteunt, waarbij wordt geoptimaliseerd voor entailment: ondersteunt deze bron deze specifieke bewering logisch? Wanneer deze als onafhankelijke subsystemen draaien — het duale-systeempatroon dat wordt beschreven in ons neuro-symbolisch verificatieonderzoek — moet een hallucinatie beide misleiden om de gebruiker te bereiken.

Wij implementeren deze duale-systeemarchitectuur met behulp van NLI-modellen die fijn afgestemd zijn voor entailment-detectie, gecombineerd met atomaire feitendecompositie. De SAFE -aanpak van Google DeepMind toonde aan dat het opdelen van antwoorden in afzonderlijke atomaire feiten vóór verificatie aanzienlijk beter presteert dan controle op zinsniveau: SAFE stemt in 72% van de gevallen overeen met menselijke annotatoren, en bij meningsverschillen heeft geautomatiseerde verificatie het in 76% van de gevallen bij het juiste eind tegen 20x lagere kosten. Wij passen dit aan uw domein aan, omdat de definitie van een "atomair feit" in een juridisch processtuk verschilt van die in een klinische samenvatting of een financiële toelichting.

Wat de grounding-API's van leveranciers daadwerkelijk doen (en niet doen)

Elke grote cloudprovider heeft in de afgelopen 18 maanden grounding-functies uitgebracht. Geen van hen lost het volledige probleem op.

De tekortkoming bij alle vier: ze detecteren wanneer het model afwijkt van de verstrekte context, maar ze verifiëren niet of de specifieke citatie die aan een specifieke bewering is gekoppeld daadwerkelijk logisch wordt ondersteund via entailment. Die verificatielaag is wat wij ontwerpen en bouwen.

Drie verificatie-architecturen, afgestemd op uw risicoprofiel

Op NLI gebaseerde entailment-verificatie

Voor teams die verificatie per bewering nodig hebben zonder de latentiekosten van volledige decompositie. Elke gegenereerde bewering wordt gekoppeld aan de geciteerde passage en door een NLI-model geëvalueerd op entailment, tegenstrijdigheid of neutraliteit; beweringen die als "contradiction" of "neutral" worden gescoord, worden gemarkeerd of onderdrukt. Dit voegt 50–200ms per beweringtoe, verwerkt workloads met een hoge doorvoer en vangt de meest voorkomende faalmodus op: citaties die verwijzen naar thematisch relevante maar niet-ondersteunende passages.

Wij gebruiken gekalibreerde NLI-ensembles (de HALT-RAG -aanpak) in plaats van afzonderlijke modellen, omdat individuele NLI-modellen domeinspecifieke blinde vlekken vertonen die door ensembles worden gladgestreken.

Atomaire feitendecompositie met zoek-geaugmenteerde verificatie

Voor domeinen met hoge belangen waar controle per bewering onvoldoende is omdat één enkele zin meerdere verifieerbare beweringen kan bevatten. Wij ontleden elk antwoord in afzonderlijke feiten, genereren gerichte verificatiezoekopdrachten voor elk feit en controleren zowel tegen de geciteerde bronnen als tegen externe gezaghebbende referenties. Dit is de van SAFE afgeleide aanpak.

Het detecteert fouten die NLI op zinsniveau mist: een zin kan gedeeltelijk worden ondersteund (twee feiten juist, één gefabriceerd) en NLI zal de hele zin vaak als entailed scoren. Decompositie kost 3–5x meer aan inferentie , maar vangt aanzienlijk meer fouten op. Wij gebruiken dit voor juridische processtukken, klinische documentatie, financiële toelichtingen en elk domein waar één enkel verkeerd getal materiële gevolgen heeft.

Continue verificatie met temporele en numerieke controle

Voor gereguleerde omgevingen waar de geldigheid van bronnen in de loop van de tijd verandert. Dit breidt de decompositie-aanpak uit met drie aanvullende controles:

• Temporele verificatie — was deze regelgeving van kracht op de datum waarnaar de bewering verwijst?
• Numerieke verificatie — komt dit percentage exact overeen met de brontabel, niet bij benadering?
• Consistentiecontrole tussen beweringen — spreken meerdere gegronde beweringen in hetzelfde antwoord elkaar tegen?

Wij onderhouden bronversheidsindexen die bijhouden wanneer geciteerde documenten voor het laatst zijn gevalideerd, wat herverificatie activeert wanneer bronmateriaal wordt bijgewerkt. Dit is de architectuur voor organisaties waar een citatie naar een vervangen regeling of een verouderde statistiek nalevingsrisico's met zich meebrengt, gedetailleerd beschreven in ons onderzoek naar wettelijke citatiehandhaving in overheids-AI.

Het meten van grounding-kwaliteit (de statistieken die er daadwerkelijk toe doen)

Het evaluatielandschap is gefragmenteerd. HHEM van Vectara scoort feitelijke consistentie maar meet samenvattingsgetrouwheid, niet de nauwkeurigheid van citaties. RAGAS controleert grounding maar geen attributie. De ALCE-benchmark evalueert citatieprecisie/-recall op academische datasets die geen weerspiegeling zijn van enterprise-patronen. Onderzoek van het Allen Institute wees uit dat de citatienauwkeurigheid in RAG gemiddeld 65–70% bedraagt zonder attributietraining.

Onze aanpak is het bouwen van evaluaties die meten wat ertoe doet, continu draaiend met op drempelwaarden gebaseerde waarschuwingen:

• Citatieprecisie — ondersteunen geciteerde passages hun beweringen?
• Citatierecall — zijn verifieerbare beweringen naar behoren toegeschreven?
• Entailment-nauwkeurigheid — het NLI-slaagpercentage.
• Bron-specificiteit — attributie op paragraafniveau versus documentniveau.

Wanneer volledige verificatie overdreven is

Volledige verificatie is kostbaar. Atomaire decompositie met zoek-geaugmenteerde controle voegt 2–5 seconden en $0,01–0,05 per antwoord toe bij de huidige modelprijzen. Voor een interne kennisbot die 10.000 vragen per dag beantwoordt, is dat $100–500/dag aan verificatiekosten alleen, bovenop generatie en retrieval.

Niet elke toepassing heeft dit nodig. Wij helpen u de verificatiediepte af te stemmen op het daadwerkelijke risico — die beoordeling maakt deel uit van elk traject, en we vertellen u wanneer een eenvoudigere aanpak volstaat voor uw use case.

Wat wij leveren

Een traject is erop gericht het volgende op te leveren — dezelfde klasse van verificatie als getoond in onze werkende demo van citatie-afgedwongen overheids-AI:

• Een verificatie-architectuur afgestemd op uw risicoprofiel, latentiebudget en brondocumenttypen.
• Op NLI of decompositie gebaseerde verificatie-pipelines geïntegreerd met uw bestaande retrieval-stack.
• Een evaluatiekader voor citatiekwaliteit met statistieken voor precisie, recall, entailment-nauwkeurigheid en bron-specificiteit.
• Continue monitoring met op drempelwaarden gebaseerde alarmering.
• Integratie met uw compliance-workflow voor audit trail-vereisten — FINRA-telemetrie, EU AI Act-transparantie, FDA-traceerbaarheid.
• Een testsuite van bekende hallucinatie-probes gekalibreerd voor uw domein.
• Het verificatiekostenmodel, zodat u weloverwogen beslissingen kunt nemen over waar u volledige verificatie versus lichtere controles inzet.