Grounding, citazione e verifica per l'IA

La vostra IA cita le fonti. Non le verifica.

L'output di IA più pericoloso è quello che sembra corredato di citazioni. Un sistema retrieval-augmented restituisce un passaggio, il modello genera una risposta e accanto a essa compare una citazione. L'utente presume che la citazione supporti l'affermazione. Nel 57% dei casi, non è così.

Uno studio del 2025 ha rilevato che oltre la metà delle citazioni generate da RAG presenta una razionalizzazione post-hoc: il modello decide prima la propria risposta, quindi esegue una scansione dei documenti recuperati alla ricerca di corrispondenze superficiali di token per fabbricare un riferimento. La citazione è reale. Il documento esiste. Il passaggio proviene da quel documento. Tuttavia, il passaggio non supporta affatto l'affermazione.

Questo non è un problema di retrieval. La vostra pipeline di recupero può restituire i documenti corretti e le vostre citazioni possono comunque risultare errate. Il nostro approccio consiste nel realizzare il livello di verifica che si interpone tra la generazione dell'IA e i vostri utenti — non un retrieval migliore, non prompt più efficaci, ma una verifica indipendente progettata affinché ogni affermazione nell'output sia effettivamente supportata dalla fonte a cui fa riferimento — l'architettura che abbiamo illustrato nel nostro whitepaper sulla costruzione della verità oltre il wrapper di LLM.

Perché retrieval più prompting non equivale a verifica

La maggior parte dei team affronta il grounding come un problema di retrieval: chunk migliori, un reranker, «rispondi solo in base al contesto fornito» nel prompt di sistema. Questo approccio manca il vero punto di fallimento. Il modello non sta disobbedendo — si sta conformando in modo infedele, individuando nel contesto token con corrispondenze superficiali e allegando una citazione. Il passaggio non implica logicamente l'affermazione.

La verifica è un sistema separato con un obiettivo distinto. La componente di generazione produce affermazioni candidate con annotazioni delle fonti e ottimizza per la fluidità. La componente di verifica valuta in modo indipendente se ciascuna fonte citata supporti realmente l'affermazione annotata, ottimizzando per l'entailment: questa fonte supporta logicamente questa specifica affermazione? Quando questi componenti operano come sottosistemi indipendenti — il modello a doppio sistema descritto in dettaglio nella nostra ricerca sulla verifica neuro-simbolica — un'allucinazione deve ingannare entrambi per raggiungere l'utente.

Implementiamo questa architettura a doppio sistema utilizzando modelli NLI perfezionati per il rilevamento dell'entailment, combinati con la scomposizione in fatti atomici. L'approccio SAFE di Google DeepMind ha dimostrato che suddividere le risposte in singoli fatti atomici prima della verifica supera nettamente il controllo a livello di frase: SAFE concorda con gli annotatori umani nel 72% dei casi e, nelle divergenze, la verifica automatizzata risulta corretta nel 76% dei casi con un costo 20 volte inferiore. Adattiamo questo metodo al vostro dominio, poiché la definizione di «fatto atomico» in una memoria legale differisce da quella in una sintesi clinica o in un'informativa finanziaria.

Cosa fanno realmente (e cosa non fanno) le API di grounding dei vendor

Tutti i principali cloud provider hanno rilasciato funzionalità di grounding negli ultimi 18 mesi. Nessuno di essi risolve il problema nella sua interezza.

Il limite comune a tutte e quattro: rilevano quando il modello devia dal contesto fornito, ma non verificano che la specifica citazione associata a una determinata affermazione sia effettivamente supportata da un rapporto di entailment. Questo livello di verifica è esattamente ciò che progettiamo e realizziamo.

Tre architetture di verifica, calibrate sul vostro profilo di rischio

Verifica dell'entailment basata su NLI

Per i team che necessitano di una verifica per singola affermazione senza il costo di latenza di una scomposizione completa. Ciascuna affermazione generata viene abbinata al rispettivo passaggio citato e valutata da un modello NLI per entailment, contraddizione o neutralità; le affermazioni classificate come «contraddizione» o «neutrale» vengono segnalate o soppresse. Questo aggiunge 50–200 ms per affermazione, gestisce carichi di lavoro ad alto throughput e intercetta la modalità di errore più comune: citazioni che puntano a passaggi tematicamente pertinenti ma non probatori.

Utilizziamo ensemble calibrati di modelli NLI (l'approccio HALT-RAG ) anziché modelli singoli, poiché i singoli modelli NLI mostrano punti ciechi specifici per dominio che gli ensemble compensano.

Scomposizione in fatti atomici con verifica potenziata dalla ricerca

Per domini ad alto rischio in cui il controllo per singola frase è insufficiente poiché una sola proposizione può contenere molteplici asserzioni verificabili. Scomponiamo ciascuna risposta in singoli fatti, generiamo query di verifica mirate per ciascuno e controlliamo sia rispetto alle fonti citate sia rispetto a riferimenti esterni autorevoli. Questo è l'approccio derivato da SAFE.

Rileva errori che l'NLI a livello di frase non coglie: una frase può essere parzialmente supportata (due fatti corretti, uno inventato) e l'NLI classificherà spesso l'intera frase come supportata da entailment. La scomposizione costa 3–5 volte di più in inferenza ma intercetta un numero nettamente superiore di errori. Utilizziamo questo metodo per atti legali, documentazione clinica, informative finanziarie e qualsiasi settore in cui un singolo numero errato comporti conseguenze sostanziali.

Verifica continua con controlli temporali e numerici

Per ambienti regolamentati in cui la validità delle fonti cambia nel tempo. Questo estende l'approccio di scomposizione con tre verifiche supplementari:

• Verifica temporale — questo regolamento era in vigore alla data a cui l'affermazione fa riferimento?
• Verifica numerica — questa percentuale corrisponde esattamente alla tabella di origine, e non in modo approssimativo?
• Controllo di coerenza tra affermazioni — vi sono molteplici affermazioni verificate nella stessa risposta che si contraddicono a vicenda?

Manteniamo indici di freschezza delle fonti che tracciano l'ultima validazione dei documenti citati, attivando una nuova verifica quando il materiale sorgente viene aggiornato. Questa è l'architettura per le organizzazioni in cui una citazione di una norma abrogata o di una statistica superata comporta rischi di conformità, illustrata in dettaglio nella nostra ricerca sull'applicazione rigorosa delle citazioni normative nell'IA per il settore pubblico.

Misurare la qualità del grounding (le metriche che contano davvero)

Il panorama della valutazione è frammentato. HHEM di Vectara valuta la coerenza fattuale ma misura la fedeltà di sintesi, non l'accuratezza delle citazioni. RAGAS verifica il grounding ma non l'attribuzione. Il benchmark ALCE valuta precision e recall delle citazioni su dataset accademici che non riflettono i pattern aziendali. Una ricerca dell'Allen Institute ha riscontrato che l'accuratezza delle citazioni nei sistemi RAG si attesta in media al 65–70% in assenza di un training specifico sull'attribuzione.

Il nostro approccio consiste nel realizzare un sistema di valutazione che misura ciò che conta davvero, operativo in modo continuo con avvisi basati su soglie:

• Precision delle citazioni — i passaggi citati supportano le rispettive affermazioni?
• Recall delle citazioni — le affermazioni verificabili sono debitamente attribuite?
• Accuratezza dell'entailment — il tasso di superamento della verifica NLI.
• Specificità della fonte — attribuzione a livello di paragrafo rispetto al livello di documento.

Quando la verifica completa è superflua

La verifica completa è onerosa. La scomposizione atomica con controllo potenziato dalla ricerca aggiunge 2–5 secondi e 0,01–0,05 $ per risposta ai prezzi attuali dei modelli. Per un bot interno di gestione della conoscenza che elabora 10.000 query al giorno, ciò corrisponde a 100–500 $/giorno solo di costi di verifica, oltre a quelli di generazione e retrieval.

Non tutte le applicazioni ne hanno bisogno. Vi aiutiamo a commisurare la profondità di verifica al rischio effettivo — questa valutazione è parte integrante di ogni incarico e vi indicheremo chiaramente quando un approccio più snello è sufficiente per il vostro caso d'uso.

Cosa forniamo

Un incarico è dimensionato per realizzare quanto segue — la medesima classe di verifica illustrata nella nostra demo operativa di IA per la pubblica amministrazione con applicazione rigorosa delle citazioni:

• Un'architettura di verifica calibrata sul vostro profilo di rischio, budget di latenza e tipologie di documenti sorgente.
• Pipeline di verifica basate su NLI o su scomposizione integrate con il vostro stack di retrieval esistente.
• Un framework di valutazione della qualità delle citazioni con metriche di precision, recall, accuratezza dell'entailment e specificità delle fonti.
• Monitoraggio continuo con avvisi basati su soglie.
• Integrazione con il vostro flusso di conformità per i requisiti di audit trail — telemetria FINRA, trasparenza per l'EU AI Act, tracciabilità FDA.
• Una suite di test con probe di allucinazioni note calibrata sul vostro dominio.
• Il modello dei costi di verifica, per consentirvi di prendere decisioni informate su dove implementare la verifica completa rispetto a controlli più snelli.