Una bandierina verde del citator non vi salverà: com'è fatta davvero l'allucinazione dell'AI legale nel 2026

Quando due avvocati sono usciti dalla Corte d'Appello del Sesto Circuito nel marzo 2026 con un debito di 30.000 dollari complessivi, i casi citati nella loro memoria non erano tutti immaginari. È questo il dettaglio con cui nessuno vuole fare i conti, ed è la ragione per cui passo le mie giornate a costruire ciò che costruisco.

Sono arrivato a tutto questo dall'interno del problema. Prima di Veriprajna, ho lavorato come associate del contenzioso, e la parte del lavoro che nessuno romanticizza è la verifica delle citazioni — starsene seduti alle 23 con una memoria piena di correzioni in rosso, cerchiando una citazione, scarabocchiando questo caso dice davvero questo? a margine. Quando è arrivata la prima ondata di AI legale, ho dato per scontato che avrebbe fatto sparire quella notte. Invece l'ha resa più pericolosa, perché gli strumenti sono diventati bravissimi a produrre citazioni che sembrano verificate. La verifica delle citazioni nell'AI legale si è rivelata non una funzionalità da attivare con un interruttore. È uno strato che qualcuno deve costruire, e quasi nessuno l'aveva costruito.

Ecco la tesi che voglio difendere in questo saggio: l'allucinazione che farà sanzionare uno studio nel 2026 non è quella che i vostri strumenti attuali sono progettati per intercettare. Il fallimento famoso — il caso inventato — è ormai in gran parte risolto. Il fallimento che sta crescendo è il caso reale, citato in modo errato, con addosso una bandierina verde.

Tutti ricordano Mata. Quasi nessuno ha imparato la lezione giusta

Conoscete la storia anche se non ne conoscete il nome. Mata v. Avianca, 2023: un avvocato ha chiesto a ChatGPT dei casi a sostegno, e questo ha prodotto Varghese v. China Southern Airlines — numero di ruolo convincente, tribunale plausibile, citazioni interne dettagliate — e il caso non esisteva. Ne sono seguite una multa da 5.000 dollari e un imbarazzo da ricordare per tutta la carriera.

La lezione che la professione ha tratto da Mata è stata "l'AI si inventa i casi". Così il settore ha costruito difese contro i casi inventati. Thomson Reuters ha KeyCite. LexisNexis ha Shepard's, il gold standard, vecchio di decenni. Harvey àncora il proprio output nel data vault di LexisNexis. Questi citator sono davvero bravi con il problema Mata: dategli una citazione che non corrisponde a nulla, e vi diranno che non corrisponde a nulla.

Il guaio è che la professione ha risolto il problema del 2023 e ha dato per scontato di aver risolto quello del 2026.

Guardate cosa è successo davvero a New Orleans nel febbraio 2026. Un avvocato è stato sanzionato per aver depositato undici citazioni fabbricate o travisate. La parte che dovrebbe togliervi il sonno: aveva usato sia ChatGPT sia Westlaw Precision AI. Ha usato lo strumento ancorato ai dati, costruito appositamente, sostenuto da un citator — e ha comunque depositato una memoria che gli è valsa una sanzione. "Ridurre" non è "eliminare", e il divario tra queste due parole è dove ora risiede la responsabilità.

Il fallimento che il vostro strumento non riesce a vedere

Lasciate che descriva il modo di fallire con precisione, perché la precisione è tutto il punto.

L'AI cita un caso reale a sostegno di una tesi che il caso non supporta. Il numero di ruolo è valido. Il caso esiste. KeyCite restituisce una bandierina verde. Shepard's è d'accordo. E l'analisi è comunque sbagliata — perché l'AI ha citato l'opinione dissenziente come se fosse la statuizione della maggioranza, o ha citato un caso che interpreta una versione di una legge che è stata modificata due anni fa.

Questo è ciò che lo studio di Stanford, sottoposto a revisione paritaria sul Journal of Empirical Legal Studies nel 2025, ha effettivamente misurato quando ha collocato il tasso di allucinazione di Westlaw Precision al 33% e quello di Lexis+ AI al 17%. La gente legge "33% di allucinazione" e si immagina uno strumento che inventa casi in una query su tre. Non è questo che significano quei numeri. Si tratta per lo più di analisi errate di citazioni reali. Il vostro strumento di verifica conferma che il caso esiste. E lo fa. Semplicemente non ha mai preteso di controllare cosa dice il caso.

Lo renderò concreto, perché è l'esempio che alla fine ha fatto smettere di discutere il mio stesso team. Un associate del contenzioso chiede a un assistente AI di ricercare le difese a una domanda per violazione del dovere fiduciario secondo il diritto del Delaware. Lo strumento restituisce un'analisi pulita citando Stone v. Ritter (2006) per lo standard di responsabilità di vigilanza degli amministratori. La citazione è reale. Il riepilogo della statuizione è accurato — per il 2006. Ciò che lo strumento ha mancato è che la decisione del 2019 della Corte Suprema del Delaware nel caso Marchand v. Barnhill ha ampliato significativamente il dovere di vigilanza di Caremark, e le sentenze della Chancery Court da allora vi hanno costruito sopra uno standard di conformità "mission critical".

Stone v. Ritter porta ancora una bandierina verde di KeyCite. Non è mai stato ribaltato. È ancora "buon diritto". E una memoria che vi si appoggia per un deposito del 2026 è comunque sbagliata, perché la portata pratica della statuizione è stata ristretta da tutto ciò che è venuto dopo — esattamente il tipo di sviluppo che una bandierina di citator non è costruita per far emergere.

Un citator vi dice che un caso è vivo. Non vi dice che il caso significa ancora ciò che la vostra AI dice che significa.

Questa è la differenza tra fabbricazione di citazioni e allucinazione contestuale, ed è la distinzione più importante in assoluto in tutto questo campo. L'associate junior che rivede l'output sotto la scadenza non la coglierà, perché la citazione sembra corretta. E lo è, nell'unico senso che lo strumento abbia mai controllato.

All'inizio abbiamo sbagliato — E sono io quello che l'aveva sostenuto

Voglio essere onesto su come l'ho imparato, perché non ci sono arrivato con il ragionamento. Ho prima rilasciato la cosa sbagliata.

Quando il mio team ha costruito il nostro primo verificatore di citazioni, ho sostenuto — nella nostra stessa revisione di progettazione, ad alta voce, con una certa sicurezza — che se il caso è reale, siamo a posto. Così la nostra prima pipeline in sostanza rieseguiva la logica del citator. Confermava che ogni caso citato esistesse e ne recuperava lo stato di trattamento. Veloce, pulita, e in un pilota ha fatto passare una memoria dritta fino a una dashboard verde.

Poi uno degli utenti del pilota, un vero avvocato del contenzioso, ha contestato un paragrafo che il nostro strumento aveva benedetto. Il caso citato era reale. Il nostro verificatore ne era entusiasta. La statuizione che la memoria gli attribuiva proveniva dalla parte dell'opinione che non faceva testo. Il nostro sistema non aveva alcuna opinione al riguardo, perché io l'avevo progettato per non averne alcuna. Avevo ricostruito Shepard's e l'avevo chiamato verifica.

Quello è stato il fallimento che ha ripagato tutto ciò che abbiamo fatto dopo. Rieseguire un citator più velocemente non è verifica — è lo stesso punto cieco con un'interfaccia più bella. La svolta ci è stata imposta: dovevamo costruire uno strato che leggesse oltre lo stato del citator, dentro le successive citazioni di riferimento, che chiedesse se casi posteriori avessero distinto o ristretto una statuizione, che segnalasse un'opinione la cui tesi centrale è stata sostanzialmente modificata anche se il caso in sé resta buon diritto. Questo è il problema di ingegneria. Il citator non l'avrebbe mai risolto, per quanto velocemente lo eseguissimo.

Perché comprare Harvey non colma la lacuna?

La gente dà per scontato che i vendor delle piattaforme risolveranno la cosa, e capisco perché — le piattaforme sono straordinarie, e i soldi dicono che tutti sono d'accordo. Harvey ha raggiunto una valutazione di 11 miliardi di dollari nel marzo 2026, su circa 190 milioni di dollari di ricavi ricorrenti annui, con agenti personalizzati oltre quota 25.000 e un'adozione dentro metà delle prime 100 dello AmLaw. Thomson Reuters ha acquistato Casetext per 650 milioni di dollari e l'ha integrato nei flussi di lavoro agentici di CoCounsel. LexisNexis ha sostituito Lexis+ AI con Lexis+ Protege nel febbraio 2026 — quattro agenti specializzati, oltre 300 flussi di lavoro predefiniti.

Non sono questi il problema. Lo dico agli studi senza mezzi termini: tenetevi la vostra piattaforma. La lacuna è che nessuno di questi strumenti include uno strato di verifica indipendente, e i migliori sono onesti nel dire che la verifica dell'output è responsabilità dell'utente. C'è una ragione se LexisNexis ha silenziosamente ritirato la sua formula "100% privo di allucinazioni" dopo che i numeri di Stanford sono usciti.

E le piattaforme hanno reso il problema della verifica più difficile, non più facile, diventando agentiche. Quando un agente a lungo orizzonte esegue un flusso di lavoro di ricerca e redazione in più fasi, l'output non è un singolo paragrafo citato — è una catena di paragrafi, ogni passaggio che alimenta il successivo, ciascuno un punto in cui un errore contestuale può entrare e propagarsi. Quando un associate junior mi scrive su Slack alle 23 chiedendo se l'output dell'agente sia sicuro da depositare, la risposta onesta è: non finché qualcosa non ha letto ogni citazione a fronte di ciò che il caso citato effettivamente stabilisce, e ha registrato quale passaggio dell'agente l'ha prodotta. Quella traccia di audit non è un optional. È ciò che l'ordinanza permanente di un giudice richiede sempre più spesso. E questo non è un flusso di lavoro marginale a cui mi sto preparando — l'adozione dell'AI legale aziendale è raddoppiata dal 23% al 52% in un solo anno, e Gartner prevede che il 40% delle applicazioni aziendali incorporerà agenti specifici per compito entro il 2026; il modo di fallire della catena di citazioni scala con ognuna di esse.

Allora cosa intercetta davvero un caso reale citato in modo errato?

Non un'AI diversa — un compito diverso. Lo strato di verifica si colloca tra l'output dell'AI e la firma dell'essere umano, e fa ciò che il citator non fa: invece di fermarsi al fatto che un caso sia ancora buon diritto, legge dentro le successive citazioni di riferimento, chiede se opinioni posteriori abbiano distinto o ristretto la statuizione, e segnala i casi la cui tesi centrale è stata sostanzialmente modificata anche quando la massima si legge ancora pulita. Lo stato di trattamento è l'inizio dell'indagine, non la sua fine.

Sotto la superficie, il recupero conta più di quanto la gente si aspetti. La ricerca vettoriale — l'impostazione predefinita nella maggior parte dei sistemi con retrieval-augmented generation — trova casi che sono testualmente simili a una query. L'autorità giuridica non è organizzata per somiglianza testuale; è organizzata per come i casi si citano, si distinguono e si annullano a vicenda. Questo è un grafo, non un elenco. È stato dimostrato che il recupero costruito su un knowledge graph giuridico anziché su un indice vettoriale piatto supera la ricerca vettoriale di circa il 14% in pertinenza del recupero per il lavoro legale — la differenza tra far emergere il caso che fa testo e far emergere il caso che semplicemente sembra fare testo. Il grafo è il modo in cui si trova il Marchand che ha silenziosamente rimodellato lo Stone che tutti citano ancora.

Questo è lo strato che costruiamo in Veriprajna — la pipeline di verifica delle citazioni, l'infrastruttura di knowledge graph e i sistemi di governance che rendono l'output dell'AI sicuro da depositare — e lo costruiamo attorno a qualunque piattaforma uno studio già utilizzi, Harvey o Lexis Protege o un modello open source, anziché chiedere a chiunque di smontare uno strumento che funziona.

La parte che nessuno mette in una slide: la governance

C'è un secondo problema sotto quello tecnico, ed è quello che trasforma una sanzione in una richiesta di risarcimento per negligenza professionale.

Circa il 68% dei professionisti legali ammette di aver usato uno strumento di AI non approvato almeno una volta, e meno di uno studio su cinque ha una policy formale sull'AI — anche se ormai quasi sette avvocati su dieci usano l'AI generativa per lavoro, una quota che è raddoppiata in un solo anno. Così la maggior parte degli studi ha avvocati che immettono le pratiche dei clienti in strumenti che nessuno ha approvato, senza traccia di quale strumento, senza passaggio di verifica e senza traccia di audit. Gli assicuratori della responsabilità professionale se ne sono accorti. Stanno inserendo l'uso dell'AI nelle valutazioni delle polizze, e l'uso non autorizzato senza supervisione di un avvocato è esattamente il tipo di cosa che annulla la copertura quando arriva una richiesta di risarcimento.

Anche la base normativa si è spostata, e la maggior parte degli studi non l'ha raggiunta. L'ABA Formal Opinion 512, emessa nel luglio 2024, delinea sei obblighi etici per l'AI generativa — competenza, riservatezza, lealtà verso il tribunale, supervisione tra questi — e ha due risvolti che alla gente sfuggono. Non potete addebitare a un cliente il tempo che dedicate a imparare uno strumento che userete regolarmente. E una corte federale ha già stabilito che il prodotto del lavoro generato dall'AI non è protetto dal segreto professionale tra avvocato e cliente. Nel frattempo più di 300 giudici hanno emesso proprie ordinanze permanenti sull'AI, ciascuna con il proprio requisito di divulgazione o certificazione, la Florida ha aggiunto un obbligo di divulgazione nel febbraio 2026, e nessuno studio che io abbia incontrato ha un modo sistematico per tenere traccia di quale giudice pretenda cosa. E la base continua a salire: l'EU AI Act entra in vigore nell'agosto 2026, l'AI Act del Colorado a giugno, e la Direttiva sulla responsabilità da prodotto dell'UE ora tratta l'AI come un prodotto in regime di responsabilità oggettiva — il che sposta l'esposizione da un singolo associate sanzionato al bilancio dello studio.

La shadow AI non è un problema di disciplina. È una lacuna infrastrutturale — le persone aggirano gli strumenti che non si adattano al loro modo di lavorare.

Un sistema di governance degno di questo nome non si limita a documentare una policy in un PDF che nessuno legge. Applica la policy nel flusso di lavoro, registra ogni citazione assistita dall'AI, genera il linguaggio di divulgazione che una data giurisdizione richiede, e produce la traccia di audit che permette a un partner supervisore di certificare, onestamente, che ogni citazione è stata controllata.

Le domande che gli studi mi fanno sempre

Di solito si apre con qualche versione di: se verifico ogni citazione a mano, non ho forse buttato via l'efficienza che l'AI mi ha dato? Sì — ed è proprio questo il senso di integrare la verifica nella pipeline invece di lasciarla a un associate stanco a mezzanotte. La verifica manuale delle citazioni dell'output dell'AI non scala, e saltarla è il rischio di negligenza professionale. Lo strato esiste precisamente perché la velocità sopravviva alla sicurezza.

Poi arriva la versione dello scettico: non è esagerato tutto questo — quanto spesso l'allucinazione contestuale morde davvero? Il database delle allucinazioni di Charlotin aveva superato i 1.222 casi documentati di allucinazione dell'AI in atti giudiziari statunitensi entro l'inizio del 2026, in crescita rispetto agli oltre 729 di fine 2025. La curva sta andando nella direzione sbagliata, le sanzioni sono passate da schiaffi da 500 dollari a penali a cinque cifre come routine, e quel conteggio cattura solo quelle che sono state scoperte e pubblicate. Tengo quel database aperto in una scheda. Il numero sale mentre non state guardando.

E da un managing partner, quasi sempre: non può un Big Four o un grande system integrator gestire semplicemente tutto questo? Possono configurare la vostra piattaforma, e vi addebiteranno dai 500.000 ai 2 milioni di dollari per farlo. Ma configurare Harvey significa distribuire una piattaforma — non significa costruire lo strato di verifica che la piattaforma lascia deliberatamente a voi. Sono problemi diversi, e solo uno dei due è quello che vi fa sanzionare.

Cosa direi all'associate alle 23

Il mercato dell'AI legale sta passando da circa 5,6 miliardi di dollari nel 2026 verso i 12,5 miliardi entro il 2030, e la ricerca giuridica ne è la fetta più grande in assoluto. Quella crescita è reale e gli strumenti se la meritano. Ma l'intero settore sta ottimizzando per l'output — ricerca più veloce, più agenti, flussi di lavoro autonomi più lunghi — e tratta la verifica come responsabilità di qualcun altro, il che in pratica significa di nessuno.

Il caso che vi farà sanzionare nel 2026 supererà ogni controllo che i vostri strumenti attuali eseguono. Esisterà. Porterà una bandierina verde. Sarà citato per qualcosa che non dice proprio, e la versione di voi che lo legge a mezzanotte sotto scadenza non lo coglierà, perché tutto sullo schermo dice che va bene.

Non è una ragione per diffidare dell'AI legale. È una ragione per costruire l'unico strato che le piattaforme hanno tralasciato — lo strato di verifica e governance che legge ciò che il caso effettivamente stabilisce, non solo se sta ancora respirando. Gli studi che lo installeranno terranno la velocità. Quelli che non lo faranno continueranno a scoprire, un'ordinanza di comparizione alla volta, cosa una bandierina verde non aveva mai promesso loro.