Een groene citatorvlag redt je niet: hoe hallucinatie van juridische AI er in 2026 echt uitziet

Toen twee advocaten in maart 2026 het Sixth Circuit verlieten met samen $30,000 aan boetes, waren de aangehaalde zaken in hun processtuk niet allemaal verzonnen. Dat is het detail waar niemand bij stil wil staan, en het is de reden dat ik mijn dagen besteed aan het bouwen van wat ik bouw.

Ik kwam hierin terecht vanuit het probleem zelf. Vóór Veriprajna werkte ik als procesadvocaat, en het deel van het werk dat niemand romantiseert is het narekenen van citaten — om 23:00 uur zitten met een processtuk vol rode correcties, een citaat omcirkelen en krabbelen zegt deze zaak dit werkelijk? in de kantlijn. Toen de eerste golf juridische AI arriveerde, ging ik ervan uit dat die avond zou verdwijnen. In plaats daarvan maakte het de avond gevaarlijker, want de tools werden heel goed in het produceren van citaten die schijnbaar gecontroleerd zijn. Verificatie van juridische AI-citaten bleek geen functie te zijn die je gewoon aanzet. Het is een laag die iemand moet bouwen, en die vrijwel niemand had gebouwd.

Dit is de stelling die ik in dit essay wil verdedigen: de hallucinatie waarvoor een kantoor in 2026 wordt gesanctioneerd, is niet degene die je huidige tools zijn ontworpen om te vangen. De beroemde fout — de verzonnen zaak — is grotendeels opgelost. De fout die escaleert, is de echte zaak, verkeerd aangehaald, getooid met een groene vlag.

Iedereen herinnert zich Mata. Vrijwel niemand heeft de juiste les geleerd

Je kent het verhaal, ook al ken je de naam niet. Mata v. Avianca, 2023: een advocaat vroeg ChatGPT om onderbouwende zaken, en het produceerde Varghese v. China Southern Airlines — een overtuigend rolnummer, een plausibele rechtbank, gedetailleerde interne verwijzingen — en de zaak bestond niet. Een boete van $5,000 en genoeg schaamte voor een hele carrière volgden.

De les die de beroepsgroep uit Mata trok, was: "de AI verzint zaken." Dus bouwde de sector verdedigingen tegen verzonnen zaken. Thomson Reuters heeft KeyCite. LexisNexis heeft Shepard's, de gouden standaard, decennia oud. Harvey verankert zijn output in de datakluis van LexisNexis. Deze citators zijn oprecht goed in het Mata-probleem: geef ze een citaat dat naar niets verwijst, en ze vertellen je dat het naar niets verwijst.

Het probleem is dat de beroepsgroep het probleem van 2023 oploste en aannam dat ze daarmee ook dat van 2026 had opgelost.

Kijk naar wat er in februari 2026 werkelijk gebeurde in New Orleans. Een advocaat werd gesanctioneerd voor het indienen van elf verzonnen of verkeerd weergegeven citaten. Het deel dat je uit je slaap zou moeten houden: hij had zowel ChatGPT als Westlaw Precision AI gebruikt. Hij gebruikte de verankerde, speciaal daarvoor gebouwde, door een citator ondersteunde tool — en diende alsnog een processtuk in dat een sanctie opleverde. "Verminderen" is niet "elimineren", en de kloof tussen die twee woorden is waar de aansprakelijkheid nu leeft.

De fout die je tool niet kan zien

Laat me de faalmodus precies beschrijven, want de precisie is nu juist het hele punt.

De AI haalt een echte zaak aan voor een stelling die de zaak niet ondersteunt. Het rolnummer is geldig. De zaak bestaat. KeyCite geeft een groene vlag terug. Shepard's is het daarmee eens. En de analyse is nog steeds fout — omdat de AI de afwijkende opinie aanhaalde alsof het het meerderheidsoordeel was, of een zaak aanhaalde die een versie van een wet uitlegt die twee jaar geleden is gewijzigd.

Dit is wat het Stanford-onderzoek, peer-reviewed in het Journal of Empirical Legal Studies in 2025, daadwerkelijk mat toen het het hallucinatiepercentage van Westlaw Precision op 33% en dat van Lexis+ AI op 17% stelde. Mensen lezen "33% hallucinatie" en stellen zich een tool voor die bij één op de drie zoekopdrachten zaken verzint. Dat is niet wat die cijfers betekenen. Het gaat vooral om foutieve analyse van echte citaten. Je verificatietool bevestigt dat de zaak bestaat. Dat doet ze ook. Ze heeft alleen nooit beweerd te controleren wat de zaak zegt.

Ik maak het concreet, want dit is het voorbeeld dat mijn eigen team eindelijk deed stoppen met discussiëren. Een procesmedewerker vraagt een AI-assistent om verweren te onderzoeken tegen een claim wegens schending van de fiduciaire plicht naar het recht van Delaware. De tool levert een nette analyse die verwijst naar Stone v. Ritter (2006) voor de norm van aansprakelijkheid wegens toezicht door bestuurders. Het citaat is echt. De samenvatting van de uitspraak klopt — voor 2006. Wat de tool over het hoofd zag: de uitspraak van het Delaware Supreme Court uit 2019 in Marchand v. Barnhill verruimde de Caremark-toezichtplicht aanzienlijk, en uitspraken van de Chancery Court hebben sindsdien daarbovenop een "mission critical"-compliancenorm opgebouwd.

Stone v. Ritter draagt nog steeds een groene KeyCite-vlag. De zaak is nooit vernietigd. Ze is nog steeds "good law". En een processtuk dat er voor een indiening in 2026 op leunt, is nog steeds fout, omdat de praktische reikwijdte van de uitspraak is versmald door alles wat erna kwam — precies het soort ontwikkeling dat een citatorvlag niet is gebouwd om zichtbaar te maken.

Een citator vertelt je dat een zaak nog leeft. Ze vertelt je niet dat de zaak nog steeds betekent wat je AI zegt dat ze betekent.

Dat is het verschil tussen citaatfabricatie en contextuele hallucinatie, en het is het allerbelangrijkste onderscheid in dit hele vakgebied. De junior medewerker die de output onder tijdsdruk beoordeelt, zal het niet opvangen, want het citaat ziet er juist uit. Het is juist, in de enige zin die de tool ooit heeft gecontroleerd.

Dit hadden we eerst fout — en ik ben degene die ervoor pleitte

Ik wil eerlijk zijn over hoe ik dit heb geleerd, want ik ben er niet met redeneren op gekomen. Ik heb eerst het verkeerde ding uitgebracht.

Toen mijn team onze eerste verificatiechecker bouwde, betoogde ik — in onze eigen ontwerpreview, hardop, met enige stelligheid — dat als de zaak echt is, we in orde zijn. Dus onze eerste pipeline draaide in wezen de citatorlogica opnieuw. Ze bevestigde dat elke aangehaalde zaak bestond en haalde de behandelingsstatus op. Snel, netjes, en in een pilot loodste ze een processtuk regelrecht door naar een groen dashboard.

Toen zette een van de pilotgebruikers, een echte procesadvocaat, vraagtekens bij een alinea die onze tool had goedgekeurd. De aangehaalde zaak was echt. Onze checker was er dol op. De uitspraak die het processtuk eraan toeschreef, kwam uit het deel van de opinie dat niet doorslaggevend was. Ons systeem had daar geen oordeel over, want ik had het zo ontworpen dat het daar geen oordeel over had. Ik had Shepard's opnieuw gebouwd en het verificatie genoemd.

Dat was de fout die alles betaalde wat we daarna deden. Een citator sneller opnieuw draaien is geen verificatie — het is dezelfde blinde vlek met een mooiere interface. De ommezwaai werd ons opgedrongen: we moesten een laag bouwen die voorbij de citatorstatus leest, tot in de latere citerende verwijzingen, een laag die vraagt of latere zaken een uitspraak hebben onderscheiden of versmald, die een opinie markeert waarvan de kernstelling wezenlijk is gewijzigd, ook al blijft de zaak zelf good law. Dat is het technische probleem. De citator zou dat nooit oplossen, hoe snel we hem ook lieten draaien.

Waarom dicht het kopen van Harvey de kloof niet?

Mensen nemen aan dat de platformleveranciers dit zullen oplossen, en ik begrijp waarom — de platforms zijn buitengewoon, en het geld zegt dat iedereen het daarmee eens is. Harvey bereikte in maart 2026 een waardering van $11 billion op ongeveer $190 million aan jaarlijks terugkerende omzet, met meer dan 25,000 custom agents en adoptie binnen de helft van de AmLaw 100. Thomson Reuters kocht Casetext voor $650 million en voegde het toe aan de agentische workflows van CoCounsel. LexisNexis verving Lexis+ AI in februari 2026 door Lexis+ Protege — vier gespecialiseerde agents, meer dan 300 vooraf gebouwde workflows.

Deze vormen niet het probleem. Ik zeg dit ronduit tegen kantoren: houd je platform. Het probleem is dat geen van deze tools een onafhankelijke verificatielaag levert, en de betere zijn er eerlijk over dat het verifiëren van de output de verantwoordelijkheid van de gebruiker is. Er is een reden waarom LexisNexis stilletjes terugkwam op zijn taalgebruik over "100% hallucinatievrij" nadat de Stanford-cijfers waren geland.

En de platforms hebben het verificatieprobleem moeilijker gemaakt, niet makkelijker, door agentisch te worden. Wanneer een agent met een lange horizon een meerstaps onderzoeks- en opstelworkflow draait, is de output niet één aangehaalde alinea — het is een keten ervan, waarbij elke stap de volgende voedt, en elke stap een plek is waar een contextuele fout kan binnensluipen en zich kan voortplanten. Wanneer een junior medewerker me om 23:00 uur via Slack vraagt of de output van de agent veilig is om in te dienen, is het eerlijke antwoord: niet totdat iets elk citaat heeft getoetst aan wat de aangehaalde zaak werkelijk beslist, en heeft vastgelegd welke agentstap het heeft geproduceerd. Dat auditspoor is geen mooie extra. Het is precies wat een permanente instructie (standing order) van een rechter steeds vaker eist. En dit is geen randverschijnsel waarop ik me voorbereid — de adoptie van juridische AI door bedrijfsjuristen verdubbelde in één jaar van 23% naar 52%, en Gartner verwacht dat 40% van de bedrijfsapplicaties tegen 2026 taakspecifieke agents zal inbedden; de faalmodus van de citatieketen schaalt met elk van hen mee.

Dus wat vangt een echte zaak die verkeerd wordt aangehaald wél op?

Geen andere AI — een andere taak. De verificatielaag zit tussen de output van de AI en de handtekening van de mens, en ze doet wat de citator niet doet: in plaats van te stoppen bij de vraag of een zaak nog good law is, leest ze door in de latere citerende verwijzingen, vraagt ze of latere opinies de uitspraak hebben onderscheiden of versmald, en markeert ze de zaken waarvan de kernstelling wezenlijk is gewijzigd, ook al leest de headnote nog schoon. De behandelingsstatus is het begin van het onderzoek, niet het einde ervan.

Daaronder doet de retrieval er meer toe dan mensen verwachten. Vectorzoeken — de standaard in de meeste retrieval-augmented systemen — vindt zaken die tekstueel op een zoekopdracht lijken. Juridisch gezag is niet geordend op tekstuele gelijkenis; het is geordend volgens hoe zaken elkaar citeren, onderscheiden en verwerpen. Dat is een graaf, geen lijst. Van retrieval die is gebouwd op een juridische kennisgraaf in plaats van op een platte vectorindex is aangetoond dat ze vectorzoeken met ongeveer 14% overtreft in retrieval-relevantie voor juridisch werk — het verschil tussen het naar boven halen van de zaak die doorslaggevend is en het naar boven halen van de zaak die alleen maar klinkt alsof ze dat is. De graaf is hoe je de Marchand vindt die de Stone die iedereen nog steeds aanhaalt, stilletjes hervormde.

Dit is de laag die we bij Veriprajna bouwen — de pipeline voor citaatverificatie, kennisgraafinfrastructuur en governancesystemen die AI-output veilig maken om in te dienen — en we bouwen het rondom welk platform een kantoor ook al gebruikt, Harvey of Lexis Protege of een open-source model, in plaats van iemand te vragen een werkende tool eruit te rukken.

Het deel dat niemand op een slide zet: governance

Er is een tweede probleem onder het technische, en het is degene die een sanctie verandert in een claim wegens beroepsfout.

Ongeveer 68% van de juridische professionals geeft toe minstens één keer een niet-goedgekeurde AI-tool te hebben gebruikt, en minder dan één op de vijf kantoren heeft een formeel AI-beleid — terwijl inmiddels bijna zeven op de tien advocaten generatieve AI voor werk gebruiken, een aandeel dat in één jaar verdubbelde. Dus de meeste kantoren hebben advocaten die cliëntdossiers invoeren in tools die niemand heeft goedgekeurd, zonder registratie van welke tool, zonder verificatiestap en zonder auditspoor. Verzekeraars voor beroepsaansprakelijkheid hebben het gemerkt. Ze schrijven AI-gebruik in hun polisoverwegingen, en ongeoorloofd gebruik zonder toezicht van een advocaat is precies het soort ding dat de dekking tenietdoet wanneer er een claim binnenkomt.

Ook de wettelijke ondergrens is opgeschoven, en de meeste kantoren hebben die niet gehaald. ABA Formal Opinion 512, uitgebracht in juli 2024, zet zes ethische verplichtingen uiteen voor generatieve AI — competentie, vertrouwelijkheid, oprechtheid jegens de rechtbank en toezicht daaronder — en ze heeft twee kanten die mensen missen. Je mag een cliënt niet in rekening brengen voor de tijd die je besteedt aan het leren van een tool die je regelmatig zult gebruiken. En een federale rechtbank heeft al geoordeeld dat door AI gegenereerd werkproduct niet wordt beschermd door het verschoningsrecht tussen advocaat en cliënt. Ondertussen hebben meer dan 300 rechters hun eigen permanente AI-instructies uitgevaardigd, elk met een eigen openbaarmakings- of certificeringsvereiste, voegde Florida in februari 2026 een openbaarmakingsplicht toe, en geen enkel kantoor dat ik heb ontmoet heeft een systematische manier om bij te houden welke rechter wat eist. En de ondergrens stijgt nog steeds: de EU AI Act treedt in augustus 2026 in werking, de AI Act van Colorado in juni, en de EU-richtlijn productaansprakelijkheid behandelt AI nu als een product onder risicoaansprakelijkheid — wat de blootstelling verschuift van één gesanctioneerde medewerker naar de balans van het kantoor.

Schaduw-AI is geen disciplineprobleem. Het is een infrastructuurkloof — mensen omzeilen tools die niet passen bij hoe ze werken.

Een governancesysteem dat de naam waard is, documenteert niet alleen een beleid in een pdf die niemand leest. Het handhaaft het beleid in de workflow, legt elk AI-ondersteund citaat vast, genereert de openbaarmakingstekst die een bepaalde jurisdictie vereist, en produceert het auditspoor waarmee een toezichthoudende partner eerlijk kan certificeren dat elk citaat is gecontroleerd.

De vragen die kantoren me altijd stellen

Meestal opent het met een variant van: als ik elk citaat met de hand verifieer, heb ik dan niet de efficiëntie weggegooid die de AI me gaf? Ja — en dat is nu juist het hele punt van het inbouwen van de verificatie in de pipeline, in plaats van het over te laten aan een vermoeide medewerker om middernacht. Handmatig citaten controleren van AI-output schaalt niet, en het overslaan ervan is het risico op beroepsfouten. De laag bestaat juist opdat de snelheid de veiligheid overleeft.

Dan komt de versie van de scepticus: is dit niet overdreven — hoe vaak bijt contextuele hallucinatie nu echt? De Charlotin-hallucinatiedatabase had begin 2026 de 1,222 gedocumenteerde gevallen van AI-hallucinatie in Amerikaanse gerechtelijke stukken gepasseerd, tegenover meer dan 729 aan het eind van 2025. De curve gaat de verkeerde kant op, de sancties zijn gestegen van tikken van $500 naar routinematige boetes van vijf cijfers, en die telling vangt alleen de gevallen die zijn betrapt en gepubliceerd. Ik houd die database open in een tabblad. Het getal loopt op terwijl je niet kijkt.

En van een managing partner, bijna altijd: kan een Big Four-kantoor of een grote systeemintegrator dit niet gewoon allemaal afhandelen? Ze kunnen je platform configureren, en ze rekenen daar $500K tot $2 million voor. Maar Harvey configureren is een platform uitrollen — het is niet het bouwen van de verificatielaag die het platform bewust aan jou overlaat. Dat zijn verschillende problemen, en slechts één ervan is degene die je gesanctioneerd krijgt.

Wat ik de medewerker om 23:00 uur zou vertellen

De markt voor juridische AI gaat van ongeveer $5.6 billion in 2026 richting $12.5 billion tegen 2030, en juridisch onderzoek is daarvan het grootste enkele segment. Die groei is echt en de tools verdienen die. Maar de hele sector optimaliseert voor output — sneller onderzoek, meer agents, langere autonome workflows — en behandelt verificatie als de verantwoordelijkheid van iemand anders, wat in de praktijk niemands verantwoordelijkheid betekent.

De zaak die je in 2026 gesanctioneerd krijgt, zal door elke controle komen die je huidige tools uitvoeren. Ze zal bestaan. Ze zal een groene vlag dragen. Ze zal worden aangehaald voor iets wat ze niet helemaal zegt, en de versie van jou die haar om middernacht onder tijdsdruk leest, zal het niet opmerken, omdat alles op het scherm zegt dat het in orde is.

Dat is geen reden om juridische AI te wantrouwen. Het is een reden om de ene laag te bouwen die de platforms hebben weggelaten — de verificatie- en governancelaag die leest wat de zaak werkelijk beslist, niet alleen of ze nog ademt. De kantoren die haar installeren, behouden de snelheid. De kantoren die dat niet doen, blijven er telkens weer achter komen, één show-cause-bevel per keer, wat een groene vlag hun nooit heeft beloofd.