Le drapeau vert d'un citateur ne vous sauvera pas : à quoi ressemble vraiment l'hallucination de l'IA juridique en 2026

Lorsque deux avocats sont sortis de la Sixth Circuit en mars 2026 en devant 30 000 $ à eux deux, les affaires citées dans leur mémoire n'étaient pas toutes imaginaires. C'est ce détail que personne ne veut regarder en face, et c'est la raison pour laquelle je passe mes journées à construire ce que je construis.

Je suis venu à cela depuis l'intérieur du problème. Avant Veriprajna, j'ai travaillé comme collaborateur en contentieux, et la partie du métier que personne ne romantise, c'est la vérification des citations — assis à 23 h avec un mémoire annoté au stylo rouge, entourant une citation, griffonnant cette affaire dit-elle réellement cela ? dans la marge. Quand la première vague d'IA juridique est arrivée, je pensais qu'elle ferait disparaître cette nuit. Au lieu de cela, elle a rendu la nuit plus dangereuse, parce que les outils sont devenus très bons pour produire des citations qui semblent vérifiées. La vérification des citations par l'IA juridique s'est avérée ne pas être une fonctionnalité que l'on active. C'est une couche que quelqu'un doit construire, et que presque personne n'avait.

Voici la thèse que je veux défendre dans cet essai : l'hallucination qui fera sanctionner un cabinet en 2026 n'est pas celle que vos outils actuels sont conçus pour détecter. L'échec célèbre — l'affaire inventée — est en grande partie résolu. L'échec qui s'aggrave, c'est l'affaire réelle, mal citée, portant un drapeau vert.

Tout le monde se souvient de Mata. Presque personne n'en a tiré la bonne leçon

Vous connaissez l'histoire même si vous n'en connaissez pas le nom. Mata v. Avianca, 2023 : un avocat a demandé à ChatGPT des affaires à l'appui, il a produit Varghese v. China Southern Airlines — numéro de rôle convaincant, tribunal plausible, citations internes détaillées — et l'affaire n'existait pas. Une amende de 5 000 $ et l'équivalent d'une carrière d'embarras ont suivi.

La leçon que la profession a retenue de Mata était « l'IA invente des affaires ». L'industrie a donc construit des défenses contre les affaires inventées. Thomson Reuters a KeyCite. LexisNexis a Shepard's, la référence absolue, vieille de plusieurs décennies. Harvey ancre ses résultats dans le coffre de données LexisNexis. Ces citateurs sont réellement bons face au problème Mata : donnez-leur une citation qui ne renvoie à rien, et ils vous disent qu'elle ne renvoie à rien.

Le problème, c'est que la profession a résolu le problème de 2023 et a supposé qu'elle avait résolu celui de 2026.

Regardez ce qui s'est réellement passé à La Nouvelle-Orléans en février 2026. Un avocat a été sanctionné pour avoir soumis onze citations fabriquées ou dénaturées. La partie qui devrait vous empêcher de dormir : il avait utilisé à la fois ChatGPT et Westlaw Precision AI. Il a utilisé l'outil ancré, conçu à cette fin, adossé à un citateur — et a tout de même déposé un mémoire qui lui a valu une sanction. « Réduire » n'est pas « éliminer », et l'écart entre ces deux mots, c'est là que réside désormais la responsabilité.

L'échec que votre outil ne peut pas voir

Laissez-moi décrire ce mode d'échec avec précision, car la précision est tout l'enjeu.

L'IA cite une affaire réelle pour une proposition que l'affaire ne soutient pas. Le numéro de rôle est valide. L'affaire existe. KeyCite renvoie un drapeau vert. Shepard's est d'accord. Et l'analyse est tout de même fausse — parce que l'IA a cité l'opinion dissidente comme s'il s'agissait de la décision majoritaire, ou a cité une affaire interprétant une version d'une loi qui a été modifiée il y a deux ans.

C'est ce que l'étude de Stanford, évaluée par les pairs dans le Journal of Empirical Legal Studies en 2025, a réellement mesuré lorsqu'elle a établi le taux d'hallucination de Westlaw Precision à 33 % et celui de Lexis+ AI à 17 %. Les gens lisent « 33 % d'hallucination » et imaginent un outil inventant des affaires une requête sur trois. Ce n'est pas ce que ces chiffres signifient. Il s'agit surtout d'une analyse erronée de vraies citations. Votre outil de vérification confirme que l'affaire existe. C'est vrai. Il n'a simplement jamais prétendu vérifier ce que dit l'affaire.

Je vais le rendre concret, car c'est l'exemple qui a finalement fait cesser les débats au sein de ma propre équipe. Un collaborateur en contentieux demande à un assistant IA de rechercher des moyens de défense à une demande pour manquement à l'obligation fiduciaire en vertu du droit du Delaware. L'outil renvoie une analyse impeccable citant Stone v. Ritter (2006) pour la norme de responsabilité en matière de surveillance des administrateurs. La citation est réelle. Le résumé de la décision est exact — pour 2006. Ce que l'outil a manqué, c'est que la décision de 2019 de la Cour suprême du Delaware dans Marchand v. Barnhill a considérablement étendu l'obligation de surveillance Caremark, et que les arrêts de la Chancery Court depuis lors ont bâti par-dessus une norme de conformité « mission critique ».

Stone v. Ritter porte toujours un drapeau vert KeyCite. Elle n'a jamais été infirmée. Elle reste du « bon droit ». Et un mémoire qui s'appuie dessus pour un dépôt de 2026 est tout de même faux, parce que la portée pratique de la décision a été restreinte par tout ce qui a suivi — exactement le genre d'évolution qu'un drapeau de citateur n'est pas conçu pour faire remonter.

Un citateur vous dit qu'une affaire est vivante. Il ne vous dit pas que l'affaire signifie toujours ce que votre IA prétend qu'elle signifie.

C'est la différence entre la fabrication de citations et l'hallucination contextuelle, et c'est la distinction la plus importante de tout ce domaine. Le collaborateur junior qui relit le résultat sous la pression du délai ne la détectera pas, parce que la citation a l'air correcte. Elle est correcte, au seul sens que l'outil vérifiait.

Nous nous sommes trompés en premier — et c'est moi qui l'ai défendu

Je veux être honnête sur la façon dont j'ai appris cela, parce que je n'y suis pas parvenu par le raisonnement. J'ai d'abord livré la mauvaise chose.

Quand mon équipe a construit notre premier vérificateur de citations, j'ai soutenu — lors de notre propre revue de conception, à voix haute, avec une certaine assurance — que si l'affaire est réelle, tout va bien. Notre premier pipeline reproduisait donc essentiellement la logique du citateur. Il confirmait que chaque affaire citée existait et récupérait son statut de traitement. Rapide, propre, et lors d'un pilote il a fait passer un mémoire tout droit vers un tableau de bord vert.

Puis l'un des utilisateurs du pilote, un vrai plaideur, a contesté un paragraphe que notre outil avait béni. L'affaire citée était réelle. Notre vérificateur l'adorait. La décision que le mémoire lui attribuait provenait de la partie de l'opinion qui ne faisait pas jurisprudence. Notre système n'avait aucun avis là-dessus, parce que je l'avais conçu pour n'avoir aucun avis là-dessus. J'avais reconstruit Shepard's et appelé cela de la vérification.

C'est l'échec qui a payé pour tout ce que nous avons fait ensuite. Reproduire un citateur plus vite n'est pas de la vérification — c'est le même angle mort avec une interface plus jolie. Le pivot nous a été imposé : nous devions construire une couche qui lit au-delà du statut de citateur vers les références citantes ultérieures, qui demande si des affaires postérieures ont distingué ou restreint une décision, qui signale une opinion dont la proposition centrale a été substantiellement modifiée même si l'affaire elle-même reste du bon droit. C'est cela, le problème d'ingénierie. Le citateur n'allait jamais le résoudre, quelle que soit la vitesse à laquelle nous le faisions tourner.

Pourquoi acheter Harvey ne comble-t-il pas l'écart ?

Les gens supposent que les éditeurs de plateformes régleront cela, et je comprends pourquoi — les plateformes sont extraordinaires, et l'argent dit que tout le monde est d'accord. Harvey a atteint une valorisation de 11 milliards de dollars en mars 2026 sur environ 190 millions de dollars de revenus récurrents annuels, avec plus de 25 000 agents personnalisés et une adoption au sein de la moitié de l'AmLaw 100. Thomson Reuters a racheté Casetext pour 650 millions de dollars et l'a intégré aux flux de travail agentiques de CoCounsel. LexisNexis a remplacé Lexis+ AI par Lexis+ Protege en février 2026 — quatre agents spécialisés, plus de 300 flux de travail préconstruits.

Ce ne sont pas eux le problème. Je le dis clairement aux cabinets : gardez votre plateforme. L'écart, c'est qu'aucun de ces outils ne livre une couche de vérification indépendante, et les meilleurs sont honnêtes sur le fait que la vérification des résultats relève de la responsabilité de l'utilisateur. Il y a une raison pour laquelle LexisNexis a discrètement fait marche arrière sur sa formule « 100 % sans hallucination » après la publication des chiffres de Stanford.

Et les plateformes ont rendu le problème de vérification plus difficile, non plus facile, en passant à l'agentique. Quand un agent à long horizon exécute un flux de recherche et de rédaction en plusieurs étapes, le résultat n'est pas un paragraphe cité — c'est une chaîne de paragraphes, chaque étape alimentant la suivante, chacune étant un endroit où une erreur contextuelle peut entrer et se propager. Quand un collaborateur junior me contacte sur Slack à 23 h pour demander si le résultat de l'agent peut être déposé en toute sécurité, la réponse honnête est : pas tant que quelque chose n'a pas confronté chaque citation à ce que l'affaire citée statue réellement, et consigné quelle étape de l'agent l'a produite. Cette piste d'audit n'est pas un simple bonus. C'est ce que l'ordonnance permanente d'un juge exige de plus en plus. Et ce n'est pas un flux de travail marginal auquel je me prépare — l'adoption de l'IA juridique en entreprise a doublé, passant de 23 % à 52 % en une seule année, et Gartner s'attend à ce que 40 % des applications d'entreprise intègrent des agents spécialisés à des tâches d'ici 2026 ; le mode d'échec de la chaîne de citations passe à l'échelle avec chacun d'eux.

Alors qu'est-ce qui détecte réellement une affaire réelle citée à tort ?

Pas une IA différente — un travail différent. La couche de vérification se situe entre le résultat de l'IA et la signature de l'humain, et elle fait ce que le citateur ne fait pas : au lieu de s'arrêter à la question de savoir si une affaire est toujours du bon droit, elle lit dans les références citantes ultérieures, demande si des opinions postérieures ont distingué ou restreint la décision, et signale les affaires dont la proposition centrale a été substantiellement modifiée même quand le sommaire reste impeccable. Le statut de traitement est le début de l'examen, pas sa fin.

En dessous, la récupération compte plus que les gens ne s'y attendent. La recherche vectorielle — le réglage par défaut dans la plupart des systèmes à génération augmentée par récupération — trouve des affaires textuellement similaires à une requête. L'autorité juridique n'est pas organisée par similarité textuelle ; elle est organisée par la façon dont les affaires se citent, se distinguent et s'infirment les unes les autres. C'est un graphe, pas une liste. Il a été démontré qu'une récupération construite sur un graphe de connaissances juridiques plutôt que sur un index vectoriel plat surpasse la recherche vectorielle d'environ 14 % en pertinence de récupération pour le travail juridique — la différence entre faire remonter l'affaire qui fait jurisprudence et faire remonter l'affaire qui semble simplement faire jurisprudence. Le graphe, c'est ainsi que l'on trouve le Marchand qui a discrètement remodelé le Stone que tout le monde continue de citer.

C'est la couche que nous construisons chez Veriprajna — le pipeline de vérification des citations, l'infrastructure de graphe de connaissances et les systèmes de gouvernance qui rendent le résultat de l'IA déposable en toute sécurité — et nous la construisons autour de la plateforme qu'un cabinet utilise déjà, Harvey, Lexis Protege ou un modèle open source, plutôt que de demander à quiconque d'arracher un outil qui fonctionne.

La partie que personne ne met sur une diapositive : la gouvernance

Il y a un second problème sous le problème technique, et c'est celui qui transforme une sanction en action en responsabilité professionnelle.

Environ 68 % des professionnels du droit admettent avoir utilisé au moins une fois un outil d'IA non approuvé, et moins d'un cabinet sur cinq dispose d'une politique formelle en matière d'IA — alors même que près de sept avocats sur dix utilisent désormais l'IA générative pour leur travail, une proportion qui a doublé en une seule année. Ainsi, la plupart des cabinets ont des avocats qui alimentent des dossiers clients dans des outils que personne n'a approuvés, sans trace de l'outil utilisé, sans étape de vérification et sans piste d'audit. Les assureurs en responsabilité professionnelle l'ont remarqué. Ils inscrivent l'usage de l'IA dans les considérations de leurs polices, et l'utilisation non autorisée sans supervision d'un avocat est exactement le genre de chose qui annule la couverture quand une réclamation survient.

Le plancher réglementaire s'est déplacé lui aussi, et la plupart des cabinets ne l'ont pas atteint. L'avis formel 512 de l'ABA, publié en juillet 2024, expose six obligations déontologiques pour l'IA générative — la compétence, la confidentialité, la loyauté envers le tribunal et la supervision parmi elles — et il comporte deux tranchants que les gens manquent. Vous ne pouvez pas facturer à un client le temps que vous passez à apprendre un outil que vous utiliserez régulièrement. Et un tribunal fédéral a déjà jugé que le produit du travail généré par l'IA n'est pas protégé par le secret professionnel de l'avocat. Pendant ce temps, plus de 300 juges ont émis leurs propres ordonnances permanentes sur l'IA, chacune avec sa propre exigence de divulgation ou de certification, la Floride a ajouté une obligation de divulgation en février 2026, et aucun cabinet que j'aie rencontré n'a de moyen systématique de suivre quel juge exige quoi. Et le plancher continue de s'élever : la loi européenne sur l'IA entre en vigueur en août 2026, la loi sur l'IA du Colorado en juin, et la directive européenne sur la responsabilité du fait des produits traite désormais l'IA comme un produit soumis à la responsabilité stricte — ce qui déplace l'exposition d'un seul collaborateur sanctionné vers le bilan du cabinet.

L'IA fantôme n'est pas un problème de discipline. C'est un manque d'infrastructure — les gens contournent les outils qui ne correspondent pas à leur façon de travailler.

Un système de gouvernance digne de ce nom ne se contente pas de documenter une politique dans un PDF que personne ne lit. Il applique la politique dans le flux de travail, consigne chaque citation assistée par l'IA, génère le libellé de divulgation exigé par une juridiction donnée, et produit la piste d'audit qui permet à un associé superviseur de certifier, honnêtement, que chaque citation a été vérifiée.

Les questions que les cabinets me posent toujours

Cela commence généralement par une version de : si je vérifie chaque citation à la main, n'ai-je pas jeté par la fenêtre l'efficacité que l'IA m'a donnée ? Oui — ce qui est précisément la raison d'intégrer la vérification dans le pipeline plutôt que de la laisser à un collaborateur épuisé à minuit. La vérification manuelle des résultats de l'IA ne passe pas à l'échelle, et la sauter, c'est le risque de faute professionnelle. La couche existe précisément pour que la vitesse survive à la sécurité.

Vient ensuite la version du sceptique : n'est-ce pas exagéré — à quelle fréquence l'hallucination contextuelle mord-elle réellement ? La base de données d'hallucinations de Charlotin avait dépassé 1 222 cas documentés d'hallucination de l'IA dans des dépôts devant les tribunaux américains début 2026, contre plus de 729 fin 2025. La courbe va dans le mauvais sens, les sanctions sont passées de tapes à 500 $ à des pénalités à cinq chiffres devenues courantes, et ce décompte ne capture que celles qui ont été détectées et publiées. Je garde cette base de données ouverte dans un onglet. Le chiffre grimpe pendant que vous ne regardez pas.

Et de la part d'un associé gérant, presque toujours : un cabinet du Big Four ou un grand intégrateur de systèmes ne peut-il pas simplement s'occuper de tout cela ? Ils peuvent configurer votre plateforme, et ils factureront de 500 000 $ à 2 millions de dollars pour le faire. Mais configurer Harvey, c'est déployer une plateforme — ce n'est pas construire la couche de vérification que la plateforme vous laisse délibérément. Ce sont des problèmes différents, et un seul d'entre eux est celui qui vous fait sanctionner.

Ce que je dirais au collaborateur à 23 h

Le marché de l'IA juridique passe d'environ 5,6 milliards de dollars en 2026 vers 12,5 milliards de dollars d'ici 2030, et la recherche juridique en est la plus grande part à elle seule. Cette croissance est réelle et les outils la méritent. Mais toute l'industrie optimise pour le résultat — recherche plus rapide, plus d'agents, flux de travail autonomes plus longs — et traite la vérification comme la responsabilité de quelqu'un d'autre, ce qui en pratique signifie celle de personne.

L'affaire qui vous sanctionnera en 2026 passera chaque contrôle qu'exécutent vos outils actuels. Elle existera. Elle portera un drapeau vert. Elle sera citée pour quelque chose qu'elle ne dit pas tout à fait, et la version de vous qui la lira à minuit sous la pression du délai ne la détectera pas, parce que tout à l'écran dit que tout va bien.

Ce n'est pas une raison de se méfier de l'IA juridique. C'est une raison de construire la seule couche que les plateformes ont laissée de côté — la couche de vérification et de gouvernance qui lit ce que l'affaire statue réellement, pas seulement si elle respire encore. Les cabinets qui l'installeront garderont la vitesse. Ceux qui ne le feront pas continueront de découvrir, une ordonnance de justification à la fois, ce qu'un drapeau vert ne leur avait jamais promis.