Les affaires étaient réelles. Je ne pouvais quand même pas laisser l'IA s'en porter garante.

La première fois que j'ai vu mon propre outil refuser de bénir trois vraies affaires de la Cour suprême, j'étais sûr qu'il était cassé.

Je faisais tourner un mémoire d'exemple que j'avais intitulé « Précédent mal appliqué ». Il citait Erie Railroad v. Tompkins, 304 U.S. 64, pour l'existence d'un corpus uniforme de common law fédérale, ce qui est à peu près le contraire de ce que Erie a réellement décidé. Il s'appuyait sur Celotex Corp. v. Catrett, 477 U.S. 317, et Baker v. Carr, 369 U.S. 186, pour des propositions que les opinions ne soutiennent pas. Chacune de ces affaires est réelle. Je m'attendais à ce que mon contrôle de soutien les allume en rouge, les tamponne Non étayé, et clôture le dossier. Au lieu de cela, les trois sont revenues avec un verdict plus discret : À examiner. Mon premier instinct a été que le modèle de langage avait raté la partie facile.

Il m'a fallu une soirée embarrassamment longue pour comprendre que l'instinct était le bug, et qu'il était en moi, pas dans le système.

Un « Non étayé » confiant tamponné sur une lecture subtilement erronée de Erie aurait été un bluff. L'opinion est longue, le mauvais usage est une question de jugement juridique, et le modèle ne peut pas établir le négatif à partir d'un extrait avec la certitude qu'implique un verdict rouge. Le geste honnête, celui que j'avais construit par accident puis failli supprimer du code par frustration, était de le router vers un humain avec le contexte contradictoire joint. L'abstention n'était pas l'échec. L'abstention était tout l'enjeu. Si vous voulez le regarder décider par vous-même, c'est ici : veriprajna.com/fr/demos/verification-et-gouvernance-des-citations-d-ia-juridique.

Cet essai porte sur l'hypothèse avec laquelle j'ai commencé, que presque tous ceux qui construisent de l'IA juridique partagent aujourd'hui, et sur la façon lente et précise dont la construction de la démo l'a démontée. L'hypothèse, c'est que le problème d'hallucination se résout avec un meilleur modèle. Je n'y crois plus, et ce n'est pas parce que je doute que les modèles s'amélioreront.

La semaine où j'ai essayé de faire surveiller un modèle par un autre

J'ai passé environ une semaine à essayer de faire d'un modèle de langage le juge digne de confiance d'un autre modèle de langage, et je veux être honnête : cela n'a pas marché.

Le dispositif semblait raisonnable. Un modèle rédige un mémoire, chez Harvey ou Lexis Protégé ou un modèle open source, peu importe lequel. Puis un second modèle lit chaque citation face à l'affaire qu'elle pointe et statue sur le point de savoir si l'opinion soutient l'affirmation. Deux modèles, un contrôle propre, le genre d'architecture qui survit à une revue de conception. Je m'attendais vraiment à ce que l'étape de décision soit la partie facile. C'était la partie qui ne tenait pas en place.

L'échec n'était pas bruyant, et c'est ce qui le rendait dangereux. Je faisais passer le même mémoire trois fois par le contrôle de soutien et obtenais deux « À examiner » et un clair confiant, sans aucun changement à l'entrée. Sur la Bell Atlantic Corp. v. Twombly citation, 550 U.S. 544, une affaire réelle, le modèle décidait parfois que l'opinion établissait nettement la proposition citée, et parfois qu'elle ne le faisait pas tout à fait. Les deux lectures étaient défendables. C'était exactement le problème. Une décision que l'on ne peut pas reproduire n'est pas une décision. C'est un second avis qui porte une robe.

Je demandais à un système probabiliste d'être la porte déterministe d'un autre système probabiliste, et j'appelais le résultat vérification.

Ce n'est pas de la vérification. C'est deux modèles qui sont d'accord, ce qui est une chose plus faible et bien plus douteuse. Si la raison pour laquelle vous avez besoin d'un contrôle, c'est que la sortie du premier modèle ne peut pas être prise au premier degré, la sortie du second modèle ne peut pas être ce à quoi vous faites confiance pour le contrôler. J'avais construit un palais des miroirs et j'étais sur le point d'y coller un autocollant de conformité. Le tribunal à l'autre bout ne se soucie pas du degré de confiance de l'un ou l'autre modèle. Il se soucie de savoir si l'affaire existe et si elle dit ce que vous avez affirmé. Ce sont deux questions, et je les avais traitées comme une seule.

Qu'est-ce qui est plus dangereux, une affaire fabriquée ou une affaire réelle mal utilisée ?

Ce qui m'a surpris en construisant cela, c'est de réaliser que les deux échecs exigent des mécanismes complètement différents, et que l'industrie livre surtout l'un des deux.

Une citation fabriquée est, curieusement, l'échec amical. Halstead v. Ferngate Holdings, 823 U.S. 1199, apparaît dans l'un des mémoires d'exemple, citée avec une aisance totale pour la proposition selon laquelle les dommages-intérêts punitifs sont catégoriquement exclus. Elle n'existe pas. Les United States Reports n'ont pas de volume 823. Vous pouvez le prouver avec certitude, non pas en demandant à un modèle ce qu'il en pense, mais en interrogeant la vraie jurisprudence et en obtenant une recherche à résultat nul. C'est de l'arithmétique face à une autorité, pas du jugement. C'est le genre de chose que le code devrait décider, et décider de la même façon à chaque fois.

L'échec dangereux, c'est l'affaire réelle citée pour la mauvaise chose. Erie est une citation réelle, célèbre, correctement formatée. Tous les filtres de fabrication du monde la laissent passer, précisément parce qu'elle n'est pas fabriquée. Le volume existe, la page existe, l'opinion existe. Ce qui est faux, c'est la relation entre l'affaire citée et la phrase qui la précède, et cette relation est une question de lecture juridique, pas d'existence. Un contrôle d'appariement de sources traite « cette affaire est réelle » et « cette affaire soutient mon affirmation » comme un seul et même fait. Ils ne sont même pas proches.

Ainsi les chiffres que l'on cite sur l'IA juridique commencent à avoir du sens. Même les outils conçus à cette fin hallucinent à des taux qui devraient vous glacer : Westlaw Precision à 33 pour cent et Lexis+ à 17 pour cent dans l'étude Stanford RegLab publiée dans le Journal of Empirical Legal Studies, 2025. Début 2026, il y avait 1 222 affaires judiciaires documentées impliquant des citations hallucinées par l'IA, et les tribunaux ont commencé à sanctionner, y compris une amende de 30 000 dollars de la Sixth Circuit en mars 2026. Les fabrications sont les échecs que l'on peut au moins imaginer attraper. La citation réelle mais mal appliquée est celle qui ressemble à de la diligence jusqu'au moment où un juge lit l'opinion que vous avez citée et découvre qu'elle dit le contraire.

Une affaire fabriquée est un mensonge que l'on peut réfuter. Une affaire réelle citée pour la mauvaise holding est un mensonge qui passe tous les tests construits pour attraper le premier type.

Pourquoi j'ai scindé le moteur en deux

J'ai cessé d'essayer de faire accomplir les deux tâches par un seul système le soir où j'ai accepté que c'étaient des tâches différentes.

Le contrôle d'existence et la capture de fabrication sont devenus du Python déterministe s'exécutant contre de la vraie jurisprudence. Pas de prompt, pas de température, pas de « en tant que modèle de langage d'IA ». Prenez la citation, cherchez-la dans une autorité indépendante, et si l'affaire est réellement absente, elle est fabriquée, de façon prouvable, et elle ne peut jamais passer la porte. Cette dernière clause est la seule garantie que je suis prêt à énoncer platement, parce que c'est un invariant couvert par des tests unitaires plutôt qu'un espoir : zéro citation fabriquée ne peut passer la porte de politique. Il y a un test nommé exactement pour cela, et il fait partie des 8 sur 8 qui passent sur la démo construite.

Le contrôle de soutien est resté une seule étape de modèle de langage, parce que juger si une opinion réelle soutient une proposition est véritablement une tâche de lecture, et le modèle est un bon lecteur. Mais je lui ai donné la permission explicite de s'abstenir, et j'ai cessé de traiter l'abstention comme un bug. Quand il ne peut pas ancrer l'affirmation dans le texte de l'opinion, il route vers un humain au lieu de deviner. Le modèle conseille. La porte déterministe et l'avocat décident. J'ai fini par répéter deux choses sans cesse en construisant cela. L'une est les agents conseillent, le code décide. L'autre, c'est que je ne laisserai pas un LLM être le juge final d'un LLM.

Je veux être précis sur la scission, parce que la tentation est de la diluer en une promesse plus grande qu'elle n'est. Les parties déterministes — existence, fabrication, hors couverture et la porte — sont exactes et reproductibles. Le contrôle de soutien ne l'est pas. Il est non déterministe, et par conception il ne passe une citation au vert que lorsque le texte de l'opinion établit clairement la holding, comme le fait Miranda v. Arizona, 384 U.S. 436, sur les avertissements d'interrogatoire en garde à vue, et sinon il envoie la citation à l'examen. Le choix des citations réelles qui passent au vert plutôt que d'être routées vers un humain peut varier d'une exécution à l'autre. Ce n'est pas une aspérité que je dissimule. C'est la forme honnête du problème, et prétendre le contraire est exactement le geste contre lequel j'essaie de construire.

Ce que « 8 sur 8 » a réellement le droit de signifier

Je m'impose une règle sur les chiffres, parce que l'entreprise que je construis s'appelle Veriprajna, ce qui signifie vraie sagesse, et un nom comme celui-là est un défi permanent à la surpromesse.

Il y a des chiffres de preuve dans la démo et ils signifient des choses étroites. 8 tests unitaires hors ligne sur 8 passent, y compris celui qui prouve qu'aucune citation fabriquée ne peut franchir la porte et celui qui prouve qu'une autorité injoignable est traitée comme non prouvée plutôt que comme fabriquée. Il y a 20 vraies affaires mises en cache depuis CourtListener comme vérité terrain locale. Elles décrivent la portée de la démo construite. Ce n'est pas une affirmation sur votre mémoire ni sur le monde ouvert. La garantie de fabrication fait autorité parce qu'elle interroge la jurisprudence en live et qu'une affaire manquante est un fait. L'adjudication du contrôle de soutien est démontrée à petite échelle sur de vraies affaires, et je ne l'enflerai pas en un chiffre d'exactitude universel, parce que ce n'en est pas un.

Voici la ligne que je refuse de raccourcir, même si une version plus courte se vendrait mieux. Un mémoire sans citations fabriquées n'est pas automatiquement sûr à déposer. Quand même une seule citation réelle a encore besoin d'un humain pour confirmer qu'elle est utilisée correctement, la porte retient le dépôt à Non prêt au dépôt, et elle a raison. J'ai vu des gens vouloir l'inverse, vouloir qu'un mémoire d'apparence propre gagne tout seul un feu vert. C'est exactement l'instinct qui fait sanctionner un avocat.

Ce certificat compte plus pour moi que n'importe quel pourcentage d'exactitude, et c'est pourquoi les pièces déterministes et non déterministes doivent rester séparées. La reproductibilité est ce qui rend une décision certifiable. Je peux vous tendre le reçu. Cette citation a été vérifiée contre CourtListener, le volume n'existe pas, verdict fabriqué, la porte retient. Vous pouvez la relancer et obtenir le résultat identique. Un juge LLM, même bon, ne peut pas vous promettre cela, et j'ai vécu la soirée de trois exécutions et trois réponses différentes. Je ne construis pas un dossier de conformité sur un pile ou face.

Je dirai aussi clairement, parce que la norme que je m'impose l'exige, que c'est une couche de vérification et non un outil de recherche. Elle ne rédige pas de mémoires ni ne trouve d'affaires. Elle ne concurrence pas Harvey ni Westlaw ni Lexis. Elle s'installe autour de ce qu'ils produisent et dit à l'avocat ce qui est sûr à déposer et exactement ce qui a besoin d'un humain. L'ancrage en texte intégral au-delà de l'extrait public de l'opinion nécessite un jeton CourtListener gratuit, le connecteur de gestion documentaire dans la démo est un mock, et quelques fonctionnalités comme un certificat PDF sont différées. Ce qui est réel, c'est le mécanisme : les contrôles, l'abstention, la porte déterministe et la piste d'audit, le tout contre de la vraie jurisprudence.

L'abstention n'est-elle pas juste le modèle qui esquive le choix difficile ?

J'entends une version de cette question dans presque chaque conversation, en général de la part d'un ingénieur, et ma réponse est devenue plus courte et plus certaine avec le temps.

Non. L'abstention est le choix difficile, fait honnêtement, et refuser de le faire est la vraie esquive. L'alternative séduisante est un système qui renvoie toujours un verdict net, vert ou rouge, sur chaque citation. Ça se démontre magnifiquement. C'est aussi un mensonge, parce que certaines citations ne peuvent réellement pas être tranchées à partir du texte disponible avec confiance, et un système qui ne le dit jamais fabrique une certitude qu'il n'a pas. La chose la plus précieuse qu'une IA à enjeux élevés puisse faire, c'est vous dire où son propre jugement s'arrête. Dans un domaine où avoir tort avec assurance fait sanctionner votre client, un « je ne suis pas sûr, un humain doit regarder » calibré vaut plus qu'une conjecture fluide.

C'est pourquoi je pense que le travail survit à la génération actuelle de modèles. L'industrie continue de promettre la disparition du problème d'hallucination avec le prochain modèle. Accordez tout cela : plus grand contexte, entraînement plus propre, taux de fabrication plus bas. Un modèle parfait qui n'invente jamais une affaire citera encore allègrement une affaire réelle pour une proposition qu'elle ne soutient pas, parce que de l'intérieur du brouillon cette phrase se lit comme vraie et exactement ce que vous avez demandé. L'écart entre « cette affaire existe » et « cette affaire soutient mon affirmation » n'est pas un écart que l'échelle referme. C'est une question de gouvernance, et la gouvernance est une propriété du système que vous construisez autour du modèle, pas une capacité que vous attendez que le modèle développe.

Un tribunal ne se soucie pas du degré de confiance de votre modèle. Il se soucie de savoir si la citation existe et dit ce que vous avez affirmé. Ce n'est pas un problème de plus gros modèle. C'est un problème de construire la bonne couche.

Les régulateurs le voient déjà ainsi, et cela mérite qu'on s'y arrête. L'ABA Formal Opinion 512 et plus de 300 standing orders judiciaires exigent désormais que les avocats vérifient la sortie de l'IA avant de déposer, et moins de 20 pour cent des cabinets ont une quelconque politique d'usage de l'IA. L'obligation n'est pas « utilisez un outil plus intelligent ». L'obligation est « prouvez que vous avez vérifié ». La preuve, la provenance et l'abstention honnête ne sont pas des choses qu'un meilleur rédacteur vous donne. Ce sont des choses qu'une couche de vérification vous donne, et elles tiennent à n'importe quelle qualité de modèle, ce qui est précisément pourquoi je pense qu'elles sont la partie durable.

La question que je me pose avant de déposer

J'ai constaté que ce que cette construction a changé en moi était plus petit que la thèse, et cela a duré plus longtemps.

J'ai cessé de demander si une affirmation rédigée par l'IA est vraie, parce que je peux souvent y répondre et cela s'avère insuffisant. La citation Erie pointait, au sens étroit, vers une affaire réelle. La question plus dure, celle que je pose désormais avant que quoi que ce soit rédigé par l'IA ne quitte mes mains, est de savoir si je peux prouver, maintenant, que cette source exacte soutient cette affirmation exacte, et si cette preuve survivrait à quelqu'un qui voudrait la faire échouer devant un juge.

C'est une question de gouvernance, pas une question de modèle. Elle ne devient pas plus facile à mesure que le modèle s'améliore, parce que ce qui est demandé n'est pas « le modèle peut-il écrire une meilleure phrase » mais « pouvez-vous vous porter garant de celle-ci ». Et la réponse la plus utile que mon propre système me donne jamais n'est pas la coche verte. C'est le moment où il retient une affaire réelle au statut À examiner et m'oblige, moi, une personne, à aller lire l'opinion. Si vous voulez voir où j'en suis arrivé, c'est encore ici : veriprajna.com/fr/demos/verification-et-gouvernance-des-citations-d-ia-juridique.

Et si vous préférez le regarder plutôt que de me lire le décrire, voici le tout qui tourne de bout en bout, avec ma voix.

La question que je vous laisserais donc, c'est celle qui a réorganisé toute la construction. Quand l'IA vous tend quelque chose de confiant et de propre, avez-vous une couche prête à dire « je ne suis pas sûr, un humain doit regarder » ? Parce que la confiance est bon marché, et dans le travail qui porte réellement le risque, l'abstention prouvable est le produit.