Ein grünes Citator-Flag rettet Sie nicht: Wie KI-Halluzination im Recht 2026 wirklich aussieht

Als zwei Anwälte im März 2026 den Sixth Circuit verließen und zusammen 30.000 $ schuldeten, waren nicht alle in ihrem Schriftsatz zitierten Fälle erfunden. Dieses Detail ist genau das, mit dem sich niemand auseinandersetzen möchte, und es ist der Grund, warum ich meine Tage damit verbringe, das zu bauen, was ich baue.

Ich bin von innerhalb des Problems dazu gekommen. Vor Veriprajna arbeitete ich als Prozessanwalt, und der Teil des Jobs, den niemand romantisiert, ist die Zitatprüfung – nachts um 23 Uhr mit einem rot markierten Schriftsatz dasitzen, ein Zitat einkreisen und kritzeln sagt dieser Fall das wirklich? an den Rand. Als die erste Welle juristischer KI eintraf, ging ich davon aus, dass sie diese Nacht verschwinden lassen würde. Stattdessen machte sie die Nacht gefährlicher, denn die Tools wurden sehr gut darin, Zitate zu produzieren, die so aussehen, als wären sie geprüft. Die Verifizierung juristischer KI-Zitate erwies sich nicht als eine Funktion, die man einfach einschaltet. Sie ist eine Schicht, die jemand bauen muss, und fast niemand hatte sie.

Hier ist die These, die ich in diesem Essay verteidigen möchte: Die Halluzination, die 2026 zu einer Sanktion gegen eine Kanzlei führen wird, ist nicht die, für deren Erkennung Ihre aktuellen Tools ausgelegt sind. Das berühmte Versagen – der erfundene Fall – ist weitgehend gelöst. Das Versagen, das eskaliert, ist der echte Fall, falsch zitiert, versehen mit einem grünen Flag.

Alle erinnern sich an Mata. Fast niemand hat die richtige Lehre daraus gezogen

Sie kennen die Geschichte, auch wenn Sie den Namen nicht kennen. Mata v. Avianca, 2023: Ein Anwalt bat ChatGPT um unterstützende Fälle, es produzierte Varghese v. China Southern Airlines – überzeugendes Aktenzeichen, plausibles Gericht, detaillierte interne Zitate – und den Fall gab es nicht. Es folgten eine Geldstrafe von 5.000 $ und eine Blamage, die für eine ganze Karriere reicht.

Die Lehre, die der Berufsstand aus Mata zog, lautete: „Die KI erfindet Fälle.“ Also baute die Branche Abwehrmechanismen gegen erfundene Fälle. Thomson Reuters hat KeyCite. LexisNexis hat Shepard's, den jahrzehntealten Goldstandard. Harvey verankert seine Ausgaben im Datentresor von LexisNexis. Diese Citatoren sind wirklich gut beim Mata-Problem: Geben Sie ihnen ein Zitat, das zu nichts führt, und sie sagen Ihnen, dass es zu nichts führt.

Das Problem ist, dass der Berufsstand das Problem von 2023 löste und annahm, damit auch das von 2026 gelöst zu haben.

Sehen Sie sich an, was im Februar 2026 tatsächlich in New Orleans geschah. Ein Anwalt wurde sanktioniert, weil er elf erfundene oder falsch dargestellte Zitate eingereicht hatte. Der Teil, der Ihnen den Schlaf rauben sollte: Er hatte sowohl ChatGPT als auch Westlaw Precision AI benutzt. Er nutzte das verankerte, speziell entwickelte, Citator-gestützte Tool – und reichte dennoch einen Schriftsatz ein, der eine Sanktion einbrachte. „Reduzieren“ ist nicht „Beseitigen“, und die Lücke zwischen diesen beiden Wörtern ist der Ort, an dem die Haftung jetzt liegt.

Das Versagen, das Ihr Tool nicht sehen kann

Lassen Sie mich den Fehlermodus präzise beschreiben, denn die Präzision ist der ganze Punkt.

Die KI zitiert einen echten Fall für eine Aussage, die der Fall nicht stützt. Das Aktenzeichen ist gültig. Der Fall existiert. KeyCite liefert ein grünes Flag. Shepard's stimmt zu. Und die Analyse ist trotzdem falsch – weil die KI das Minderheitsvotum zitierte, als wäre es die Mehrheitsentscheidung, oder einen Fall zitierte, der eine Fassung eines Gesetzes auslegt, das vor zwei Jahren geändert wurde.

Das ist es, was die Stanford-Studie, fachlich begutachtet im Journal of Empirical Legal Studies im Jahr 2025 tatsächlich gemessen hat, als sie die Halluzinationsrate von Westlaw Precision auf 33 % bezifferte und die von Lexis+ AI auf 17 %. Die Leute lesen „33 % Halluzination“ und stellen sich ein Tool vor, das bei jeder dritten Anfrage Fälle erfindet. Das sind diese Zahlen nicht. Sie sind größtenteils falsche Analyse von echten Zitaten. Ihr Verifizierungs-Tool bestätigt, dass der Fall existiert. Das tut es. Es hat nur nie behauptet zu prüfen, was der Fall aussagt.

Ich mache es konkret, denn das ist das Beispiel, das mein eigenes Team schließlich dazu brachte, mit dem Streiten aufzuhören. Ein Prozessanwalt bittet einen KI-Assistenten, Verteidigungsmöglichkeiten gegen eine Klage wegen Verletzung der Treuepflicht nach dem Recht von Delaware zu recherchieren. Das Tool liefert eine saubere Analyse und zitiert Stone v. Ritter (2006) für den Standard der Überwachungshaftung von Direktoren. Das Zitat ist echt. Die Zusammenfassung der Entscheidung ist korrekt – für 2006. Was das Tool übersah: Die Entscheidung des Delaware Supreme Court von 2019 in Marchand v. Barnhill erweiterte erheblich die Caremark-Überwachungspflicht, und Chancery-Court-Entscheidungen haben seither darauf einen „mission critical“-Compliance-Standard aufgebaut.

Stone v. Ritter trägt noch immer ein grünes KeyCite-Flag. Der Fall wurde nie aufgehoben. Er ist immer noch „geltendes Recht“. Und ein Schriftsatz, der sich für eine Einreichung im Jahr 2026 darauf stützt, ist trotzdem falsch, weil die praktische Reichweite der Entscheidung durch alles Nachfolgende eingeengt wurde – genau die Art von Entwicklung, die ein Citator-Flag nicht sichtbar machen soll.

Ein Citator sagt Ihnen, dass ein Fall lebt. Er sagt Ihnen nicht, dass der Fall noch immer das bedeutet, was Ihre KI behauptet.

Das ist der Unterschied zwischen der Fälschung von Zitaten und kontextueller Halluzination, und es ist die mit Abstand wichtigste Unterscheidung in diesem gesamten Bereich. Der Nachwuchsanwalt, der die Ausgabe unter Zeitdruck prüft, wird ihn nicht bemerken, weil das Zitat richtig aussieht. Es ist richtig, in dem einzigen Sinne, den das Tool je geprüft hat.

Wir haben das zuerst falsch gemacht – und ich war derjenige, der dafür plädierte

Ich möchte ehrlich sein, wie ich das gelernt habe, denn ich habe es mir nicht durch Nachdenken erschlossen. Ich habe zuerst das Falsche ausgeliefert.

Als mein Team unseren ersten Verifizierungsprüfer baute, argumentierte ich – in unserem eigenen Design-Review, laut und mit einiger Überzeugung –, dass alles in Ordnung sei, wenn der Fall echt ist. Unsere erste Pipeline führte also im Wesentlichen die Citator-Logik erneut aus. Sie bestätigte, dass jeder zitierte Fall existierte, und rief seinen Behandlungsstatus ab. Schnell, sauber, und in einem Pilotprojekt schleuste sie einen Schriftsatz direkt zu einem grünen Dashboard durch.

Dann widersprach einer der Pilotnutzer, ein echter Prozessanwalt, einem Absatz, den unser Tool abgesegnet hatte. Der zitierte Fall war echt. Unser Prüfer liebte ihn. Die Entscheidung, die der Schriftsatz ihm zuschrieb, stammte aus dem Teil der Urteilsbegründung, der nicht maßgeblich war. Unser System hatte dazu keine Meinung, weil ich es so entworfen hatte, dass es dazu keine Meinung hat. Ich hatte Shepard's nachgebaut und es Verifizierung genannt.

Das war das Versagen, das alles bezahlte, was wir danach taten. Einen Citator schneller erneut auszuführen ist keine Verifizierung – es ist derselbe blinde Fleck mit einer schöneren Oberfläche. Der Kurswechsel wurde uns aufgezwungen: Wir mussten eine Schicht bauen, die über den Citator-Status hinaus in die nachfolgenden zitierenden Fundstellen liest, die fragt, ob spätere Fälle eine Entscheidung abgegrenzt oder eingeengt haben, die eine Urteilsbegründung markiert, deren Kernaussage inhaltlich verändert wurde, obwohl der Fall selbst geltendes Recht bleibt. Das ist das ingenieurtechnische Problem. Der Citator würde es niemals lösen, ganz gleich, wie schnell wir ihn laufen ließen.

Warum schließt der Kauf von Harvey die Lücke nicht?

Die Leute nehmen an, dass die Plattformanbieter das beheben werden, und ich verstehe warum – die Plattformen sind außergewöhnlich, und das Geld sagt, dass alle zustimmen. Harvey erreichte im März 2026 eine Bewertung von 11 Milliarden $ bei rund 190 Millionen $ jährlich wiederkehrendem Umsatz, mit über 25.000 kundenspezifischen Agenten und einer Einführung in der Hälfte der AmLaw 100. Thomson Reuters kaufte Casetext für 650 Millionen $ und integrierte es in die agentischen Workflows von CoCounsel. LexisNexis ersetzte im Februar 2026 Lexis+ AI durch Lexis+ Protege – vier spezialisierte Agenten, mehr als 300 vorgefertigte Workflows.

Diese sind nicht das Problem. Ich sage es Kanzleien ganz deutlich: Behalten Sie Ihre Plattform. Die Lücke ist, dass keines dieser Tools eine unabhängige Verifizierungsschicht liefert, und die besseren sind ehrlich, dass die Verifizierung der Ausgaben in der Verantwortung des Nutzers liegt. Es gibt einen Grund, warum LexisNexis nach dem Erscheinen der Stanford-Zahlen still und leise seine Formulierung „100 % halluzinationsfrei“ zurücknahm.

Und die Plattformen haben das Verifizierungsproblem schwerer gemacht, nicht leichter, indem sie agentisch wurden. Wenn ein Agent mit langem Zeithorizont einen mehrstufigen Recherche- und Entwurfs-Workflow ausführt, ist die Ausgabe nicht ein einziger zitierter Absatz – es ist eine Kette davon, wobei jeder Schritt den nächsten speist und jeder eine Stelle ist, an der ein kontextueller Fehler eintreten und sich fortpflanzen kann. Wenn mir ein Nachwuchsanwalt nachts um 23 Uhr auf Slack schreibt und fragt, ob die Ausgabe des Agenten sicher einzureichen ist, lautet die ehrliche Antwort: nicht, bevor etwas jedes Zitat mit dem abgeglichen hat, was der zitierte Fall tatsächlich entscheidet, und protokolliert hat, welcher Agentenschritt es erzeugt hat. Dieser Audit-Trail ist kein Nice-to-have. Er ist das, was die Verfahrensanordnung eines Richters zunehmend verlangt. Und das ist kein Randphänomen, auf das ich mich einstelle – die Einführung juristischer KI in Unternehmen verdoppelte sich in einem einzigen Jahr von 23 % auf 52 %, und Gartner erwartet, dass bis 2026 40 % der Unternehmensanwendungen aufgabenspezifische Agenten einbetten; der Fehlermodus der Zitatketten skaliert mit jeder einzelnen von ihnen.

Was fängt also einen falsch zitierten echten Fall tatsächlich ab?

Keine andere KI – eine andere Aufgabe. Die Verifizierungsschicht sitzt zwischen der Ausgabe der KI und der Unterschrift des Menschen, und sie tut, was der Citator nicht tut: Statt dabei stehenzubleiben, ob ein Fall noch geltendes Recht ist, liest sie in die nachfolgenden zitierenden Fundstellen hinein, fragt, ob spätere Entscheidungen die Urteilsbegründung abgegrenzt oder eingeengt haben, und markiert die Fälle, deren Kernaussage inhaltlich verändert wurde, selbst wenn der Leitsatz noch sauber erscheint. Der Behandlungsstatus ist der Anfang der Untersuchung, nicht ihr Ende.

Darunter ist das Retrieval wichtiger, als die Leute erwarten. Die Vektorsuche – der Standard in den meisten retrieval-augmentierten Systemen – findet Fälle, die textlich einer Anfrage ähnlich sind. Juristische Autorität ist nicht nach textlicher Ähnlichkeit organisiert; sie ist danach organisiert, wie Fälle einander zitieren, abgrenzen und aufheben. Das ist ein Graph, keine Liste. Es hat sich gezeigt, dass Retrieval, das über einen juristischen Wissensgraphen statt über einen flachen Vektorindex aufgebaut ist, die Vektorsuche bei der Retrieval-Relevanz für juristische Arbeit um rund 14 % übertrifft – der Unterschied zwischen dem Zutagefördern des Falls, der maßgeblich ist, und dem Zutagefördern des Falls, der nur so klingt, als wäre er es. Der Graph ist die Art, wie man den Marchand findet, der still und leise den Stone umformte, den alle noch zitieren.

Das ist die Schicht, die wir bei Veriprajna bauen – die Zitatverifizierungs-Pipeline, Wissensgraph-Infrastruktur und Governance-Systeme, die KI-Ausgaben sicher einreichbar machen – und wir bauen sie rund um die jeweilige Plattform, die eine Kanzlei bereits betreibt, ob Harvey oder Lexis Protege oder ein Open-Source-Modell, anstatt irgendjemanden zu bitten, ein funktionierendes Tool herauszureißen.

Der Teil, den niemand auf eine Folie setzt: Governance

Es gibt ein zweites Problem unter dem technischen, und es ist dasjenige, das aus einer Sanktion einen Berufshaftungsanspruch macht.

Rund 68 % der Rechtsfachleute geben zu, mindestens einmal ein nicht genehmigtes KI-Tool genutzt zu haben, und weniger als eine von fünf Kanzleien hat eine formelle KI-Richtlinie – obwohl inzwischen fast sieben von zehn Anwälten generative KI für ihre Arbeit nutzen, ein Anteil, der sich in einem einzigen Jahr verdoppelt hat. Die meisten Kanzleien haben also Anwälte, die Mandantenangelegenheiten in Tools eingeben, die niemand genehmigt hat, ohne Aufzeichnung darüber, welches Tool, ohne Verifizierungsschritt und ohne Audit-Trail. Berufshaftpflichtversicherer haben es bemerkt. Sie schreiben die KI-Nutzung in ihre Policenerwägungen, und die unbefugte Nutzung ohne anwaltliche Aufsicht ist genau die Art von Sache, die den Versicherungsschutz aufhebt, wenn ein Anspruch eintrifft.

Auch der regulatorische Mindeststandard hat sich verschoben, und die meisten Kanzleien haben ihn nicht erreicht. ABA Formal Opinion 512, veröffentlicht im Juli 2024, legt sechs ethische Pflichten für generative KI dar – darunter Kompetenz, Vertraulichkeit, Aufrichtigkeit gegenüber dem Gericht und Aufsicht – und sie hat zwei Kanten, die die Leute übersehen. Sie können einem Mandanten nicht die Zeit in Rechnung stellen, die Sie mit dem Erlernen eines Tools verbringen, das Sie regelmäßig nutzen werden. Und ein Bundesgericht hat bereits entschieden, dass KI-generierte Arbeitsergebnisse nicht durch das Anwalt-Mandanten-Privileg geschützt sind. Unterdessen haben mehr als 300 Richter ihre eigenen KI-Verfahrensanordnungen erlassen, jede mit ihrer eigenen Offenlegungs- oder Zertifizierungspflicht, Florida fügte im Februar 2026 eine Offenlegungspflicht hinzu, und keine Kanzlei, die ich getroffen habe, hat eine systematische Möglichkeit nachzuverfolgen, welcher Richter was verlangt. Und der Mindeststandard steigt weiter: Der EU AI Act tritt im August 2026 in Kraft, Colorados AI Act im Juni, und die EU-Produkthaftungsrichtlinie behandelt KI nun als Produkt unter verschuldensunabhängiger Haftung – was das Risiko von einem einzelnen sanktionierten Anwalt auf die Bilanz der Kanzlei verlagert.

Schatten-KI ist kein Disziplinproblem. Es ist eine Infrastrukturlücke – Menschen umgehen Tools, die nicht zu ihrer Arbeitsweise passen.

Ein Governance-System, das den Namen verdient, dokumentiert eine Richtlinie nicht bloß in einem PDF, das niemand liest. Es setzt die Richtlinie im Workflow durch, protokolliert jedes KI-gestützte Zitat, erzeugt die Offenlegungsformulierung, die eine bestimmte Gerichtsbarkeit verlangt, und produziert den Audit-Trail, der es einem aufsichtsführenden Partner ermöglicht, ehrlich zu bescheinigen, dass jedes Zitat geprüft wurde.

Die Fragen, die Kanzleien mir immer stellen

Es beginnt meist mit einer Variante von: Wenn ich jedes Zitat von Hand verifiziere, habe ich dann nicht die Effizienz weggeworfen, die mir die KI verschafft hat? Ja – und genau das ist der Sinn, die Verifizierung in die Pipeline einzubauen, statt sie einem müden Anwalt um Mitternacht zu überlassen. Die manuelle Zitatprüfung von KI-Ausgaben skaliert nicht, und sie zu überspringen ist das Berufshaftungsrisiko. Die Schicht existiert genau deshalb, damit die Geschwindigkeit die Sicherheit überlebt.

Dann kommt die Version des Skeptikers: ist das nicht übertrieben – wie oft schlägt kontextuelle Halluzination wirklich zu? Die Charlotin-Halluzinationsdatenbank hatte 1.222 dokumentierte Fälle von KI-Halluzination in US-Gerichtseingaben bis Anfang 2026 überschritten, gegenüber mehr als 729 Ende 2025. Die Kurve entwickelt sich in die falsche Richtung, die Sanktionen sind von 500-$-Klapsen zu routinemäßigen fünfstelligen Strafen gestiegen, und diese Zählung erfasst nur die, die entdeckt und veröffentlicht wurden. Ich halte diese Datenbank in einem Tab offen. Die Zahl klettert nach oben, während man nicht hinsieht.

Und von einem Managing Partner, fast immer: kann nicht eine Big-Four-Kanzlei oder ein großer Systemintegrator das alles einfach erledigen? Sie können Ihre Plattform konfigurieren, und sie werden dafür 500.000 $ bis 2 Millionen $ berechnen. Aber Harvey zu konfigurieren bedeutet, eine Plattform bereitzustellen – es bedeutet nicht, die Verifizierungsschicht zu bauen, die die Plattform Ihnen bewusst überlässt. Das sind unterschiedliche Probleme, und nur eines davon ist dasjenige, das Sie sanktioniert bekommen.

Was ich dem Anwalt um 23 Uhr sagen würde

Der Markt für juristische KI bewegt sich von rund 5,6 Milliarden $ im Jahr 2026 auf 12,5 Milliarden $ bis 2030 zu, und die juristische Recherche ist sein größtes Einzelsegment. Dieses Wachstum ist real und die Tools haben es verdient. Aber die gesamte Branche optimiert auf Output – schnellere Recherche, mehr Agenten, längere autonome Workflows – und behandelt die Verifizierung als Verantwortung von jemand anderem, was in der Praxis bedeutet: von niemandem.

Der Fall, der Sie 2026 sanktioniert, wird jede Prüfung bestehen, die Ihre aktuellen Tools durchführen. Er wird existieren. Er wird ein grünes Flag tragen. Er wird für etwas zitiert, das er nicht ganz sagt, und die Version von Ihnen, die ihn um Mitternacht unter Zeitdruck liest, wird es nicht bemerken, weil alles auf dem Bildschirm sagt, dass es in Ordnung ist.

Das ist kein Grund, juristischer KI zu misstrauen. Es ist ein Grund, die eine Schicht zu bauen, die die Plattformen ausgelassen haben – die Verifizierungs- und Governance-Schicht, die liest, was der Fall tatsächlich entscheidet, nicht nur, ob er noch atmet. Die Kanzleien, die sie installieren, werden die Geschwindigkeit behalten. Diejenigen, die es nicht tun, werden es immer wieder herausfinden, eine Aufforderung zur Stellungnahme nach der anderen, was ein grünes Flag ihnen nie versprochen hat.