Können Sie KI bei der juristischen Recherche vertrauen? Wahrscheinlich noch nicht.

Das Problem

Im Juni 2023 reichte ein Anwalt einen Schriftsatz bei einem Bundesgericht in New York ein. Der Schriftsatz zitierte mehrere Fälle — Varghese v. China Southern Airlines, Shaboon v. Egyptair, Petersen v. Iran Air — samt Aktenzeichen, Daten und Zitaten. Jeder einzelne Fall war erfunden. ChatGPT hatte sie alle erfunden.

Der Richter in Mata v. Avianca, Inc. bemerkte, dass die Zitate gefälscht waren. Er nannte die KI-generierten Zusammenfassungen der Urteile stellenweise „wirres Zeug“ — trotz ihrer überzeugenden juristischen Formatierung. Das Gericht verhängte eine Geldstrafe von $5.000 und ordnete an, dass die Anwälte ihren Mandanten Bescheid geben mussten. Doch die finanzielle Sanktion war der kleinste Teil des Schadens. Der Rufschaden machte internationale Schlagzeilen.

Hier liegt, was diese Geschichte noch schlimmer macht. Als die Gegenseite die erfundenen Fälle anzweifelte, kehrte der Anwalt zu ChatGPT zurück und fragte nach, ob sie echt seien. Die KI bestätigte ihre eigenen Lügen. Sie sagte, die Fälle „existierten tatsächlich“ und seien in „seriösen juristischen Datenbanken“ zu finden. Dies erzeugte, was das Whitepaper eine „Halluzinationsschleife“ nennt — das Werkzeug zur Verifikation hatte denselben Fehler wie das Werkzeug zur Generierung.

Das Gericht wies die Verteidigung zurück, der Anwalt habe nicht gewusst, dass KI Informationen erfinden kann. Richter haben inzwischen festgestellt, dass Anwälte die letzten Garanten für die Genauigkeit ihrer Technologie sind. Wenn Ihre Kanzlei KI für juristische Arbeit nutzt, liegt die Haftung bei Ihnen — nicht beim Softwareanbieter.

Warum dies für Ihr Unternehmen wichtig ist

Der Fall Mata war kein Einzelfall. Er legte ein strukturelles Problem offen, das jede Organisation betrifft, die KI für juristische Recherche, Compliance oder regulatorische Arbeit einsetzt.

Diese Zahlen sollten Sie beunruhigen:

• 58 % bis 82 %: Stanford-Forscher fanden heraus, dass allgemeine KI-Chatbots bei komplexen juristischen Abfragen mit diesen Raten halluzinierten — selbst Werkzeuge mit Internetzugang oder einfachen Retrieval-Funktionen.
• $5.000: Die direkte Geldstrafe in Mata v. Avianca. Doch die eigentlichen Kosten waren der Rufschaden und die mögliche Gefahr einer Zulassungsentziehung für die beteiligten Anwälte.
• Bis zu 30-35 %: Der Leistungsabstand zwischen fortschrittlichen graf-basierten Retrieval-Systemen und Standard-Vektor-Systemen bei mehrstufigen juristischen Reasoning-Aufgaben.

Diese Risiken treffen Ihr Unternehmen an drei Stellen:

• Haftung für Berufspflichtverletzungen. Ihre Kanzlei trägt die rechtliche Verantwortung für jedes KI-generierte Zitat in einem Schriftsatz. Die Prämien für Berufshaftpflichtversicherungen dürften für Kanzleien steigen, die keine strikte KI-Governance nachweisen können.
• Regulatorisches Risiko. Gerichte erlassen ständige Anordnungen, die eine verpflichtende Offenlegung der KI-Nutzung verlangen. Wenn Ihre Werkzeuge ihre Argumentation nicht erklären können, erleiden Sie Compliance-Pannen, bevor es überhaupt zur Sache geht.
• Vertrauen der Mandanten. Ihre Mandanten werden zunehmend fragen: „Welche KI nutzen Sie?“ Die Antwort „ChatGPT“ — oder jeder dünne Wrapper um ein Allzweckmodell — signalisiert, dass Sie sich nicht ernsthaft mit Genauigkeit auseinandergesetzt haben. Diese Antwort wird im unternehmerischen Rechtsgeschäft unannehmbar.

Das Fazit für Ihre Gewinn- und Verlustrechnung: Wenn ein Anwalt jedes einzelne KI-generierte Zitat manuell prüfen muss, verlieren Sie die Effizienzgewinne, die die KI-Investition erst gerechtfertigt haben.

Was tatsächlich unter der Haube passiert

Um zu verstehen, warum Mata geschah, müssen Sie eines über die Funktionsweise großer Sprachmodelle (LLMs) wissen. Sie sagen das nächste Wort einer Sequenz voraus. Sie durchsuchen keine Bibliothek. Sie prüfen keine Datenbank. Sie generieren Text, der auf Basis statistischer Muster richtig klingt.

Denken Sie an die Autovervollständigung auf Ihrem Smartphone — nur für ganze Absätze. Ihr Telefon könnte „Meeting“ vorschlagen, nachdem Sie „Bis zum“ getippt haben. Ein LLM tut dasselbe in massivem Maßstab. Wird es nach einem Fall über eine Flugzeugverletzung gefragt, sucht es nicht echte Fälle heraus. Es baut eine Antwort zusammen, die dem Muster dessen folgt, wie ein juristisches Zitat aussieht. „Varghese“ war ein statistisch plausibler Klägername. „China Southern Airlines“ war ein plausibler Beklagter. Aber die Beziehung zwischen ihnen war eine mathematische Fiktion, keine juristische Realität.

Der erste Lösungsansatz der Branche war die sogenannte Retrieval-Augmented Generation (RAG) — ein Verfahren, bei dem man der KI tatsächliche Quelldokumente zuführt, bevor sie eine Antwort generiert. Standard-RAG speichert juristische Dokumente als numerische Vektoren und ruft Textabschnitte ab, die Ihrer Frage semantisch ähnlich sind. Das hilft, aber es führt neue Probleme ein.

Die vektorbasierte Suche behandelt eine abweichende Meinung genauso wie eine Mehrheitsmeinung, wenn die Wörter ähnlich aussehen. Sie kann nicht erkennen, ob ein Fall außer Kraft gesetzt wurde. Sie ruft Dokumente isoliert ab und übersieht daher die Verbindungen zwischen einem Gesetz, der dieses Gesetz auslegenden Verordnung und dem Fall, der diese Verordnung anwendet. Studien zeigen, dass LLMs bei langen Listen abgerufenen Texts sich auf Informationen am Anfang und am Ende konzentrieren und Material in der Mitte ignorieren. In der juristischen Arbeit ist die entscheidende Ausnahme oft im 15. Abschnitt der abgerufenen Rechtsprechung begraben.

Ein System, das zu 80 % den richtigen Fall findet, ist in den übrigen 20 % ein Haftungsrisiko wegen Berufspflichtverletzung.

Was funktioniert (und was nicht)

Drei gängige Ansätze scheitern bei KI im juristischen Hochrisikobereich:

• Besseres Prompting. Prompt-Engineering kann den Stil oder das Format der KI-Ausgabe ändern. Es kann kein Wissen einbringen, das das Modell nicht hat, und es kann das Modell nicht zwingen, Fakten gegen eine Datenbank zu prüfen, auf die es nicht zugreifen kann.
• Wrapper-Anwendungen. Dies sind dünne Schnittstellen über APIs wie OpenAI. Sie fügen vielleicht einen System-Prompt hinzu wie „Sie sind ein hilfreicher Anwalt“, aber das verschafft keinen Zugang zu verifizierten Datenbanken mit Fallrecht und hindert die KI nicht daran, Zitate zu erfinden.
• Standard-Vektor-RAG allein. Es reduziert reine Fabrikation, kann aber keine juristische Hierarchie erfassen. Es weiß nicht, dass ein Fall einen anderen außer Kraft setzt. Es versteht keine Gerichtsbarkeit. Es behandelt ein aufgehobenes Gesetz genauso wie ein geltendes, wenn der Text zu Ihrer Abfrage passt.

Was funktioniert, ist eine Methode namens Citation-Enforced GraphRAG — ein System, das juristische Autorität in einen verifizierten Knowledge Graph abbildet und die KI physisch daran hindert, erfundene Zitate zu generieren. So funktioniert es in drei Schritten:

1. Eingabe: Die Karte erstellen. Jedes Gesetz, jede Verordnung und jeder Fall wird zu einem bestimmten Knoten in einem Knowledge Graph — einem strukturierten Netzwerk juristischer Entitäten und ihrer Beziehungen. Die Kanten zwischen den Knoten tragen Bedeutung: „setzt außer Kraft“, „interpretiert“, „bestätigt“, „unterscheidet“. Dies ist kein Stapel von Dokumenten. Es ist eine verifizierte Karte davon, wie das Recht zusammenhängt.

2. Verarbeitung: Die KI einschränken. Während der Textgenerierung prüft ein Constraint-Mechanismus jedes Zitat, das die KI zu erzeugen versucht, gegen den Knowledge Graph. Versucht die KI, „Varghese v. China Southern“ auszugeben, prüft das System den Graphen. Da es keinen solchen Fall gibt, blockiert es die Ausgabe vollständig. Die KI kann physisch keine Token-Sequenz für einen Fall erzeugen, der nicht in der verifizierten Datenbank steht. Damit bewegt sich Ihr System von probabilischer Genauigkeit zu struktureller Durchsetzung.

3. Ausgabe: Zeigen Sie Ihre Belege. Wenn das System einen Fall zitiert, liefert es den genauen Traversierungspfad — von welchem Gesetz es ausging, welche Fälle dieses interpretieren und ob diese Fälle weiterhin gültiges Recht sind. Ist ein Fall außer Kraft gesetzt, markiert der Graph ihn mit einer „roten Flagge“ und entfernt ihn aus dem Kontext der KI, bevor die Generierung überhaupt beginnt.

Hier sollte Ihr Compliance-Team aufhorchen. Jedes Zitat kommt mit einem Audit-Trail. Ihre Anwälte können sehen, warum die KI einen Fall ausgewählt hat, nicht nur dass sie einen ausgewählt hat. Das System kann zeigen, dass es auf negative Behandlung geprüft hat — das digitale Äquivalent zum Shepardizing — und die Gültigkeit der Autorität bestätigt hat. Eine Schicht für Grounding, Zitation und Verifizierung macht jede Ausgabe nachvollziehbar und belastbar.

Für Organisationen in der Rechts- und Unternehmensberatungsbranche, ermöglicht diese Architektur auch, interne Richtlinien auf externe Vorschriften abzubilden. Der Graph kann einen bestimmten Absatz in Ihrem Compliance-Handbuch mit dem exakten Paragrafen der Verordnung verknüpfen, den er adressiert. Dies schafft automatisierte, überprüfbare Compliance-Matrizen, die einer Prüfung standhalten.

Der hybride Ansatz — Vektorsuche zum Finden relevanter Texte kombiniert mit graf-basierter Verifikation zur Bestätigung juristischer Gültigkeit — gibt Ihnen sowohl Breite als auch Präzision. Ihre Solutions-Architektur erhält die Sprachgewandtheit der KI ohne ihre Tendenz, Dinge zu erfinden.

Während sich juristische KI hin zu autonomen Agenten bewegt, die mehrstufige Recherchetasks planen und ausführen können, wird die graf-basierte Struktur zur unverzichtbaren Infrastruktur. Agenten brauchen eine Karte der juristischen Welt, um komplexe Fragen zu durchdenken. Eine Vektordatenbank gibt ihnen einen Stapel Dokumente. Ein Knowledge Graph gibt ihnen die Karte.

Für einen tieferen Einblick in die technische Architektur lesen Sie die vollständige technische Analyse oder erkunden Sie die interaktive Version.