Darf KI rechtliche Haftung entscheiden?

Das Problem

Forschende der Stanford University haben festgestellt, dass führende KI-Modelle bei 69 % bis 88 % der Rechtsanfragen halluzinieren — das heißt, dass sie Fakten ersinnen oder juristische Zitate erfinden. Stellen Sie sich nun vor, ebendiese Technologie entscheide darüber, wer einen Autounfall verursacht hat, wer den Schaden zahlt und wer sich einer Klage gegenübersieht. Genau das geschieht derzeit in der Versicherungs- und Rechtsbranche.

Unternehmen stürzen sich darauf, Large Language Models als automatisierte Richter einzusetzen. Diese Systeme lesen Polizeiberichte, Zeugenaussagen und Gutachtervermerke. Dann weisen sie die Schuld zu. Die Annahme lautet: Wenn eine KI schreiben kann wie ein Anwalt, kann sie auch denken wie einer. Diese Annahme ist falsch. LLMs sagen das nächste Wort eines Satzes voraus. Sie verstehen weder Physik noch Verkehrsrecht noch Ursache und Wirkung. Sie erzeugen Texte, die autoritativ klingen, doch die Schlussfolgerung dahinter kann pure Fiktion sein.

Das Whitepaper von Veriprajna bringt es auf den Punkt: Einem LLM zu übertragen, die Haftung zu beurteilen, ist wie einem Dichter zu erklären, Physik zu betreiben. Sie erhalten eine wunderschöne Antwort. Sie wird höchstwahrscheinlich Fiktion sein. Wenn Ihre Organisation mit Schadensregulierung, Compliance oder rechtlichen Entscheidungen zu tun hat, ist diese Lücke zwischen Sprachgewandtheit und Genauigkeit Ihr Problem — und Ihre Aufgabe, es zu lösen.

Warum das für Ihr Unternehmen wichtig ist

Die finanziellen und regulatorischen Risiken sind hier nichts Theoretisches. Sie sind messbar — und sie sind gewaltig.

LLMs bringen spezifische, dokumentierte Biases in jede ihrer Entscheidungen ein. Wenn diese Entscheidungen Geld, Haftung und rechtliche Ansprüche berühren, wirken sich die Folgen unmittelbar auf Ihr Geschäftsergebnis aus.

• Eine Halluzinationsrate von 69 % bis 88 % bei Rechtsanfragen. Die Stanford-Forschung zeigt, dass Top-KI-Modelle Gesetze erfinden, Fallrecht ersinnen und Rechtsnormen in alarmierendem Ausmaß falsch wiedergeben. Zitiert Ihr automatisiertes System ein Gesetz, das nicht existiert, drohen Ihnen Bad-Faith-Klagen und regulatorische Strafen.
• Verbosity Bias begünstigt die Wohlformulierten, nicht die Wahrhaftigen. Die Forschung zu LLM-as-a-Judge-Systemen zeigt, dass Modelle wie GPT-4 längeren, detaillierteren Antworten durchgängig höhere Konfidenzwerte zumessen — selbst wenn die kürzere Antwort sachlich stärker ist. In einem Schadensstreit bedeutet das: Eine 500-Wörter-Erzählung voller emotionaler Details kann eine sachlich korrekte 50-Wörter-Aussage schlagen. Möglicherweise entscheidet Ihr System gegen ehrliche Versicherungsnehmer und zugunsten redegewandter, aber fahrlässiger Anspruchsteller.
• 100 % Inkonsistenzrisiko. Leiten Sie denselben Polizeibericht zehnmal durch ein LLM, bekommen Sie möglicherweise zehn verschiedene Haftungsentscheidungen. Probabilistische Textgenerierung kann nicht garantieren, dass dieselben Fakten dasselbe Urteil ergeben. Diese Inkonsistenz ist ein Compliance-Albtraum.
• Claims Leakage durch ungenaue Haftungsverteilungen. Ein probabilistisches System fällt womöglich pauschal auf eine 50/50-Haftungsverteilung zurück, weil die Schilderungen unübersichtlich sind. Ein regelbasiertes System könnte dagegen eine glasklare 100/0-Verteilung auf Basis eines konkreten Verstoßes gegen die Verkehrsordnung offenlegen. Jede falsche Verteilung kostet Sie Geld.

Für Ihren General Counsel ist das Prozessrisiko. Für Ihren CFO ist das unkontrolliertes Claims Leakage. Für Ihren Risk Officer ist das ein System, das sich gegenüber einer Aufsichtsbehörde weder auditieren noch erklären lässt.

Was tatsächlich unter der Haube passiert

Um zu verstehen, warum KI bei juristischen Urteilen scheitert, müssen Sie verstehen, was sie tatsächlich tut. Ein LLM schlussfolgert nicht. Es sagt voraus. Aus einer Wortfolge berechnet es das statistisch wahrscheinlichste nächste Wort. Das ist alles.

Denken Sie an die Autovervollständigung auf Ihrem Smartphone — nur hochskaliert auf ganze Absätze. Ihr Smartphone versteht nicht, was Sie sagen wollen. Es ratet anhand von Mustern. LLMs tun dasselbe, nur mit mehr Daten und längeren Ausgaben. Bei der Aufgabe, eine E-Mail zu schreiben, funktioniert das bestens. Bei der Aufgabe zu entscheiden, wer einen Verkehrsunfall verursacht hat, fällt alles auseinander.

Das Whitepaper benennt vier konkrete Fehlermodi:

Verbosity Bias bedeutet, dass das Modell Länge als Beweis behandelt. Ein Fahrer, der einen lebendigen 500-Wörter-Bericht verfasst — mit Wetterlage, eigenen Gefühlen und der "Aggressivität" des anderen Fahrers —, bekommt mehr Gewicht als ein Fahrer, der schlicht notiert: "Ich habe angehalten. Ich habe nachgesehen. Ich bin weitergefahren. Man ist mir hineingefahren." Das Modell verwechselt Token-Dichte mit Beweisdichte.

Sycophancy bedeutet, dass das Modell dem zustimmt, wer gerade die Frage stellt. Promptet ein Sachbearbeiter das System mit "Analysieren Sie das, um zu prüfen, ob der Anspruchsteller zu schnell war", ist es statistisch wahrscheinlicher, dass das Modell Belege für Geschwindigkeitsüberschreitung findet — selbst wenn es keine gibt. Das ist Confirmation Bias als Dienstleistung.

Halluzination bedeutet, dass das Modell Fakten und Recht erfindet. Es könnte lesen, ein Wagen habe "schwere Frontbeschädigung", und als Fakt behaupten, das Fahrzeug sei zu schnell gefahren — ohne irgendwelche Bremsspuren-Daten oder Telemetrie. Es füllt erzählerische Lücken mit plausibel klingender Fiktion.

Versagen abduktiven Denkens bedeutet, dass das Modell nicht von den Beweisen rückwärts zur besten Erklärung gelangen kann. Es kann keine mentale Simulation durchführen: "Wäre dieser Crash trotzdem passiert, wenn dieser Fahrer angehalten hätte?" Es sagt lediglich den nächsten Satz einer Unfallgeschichte voraus. Das ist keine Justiz. Das ist Autovervollständigung mit Konsequenzen.

Was funktioniert (und was nicht)

Bevor erklärt wird, was funktioniert, zunächst, was nicht funktioniert:

"Verwenden Sie einfach einen besseren Prompt." Prompt Engineering behebt keine strukturellen Biases. Verbosity Bias und Sycophancy sind im Trainingsprozess der Modelle fest eingebrannt. Ein besserer Prompt kann aus einem probabilistischen System kein deterministisches machen.

"Bauen Sie einen Human in the Loop ein." Prüft Ihr menschlicher Reviewer eine KI-Ausgabe, die bereits autoritativ und gut formuliert wirkt, wird er sie höchstwahrscheinlich freigeben. Das ganze Problem besteht ja darin, dass LLM-Ausgaben überzeugend klingen, selbst wenn sie falsch sind.

"Fine-Tunen Sie das Modell mit Juristendaten." Fine-Tuning kann den Fachwortschatz verbessern. Es behebt keine Halluzinationen und verschafft dem Modell kein Verständnis von Physik, Kausalität oder gesetzlicher Logik. Ein feingetuntes Modell sagt weiterhin Wörter voraus — nicht Wahrheit.

Was funktioniert, ist, die Aufgaben, in denen KI stark ist, von den Aufgaben zu trennen, in denen sie schwach ist. Veriprajna nennt das einen neuro-symbolischen Ansatz. So funktioniert die Architektur in drei Schritten:

Schritt 1: Extraktion (KI tut, was KI gut kann). Das LLM liest Ihre unstrukturierten Polizeiberichte, Zeugenaussagen und Gutachtervermerke. Seine einzige Aufgabe ist es, strukturierte Fakten herauszuziehen: Fahrzeuge, Fahrer, Verkehrsregelungen, Handlungen, Bedingungen. Es bildet diese auf ein striktes vordefiniertes Schema ab — ein formales Vokabular aus über 110 Entitäts- und Beziehungstypen. Versucht das Modell, etwas auszugeben, das gegen das Schema verstößt (etwa ein Stoppschild zu platzieren, wo keines auf der Karte existiert), markiert das System den Konflikt. Die KI ist ein Sachbearbeiter, kein Richter.

Schritt 2: Rekonstruktion (Bau eines digitalen Zwillings des Ereignisses). Diese extrahierten Fakten werden in einen Knowledge Graph geladen — eine strukturierte Karte von allem, was geschah. Fahrzeuge werden zu Knoten. Handlungen werden zu Kanten. Verkehrsgesetze werden zu ausführbaren Logikregeln statt zu Text, der zusammengefasst werden soll. Das System nutzt formale Deontische Logik, um Pflichten, Verbote und Erlaubnisse direkt aus Gesetzen wie dem California Vehicle Code § 21802 zu kodieren. "Hielt der Fahrer an?" wird zu einer Ja-oder-Nein-Prüfung gegen den Graphen — nicht zu einer Meinungsfrage.

Schritt 3: Feststellung (Die Logik entscheidet über die Schuld, nicht die Sprache). Das System spielt die formalisierten Verkehrsregeln gegen den rekonstruierten Ereignisgraphen durch. Es prüft die Handlungen jedes Beteiligten gegen die Gesetze, die an seinem jeweiligen Ort gelten. Es führt kontrafaktische Simulationen durch: "Wäre diese Kollision passiert, wenn der Fahrer angehalten hätte?" Verschwindet der Kollisionsknoten in der simulierten Alternative, ist der Verstoß die Ursache. Das Ergebnis ist ein strukturierter Haftungsbericht, in dem jede Schlussfolgerung auf eine bestimmte Tatsache und eine bestimmte Regel zurückführbar ist.

Hier sollte Ihr Compliance-Team genau hinhören. Jede Entscheidung lässt sich auf einen bestimmten Knoten im Graphen und eine bestimmte Regel in der Logik-Engine zurückführen. Sie können die gesamte Argumentationskette visualisieren. Sie können einem Regulierer, einem Richter oder einer Jury exakt zeigen, warum das System zu seinem Schluss kam. Spielen Sie dieselben Fakten hundertmal durch das System, erhalten Sie hundertmal dieselbe Antwort. Das ist der Audit-Trail, den Black-Box-KI nicht liefern kann.

Für Organisationen aus der Legal- und Professional-Services-Branche, ist diese Art der Nachvollziehbarkeit nicht optional — sie ist die grundlegende Erwartung. Und der zugrunde liegende Ansatz — eine auf neuro-symbolischen Prinzipien aufgebaute Lösungsarchitektur — ist eigens darauf ausgelegt, diese Messlatte zu erfüllen. Muss Ihre Organisation zudem nachweisen, dass ihre KI alle Beteiligten fair behandelt — ganz gleich, wie gut diese formulieren —, nimmt sich Veriprajnas Fairness-Audit- und Bias-Mitigationsarbeit der in dieser Studie dokumentierten Verbosity- und Sycophancy-Biases direkt an.

Für die vollständige technische Aufschlüsselung können Sie die vollständige technische Analyse lesen oder die interaktive Version erkunden.