Jede KI lag bei derselben Steuerfrage falsch – und niemand merkte es, bis wir das Gesetz prüften

Es war an einem Dienstagabend, und ich starrte auf drei Browser-Tabs – ChatGPT, Claude, Gemini –, die mir alle dasselbe sagten. Alle drei lagen falsch.

Die Frage war eigentlich ganz einfach: Kann ein Steuerpflichtiger nach dem neuen Omnibus Budget Reconciliation Act die Zinsen für einen privaten Autokredit absetzen? Jedes Modell sagte Ja. Jedes Modell erklärte die Bestimmung korrekt – die Fristen, die Fahrzeuganforderungen, sogar die Einkommensgrenzen. Und jedes Modell ordnete den Abzug im falschen Abschnitt des Steuergesetzbuchs ein, was bedeutete, dass die nachgelagerte Finanzberatung unbrauchbar war.

Nicht bloß leicht daneben. Nicht „nun, das hängt von der Auslegung ab“. Einfach falsch. Die Art von Fehler, die bei Befolgen durch einen Wirtschaftsprüfer eine IRS-Betriebsprüfung auslösen würde. Die Art von Fehler, die eine Person im Ruhestand Tausende an unerwarteten Medicare-Zusatzbeiträgen kosten könnte. Und das Beängstigende daran? Wenn man die Antwort nicht schon vorher wusste, würde man es nie bemerken. Die KI klang perfekt.

Dieser Moment veränderte meine Sicht auf KI in der Compliance. Nicht etwa, weil ich überrascht gewesen wäre, dass ein Sprachmodell halluziniert – wir alle wissen, dass sie das tun. Was mich erschütterte, war, dass alle drei auf exakt dieselbe Weise und aus exakt demselben Grund halluzinierten. Sie hatten die falsche Antwort aus dem Internet gelernt, und das Internet war so einheitlich falsch, dass für die Modelle keinerlei Signal mehr übrig war, um sich selbst zu korrigieren.

Wir begannen, dieses Phänomen Konsensfehler zu nennen. Und als wir es einmal verstanden hatten, konnten wir es nicht mehr übersehen.

Was ist ein Konsensfehler und warum sollte Sie das kümmern?

Die meisten Menschen, die mit KI arbeiten, sind mit Halluzinationen vertraut – Momenten, in denen ein Modell ein Zitat erfindet, eine Statistik fingiert oder selbstbewusst etwas behauptet, das nicht wahr ist. Das ist beunruhigend, aber es geschieht auch gewissermaßen zufällig. Oft kann man diese Fehler erkennen, weil sie unstimmig wirken oder weil eine kurze Google-Suche die Erfindung entlarvt.

Ein Konsensfehler ist anders. Er tritt auf, wenn eine KI eine falsche Antwort gibt – nicht weil ihr Daten fehlen, sondern weil die Daten, mit denen sie trainiert wurde, überwältigend und voller Überzeugung inkorrekt sind. Das Modell rät nicht im Dunkeln. Es spiegelt die Mehrheitsmeinung des Internets wider – und diese Mehrheitsmeinung ist zufällig rechtlich falsch.

Wenn das Internet selbst falschliegt, erbt jede darauf trainierte KI denselben Irrglauben. Ein Konsensfehler ist kein Systemfehler – er ist ein Wesensmerkmal dessen, wie Sprachmodelle lernen.

Bedenken Sie für einen Moment die Mathematik dahinter. Wenn 90 % der Webartikel über eine bestimmte steuerliche Bestimmung diese inkorrekt beschreiben – indem sie vereinfachte Sprache verwenden, zwei verschiedene Abschnitte des Gesetzes vermengen oder einfach die Fehler der anderen kopieren –, dann konvergieren die internen Gewichtungen des Modells mit hoher Konfidenz auf die falsche Antwort. Selbst wenn der eigentliche Gesetzestext in den Trainingsdaten vorkommt, erscheint er ein- oder zweimal in dichter juristischer Sprache, während die inkorrekte Auslegung tausendfach in leicht verständlicher, SEO-optimierter Prosa auftaucht.

Das Modell tut genau das, wofür es entwickelt wurde: das wahrscheinlichste nächste Token vorhersagen. Und das wahrscheinlichste Token ist das falsche.

Der Autokreditabzug, an dem drei KIs scheiterten

Lassen Sie mich den konkreten Fall durchgehen, denn die Details sind entscheidend.

Der OBBBA schuf eine neue Kategorie namens „Qualified Passenger Vehicle Loan Interest“ – einen befristeten Abzug für Zinsen auf Darlehen für neue, in den USA montierte Personenkraftwagen, verfügbar für die Steuerjahre 2025 bis 2028. So weit, so gut. Jede KI machte diesen Teil richtig.

Hier bricht es auseinander. Der Abzug wurde in IRC Section 63 eingefügt, die das zu versteuernde Einkommen (Taxable Income) regelt. Er wurde nicht in IRC Section 62 aufgenommen, die das bereinigte Bruttoeinkommen (Adjusted Gross Income, AGI) regelt. Im Steuerrecht ist diese Unterscheidung alles.

Ein Abzug nach Section 62 – „Above the Line“ – verringert Ihr AGI. Ihr AGI bestimmt den Anspruch auf Dutzende weiterer Vergünstigungen: Rückzahlungspläne für Studienkredite, Abzugsgrenzen für Krankheitskosten, die Besteuerung von Sozialversicherungsleistungen, Medicare-Zusatzbeiträge. Senken Sie Ihr AGI, und Sie lösen eine Kaskade nachgelagerter Einsparungen aus.

Ein Abzug nach Section 63 – „Below the Line“ – verringert Ihr zu versteuerndes Einkommen. Er spart Ihnen immer noch Geld bei Ihrer Bundessteuer, aber er bewirkt gar nichts in Bezug auf Ihr AGI. Keine dieser nachgelagerten Vergünstigungen wird davon beeinflusst.

Jedes große LLM erzählte den Nutzern, dieser Abzug würde ihr AGI senken. Jedes einzelne. Denn genau das stand im Finanz-Content-Ökosystem. Weit verbreitete Erklärungen und SEO-optimierte Artikel trugen Überschriften wie „Autokreditzinsen sind jetzt absetzbar!“, ohne anzugeben, an welcher Stelle der Steuerberechnung dies zum Tragen kommt. Die Unterscheidung zwischen Section 62 und Section 63 ist für Content-Ersteller, die auf Klicks optimieren, offenbar zu langweilig.

Doch für Steuerzahler, die diesem Rat folgen? Sind die Konsequenzen real.

Eine Person im Ruhestand, die fälschlicherweise ein niedrigeres AGI angibt, könnte mit unerwarteten Medicare-IRMAA-Zuschlägen konfrontiert werden. Ein Kreditnehmer in einem einkommensabhängigen Rückzahlungsplan für Studienkredite könnte den Anspruch auf niedrigere Raten verlieren. Ein Steuerzahler in einem Bundesstaat wie Arizona, der seine Einkommensteuer an das Bundes-AGI koppelt, könnte einer staatlichen Betriebsprüfung gegenüberstehen. Ich habe über die gesamte Kaskade der finanziellen Folgen in der interaktiven Version unserer Forschungsarbeit geschrieben – die Folgewirkungen sind gravierender, als die meisten Menschen annehmen.

Warum hat RAG das nicht behoben?

Ich höre den Einwand bereits: „Verwenden Sie einfach RAG. Rufen Sie den eigentlichen Gesetzestext ab. Problem gelöst.“

Wir haben es versucht. Es hat das Problem nicht gelöst.

Retrieval-Augmented Generation – die Methode, bei der dem Modell relevante Dokumente im Kontextfenster zusammen mit der Frage des Nutzers übergeben werden – ist die derzeitige Antwort der Branche auf Halluzinationen. Und für viele Anwendungsfälle hilft das. Aber für juristisches Denken weist sie drei strukturelle Schwächen auf, die sich in unseren Tests sofort zeigten.

Erstens liest sich das Steuerrecht nicht wie eine Erzählung. Der OBBBA besagt nicht einfach: „Dies ist ein Below-the-Line-Abzug.“ Er besagt: „Section 163(h) wird geändert, indem nach Absatz (3) der folgende neue Absatz eingefügt wird...“ Das Modell muss den logischen Zustand des Steuergesetzbuchs aus einer Reihe von Änderungen rekonstruieren. Wenn der abgerufene Textabschnitt sagt „Abzug zulässig“, aber dessen Position im Berechnungsablauf nicht explizit angibt, füllt das Modell die Lücke mit seinem Trainings-Bias – den Blogbeiträgen.

Zweitens findet die Vektorsuche das, was ähnlich ist, nicht das, was durch Auslassung relevant ist. Eine Abfrage zu Autokreditabzügen liefert Absätze über Autokreditabzüge. Sie ruft nicht den Absatz in Section 62 ab, der das AGI definiert – weil dieser Absatz Autokredite nicht erwähnt. Er schließt sie einfach aus, indem er sie nicht auflistet. Im Recht ist das Fehlen eines Sachverhalts in einer Liste von Bedeutung. In der Vektorähnlichkeitssuche ist Abwesenheit unsichtbar.

Drittens – und das ist der Punkt, der mir schlaflose Nächte bereitet – löst RAG das Abrufen, nicht das logische Schlussfolgern. Man kann dem Modell den korrekten Gesetzestext vorlegen, und es wird ihn dennoch falsch interpretieren, wenn seine internen Gewichtungen durch Millionen inkorrekter Trainingsbeispiele verzerrt sind. Es wird zu einem voreingenommenen Leser, der sieht, was er zu sehen erwartet, statt dem, was der Text tatsächlich besagt.

RAG legt der KI das richtige Dokument vor. Doch ein voreingenommener Leser mit dem richtigen Buch gelangt immer noch zum falschen Schluss.

Nach wochenlangem Testen verschiedener Abrufstrategien, Chunk-Größen und Prompt-Konfigurationen führte mein Team eine Diskussion, die alles klärte. Einer unserer Ingenieure wollte die RAG-Pipeline weiter verfeinern – bessere Embeddings, präziseres Chunking, explizite Anweisungen, „ausschließlich den abgerufenen Text zu verwenden“. Unsere Rechtsberaterin sah ihn an und sagte: „Du versuchst, jemandem, der nicht rechnen kann, eine bessere Brille aufzusetzen.“ Sie hatte recht. Das Problem war nicht, was das Modell sehen konnte. Es war, worüber das Modell logisch nachdenken konnte.

Was passiert, wenn KI das Gesetz falsch versteht?

Der OBBBA-Fall enthält zudem Abschmelzungsregeln (Phase-Out), die das Problem noch verschärfen. Der Abzug ist auf 10.000 $ pro Jahr begrenzt und verringert sich um 200 $ für jede 1.000 $, um die das Einkommen des Steuerpflichtigen 100.000 $ (bei Einzelveranlagung) bzw. 200.000 $ (bei Zusammenveranlagung) übersteigt. Bei 150.000 $ bzw. 250.000 $ entfällt der Abzug vollständig.

Als wir dies mit einem hypothetischen Steuerzahler testeten, der 125.000 $ verdient, taten sich die Modelle schwer. Einige ignorierten den Phase-Out komplett. Andere wandten eine Reduktionskurve an, die vom Child Tax Credit übernommen wurde – einer völlig anderen Bestimmung mit ganz anderer Mathematik. Die Modelle glichen Muster mit vertrauten Strukturen ab, statt die tatsächliche Regel zu berechnen.

Dies ist das Problem der „arithmetischen Halluzination“, das sich über den Konsensfehler legt. Das Modell versteht nicht nur den rechtlichen Rahmen falsch – es scheitert auch an der Mathematik. Und wenn man diese Modelle für einen effizienten Einsatz durch Quantisierung komprimiert, nehmen die Fähigkeiten zum logischen Denken schneller ab als die sprachlichen Fähigkeiten. Das Modell klingt selbstbewusster, während es weniger präzise wird. Das ist in jedem Bereich eine gefährliche Kombination. In der Steuer-Compliance ist es ein Haftungsrisiko.

Es gibt noch eine weitere Dimension, die den meisten völlig entgeht. Der OBBBA schuf auch Section 6050AA, die neue Meldepflichten für Kreditgeber vorschreibt. Jedes Unternehmen, das 600 $ oder mehr an Zinsen für ein qualifiziertes Fahrzeugdarlehen einnimmt, muss eine Informationsmeldung beim IRS einreichen. Als wir die Modelle fragten, was Banken und Kreditgenossenschaften bezüglich des neuen Gesetzes tun müssen, konzentrierten sie sich fast ausschließlich auf den Abzug des Kreditnehmers – weil das Content-Ökosystem genau darüber schrieb. Die Compliance-Pflicht des Kreditgebers wurde kaum registriert. Für ein Fintech-Unternehmen, das KI zur Zusammenfassung regulatorischer Änderungen nutzt, könnte diese Auslassung systematische Non-Compliance und Strafen nach IRC Sections 6721 und 6722 bedeuten.

Die Architektur, die tatsächlich funktioniert

Nach dem Autokredit-Debakel verbrachte ich einen Monat in der Überzeugung, dass der gesamte Ansatz, Sprachmodelle für die Compliance einzusetzen, grundlegend fehlerhaft sei. Dann bauten wir etwas, das meine Meinung änderte – nicht über LLMs, sondern darüber, wie sie eingesetzt werden sollten.

Die Erkenntnis war einfach, als wir sie erst einmal sahen: Hören Sie auf, von der KI juristisches logisches Denken zu verlangen. Lassen Sie sie tun, worin sie gut ist – Sprache verstehen – und übergeben Sie das logische Denken an ein System, das tatsächlich Logik beherrscht.

Das ist die Kernidee hinter neuro-symbolischer KI: eine hybride Architektur, welche die sprachliche Gewandtheit neuronaler Netze mit der deterministischen Strenge symbolischer Logiksysteme verbindet. Wir haben eine sogenannte deterministische Steuer-Engine gebaut, und sie arbeitet in drei Stufen.

Die erste Stufe ist der Intent Parser. Hier sitzt das LLM und tut das, was LLMs am besten können. Ein Nutzer lädt eine Rechnung hoch, tippt eine Frage ein oder verknüpft einen Bank-Feed. Die neuronale Schicht extrahiert strukturierte Entitäten: Fahrzeugtyp, Kaufdatum, Kredithöhe, Montageort, Einkommen des Steuerpflichtigen. Sie trifft keinerlei Entscheidung über die steuerliche Behandlung. Sie übersetzt lediglich die unstrukturierte menschliche Realität in saubere Daten.

Die zweite Stufe ist der Truth Anchor. Hier übernimmt die symbolische Schicht. Wir kodieren das Steuergesetzbuch – nicht als Text, der „gelesen“ werden soll, sondern als ausführbare Logik unter Verwendung spezialisierter Sprachen wie Catala (vom INRIA für die französische Steuerverwaltung entwickelt) und PROLEG (einem auf Prolog basierenden juristischen Logiksystem). Das Gesetz wird zum Programm. Der Truth Anchor fragt einen Knowledge Graph ab, wendet die kodierten Regeln an, prüft auf fehlende Fakten und berechnet das deterministische Ergebnis. Wurde das Fahrzeug in Mexiko montiert, wird der Abzug verweigert. Übersteigt das Einkommen den Phase-Out-Schwellenwert, wird die Reduktion auf den Cent genau berechnet. Keine Wahrscheinlichkeit. Kein Raten.

Die dritte Stufe ist der Response Generator. Eine weitere neuronale Schicht, die jedoch strikt beschränkt ist. Sie empfängt die Ausgabe des Logik-Solvers – „Abzug: ABGELEHNT. Grund: Phase-Out bei Einkommen von 135.000 $ überschritten“ – und übersetzt sie in klare, menschenlesbare Sprache. Das LLM macht die Antwort verständlich lesbar. Es hat keinerlei Spielraum, die Antwort inhaltlich abzuändern.

Wir bitten die KI nicht, das Gesetz zu erraten. Wir bringen ihr bei, das Gesetz zu berechnen. Die neuronale Schicht kümmert sich um die Sprache. Die symbolische Schicht kümmert sich um die Wahrheit. Keine von beiden versucht, die Aufgabe der anderen zu übernehmen.

Diese Entkopplung ist es, die den Konsensfehler eliminiert. Die neuronale Schicht mag aus ihrem Training „wissen“, dass populäre Finanzseiten behaupten, Autokreditzinsen würden das AGI senken. Aber sie wird niemals aufgefordert, diese Feststellung zu treffen. Sie wird lediglich aufgefordert, die Fahrzeugdetails zu extrahieren. Die Entscheidung liegt in der symbolischen Schicht, die keinen Zugriff auf Reddit hat – sondern ausschließlich auf das kodierte Gesetz.

Für die vollständige technische Architektur und formale Analyse, einschließlich der Frage, wie Catala Default-Exception-Logik handhabt und wie Answer Set Programming die Konsistenz über eine gesamte Steuererklärung hinweg prüft, haben wir ein detailliertes Forschungspapier veröffentlicht.

Warum ist das über einen einzelnen Steuerabzug hinaus von Bedeutung?

Ich will ganz ehrlich sein: Als ich anfing, Menschen das Konzept des Konsensfehlers zu erklären, lautete die häufigste Reaktion: „Schön und gut, aber das ist ein einzelner Randfall. Meistens liegt die KI doch richtig.“

Diese Reaktion verkennt das Wesen des Problems. Der OBBBA-Autokreditabzug ist kein Sonderfall. Er ist typisch. Jedes Mal, wenn der Kongress eine neue Bestimmung verabschiedet, generiert das Content-Ökosystem Tausende vereinfachter, mitunter falscher Auslegungen, noch bevor der IRS überhaupt Leitlinien herausgibt. Jedes Mal, wenn ein Bundesstaat von der steuerlichen Behandlung auf Bundesebene abweicht, hinkt das Internet hinterher. Jedes Mal, wenn ein Gerichtsurteil die Auslegung eines bestehenden Gesetzes ändert, bleibt die alte Auslegung jahrelang in den Trainingsdaten bestehen.

Ein Konsensfehler ist kein Randfall. Er ist der Standardzustand für jeden Rechtsbereich, der komplex ist, kürzlich geändert wurde oder von Generalisten unter den Verfassern mangelhaft verstanden wird. Das heißt: für den Großteil des Steuerrechts.

Die weitergehende Implikation betrifft das, was wir von KI in Bereichen mit hoher Verantwortung erwarten. Das derzeitige Paradigma – dem LLM mehr Kontext, bessere Prompts, größere Fenster zu geben – ist eine inkrementelle Verbesserung an einer grundlegend unpassenden Architektur. Man verlangt von einer Mustererkennungs-Engine formales logisches Schließen. Manchmal hat sie Glück. In der Steuer-Compliance ist „manchmal“ nicht gut genug.

Von der Black Box zur Glass Box

Es gibt noch eine Sache, die für jeden, der jemals einem Betriebsprüfer gegenübersaß, von enormer Bedeutung ist: Rückverfolgbarkeit.

Wenn ein herkömmliches LLM einem Steuerzahler sagt: „Ja, das können Sie absetzen“, und der IRS später widerspricht: Wie sieht dann der Prüfpfad aus? Das Modell sagte voraus, dass „Ja“ angesichts des Kontexts das wahrscheinlichste nächste Token war. Das ist keine Antwort, die man einem Betriebsprüfer vorlegen kann.

In unserer neuro-symbolischen Engine erzeugt jede Entscheidung einen Graphenpfad:

Deduction_Allowed = True, weil Loan_Date im Zeitraum 2025–2028 liegt (verifiziert), Vehicle_Type = Passenger ist (verifiziert), Assembly_Location = US ist (verifiziert), Income unter dem Phase-Out-Schwellenwert liegt (verifiziert), Rule_Reference = IRC § 163(h)(4) ist.

Jeder Knoten in dieser Kette ist auditierbar. Jeder Fakt kann auf ein Quelldokument zurückgeführt werden. Jede Regel kann auf einen bestimmten Abschnitt des Gesetzbuchs zurückgeführt werden. Wenn sich etwas ändert – ein neues IRS-Urteil, eine geänderte Bestimmung –, aktualisiert man den Knowledge Graph und den Logik-Solver, und jede betroffene Entscheidung wird automatisch zur Überprüfung markiert.

Dies verwandelt KI von etwas, dem man blind vertrauen muss, in etwas, das man auf Abruf verifizieren kann. Die Leute fragen mich immer, ob dieser Ansatz langsamer oder teurer sei als der reine Einsatz eines LLM. Die ehrliche Antwort: Die anfängliche Kodierung des Gesetzes erfordert echte Arbeit. Doch sobald es kodiert ist, erfolgt eine Feststellung nahezu verzögerungsfrei, und die Kosten für die 100-prozentige Prüfung aller Transaktionen nähern sich den Kosten für eine 1-prozentige Prüfung an. Das ist keine marginale Verbesserung gegenüber herkömmlichen stichprobenbasierten Prüfungen. Es ist eine völlig neue Kategorie von Verlässlichkeit.

Die Frage, die noch niemand stellt

Hier ist, was mich am meisten beunruhigt: Die Finanzdienstleistungsbranche beeilt sich, KI-Assistenten, KI-Steuerberater und KI-Compliance-Monitore einzusetzen. Das Marketing sagt „KI-gestützt“. Das Kleingedruckte sagt „keine Steuerberatung“. Und dazwischen erhalten Millionen von Menschen Antworten, die autoritativ klingen, echte Gesetze zitieren, tatsächliche Daten und Dollarbeträge nennen – und den Abzug im falschen Abschnitt des Steuergesetzbuchs einordnen.

Wir leben nicht in einer Welt, in der KI offensichtlich falschliegt und Menschen das sofort erkennen. Wir leben in einer Welt, in der KI auf subtile Weise falschliegt – auf eine Art, deren Erkennung tiefes Fachwissen erfordert. Das ist gefährlicher als ein offensichtliches Versagen, weil es den Instinkt zum Nachprüfen untergräbt.

Die Frage ist nicht, ob KI in der Steuer-Compliance eingesetzt werden sollte. Sie sollte es unbedingt – die Komplexität des Steuerrechts hat die menschliche Fähigkeit zu dessen konsistenter Anwendung längst überstiegen. Die Frage ist, ob wir bereit sind, KI-Systeme zu bauen, die das Wesen des Bereichs respektieren, in dem sie agieren. Das Steuerrecht ist deterministisch. Es kennt richtige und falsche Antworten, definiert durch das Gesetz, nicht durch die Mehrheitsmeinung. Eine Architektur, die rechtliche Wahrheit als Wahrscheinlichkeitsverteilung behandelt, wird immer anfällig für Konsensfehler sein – ganz gleich, wie groß das Modell oder wie ausgefeilt der Prompt ist.

Im Steuerrecht ist Popularität kein Ersatz für Wahrheit. Eine Antwort, die zehntausendmal im Internet wiederholt wird, ist nicht richtiger als der Gesetzestext, der ihr ein einziges Mal widerspricht.

Wir haben Veriprajna gegründet, weil ich davon überzeugt bin, dass das Zeitalter von „Vertrauen ist gut, Kontrolle ist besser“ für KI in der Compliance bereits vorbei ist. Die Systeme, die das Vertrauen von Unternehmen gewinnen, werden diejenigen sein, die zuerst verifizieren und danach sprechen – diejenigen, bei denen die Logik prüfbar ist, die Mathematik deterministisch ist und das Vertrauen in die KI auf etwas Dauerhafterem beruht als auf Token-Wahrscheinlichkeiten.

Dem Gesetzestext ist es egal, was das Internet denkt. Ihrer KI sollte es das auch sein.