Grounding, Zitation & Verifikation

Ihre KI zitiert Quellen. Sie verifiziert sie nicht.

Die gefährlichste KI-Ausgabe ist eine, die belegt wirkt. Ein Retrieval-Augmented-System liefert eine Textpassage zurück, das Modell generiert eine Antwort und daneben erscheint eine Quellenangabe. Der Nutzer geht davon aus, dass die Quellenangabe die Behauptung stützt. In 57 % der Fälle trifft dies nicht zu.

Eine Studie aus dem Jahr 2025 ergab, dass mehr als die Hälfte aller RAG-generierten Zitationen eine Post-hoc-Rationalisierung aufweisen: Das Modell entscheidet zuerst über seine Antwort und durchsucht dann die abgerufenen Dokumente nach oberflächlichen Token-Übereinstimmungen, um eine Referenz zu fabrizieren. Das Zitat ist echt. Das Dokument existiert. Die Textpassage stammt aus diesem Dokument. Doch die Textpassage stützt die Behauptung in Wahrheit nicht.

Dies ist kein Retrieval-Problem. Ihre Retrieval-Pipeline kann die richtigen Dokumente zurückliefern und Ihre Quellenangaben können dennoch fehlerhaft sein. Unser Ansatz besteht darin, die Verifikationsschicht aufzubauen, die zwischen der Generierung Ihrer KI und Ihren Nutzern liegt – kein besseres Retrieval, keine besseren Prompts, sondern eine unabhängige Verifikation, die darauf ausgelegt ist, dass jede Behauptung in der Ausgabe tatsächlich durch die referenzierte Quelle gestützt wird – jene Architektur, die wir darlegen in unserem Whitepaper über den Aufbau von Verlässlichkeit jenseits des LLM-Wrappers.

Warum Retrieval plus Prompting keine Verifikation ist

Die meisten Teams behandeln Grounding als reines Retrieval-Problem: bessere Chunks, ein Reranker, „antworte nur anhand des bereitgestellten Kontexts“ im System-Prompt. Dies verfehlt die eigentliche Fehlerursache. Das Modell widersetzt sich nicht – es folgt der Anweisung auf ungetreue Weise, indem es Token im Kontext findet, die oberflächlich passen, und eine Quellenangabe anhängt. Die Textpassage impliziert die Behauptung jedoch nicht.

Verifikation ist ein eigenständiges System mit einer eigenständigen Zielsetzung. Die Generierungskomponente erzeugt Kandidatenbehauptungen mit Quellenzuordnungen und optimiert auf Sprachfluss. Die Verifikationskomponente prüft unabhängig, ob jede zitierte Quelle die zugeordnete Behauptung tatsächlich stützt, und optimiert auf logische Implikation (Entailment): Stützt diese Quelle diese spezifische Behauptung logisch? Wenn diese als unabhängige Subsysteme laufen – das Dual-System-Muster, wie es in unserer Forschung zur neuro-symbolischen Verifikation dargelegt wird –, muss eine Halluzination beide täuschen, um den Nutzer zu erreichen.

Wir implementieren diese Dual-System-Architektur mithilfe von NLI-Modellen, die auf Entailment-Erkennung feinabgestimmt sind, kombiniert mit atomarer Faktendekomposition. Der SAFE -Ansatz von Google DeepMind hat gezeigt, dass die Zerlegung von Antworten in einzelne atomare Fakten vor der Verifikation einer Prüfung auf Satzebene dramatisch überlegen ist: SAFE stimmt mit menschlichen Annotatoren in 72 % der Fälle überein, und bei Uneinigkeit ist die automatisierte Verifikation in 76 % der Fälle korrekt – bei 20-fach niedrigeren Kosten. Wir passen dies an Ihre Domäne an, da sich die Definition eines „atomaren Fakts“ in einem juristischen Schriftsatz von der in einem klinischen Befundbericht oder einem Finanzbericht unterscheidet.

Was die Grounding-APIs der großen Anbieter tatsächlich leisten (und was nicht)

Jeder führende Cloud-Anbieter hat in den vergangenen 18 Monaten Grounding-Funktionen veröffentlicht. Keine davon löst das Problem vollständig.

Die gemeinsame Lücke aller vier Lösungen: Sie erkennen zwar, wenn das Modell vom bereitgestellten Kontext abweicht, prüfen jedoch nicht, ob das einer bestimmten Behauptung zugeordnete Zitat diese durch logische Implikation (Entailment) tatsächlich stützt. Genau diese Verifikationsschicht konzipieren und entwickeln wir.

Drei Verifikationsarchitekturen, abgestimmt auf Ihr Risikoprofil

NLI-basierte Entailment-Verifikation

Für Teams, die eine Prüfung pro Behauptung ohne die Latenzkosten einer vollständigen Dekomposition benötigen. Jede generierte Behauptung wird mit der zitierten Textpassage abgeglichen und durch ein NLI-Modell auf Entailment, Widerspruch oder Neutralität bewertet; Behauptungen mit der Bewertung „Widerspruch“ oder „neutral“ werden markiert oder unterdrückt. Dies erfordert zusätzlich 50–200 ms pro Behauptung, bewältigt Workloads mit hohem Durchsatz und fängt das häufigste Fehlermuster ab: Zitate, die auf thematisch relevante, aber nicht belegende Textpassagen verweisen.

Wir setzen auf kalibrierte NLI-Ensembles (den HALT-RAG -Ansatz) statt einzelner Modelle, da individuelle NLI-Modelle domänenspezifische tote Winkel aufweisen, die durch Ensembles ausgeglichen werden.

Atomare Faktendekomposition mit suchgestützter Verifikation

Für risikoreiche Einsatzbereiche, in denen eine Prüfung pro Behauptung nicht ausreicht, da ein einzelner Satz mehrere verifizierbare Aussagen enthalten kann. Wir zerlegen jede Antwort in einzelne Fakten, generieren gezielte Verifikationsabfragen für jeden Fakt und prüfen sowohl gegen die zitierten Quellen als auch gegen maßgebliche externe Referenzen. Dies ist der von SAFE abgeleitete Ansatz.

Er deckt Fehler auf, die NLI auf Satzebene übersieht: Ein Satz kann teilweise belegt sein (zwei Fakten korrekt, einer frei erfunden), und NLI stuft häufig den gesamten Satz als logisch impliziert ein. Die Dekomposition verursacht 3- bis 5-fach höhere Inferenzkosten , deckt jedoch deutlich mehr Fehler auf. Wir setzen dies bei juristischen Schriftsätzen, klinischer Dokumentation, Finanzberichten und in allen Bereichen ein, in denen eine einzige falsche Zahl schwerwiegende Konsequenzen nach sich zieht.

Kontinuierliche Verifikation mit temporaler und numerischer Prüfung

Für regulierte Umgebungen, in denen sich die Gültigkeit von Quellen im Zeitverlauf ändert. Dies erweitert den Dekompositionsansatz um drei zusätzliche Prüfungen:

• Temporale Verifikation – War diese Vorschrift an dem Datum in Kraft, auf das sich die Behauptung bezieht?
• Numerische Verifikation – Stimmt dieser Prozentsatz exakt mit der Quelltabelle überein und nicht nur annähernd?
• Konsistenzprüfung über Aussagen hinweg – Widersprechen sich mehrere belegte Behauptungen innerhalb derselben Antwort?

Wir führen Aktualitätsindizes für Quellen, die nachverfolgen, wann zitierte Dokumente zuletzt validiert wurden, und eine erneute Verifikation auslösen, sobald Quellmaterial aktualisiert wird. Dies ist die Architektur für Organisationen, bei denen ein Verweis auf eine überholte Vorschrift oder eine veraltete Statistik ein Compliance-Risiko birgt – detailliert dargelegt in unserer Forschung zur Durchsetzung gesetzlicher Zitationen in staatlicher KI.

Messung der Grounding-Qualität (die Metriken, auf die es wirklich ankommt)

Die Evaluierungslandschaft ist fragmentiert. Vectaras HHEM bewertet die faktische Konsistenz, misst jedoch die Wiedergabetreue bei Zusammenfassungen und nicht die Zitiergenauigkeit. RAGAS prüft Grounding, aber keine Attribution. Der ALCE-Benchmark evaluiert Zitationspräzision und -recall anhand akademischer Datensätze, die Unternehmensmuster nicht widerspiegeln. Untersuchungen des Allen Institute ergaben, dass die Zitiergenauigkeit bei RAG im Durchschnitt lediglich 65–70 % ohne gezieltes Attributionstraining beträgt.

Unser Ansatz besteht darin, ein Evaluierungssystem aufzubauen, das misst, worauf es ankommt – kontinuierlich betrieben mit schwellenwertbasiertem Alerting:

• Zitationspräzision – Stützen zitierte Textpassagen die jeweiligen Behauptungen?
• Zitations-Recall – Sind verifizierbare Behauptungen ordnungsgemäß mit Quellen belegt?
• Entailment-Genauigkeit – Die NLI-Bestehensquote.
• Quellenspezifität – Zuordnung auf Absatzebene im Vergleich zur Dokumentenebene.

Wann eine vollständige Verifikation überdimensioniert ist

Eine vollständige Verifikation ist kostenintensiv. Atomare Dekomposition mit suchgestützter Prüfung erfordert zusätzlich 2–5 Sekunden und 0,01–0,05 US-Dollar pro Antwort bei aktuellen Modellpreisen. Bei einem internen Wissens-Bot mit 10.000 Anfragen pro Tag entspricht das 100–500 US-Dollar pro Tag an reinen Verifikationskosten, zusätzlich zu Generierung und Retrieval.

Nicht jede Anwendung erfordert dies. Wir helfen Ihnen, die Verifikationstiefe an das tatsächliche Risiko anzupassen – diese Bewertung ist Teil jedes Projekts, und wir sagen Ihnen offen, wann ein einfacherer Ansatz für Ihren Anwendungsfall vollkommen ausreicht.

Was wir liefern

Ein Projekt ist darauf ausgelegt, die folgenden Ergebnisse zu liefern – dieselbe Verifikationsklasse, wie sie in unserer funktionsfähigen Demo für behördliche KI mit Zitationsdurchsetzunggezeigt wird:

• Eine Verifikationsarchitektur, die präzise auf Ihr Risikoprofil, Ihr Latenzbudget und Ihre Quelldokumenttypen abgestimmt ist.
• NLI- oder dekompositionsbasierte Verifikations-Pipelines, nahtlos integriert in Ihren bestehenden Retrieval-Stack.
• Ein Evaluierungs-Framework für Zitierqualität mit Metriken für Präzision, Recall, Entailment-Genauigkeit und Quellenspezifität.
• Kontinuierliches Monitoring mit schwellenwertbasiertem Alerting.
• Integration in Ihren Compliance-Workflow für Audit-Trail-Anforderungen – FINRA-Telemetrie, EU-AI-Act-Transparenz, FDA-Rückverfolgbarkeit.
• Eine Test-Suite bekannter Halluzinations-Probes, kalibriert auf Ihre spezifische Domäne.
• Ein Kostenmodell für die Verifikation, damit Sie fundierte Entscheidungen treffen können, wo vollständige Verifikation gegenüber leichtgewichtigeren Prüfungen eingesetzt werden sollte.