Kann man KI bei der Bewertung von Versicherungsansprüchen vertrauen?

Das Problem

Ein großer Versicherer bat seine KI, ein Foto einer stark verbeulten hinteren Stoßstange zu „verbessern“. Die KI löschte den Schaden vollständig und lieferte ein makelloses, fiktives Bild eines unbeschädigten Fahrzeugs zurück. Dies ist der heute berüchtigte „Pristine Bumper“-Vorfall. Der Versicherer hatte ein generatives KI-Tool — aufgebaut auf derselben Technologieart hinter Stable Diffusion und DALL-E — in seine Schaden-App für mobile Geräte integriert. Als ein Versicherungsnehmer nach einem Zusammenstoß ein Foto hochlud, interpretierte die KI das zerdrückte Blech als visuelles Rauschen. Sie glättete die Beule digital weg und ersetzte sie durch die sauberen Linien eines perfekten Kotflügels.

Die automatisierte Schaden-Engine lehnte anschließend den Anspruch ab. Ihre Begründung: kein sichtbarer Schaden. Der Versicherungsnehmer, der auf einem zerstörten Fahrzeug in der Einfahrt starrte, verklagte den Versicherer wegen Verletzung der Treuepflicht (bad faith). Der Versicherer blieb mit einem digital veränderten Datensatz zurück, der der physischen Realität direkt widersprach.

Das war kein Bug. Die KI tat genau das, wofür sie entworfen wurde. Diese Modelle lernen aus Milliarden von Bildern, dass ein „Auto“ ein glatter, symmetrischer Gegenstand ist. Eine Beule sieht für sie wie ein zu behebender Fehler aus, nicht wie ein zu bewahrender Beweis. Wenn Ihr Schadensworkflow generative KI für die Bildverarbeitung berührt, existiert dieser Fehlermodus heute bereits in Ihrem System. Die Frage ist, ob er bereits ausgelöst wurde — und ob Sie es überhaupt merken würden.

Warum das für Ihr Unternehmen wichtig ist

Die finanzielle und rechtliche Exposition ist hier nicht hypothetisch. Sie ist strukturell. Jedes Mal, wenn ein generatives KI-Tool ein Schadenfoto verändert, riskiert Ihre Organisation das, was das Rechtssystem Beweisvereitlung (spoliation of evidence) nennt — die Veränderung oder Vernichtung von Unterlagen, die für ein Gerichtsverfahren relevant sind. Gerichte können Sanktionen verhängen, Geschworenen anweisen, nachteilige Schlüsse zu ziehen, oder ein Urteil ohne Hauptverhandlung (summary judgment) gegen die beweisvereitelnde Partei erlassen.

Das bedeutet konkret für Ihre Bilanz und Ihren Vorstand:

• Litigations-Multiplikator. Das Whitepaper identifiziert ein Litigationsrisiko von 7,2 Milliarden Dollar, das an KI-bedingte Beweisversäumnisse in der Versicherung geknüpft ist. Eine einzige Bad-Faith-Klage aufgrund eines einzelnen veränderten Fotos kann Millionen kosten. Rechnen Sie das auf Tausende tägliche Schadenmeldungen hoch — dann sehen Sie die Exposition.
• Regulatorische Haftung, die sich nicht delegieren lässt. Das NAIC Model Bulletin zur KI-Nutzung durch Versicherer schreibt nun vor, dass Versicherer ein schriftliches KI-Governance-Programm unterhalten. Entscheidend ist: Sie können die Verantwortung nicht an Ihren KI-Anbieter auslagern. Wenn ein Tool eines Drittanbieters halluziniert oder diskriminiert, haftet der Versicherer. Mehrere Bundesstaaten haben diese Leitlinie bereits übernommen.
• Einstufung nach dem EU AI Act. Für Versicherer mit globalen Aktivitäten stuft der EU AI Act KI, die für die Versicherungsrisikobewertung von Einzelpersonen eingesetzt wird, als Hochrisiko ein. Das löst strenge Anforderungen an Datengovernance, automatische Ereignisprotokollierung und menschliche Aufsicht aus.
• Anfälligkeit für Betrug. Dieselbe generative KI, die echte Schäden löscht, ermöglicht es auch Betrügern, fingierte Schäden zu fabrizieren. Kriminelle nutzen inzwischen Text-to-Bild-Tools, um Fotos unbeschädigter Fahrzeuge zerschlagene Stoßstangen oder Feuerschäden hinzuzufügen. Menschliche Prüfer erkennen hochwertige Deepfakes kaum besser als der Zufall. Ihre derzeitigen Abwehrmaßnahmen sind wahrscheinlich unzureichend.

Der „Pristine Bumper“-Vorfall kostete einen Versicherer seine Glaubwürdigkeit und eine Klage. Ihre Exposition ist bei jedem Einsatz eines generativen Tools in Ihrer Beweiskette dieselbe.

Was tatsächlich unter der Haube passiert

Um zu verstehen, warum das immer wieder geschieht, müssen Sie einen entscheidenden Unterschied verstehen. Es gibt zwei grundlegend verschiedene Arten von KI: generative und diskriminative. Generative KI erschafft neue Inhalte. Diskriminative KI analysiert, was bereits existiert. Die Versicherungsbranche braucht Analyse, kauft aber ständig Erstellungs-Tools.

Stellen Sie es sich so vor. Eine generative KI ist wie ein Porträtmaler, der malt, wie ein Auto aussehen sollte. Eine diskriminative KI ist wie ein forensischer Gutachter, der misst, wie das Auto tatsächlich aussieht. Sie würden nie einen Porträtmaler als Sachverständigen auftreten lassen. Aber genau das passiert, wenn Sie generative Bildverarbeitung in Ihre Schadenpipeline einbetten.

Der technische Fehlermodus heißt Inpainting. Generative Modelle funktionieren, indem sie statistische Muster lernen. In ihren Trainingsdaten erscheinen Autos überwältigend mit glatten, unversehrten Oberflächen. Wenn das Modell eine Beule sieht — eine hochfrequente Störung im erwarteten Muster — behandelt es sie als Rauschen. Sein mathematisches Ziel ist es, eine Ausgabe zu erzeugen, die wie ein „normales Autofoto“ aussieht. Also füllt es die beschädigten Pixel mit glatten. Es heilt den Schaden.

Dieser Prozess läuft auf Diffusionsmathematik, bei der das Modell die Einführung von Rauschen rückgängig macht, um ein „sauberes“ Signal wiederzugewinnen. Eine Beule sieht für diese Modelle wie Rauschen aus. Sie entfernen es. In der Kunstrestaurierung ist das ein Feature. Bei Versicherungsansprüchen ist es automatisierte Beweisvernichtung. Das Modell ersetzt die chaotische, teure Realität eines Unfalls durch eine plausible, billige Fiktion.

Das Problem verschärft sich, wenn Sie sich auf API-Wrapper von Drittanbietern verlassen. Die meisten InsurTech-Tools bauen keine eigene KI. Sie senden Ihre Daten an Allzweckmodelle, die kein Verständnis von Entschädigung, Kollisionsphysik oder forensischen Standards haben. Aktualisiert der Modellanbieter seine Gewichte, um „ästhetischer“ zu wirken, beginnt Ihr Schadenbewertungstool möglicherweise, Beulen aggressiver wegzulöschen — und Sie haben keinerlei Kontrolle über diese Änderung.

Was funktioniert (und was nicht)

Beginnen wir damit, was in der Praxis versagt.

Generische generative KI-Wrapper: Diese Tools behandeln Schäden als visuelles Rauschen und entfernen sie. Sie verändern Pixel und schaffen so Beweisvereitlungsrisiken. Sie sind anfällig für Deepfake-Betrug, weil sie Inhalte bewerten, nicht die Physik der Bilderzeugung. Im Zusammenhang mit der Ungeeignetheit dieser Tools für forensische Arbeit wird eine Fehlerquote von 99 % referenziert.

Einfache Bildklassifikatoren: Standard-Klassifikationsmodelle (wie ResNet) liefern Ihnen eine binäre Antwort — beschädigt oder nicht beschädigt. Sie können Ihnen nicht sagen, wo sich der Schaden befindet, wie tief eine Beule geht oder ob das Foto ein Deepfake ist. Dieses Maß an Vagheit übersteht keine Herausforderung vor Gericht.

Rein menschliche Prüfung im großen Maßstab: Menschen sind schlecht darin, KI-generierte Fälschungen zu erkennen. Sie führen zudem subjektive Variabilität ein. Zwei Sachbearbeiter, die dieselbe Beule betrachten, können unterschiedliche Schweregrade vergeben. Subjektivität lässt sich nicht auditieren.

Hier ist, was funktioniert — ein deterministischer forensischer Ansatz, der analysiert, ohne zu verändern:

1. Input — Beweissicherung. Das Originalfoto wird im Moment seines Eingangs mit SHA-256-Verschlüsselung gehasht. Die KI liest das Bild, schreibt aber niemals in es. Metadaten — Zeitstempel, GPS-Koordinaten — werden an die Datei gebunden. So entsteht eine Beweiskette, die vor Gericht Bestand hat.

2. Verarbeitung — Dreischichtige Analyse. Zuerst identifiziert und kartiert die semantische Segmentierung — eine Technik, bei der die KI jedes einzelne Pixel klassifiziert — die Schadensgrenzen. Sie kann Ihnen sagen, dass ein Kratzer 14 Zentimeter lang ist und eine Beule 45 Quadratzentimeter der Oberfläche bedeckt. Zweitens misst die monokulare Tiefenschätzung — die Berechnung der 3D-Geometrie aus einem 2D-Foto — Beulentiefe und -volumen. Ein steiler Tiefengradient deutet auf eine scharfe Knickstelle hin, die einen Teileaustausch erfordert. Ein flacher Gradient bedeutet, dass eine lacklose Instandsetzung (Paintless Dent Repair) genügen könnte. Drittens erkennt die spiegelnde Reflexionsanalyse — die Untersuchung, wie Licht von der Fahrzeugoberfläche reflektiert wird — unsichtbare Schäden wie Hagelbeulen oder frühere Reparaturen, die Standard-KI völlig übersieht.

3. Output — Strukturierter, prüfbarer Bericht. Das System erzeugt einen JSON-Bericht mit beschädigten Bauteilen, Schweregraden und Empfehlungen zwischen Reparatur und Ersatz basierend auf Ihren konfigurierten Geschäftsregeln. Jede Analyse wird als separate Sidecar-Datei gespeichert, verknüpft mit dem Hash des Originalbilds. Am ursprünglichen Beweismittel wird nichts geändert.

Genau das muss Ihr Compliance-Team hören. Das Analyse-Overlay kann ein- und ausgeschaltet werden. Der Sachbearbeiter bleibt der Mensch in der Schleife mit letzter Entscheidungsbefugnis — ein entscheidender sicherer Hafen nach dem EU AI Act. Jeder Verarbeitungsschritt wird protokolliert. Sie können exakt erklären, warum ein Anspruch genehmigt oder abgelehnt wurde, bis hinunter zu den Pixelmesswerten. Das ist der Unterschied zwischen einem System, das regulatorische Prüfungen übersteht, und einem, das Ihre nächste Klage erzeugt.

Wenn Ihr aktueller KI-Anbieter sagt, er nutze „KI für Schadenbearbeitung“, fragen Sie nach welcher Art. Berührt die Antwort Generierung, Verbesserung oder irgendeinen Prozess, der neue Pixel in Ihre Beweismittel schreibt, tragen Sie ein Risiko, dessen Preis Sie möglicherweise nicht kalkuliert haben.