90 % der KI-Ablehnungen werden im Widerspruch aufgehoben. Ein Gericht nennt das jetzt Vertragsbruch.
Eine Familie zahlte 16.768 US-Dollar aus eigener Tasche, um ihre Mutter im Krankenhausbett zu halten.
Sie litt an Methämoglobinämie – einer Bluterkrankung, die den Körper von Sauerstoff abschneidet. Der Algorithmus, der über ihre Kostenübernahme entschied, wusste das nicht, oder vielmehr: Er wusste es und kümmerte sich nicht darum. Er war darauf trainiert worden, die Aufenthaltsdauer aus ihrer Diagnosegruppe vorherzusagen, und der durchschnittliche Patient in dieser Gruppe war bereit, nach Hause zu gehen. Also markierte das System sie für die Entlassung auf einer Bevölkerungszeitachse, während ihre tatsächliche Blutsauerstoffsättigung eine andere Geschichte erzählte. Ihre Familie fand das Geld. Die meisten Familien können das nicht – und die meisten versuchen es nicht einmal: Im UnitedHealth-Rechtsstreit legten nur etwa 0,2 % der Medicare-Begünstigten überhaupt Widerspruch gegen ihre Ablehnungen ein.
Dieser Fall steht im Zentrum von Lokken v. UnitedHealth, der Sammelklage rund um nH Predict, das KI-Werkzeug, das in der Leistungssteuerung von Medicare Advantage zur Prognose von Genesungszeiträumen eingesetzt wird. Und die Zahl, die jede Führungskraft einer Krankenversicherung schockieren sollte, ist diese: rund 90 % der KI-generierten Ablehnungen in diesem Rechtsstreit wurden im Widerspruchsverfahren aufgehoben – unter dem winzigen Bruchteil der Mitglieder, die sich die Mühe machten, sie anzufechten. Als ich das zum ersten Mal las, war mein Instinkt derselbe wie bei den meisten Ingenieuren – eine Aufhebungsquote von 90 % ist ein Problem der Modellgenauigkeit, etwas, das man mit besseren Trainingsdaten und strengeren Schwellenwerten behebt. Ich lag falsch, und das Gericht sagte mir, warum. Ein Bundesrichter behandelt diese 90 % nicht als technischen Mangel, sondern als Beweis für einen Vertragsbruch. Genau diese Neurahmung ist es, wofür KI-Governance in Medicare Advantage tatsächlich einstehen muss, und sie ist der Grund, warum ich am Ende ein Unternehmen darum herum aufgebaut habe.
Eine Aufhebungsquote von 90 % im Widerspruchsverfahren ist kein Justierparameter. Sie ist ein Geständnis, dass das System von Anfang an nie über die medizinische Notwendigkeit entschieden hat.
In der Klage geht es um einen Satz in Ihrem Vertrag, nicht um einen Fehler in Ihrem Modell
Was ich peinlich lange brauchte, um zu verstehen, ist, dass das rechtliche Risiko in diesen Fällen nicht in den Modellgewichten steckt. Es steckt in Ihrer Evidence of Coverage.
Ihre EOC – der Vertrag, den jedes Mitglied unterzeichnet – verspricht, dass Entscheidungen über die Kostenübernahme von klinischem Fachpersonal und Ärzten getroffen werden. Das ist die Abmachung. Als ich anfing, den EOC-Wortlaut von Versicherungen herauszuziehen und ihn neben ihre tatsächlichen Warteschlangen der automatischen Fallentscheidung zu legen, war die Lücke fast immer schwarz auf weiß da. Der Vertrag sagt, ein Arzt entscheidet. Der Arbeitsablauf zeigt einen Algorithmus, der die Anfrage bewertet, und einen Menschen, der auf „Genehmigen“ klickt, egal was zurückkommt. Die gegnerische Anwaltschaft braucht keinen Datenwissenschaftler, um diese Lücke zu finden. Sie braucht einen Rechtsassistenten und einen Textmarker.
Der Beweisanordnung vom März 2026 in Lokken (2026 WL 658883) machte dies konkret. Das Gericht gewährte den Klägern Zugang zu KI-Entwicklungsdokumenten, Trainingsdatenspezifikationen und Validierungsberichten. Ich verwahre einen Ausdruck dieser Anordnung mit einer eingekreisten Klausel, denn sie hat verändert, wie ich mit jeder Versicherung spreche: Ihre KI-Dokumentation ist jetzt im Beweisverfahren offenzulegen. Wenn Ihr Modell kein strukturiertes Entscheidungsprotokoll, keine versionierten Trainingsdaten und keine dokumentierten Validierungsergebnisse hervorbringen kann, können Sie nicht rekonstruieren, warum Sie einen Anspruch abgelehnt haben – und Sie können nicht verteidigen, was Sie nicht rekonstruieren können.
Der Moment, in dem der „Mensch in der Schleife“ zur Fiktion wird
Eine Zeit lang nahm ich an, dass die verklagten Versicherungen leichtsinnige Ausreißer seien, die vollständig automatisierte Ablehnungen betrieben. Die Realität ist unangenehmer, und es ist das Detail, mit dem ich jetzt anfange, sobald mir ein leitender Arzt sagt, sie seien sicher, weil ein Kliniker gegenzeichnet.
Der Bruch geschieht bei einer einzigen betrieblichen Entscheidung, die niemand außerhalb des Raumes je zu sehen bekommt. Die Verantwortlichen von nH Predict verengten die zulässige Abweichung von der Modellprognose von 3 % auf 1 %. Auf dem Papier ist das eine Justieränderung. In der Praxis verwandelte sie ein Werkzeug zur Entscheidungsunterstützung in einen automatisierten Torwächter, denn Kliniker, die um mehr als ein Haar von der Zahl des Algorithmus abwichen, waren nun nicht mehr regelkonform. Einige, die das System übersteuerten, sahen sich Disziplinarmaßnahmen ausgesetzt.
Das ist der Augenblick, in dem der Mensch in der Schleife aufhört, ein Schutzmechanismus zu sein, und zum Theater wird. Eine Ärztin, deren Arbeitsplatz gefährdet ist, wenn sie dem Modell widerspricht, übt kein klinisches Urteilsvermögen aus – sie setzt nur den Stempel darunter. Und jede Ablehnung, die durch eine zur Schau gestellte Prüfung fließt, trägt die volle vertragliche und regulatorische Haftung einer automatisierten, denn funktional ist sie genau das.
Das Abweichungsband ist im Sitzungsprotokoll eines Ausschusses vergraben. Dort wird die Klage gewonnen oder verloren, nicht in der Modellarchitektur.
Ich kann die Zahl der Governance-Gespräche nicht zählen, die genau daran vorbeigehen. Versicherungen prüfen ihr Modell. Sie prüfen fast nie die Arbeitsablauf-Richtlinie, die es umgibt – den Schwellenwert, die Übersteuerungsregeln, die Disziplinarstruktur. Diese Richtlinie ist es, die bestimmt, ob Ihr Kliniker ein Entscheidungsträger ist oder ein Haftungsschild, der eigentlich nichts abschirmt.
Warum wir zuerst das Falsche gebaut haben
Als mein Team anfing, taten wir das Naheliegende. Wir bauten eine Überwachung.
Auf einem Whiteboard ergab das Sinn. Der Markt ist voll von KI-Observability – Fiddler liefert SHAP- und LIME-Erklärbarkeit mit Drift- und Bias-Erkennung; IBMs Watsonx.governance hat OpenScale für Fairness; Credo AI und Holistic AI verkaufen Richtlinienpakete und Compliance-Dashboards, die automatisch Nachweise sammeln. Die Logik der gesamten Kategorie lautet: Sie haben Modelle in Produktion, Sie setzen eine Schicht darauf, die sie beobachtet, und schon haben Sie Governance. Also bauten wir eine Schicht, die die KI zur Leistungssteuerung einer Pilotversicherung beobachtete und wunderschöne Fairness-Metriken produzierte.
Dann sah eine ärztliche Direktorin bei dieser Versicherung – jemand, der jahrelang im eigenen UM-Ausschuss gesessen hatte – sich unser Dashboard an und stellte die Frage, die uns zurück ans Reißbrett schickte. „Das sagt mir, dass sich das Modell konsistent verhält. Es sagt mir nicht, dass das Modell diese Entscheidung überhaupt treffen sollte. nH Predict war auch konsistent.“
Sie hatte recht, und es schmerzte. Wir hatten ein sehr präzises Instrument gebaut, um eine grundlegend fehlerhafte Sache zu messen. nH Predict scheiterte nicht, weil es nicht überwacht wurde. Es scheiterte, weil es Diagnosegruppen-Durchschnitte über individuelle klinische Indikatoren stellte – Blutsauerstoff, Verfügbarkeit von Betreuungspersonen, Wechselwirkungen von Begleiterkrankungen – in einem Bereich, in dem die individuelle Variation ist die Definition der medizinischen Notwendigkeit. Dieses Modell genauer zu überwachen hätte ein ordentliches Protokoll eines Systems hervorgebracht, das zuverlässig das Falsche tut. Die Aufhebungsquote von 90 % wäre wunderbar dokumentiert gewesen.
Das war das Scheitern, das alles bezahlte, was wir als Nächstes bauten. Observability sagt Ihnen, ob das Modell stabil ist. Sie sagt Ihnen nicht, ob die Entscheidung verteidigungsfähig ist. Das sind unterschiedliche Probleme, und die gesamte Kategorie der Governance-Plattformen löste für den Käufer, der mir am Herzen lag, das erste und nannte es das zweite.
Was muss KI-Governance in Medicare Advantage eigentlich leisten?
Also verwarfen wir die Überwachungsprämisse und begannen bei der einzigen Frage, die in einem Gerichtssaal zählt: Können Sie diese konkrete Ablehnung dieser konkreten Person verteidigen?
Diese Neurahmung verändert die Umsetzung vollständig. Sie instrumentieren nicht mehr ein Modell – Sie konstruieren eine Entscheidung so, dass sie sich Jahre später, unter einer Beweisanordnung, selbst rekonstruiert. Für eine Medicare-Advantage-Versicherung bedeutet das, dass drei Dinge gleichzeitig wahr sein müssen, und sie wahr zu machen ist die Arbeit, die Veriprajna leistet unter veriprajna.com/solutions/medicare-advantage-ai-governance.
Erstens muss jede Entscheidung ihre eigene Erklärung mit sich tragen – keinen globalen Fairness-Wert, sondern ein Protokoll pro Entscheidung darüber, welche klinischen Faktoren das Modell gewichtet und welche es ignoriert hat, in einer Sprache, die sowohl ein Kliniker als auch ein Richter lesen kann. Das ist der Teil, den alle unterschätzen, und hier muss ich schlechte Nachrichten überbringen. Die alten Anspruchsplattformen, auf denen die meisten Versicherungen laufen – Facets, QNXT –, waren nie dafür ausgelegt, ein Protokoll der Merkmalszuordnung pro Entscheidung auszugeben. Sie speichern das Ergebnis, nicht die Begründung. Echte Erklärbarkeit auf einem Medicare-Advantage-Stack ist also keine Frage, ein besseres Modell aus dem Regal zu wählen. Sie ist Middleware: eine Schicht, die die Eingaben, Gewichte und den klinischen Übersteuerungspfad des Modells erfasst und sie in ein Protokoll schreibt, das darauf ausgelegt ist, das Beweisverfahren zu überstehen. Das ist unglamouröse Integrationsarbeit, und sie macht den Großteil der Aufgabe aus.
Die schwierigere Anforderung ist, dass die Compliance-Architektur zu den Vorschriften passen muss, die zur selben Zeit eintreffen – was mich zu einer Falle bringt, in die ich eine anspruchsvolle Versicherung geradewegs hineinlaufen sah.
Die Kennzahl, die sauber aussieht und es nicht ist
CMS-0057-F, die endgültige Regelung zur Vorabgenehmigung, begann im Januar 2026 zu greifen – 72 Stunden Bearbeitungszeit für beschleunigte Anfragen, sieben Tage für Standardanfragen, keine Wiederaufnahme genehmigter stationärer Aufnahmen außer bei Betrug. Dann, am 31. März 2026, kam die erste öffentliche Meldefrist: Versicherungen mussten acht Kennzahlen zur Vorabgenehmigung auf Vertragsebene melden, darunter Ablehnungsquoten, Bearbeitungszeiten und Widerspruchs-Aufhebungsquoten.
Das Detail, das zählt, ist die Art von Sache, die man nur bemerkt, wenn man die Korrekturen im Federal Register gelesen hat und nicht nur die Schlagzeile. Im Juni 2025 setzte CMS die Aufschlüsselungen auf Versicherungsebene sowie die Anforderungen an Fachwissen zur gesundheitlichen Chancengleichheit in UM-Ausschüssen aus. Was öffentlich bleibt, sind aggregierte Kennzahlen auf Vertragsebene. So kann eine Versicherung eine durchaus ansehnliche Widerspruchs-Aufhebungsquote auf Vertragsebene veröffentlichen und sauber aussehen – während ihre einzelnen Entscheidungsprotokolle, jene, in die eine Beweisanordnung im Stil von Lokken direkt hineingreift, eine völlig andere Geschichte erzählen.
Die öffentlichen Kennzahlen sind der Teil, den Sie zu zeigen wählen. Die Entscheidungsprotokolle sind der Teil, den ein Gericht nimmt. Governance muss beim zweiten gewinnen, nicht beim ersten.
Ich habe Führungskräften gegenübergesessen, die auf ihre Einreichung vom 31. März als Beweis dafür deuteten, dass sie abgesichert seien. Die Einreichung ist notwendig. Sie ist keine Verteidigung. Die Klägeranwaltschaft liest nicht Ihr aggregiertes Dashboard; sie fordert per Vorladung das Protokoll hinter der Ablehnung eines einzelnen Mitglieds an.
Dann gibt es den 1. Januar 2027, wenn die HL7-FHIR-APIs zur Vorabgenehmigung – CRD, DTR und PAS – verpflichtend werden und für jede PA-Entscheidung einen vollständigen elektronischen Transaktionsverlauf schaffen. Dieser Verlauf ist entweder Ihr bester oder Ihr schlechtester Beweis, je nachdem, ob die Begründung erfasst wurde, als die Entscheidung getroffen wurde. Sie können sie später nicht nachträglich einfügen. Ich habe gerade jetzt ein Integrationsticket gegen eine QNXT-Instanz offen, das im Grunde eine Wette darauf ist, in welcher dieser beiden Zukünfte eine Versicherung landet.
Das Flickwerk, für das keine einzelne Plattform gebaut wurde
Und sie muss eine regulatorische Landkarte überstehen, die kein Fertigprodukt abdeckt. Als ich zum ersten Mal die Verpflichtungen eines Kunden mit Standorten in mehreren Bundesstaaten auf einer einzigen Tabelle ausbreitete, hörten die Spalten auf, miteinander übereinzustimmen – und das ist Absicht. Die Anforderungen sind bewusst inkonsistent.
Der Texas Responsible AI Governance Act trat im Januar 2026 mit weitreichenden zivilrechtlichen Ermittlungsbefugnissen in Kraft – und Texas hatte seine Karten bereits offengelegt, indem es die erste Ermittlung zu generativer KI im Gesundheitswesen, gegen Pieces Technologies, im September 2024 wegen überhöhter Genauigkeitsbehauptungen beigelegt hatte. Pennsylvania hat einen anderen Weg eingeschlagen, mit Gesetzen, die eine menschliche Prüfung durch einen Leistungserbringer vor jeder KI-gesteuerten Ablehnung verlangen, eine verpflichtende Offenlegung, dass überhaupt KI im Einsatz ist, sowie jährliche Compliance-Erklärungen. Eine in mehreren Bundesstaaten tätige Medicare-Advantage-Organisation sieht sich nun einem Flickwerk gegenüber, in dem jeder Bundesstaat unterschiedliche Kontrollen für Transparenz, Prüfung und Offenlegung verlangt. Und für jede Versicherung mit weltweiter Tätigkeit stuft der EU AI Act KI im Gesundheitswesen unter Anhang III als hochriskant ein, mit voller Compliance-Pflicht bis August 2027 und Strafen von bis zu 6 % des weltweiten Jahresumsatzes.
Genau das ist die Naht, in die die großen Beratungshäuser hineinfallen. Deloitte und Accenture setzen eine verpackte Plattform ein – eine Credo AI oder ein IBM Watsonx – und nennen es Governance. Aber eine verpackte Plattform kennt Ihre spezifische Facets-Konfiguration nicht, und sie bringt die Ermittlungsforderungen von Texas nicht mit dem Gebot der Vorab-Ablehnungsprüfung von Pennsylvania und der Anforderung an die Risikomanagement-Akte der EU in Einklang. Die Anbieter von Anspruchssystemen sind noch schlechter positioniert: Dieselben Unternehmen, die Facets und QNXT pflegen, verkaufen auch die KI-Zusätze dafür, sie haben also nicht gerade einen Anreiz, Governance-Lücken in ihren eigenen Plattformen ans Licht zu bringen. Niemand in dieser Landschaft baute das eine, was der Käufer brauchte – technische Kontrollen, die Entscheidung für Entscheidung auf jede Vorschrift abgebildet sind, die gleichzeitig für sie gilt.
Warum kann eine Versicherung nicht einfach Erklärbarkeits-Software kaufen?
Man stellt mir eine berechtigte Frage: Wenn Erklärbarkeit und Bias-Überwachung bereits existieren, warum kann eine Versicherung nicht einfach Fiddler kaufen oder kausale KI aufsetzen und fertig sein?
Zwei Gründe. Die Überwachungsanbieter sind wirklich gut in dem, was sie tun – aber ihre gesamte Prämisse ist, dass das Modell in Produktion die Sache ist, die zu steuern sich lohnt. Wenn die Entscheidungsarchitektur des Modells der Fehler ist, wie es bei nH Predict der Fall war, gibt Ihnen genaueres Beobachten nur eine höher aufgelöste Aufzeichnung des Schadens. Kausale KI – causaLens ist hier der glaubwürdigste Name – ist die akademisch richtige Antwort, indem sie Ursache statt Korrelation modelliert, aber sie ist kommerziell unreif und richtet sich überwiegend an den Finanzsektor; auf das Gesundheitswesen spezialisierte kausale Modelle für Entscheidungen über die Kostenübernahme befinden sich noch weitgehend im Forschungsstadium. Und die Anbieter zur Automatisierung der Vorabgenehmigung wie Cohere Health optimieren die völlig falsche Variable. Cohere senkt Ihre PA-Verwaltungskosten um 47 %. Das ist eine echte Zahl und ein echter Nutzen. Aber Geschwindigkeit ist keine Verteidigungsfähigkeit. Eine schnellere Ablehnung, die Sie vor Gericht immer noch nicht rekonstruieren können, ist ein schnellerer Weg zu genau der Haftung, die Lokken definiert hat.
Der andere Grund ist der Umfang, und es ist der Teil, aus dem ich einer Versicherung nichts ausreden kann. Gartner erwartet, dass bis 2028 80 % der ambulanten Ansprüche über KI-gestützte Echtzeit-Fallentscheidung bearbeitet werden. Doch nur 12 % der US-Krankenhäuser verfügen heute über ein formales KI-Governance-Rahmenwerk, so die Zählung von Censinet. Das Volumen automatisierter Entscheidungen über die Kostenübernahme wird sich in Kürze weit schneller vervielfachen, als irgendjemand die Infrastruktur zu ihrer Verteidigung aufbaut. Und CMS wartet nicht höflich – seine RADV-Prüfungen für das Zahlungsjahr 2020 begannen im Februar 2026 mit KI-gestützter Anomalieerkennung, um nicht belegte Diagnosen zu markieren. Der Regulierer prüft Ihre KI mit KI und verlangt zugleich, dass Sie sie selbst steuern.
Die Versicherungen, die sich zuerst bewegen, verwandeln dies in einen Vorteil
Ich möchte mit dem enden, was ich tatsächlich glaube, nicht mit einer Warnung.
Jede Versicherung, mit der ich spreche, behandelt Governance als Kosten – eine Steuer auf den Einsatz von KI, eine Bremse für die agentische Automatisierung, die alle wollen. Ich verstehe die Sichtweise. Die Verwaltungsökonomie ist von beiden Seiten brutal: Leistungserbringer geben jährlich 19,7 Milliarden US-Dollar aus, um Ablehnungen zu bekämpfen, und Versicherungen tragen ihre eigenen Kosten bei jedem angefochtenen Anspruch. Die Versuchung ist, härter zu automatisieren und so wenig zu steuern, wie es die Regel verlangt.
Aber diese Rechnung läuft rückwärts. Die Ablehnungen, die im Widerspruchsverfahren aufgehoben werden, waren nie Kosteneinsparungen – sie waren Haftung, die die Versicherung als Einnahmen verbuchte und die sie vor Gericht mit Zinsen zurückzahlen wird. Eine Versicherung, die für jede Ablehnung ein sauberes Protokoll darüber vorlegen kann, welche klinischen Faktoren gewichtet wurden, unterzeichnet von einem Kliniker, der wirklich die Freiheit hatte, zu widersprechen, abgebildet auf jede geltende Vorschrift, entgeht nicht nur der Klage. Sie kann schneller und mit mehr Zuversicht ablehnen, weil jede Entscheidung so gebaut ist, dass sie die Prüfung übersteht, die nun als Routine bevorsteht. Wir haben die KI-Governance-Architektur für Medicare Advantage für genau diese Versicherung gebaut.
Die Familie der Methämoglobinämie-Patientin verlor nicht, weil ein Algorithmus einen Fehler machte. Sie verlor, vorübergehend, weil das System sich nicht erklären konnte und kein Mensch in der Schleife frei war, es zu übersteuern. Bauen Sie das System so, dass es sich selbst erklären kann, und geben Sie dem Menschen die Freiheit, es zu übersteuern, dann hoffen Sie nicht mehr, dass die Beweisanordnung nie kommt. Sie sind bereit für sie.
