Die Governance-Frontier: Algorithmische Integrität, Unternehmenshaftung und der Übergang von prädiktiven Wrappern zu Deep-AI-Lösungen

Die Gesundheitsbranche steht Anfang 2025 an einem volatilen Scheideweg, markiert durch eine Wasserscheide an der Schnittstelle von klinischer Versorgung und künstlicher Intelligenz. Jahrelang wurde das Narrativ der KI im Unternehmen von der raschen Einführung großer Sprachmodelle und dünnschichtiger „Wrapper“-Anwendungen beherrscht, die administrative Workflows optimieren sollten. Der katastrophale Kollaps des Algorithmus nH Predict von UnitedHealth Group — der im Februar 2025 in einem Sammelklageverfahren vor einem US-Bundesgericht gipfelte — hat jedoch die lebensbedrohlichen Risiken offengelegt, die mit dem Einsatz von „Blackbox“-Prädiktionstools ohne rigorose Governance, kausale Validierung und menschenzentrierte Aufsicht einhergehen.¹ Dieses Whitepaper, vorgelegt von Veriprajna, untersucht die systemischen Fehlschläge des UnitedHealth-Vorfalls, um einen neuen Standard für „Deep-AI“-Lösungen zu definieren. Als Beratungshaus an der Spitze algorithmischer Integrität argumentiert Veriprajna, dass die Ära des simplistischen LLM-Wrappers zu Ende geht; an ihre Stelle muss ein Rahmenwerk aus kausaler Intelligenz, erklärbarer Architektur und robuster Unternehmensgovernance treten.⁴

Die Anatomie eines systemischen Versagens: Die nH-Predict-Krise

Die Krise um UnitedHealth Group (UHC) und die Tochtergesellschaft NaviHealth ist die maßgebliche Fallstudie für das „Alignment-Problem“ in der Enterprise-KI. Im Zentrum der Kontroverse steht nH Predict, ein prädiktiver Algorithmus, den UHCs Optum-Division 2020 für über $1 billion übernommen hat.⁷ Als Care-Management-Tool vermarktet, sollte der Algorithmus die Verweildauer und den medizinischen Bedarf von Medicare-Advantage-Patienten in der postakuten Versorgung vorhersagen, etwa in Einrichtungen der qualifizierten Pflege (skilled nursing facilities) und Rehazentren.⁹

Das grundlegende Versagen von nH Predict war nicht bloß technisch, sondern architektonisch. Es stützte sich auf eine Datenbank von 6 Millionen Patientenakten, um historische Outcomes zu korrelieren und ein „Ziel“-Entlassungsdatum zu erzeugen.¹¹ Das Modell funktionierte jedoch als korrelationsgetriebene Blackbox und berücksichtigte nicht die gelebten Realitäten einzelner Patienten — etwa das Fehlen einer Pflegeperson zu Hause, finanzielle Instabilität oder spezifische klinische Komplikationen —, Faktoren, die für die Feststellung der medizinischen Notwendigkeit nach Medicare-Standards entscheidend sind.¹²

Die quantitative Bilanz algorithmischer Reibung

Die Operationalisierung von nH Predict führte zu einem statistisch anomalen Anstieg der Leistungsablehnungen. Durch den Einsatz von „Machine Assisted Prior Authorization“ wollte UHC den Prüfprozess beschleunigen und die Zeit, die medizinisches Fachpersonal für die Bewertung von Anträgen benötigte, um sechs bis zehn Minuten verkürzen.³ Während dies den Durchsatz erhöhte, entkoppelte es zugleich den Entscheidungsprozess von klinischer Nuance.³

Operative Kennzahl	Basiswert 2019/2020	Berichtetes Niveau 2022	Statistische Verschiebung
Ablehnungsquote postakute Versorgung (PAC)	8.7% - 10.9%	22.7%	Anstieg um 108% - 160%
Ablehnungen in Einrichtungen der qualifizierten Pflege	Standard-Basiswert	9x des Basiswerts	Anstieg um 800%
Fehlerquote bei angefochtenen Ablehnungen	N/A	90%	9 von 10 aufgehoben
Anteil der Patienten, die Widerspruch einlegen	N/A	0.2%	Stark unterdrückt
Umsatz UnitedHealth Group	$240bn (2019)	$300bn (2024)	Prognose $340bn (2025)

Die belastendste Statistik aus dem Ständigen Untersuchungsunterausschuss des Senats (PSI) und dem laufenden Verfahren ist die Fehlerquote von 90% bei angefochtenen Ablehnungen.² In neun von zehn Fällen, in denen ein menschlicher Verwaltungsrichter oder ein interner Arzt die Ablehnung des Algorithmus prüfte, wurde die Entscheidung aufgehoben.¹² UHCs strategischer Vorteil lag jedoch darin, dass nur 0.2% der älteren oder behinderten Patienten über die kognitiven, physischen oder finanziellen Ressourcen verfügten, um den komplexen Widerspruchsprozess zu durchlaufen.³ Das schuf einen perversen wirtschaftlichen Anreiz, bei dem ein ungenauer Algorithmus hochprofitabel blieb, weil die von ihm erzeugte „administrative Reibung“ die überwiegende Mehrheit legitimer Ansprüche erfolgreich abschreckte.¹⁵

Algorithmischer Zwang und die Erosion klinischen Ermessens

Ein zentraler Pfeiler der Sammelklage vom Februar 2025 ist der Vorwurf, UnitedHealth habe KI nicht bloß als „Leitfaden“ genutzt, sondern als verbindliche Weisung, die menschliches Urteil überlagerte.³

Diese Verwandlung eines Entscheidungshilfetools in einen automatisierten Gatekeeper bedeutet den vollständigen Kollaps der Human-in-the-Loop-(HITL)-Schutzmaßnahme, die von den Centers for Medicare & Medicaid Services (CMS) dem Anschein nach gefordert wird.⁷

Die Varianzvorgabe: 3% auf 1%

Interne Untersuchungen und Whistleblower-Aussagen zeigten, dass NaviHealth-Manager starre Zielvorgaben für klinische Mitarbeitende setzten. Case Manager wurden angewiesen, die Verweildauer der Patienten in einer engen Abweichung von der Projektion des Algorithmus zu halten.⁸ Zunächst auf 3% gesetzt, wurde dieses Ziel anschließend auf 1% verengt.⁸ Koordinatoren der Frontline-Versorgung wurden angewiesen, ihre Verlaufsüberprüfungen zeitlich exakt mit dem vom Algorithmus vorhergesagten Entlassungsdatum zusammenfallen zu lassen und so den klinischen Zeitplan effektiv zu „engineeren“, damit er zum Modell passt.¹¹

Die Folge dieser Vorgabe war „algorithmischer Zwang“ (Algorithmic Coercion). Mitarbeitende, die von den nH-Predict-Projektionen abwichen, um den tatsächlichen medizinischen Bedarf eines Patienten zu berücksichtigen, sahen sich Disziplinarmaßnahmen oder Kündigung ausgesetzt.⁸ Dieses Umfeld zwang erfahrene Kliniker — Ärzte und Pflegekräfte, deren primäre Pflicht das Patientenwohl ist — dazu, als „Stempelautomaten“ (rubber stamps) für ein fehlerhaftes mathematisches Modell zu fungieren.⁷ Das Ergebnis ist, was Experten den „Slow-Motion-HAL“-Effekt nennen, bei dem ein System methodisch die „Lebenserhaltung“ des Versicherungsschutzes abstellt, ungeachtet des menschlichen Outcomes.¹⁷

Reale Folgen: Der Fall Clemens

Die menschlichen Kosten dieses Governance-Versagens veranschaulicht die Erfahrung von Patienten wie Carol Clemens. Nach einer schweren Episode von Methämoglobinämie — einer lebensbedrohlichen Bluterkrankung — benötigte Clemens intensive qualifizierte Pflege.⁸ Trotz klinischer Belege für ihren fortbestehenden Rehabilitationsbedarf wurden die Projektionen von nH Predict genutzt, um ihren Versicherungsschutz zu beenden, sodass ihre Familie über $16,768 aus eigener Tasche zahlen musste, um eine vorzeitige Entlassung zu verhindern.⁸ Die Klage behauptet, UHC habe auf die eingeschränkte Verfassung und den Ressourcenmangel von Patienten wie Clemens „spekuliert“ (banked), um sie daran zu hindern, diese unbegründeten Feststellungen anzufechten.¹⁶

Die rechtliche Wasserscheide: Urteil vom 13. Februar 2025

Das Verfahren Estate of Gene B. Lokken v. UnitedHealth Group erreichte am 13. Februar 2025 einen kritischen Meilenstein, als der US-Bezirksrichter John R. Tunheim entschied, dass die Sammelklage fortgeführt werden darf.¹ Dieses Urteil ist ein Meilenstein der KI-Rechtsprechung, weil es das „Preemption-Schild“ durchbricht, das viele Medicare Advantage Organizations (MAOs) historisch genutzt haben, um Klagen nach einzelstaatlichem Recht abzuwehren.¹

Das Gericht wies Ansprüche wegen Fahrlässigkeit und Verstößen gegen den staatlichen Verbraucherschutz ab — weil sie durch den bundesrechtlichen Medicare Act preempted seien —, ließ jedoch Ansprüche wegen Vertragsbruchs und Verletzung der implied covenant of good faith and fair dealing zu.¹ Die Begründung war tiefgreifend: UHCs eigene Policydokumente versprachen, dass Deckungsentscheidungen von „klinischem Servicepersonal“ und „Ärzten“ getroffen würden.⁷ Indem diese Menschen durch einen KI-Algorithmus ersetzt wurden, der das Ergebnis faktisch diktierte, hat das Unternehmen potenziell sein vertragliches Versprechen gegenüber den Versicherungsnehmern verletzt.⁷

Der Verzicht auf die Ausschöpfung des Rechtswegs

In einem bedeutsamen Schritt verzichtete das Gericht auf die Voraussetzung, dass Kläger den administrativen Rechtsweg ausschöpfen müssen, bevor sie Klage erheben.¹ Typischerweise müssen Medicare-Begünstigte mehrere Widerspruchsebenen durchlaufen, bevor sie gerichtlichen Rechtsschutz suchen. Das Gericht stellte jedoch fest, dass angesichts der „irreparablen Schäden“ für Patienten (etwa des Rauswurfs aus Versorgungseinrichtungen) und der „Aussichtslosigkeit“ (futility), ein System mit 90% Fehlerquote anzufechten, die Klasse unmittelbar klagen könne.¹ Dieses Urteil schafft einen Präzedenzfall: Ist ein KI-System grundlegend defekt, wird das Rechtssystem von den Opfern nicht verlangen, an der „Farce“ eines manipulierten Widerspruchsverfahrens „teilzunehmen“.⁷

Deep AI vs. LLM-Wrapper: Eine strategische Differenzierung

Die nH-Predict-Krise verdeutlicht die Gefahr von „Thin AI“ oder „Wrapper-KI“ — Lösungen, die eine oberflächliche Automatisierungsschicht über eine Kernengine legen, ohne die zugrundeliegende Logik zu verstehen oder Bias zu kontrollieren.⁴ Veriprajna positioniert sich als Anbieter von „Deep AI“, um genau die Schwachstellen dieser commoditisierten Modelle zu adressieren.⁵

Die Falle der Wrapper-Ökonomie

Wie der Google India Accelerator und andere Branchenanalysten feststellen, gelten „Wrapper“-Unternehmen in regulierten Industrien zunehmend als Haftungsrisiken.⁵ Diese Unternehmen „wrappen“ häufig eine bestehende KI-Engine (wie OpenAIs GPT oder Googles Gemini) in eine maßgeschneiderte Oberfläche.⁵

Risikokategorie	LLM-Wrapper-Lösungen	Deep-AI-Lösungen (Veriprajna)
Verteidigungsfähigkeit	Leicht replizierbar; kein proprietäres IP.4	Proprietäre Modelle und kausale Logik.5
Vendor-Lock-in	Anfällig für Änderungen von Drittanbieter-APIs.4	Hybride Architektur; unabhängig von einzelnen Anbietern.5
Compliance	Blackbox-Logik; nicht auditierbar.4	Erklärbare KI (XAI) und Audit-Trails.22
Bias-Minderung	Erbt Bias von Foundation-Modellen.4	Kausale Inferenz zur Neutralisierung von Proxy-Variablen.25
Rechenschaftspflicht	Die Haftung liegt beim Deployer.4	Governance auf Vorstandsebene und Risikomapping.28

Deep-AI-Lösungen erfordern den Schritt über probabilistische Mustererkennung hinaus hin zu Causal AI.⁶ Während ein prädiktives Modell schließen mag, dass „Patienten mit Diagnose X üblicherweise 14 Tage bleiben“, fragt ein kausales Modell: „Welche Faktoren führen dazu, dass ein Patient mehr Zeit braucht, und wie verursacht der Entzug des Versicherungsschutzes einen Rückfall?“.²⁵ Dieser Übergang vom „Was“ zum „Warum“ ist das Fundament vertrauenswürdiger Intelligenz.⁶

Der regulatorische Horizont: Compliance in 2025 und 2026

Das regulatorische Umfeld hat sich aggressiv in Richtung algorithmischer Rechenschaftspflicht verschoben. Organisationen können KI in hochriskanten Umgebungen nicht mehr einsetzen, ohne spezifische, rigorose Standards von FDA, WHO und NIST zu erfüllen.³⁰

Das 7-Schritte-Glaubwürdigkeitsbewertungsframework der FDA

Im Januar 2025 veröffentlichte die FDA einen Leitlinienentwurf (FDA-2024-D-4689), der ein verbindliches Framework für KI-Modelle in medizinischen und regulatorischen Entscheidungen festlegt.³³ Dieses Framework ist unverzichtbar für jeden Enterprise-Grade-KI-Einsatz.

1.​ Frage von Interesse definieren: Die genaue Entscheidung, die die KI adressieren soll, klar artikulieren.³⁴

2.​ Nutzungskontext (COU) definieren: Rolle des Modells, Dateneingaben und den Workflow, in dem es eingebettet ist, spezifizieren.³⁴

3.​ Modellrisiko bewerten: „Modelleinfluss“ (wie viel Autorität die KI hat) und „Entscheidungsfolge“ (Schwere des Schadens, wenn die KI falsch liegt) evaluieren.³⁴

4.​ Glaubwürdigkeitsplan entwickeln: Validierungsstrategien, Metriken und Akzeptanzkriterien skizzieren.³⁴

5.​ Plan ausführen: Rigorose Tests durchführen, einschließlich Stresstests für Randfälle.³⁴

6.​ Ergebnisse dokumentieren: Einen „Glaubwürdigkeitsbericht“ erstellen, der Abweichungen vom Plan hervorhebt.³⁴

7.​ Angemessenheit feststellen: Abschließende Validierung der Eignung des Modells für seinen spezifischen klinischen Zweck.³⁴

Das nH-Predict-System scheiterte auf jeder Stufe dieses Frameworks. Es fehlte ein klarer COU, die Risikobewertung ignorierte die lebensbedrohlichen Folgen abgelehnter Versorgung, und die „Validierung“ zielte auf Kosteneindämmung statt auf klinische Genauigkeit.²

WHO-Ethik und der EU AI Act

Die Weltgesundheitsorganisation (WHO) hat gezielt „Automation Bias“ ins Visier genommen — die Tendenz von Menschen, einem Algorithmus zu folgen, selbst wenn er den eigenen Sinnen widerspricht.³¹ Die WHO-Leitlinie 2024 zu Large Multimodal Models (LMMs) warnt, dass KI zu einer „Dequalifizierung“ bei Ärzten führen kann, die aufhören, kritisch zu prüfen.³¹

Parallel dazu begann 2025 die schrittweise Durchsetzung des EU AI Act.¹ Nach diesem Gesetz gelten KI-Systeme im Gesundheitswesen als „Hochrisiko“ und erfordern verpflichtende Konformitätsbewertungen, Transparenzangaben und menschliche Aufsicht.³⁷ Die hohen Strafen bei Nichteinhaltung (bis zu 7% des weltweiten Umsatzes) machen algorithmische Governance zu einem finanziellen Imperativ auf Vorstandsebene.³⁷

Vertrauen konstruieren: Das Mandat erklärbarer KI (XAI)

Um eine Wiederholung des UnitedHealth-Kollapses zu verhindern, müssen Deep-AI-Lösungen „Explainable by Design“ sein.²² Erklärbare KI (XAI) überbrückt die Lücke zwischen komplexen mathematischen Gewichten und menschenlesbarer Begründung.³⁹

Technische Methoden: SHAP und LIME

In der klinischen Entscheidungsunterstützung sind XAI-Tools wie SHAP (SHapley Additive exPlanations) und LIME (Local Interpretable Model-Agnostic Explanations) entscheidend.⁴¹

●​ SHAP liefert eine globale Sicht auf die Merkmalswichtigkeit. Im Versicherungskontext kann es aufzeigen, ob eine Ablehnung primär durch „Alter“ oder „Postleitzahl“ (häufig ein Proxy für ethnische Zugehörigkeit) getrieben war, sodass Auditoren diskriminierende Verzerrungen markieren können.²⁴

●​ LIME liefert eine lokale Erklärung für eine einzelne Entscheidung. Für eine Patientin wie Carol Clemens hätte LIME hervorgehoben, dass die KI ihre „lebensbedrohlich niedrigen Blutsauerstoffwerte“ zugunsten ihrer „durchschnittlichen diagnosebasierten Genesungszeit“ ignorierte.⁸

Durch die Integration dieser Tools stellt Veriprajna sicher, dass Kliniker nicht „passive Empfänger“ von KI-Output sind, sondern Partner, die die Logik prüfen und validieren können.⁴⁰

Die Implementierung der Konfidenzbewertung

Ein Schlüsselmerkmal von Deep AI ist Konfidenzbewertung — eine Metrik, die dem menschlichen Nutzer sagt, wie zuverlässig eine bestimmte Vorhersage ist.²³ Präsentiert ein Patient eine seltene Erkrankung, die in den Trainingsdaten schlecht repräsentiert ist, muss die KI ihre eigene Unsicherheit explizit kennzeichnen und den Fall zur sofortigen menschlichen Prüfung weiterleiten (Human-in-the-Loop-Routing).²³

Algorithmische Governance: Eine Verantwortung von C-Suite und Vorstand

Die Ära, in der KI ein „IT-Projekt“ war, ist vorbei. Bis 2025 haben 72% der S&P-500-Unternehmen materielle KI-Risiken in ihren jährlichen SEC-Filings offengelegt.³⁷ Reputationsrisiko ist inzwischen die am häufigsten genannte Sorge, da ein einzelnes KI-Versagen viral gehen und massive Rechtsstreitigkeiten auslösen kann.²⁹

Die Rolle des KI-Ethik- und Compliance-Ausschusses

Um Resilienz aufzubauen, müssen Organisationen funktionsübergreifende KI-Governance-Ausschüsse einrichten.²⁸ Diese Ausschüsse sollten klinische Führungskräfte, Rechtsberater und Vertreter der Patientensicherheit umfassen, mit der Befugnis:

●​ Genehmigungskriterien für alle KI-Use-Cases zu definieren.⁴⁷

●​ Ein zentrales KI-Register zu führen, das jedes Modell im Stack der Organisation katalogisiert.²⁸

●​ Model-Change-Management mit „Kill Switch“ oder Rollback-Optionen durchzusetzen, wenn die Leistung nachlässt oder „Drift“ erkannt wird.³⁰

Operationalisierung des NIST AI Risk Management Framework (RMF)

Das NIST AI RMF 1.0 (veröffentlicht 2023 und aktualisiert 2025) liefert den Bauplan für diese Governance.³² Es ist um vier Funktionen strukturiert:

1.​ GOVERN: Eine risikobewusste Kultur aufbauen, in der die Führung direkt für KI-Outcomes verantwortlich ist.²⁸

2.​ MAP: Katalogisieren, wo KI mit sensiblen Daten (PHI) interagiert, und potenzielle „Schadensszenarien“ wie Fehldiagnose oder verzerrte Triage identifizieren.³²

3.​ MEASURE: KPIs wie Sensitivität, Falsch-Negativ-Raten und „demografische Fairness“ kontinuierlich verfolgen.³²

4.​ MANAGE: Kontrollen implementieren, etwa menschliche Aufsicht für Hochrisikoentscheidungen und regelmäßige „KI-Vorfallreaktionsübungen“.³²

Fazit: Der Veriprajna-Standard für Deep AI

Der Kollaps des nH-Predict-Algorithmus von UnitedHealth ist eine düstere Warnung: Werden Algorithmen zur Optimierung „theoretischer Effizienz“ statt „realer klinischer Outcomes“ eingesetzt, sind die menschlichen Kosten katastrophal und die rechtliche Haftung absolut.² Die Sammelklage vom Februar 2025 ist mehr als nur ein Rechtsstreit; sie ist die erste große Zurückweisung der „Blackbox“-Ära des Healthcare-Managements.

Als Anbieter von Deep-AI-Lösungen lehnt Veriprajna den „Wrapper“-Ansatz ab. Wahre Enterprise-KI erfordert:

●​ Kausale Validierung: Verstehen, warum eine Entscheidung getroffen wird, nicht nur die Wahrscheinlichkeit ihres Eintretens.⁶

●​ Erklärbare Architektur: Kliniker und Auditoren mit der „Hausaufgabe“ hinter jedem Output versorgen.³⁹

●​ Ethische Governance: Sicherstellen, dass der Human-in-the-Loop befugt ist, die Maschine zu überstimmen, nicht dafür diszipliniert zu werden.³⁵

●​ Regulatorische Ausrichtung: Proaktiv das 7-Schritte-Glaubwürdigkeitsframework der FDA und die Transparenzmandate des EU AI Act erfüllen.³⁰

Der Weg nach vorn für das Unternehmen liegt nicht in mehr Automatisierung, sondern in Better Intelligence. Indem Organisationen von prädiktiven Wrappern zu kausalen Systemen mit tiefer Governance übergehen, können sie das Versprechen der KI zurückgewinnen: menschliches Urteil zu stärken, Schutzbedürftige zu schützen und ein Gesundheitssystem aufzubauen, das ebenso effizient wie mitfühlend ist..⁵

Literaturverzeichnis

1. Lawsuit over AI usage by Medicare Advantage plans allowed to ..., abgerufen am 6. Februar 2026, https://www.dlapiper.com/insights/publications/ai-outlook/2025/lawsuit-over-ai-usage-by-medicare-advantage-plans-allowed-to-proceed

2. The Biggest AI Fails of 2025: Lessons from Billions in Losses - NineTwoThree Studio, abgerufen am 6. Februar 2026, https://www.ninetwothree.co/blog/ai-fails

3. UnitedHealthcare accused of relying on AI algorithms to deny Medicare Advantage claims, abgerufen am 6. Februar 2026, https://www.foxbusiness.com/markets/unitedhealthcare-accused-relying-ai-algorithms-deny-medicare-advantage-claims

4. Risks of AI Wrapper Products and Features - Kader Law, abgerufen am 6. Februar 2026, https://www.kaderlaw.com/blog/risks-of-ai-wrapper-products-and-features

5. AI Wrapper Economy Risks Highlighted by Google India Accelerator - AI CERTs News, abgerufen am 6. Februar 2026, https://www.aicerts.ai/news/ai-wrapper-economy-risks-highlighted-by-google-india-accelerator/

6. Integrating predictive modeling and causal inference for advancing medical science, abgerufen am 6. Februar 2026, https://www.chikd.org/journal/view.php?id=10.3339/ckd.24.018

7. Lawsuit alleging UnitedHealthcare used faulty AI to deny coverage advances in federal court - Insurance News | InsuranceNewsNet, abgerufen am 6. Februar 2026, https://insurancenewsnet.com/oarticle/lawsuit-alleging-unitedhealthcare-used-faulty-ai-to-deny-coverage-advances-in-federal-court

8. Minnesota judge: lawsuit over UnitedHealth use of AI can continue - The C.O.R.E. Group, abgerufen am 6. Februar 2026, https://coregroupusa.com/minnesota-judge-lawsuit-over-unitedhealth-use-of-ai-can-continue/

9. nH Predict - Wikipedia, abgerufen am 6. Februar 2026, https://en.wikipedia.org/wiki/NH_Predict

10. UnitedHealth faces lawsuit over AI, Medicare Advantage care denials, abgerufen am 6. Februar 2026, https://www.beckerspayer.com/payer/unitedhealth-faces-lawsuit-over-medicare-advantage-care-denials/

11. STAT “Denied by AI” series a model of solid investigative journalism ..., abgerufen am 6. Februar 2026, https://healthjournalism.org/blog/2024/10/stats-denied-by-ai-series-a-model-of-solid-investigative-journalism/

12. When Faulty AI Falls Into the Wrong Hands: The Risks of Erroneous ..., abgerufen am 6. Februar 2026, https://ijoc.org/index.php/ijoc/article/download/23994/4992/90761

13. AI-driven insurance decisions raise concerns about human oversight | Stanford Report, abgerufen am 6. Februar 2026, https://news.stanford.edu/stories/2026/01/ai-algorithms-health-insurance-care-risks-research

14. Senate report slams Medicare Advantage insurers for using predictive technology to deny claims | Healthcare Dive, abgerufen am 6. Februar 2026, https://www.healthcaredive.com/news/medicare-advantage-AI-denials-cvs-humana-unitedhealthcare-senate-report/730383/

15. New AI tool counters health insurance denials decided by automated algorithms | US healthcare | The Guardian, abgerufen am 6. Februar 2026, https://www.theguardian.com/us-news/2025/jan/25/health-insurers-ai

16. Lawsuit accuses UnitedHealth Group of using faulty AI to deny Medicare patient claims, abgerufen am 6. Februar 2026, https://www.startribune.com/lawsuit-accuses-unitedhealth-group-of-using-faulty-ai-to-deny-medicare-patient-claims/600319883

17. UnitedHealthcare's AI Use to Deny Claims is Center of Industrywide Debate - HFS Research, abgerufen am 6. Februar 2026, https://www.hfsresearch.com/news/unitedhealthcares-ai-use-to-deny-claims-is-center-of-industrywide-debate/

18. UnitedHealth Lawsuit: Can AI Deny Healthcare Services? - Haven Health Management, abgerufen am 6. Februar 2026, https://havenhealthmgmt.org/unitedhealth-lawsuit-can-ai-deny-healthcare-services/

19. Estate of Gene B. Lokken et al. v. UnitedHealth Group, Inc. et al., abgerufen am 6. Februar 2026, https://litigationtracker.law.georgetown.edu/litigation/estate-of-gene-b-lokken-the-et-al-v-unitedhealth-group-inc-et-al/

20. Judge Decides Class Action Can Proceed Against UnitedHealth for Use of AI, abgerufen am 6. Februar 2026, https://www.legalhie.com/judge-decides-class-action-lawsuit-can-proceed-against-unitedhealth-for-use-of-ai/

21. Reviewing the 5 Major AI Risks (Part II of II) | The Volkov Law Group - JDSupra, abgerufen am 6. Februar 2026, https://www.jdsupra.com/legalnews/reviewing-the-5-major-ai-risks-part-ii-8779464/

22. Explainable AI For Insurance - Meegle, abgerufen am 6. Februar 2026, https://www.meegle.com/en_us/topics/explainable-ai/explainable-ai-for-insurance

23. Explainable AI (XAI) in Insurance: Benefits and Use Cases - A3Logics, abgerufen am 6. Februar 2026, https://www.a3logics.com/blog/explainable-ai-in-insurance/

24. How AI Bias Is Impacting Healthcare - InformationWeek, abgerufen am 6. Februar 2026, https://www.informationweek.com/machine-learning-ai/how-ai-bias-is-impacting-healthcare

25. Correlation vs. Causation: How Causal AI is Helping Determine Key Connections in Healthcare and Clinical Trials - DIA Global Forum, abgerufen am 6. Februar 2026, https://globalforum.diaglobal.org/issue/october-2024/correlation-vs-causation-how-causal-ai-is-helping-determine-key-connections-in-healthcare-and-clinical-trials/

26. Who Benefits Most from Causal AI in Healthcare? - BeeKeeperAI, abgerufen am 6. Februar 2026, https://www.beekeeperai.com/blog/107341-who-benefits-most-from-causal-ai-in-healthcare

27. AI governance and risk management for regulated industries - Torry Harris, abgerufen am 6. Februar 2026, https://www.torryharris.com/insights/articles/ai-governance-risk-management-regulated-industries

28. AI governance: A guide to responsible AI for boards - Diligent, abgerufen am 6. Februar 2026, https://www.diligent.com/resources/blog/ai-governance

29. Governing the Ungovernable: Corporate Boards Face AI Accountability Reckoning, abgerufen am 6. Februar 2026, https://www.jdsupra.com/legalnews/governing-the-ungovernable-corporate-1075132/

30. FDA Guidance on AI-Enabled Devices: Transparency, Bias, & Lifecycle Oversight, abgerufen am 6. Februar 2026, https://www.centerwatch.com/insights/fda-guidance-on-ai-enabled-devices-transparency-bias-lifecycle-oversight/

31. WHO Releases AI Ethics and Governance Guidance for Large Multimodal Models | Insight, abgerufen am 6. Februar 2026, https://www.bakermckenzie.com/en/insight/publications/2024/01/who-releases-ai-ethics-and-governance-guidance

32. Understanding the NIST AI Risk Management Framework - databrackets, abgerufen am 6. Februar 2026, https://databrackets.com/blog/understanding-the-nist-ai-risk-management-framework/

33. Artificial Intelligence for Drug Development | FDA, abgerufen am 6. Februar 2026, https://www.fda.gov/about-fda/center-drug-evaluation-and-research-cder/artificial-intelligence-drug-development

34. FDA's AI Guidance: 7-Step Credibility Framework Explained | IntuitionLabs, abgerufen am 6. Februar 2026, https://intuitionlabs.ai/articles/fda-ai-drug-development-guidance

35. The Ultimate AI Compliance Checklist for 2025 - NeuralTrust, abgerufen am 6. Februar 2026, https://neuraltrust.ai/blog/ai-compliance-checklist-2025

36. Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models, abgerufen am 6. Februar 2026, https://iris.who.int/server/api/core/bitstreams/e9e62c65-6045-481e-bd04-20e206bc5039/content

37. AI Risk Disclosures in the S&P 500: Reputation, Cybersecurity, and Regulation, abgerufen am 6. Februar 2026, https://corpgov.law.harvard.edu/2025/10/15/ai-risk-disclosures-in-the-sp-500-reputation-cybersecurity-and-regulation/

38. NIST AI Risk Management Framework: A simple guide to smarter AI governance - Diligent, abgerufen am 6. Februar 2026, https://www.diligent.com/resources/blog/nist-ai-risk-management-framework

39. The Role of Explainable AI (XAI) in Building Trust in Healthcare - Nitor Infotech, abgerufen am 6. Februar 2026, https://www.nitorinfotech.com/blog/the-role-of-explainable-ai-xai-in-building-trust-in-healthcare/

40. From Insights to Impact: Exploring Explainable AI's Contribution to Healthcare Decision-Making, abgerufen am 6. Februar 2026, https://dr.lib.iastate.edu/bitstreams/f7b0f5bf-56a6-484e-9c51-9d8adc2a8884/download

41. Interpretable AI for bio-medical applications - PMC, abgerufen am 6. Februar 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10074303/

42. Fostering trust and interpretability: integrating explainable AI (XAI) with machine learning for enhanced disease prediction and decision transparency - PMC - NIH, abgerufen am 6. Februar 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12465982/

43. A Comparative Analysis of LIME and SHAP Interpreters With Explainable ML-Based Diabetes Predictions - Diva-portal.org, abgerufen am 6. Februar 2026, https://www.diva-portal.org/smash/get/diva2:1886442/FULLTEXT02.pdf

44. Explainable artificial intelligence - Wikipedia, abgerufen am 6. Februar 2026, https://en.wikipedia.org/wiki/Explainable_artificial_intelligence

45. Responsible AI in Health Care: What Providers and AI Vendors Must ..., abgerufen am 6. Februar 2026, https://www.bakerdonelson.com/responsible-ai-in-health-care-what-providers-and-ai-vendors-must-do-now

46. "From Disclosure to Defense: A Strategic AI Governance Blueprint" - Shumaker, Loop & Kendrick, LLP, abgerufen am 6. Februar 2026, https://www.shumaker.com/insight/from-disclosure-to-defense-a-strategic-ai-governance-blueprint/

47. NIST Cybersecurity Framework for AI Risk in Healthcare | Censinet, Inc., abgerufen am 6. Februar 2026, https://censinet.com/perspectives/nist-cybersecurity-framework-ai-risk-healthcare