Gesundheitswesen & Life Sciences

Klinische KI ist bereits in Ihren EHR-Systemen, Ihrer Kodierkette, Ihrer Vorabgenehmigungswarteschlange und Ihrer Wirkstoffforschungspipeline aktiv — doch die Schicht für Sicherheit, Verifizierung und regulatorische Dokumentation, die zwischen dem Modell und dem Patienten liegt, existiert in den meisten Bereitstellungen nicht. Der Ansatz von Veriprajna besteht darin, genau diese fehlende Schicht zu entwickeln: deterministische klinische Validierung, kontinuierliche Geräteüberwachung und auditbereite Governance, maßgeschneidert für Gesundheitssysteme, Pharma und Kostenträger.

Die KI, die Ihre Kliniker bereits nutzen, hat keine Sicherheitsschicht

Zwei Drittel der Versorgerbasis von Epic haben mittlerweile Zugriff auf GPT-4-generierte klinische Inhalte. Ambient Scribes entwerfen Notizen, In-Basket-Antworten gehen an Patienten, und MyChart-Nachrichten erhalten automatisch generierte Antworten. Eine Peer-Review-Studie realer klinischer Einsätze ergab: 2.9% der KI-generierten Behandlungszusammenfassungen enthielten Halluzinationen oder sachliche Fehler — einschließlich falscher Medikationsstatus und fehlerhafter Prozedurdaten.

Diese Zahl klingt gering, bis man bedenkt, dass 22.7% der Behandler angaben, vollständige Notizen zugunsten der KI-Zusammenfassung mitunter ganz auszulassen. Die Sicherheitsschicht zwischen dem LLM und dem Patienten existiert in den meisten heutigen EHR-Integrationen nicht: Epics CDS Hooks -Architektur wurde nicht dafür konzipiert, LLM-generierten Text in Echtzeit mit der aktiven Problemliste, Medikamentenliste und Allergieliste eines Patienten abzugleichen. Genau diese Lücke schließen unsere Einsätze — siehe eine funktionierende Demo unserer klinischen KI-Sicherheitsschicht.

Dies ist nicht theoretisch. Als Forscher sechs führende LLMs mit klinischen Fallvignetten testeten, die einen einzelnen gezielt platzierten falschen Laborwert enthielten, wiederholten oder vertieften die Modelle die Falschinformation in bis zu 83% der Fälle. Ein einfacher Mitigation-Prompt halbierte die Rate, beseitigte sie jedoch nicht. In Arbeitsabläufen, in denen eine KI-generierte Notiz direkt in Kodierung, Verordnungen und Abrechnung einfließt, kann sich ein halluzinierter Laborwert oder eine erfundene Medikamentenhistorie durch die gesamte Versorgungskette fortpflanzen, bevor ein Mensch eingreift.

Das $2.3-Milliarden-Kodierproblem, mit dem niemand gerechnet hatte

Die Analyse kommerzieller Abrechnungsdaten von Blue Cross Blue Shield vom März 2026 ergab, dass KI-gestützte Kodierpraktiken mit einem Anstieg der Gesundheitsausgaben um $2.3 billion assoziiert sind — davon $663 million stationär und $1.67 billion ambulant. Die Debatte darüber, ob es sich hierbei um Upcoding oder eine verbesserte Dokumentationsgenauigkeit handelt, geht am eigentlichen Punkt vorbei: Wenn Ihr Ambient Scribe mehr klinische Details erfasst, aber niemand validiert, ob diese Details zutreffen, haben Sie eine teure Maschinerie gebaut, die aus derselben klinischen Realität Abrechnungen mit höherem Schweregrad generiert.

Leistungserbringer und Kostenträger sind sich einig, dass Ambient Scribes die Kosten in die Höhe treiben; keiner von beiden hat eine Lösung, da das Problem zwischen dem Scribe und dem Kodierer liegt — in einer Verifizierungsschicht, die bislang nicht existiert. Unser Ansatz besteht darin, diese Verifizierungsschicht aufzubauen — nicht indem wir Ambient-Dokumentationswerkzeuge ersetzen oder mit Kodierungs-Engines konkurrieren, sondern indem wir deterministische klinische Validierung zwischen der KI-generierten Notiz und den nachgelagerten Systemen einfügen, die darauf reagieren. Die Prüfungen sind strukturell ausgelegt, nicht probabilistisch:

• Erscheint dieser dokumentierte Befund in der Patientenakte?
• Stimmt diese Beurteilung mit der dokumentierten Evidenz überein?
• Wird dieser Komplexitätsgrad durch die Behandlungsdaten gestützt?

Dies sind regelbasierte Validierungen anhand bekannter klinischer Fakten, keine probabilistischen Urteile.

1,451 FDA-zugelassene KI-Medizinprodukte und ein Rückrufproblem

Die FDA autorisierte 295 KI-gestützte Medizinprodukte allein im Jahr 2025 — die meisten in ihrer Geschichte — womit die Gesamtzahl auf 1,451stieg. Doch eine Untersuchung von 60 FDA-autorisierten KI-Geräten ergab 182 Rückrufe, wovon fast die Hälfte innerhalb eines Jahres nach der Zulassung erfolgte. Das TruDI Navigation System verzeichnete nach der KI-Integration über 100 Fehlfunktionen und unerwünschte Ereignisse, verglichen mit sieben davor. Nur 5.2% der zugelassenen KI-Geräte haben überhaupt Daten zu unerwünschten Ereignissen gemeldet — was bedeutet, dass wir bezüglich der Sicherheit der übrigen 95% nach Markteinführung im Blindflug sind.

Die PCCP-Abschlussleitlinie vom Dezember 2024 eröffnete adaptiven KI-Geräten einen Weg, sich nach der Freigabe ohne erneute Einreichungen weiterzuentwickeln, doch die meisten Hersteller sind nicht dafür gerüstet, die Überwachungs-, Validierungs- und Dokumentationsinfrastruktur zu implementieren, die PCCPs erfordern. Unser Ansatz besteht darin, diese Infrastruktur aufzubauen: die kontinuierlichen Überwachungssysteme, die Leistungsvalidierungspipelines und die regulatorischen Dokumentationsrahmen, die darauf ausgelegt sind, einen PCCP von einer Einreichungsstrategie in eine operative Realität zu verwandeln.

Governance-Lücke: 23% verfügen über Frameworks, 78% rollen aus

Nur 23% der Gesundheitssysteme haben formelle KI-Governance-Strukturen etabliert, doch 78% planen, innerhalb der nächsten 24 Monate klinische KI bereitzustellen. Die regulatorische Angriffsfläche wächst schneller, als die meisten Gesundheitssysteme Governance-Komitees besetzen können:

• Die AMA veröffentlichte ihr AI Governance Toolkit im August 2025.
• Die Coalition for Health AI (CHAI) veröffentlichte ihren Blueprint gemeinsam mit der Joint Commission im September 2025 und signalisierte damit Governance-Erwartungen an über 22,000+ akkreditierte Organisationen.
• Die HTI-1-Regel der ONC fordert 31 Quellattribute für prädiktive Entscheidungsunterstützungsinterventionen und schreibt die öffentliche Offenlegung von Risikomanagementpraktiken für Interventionen vor.
• Die Antidiskriminierungsregel nach Section 1557 erstreckt sich auf KI-basierte klinische Entscheidungstools, mit einer Compliance-Frist bis Mai 2025 als Stichtag.
• Die KI-Durchsetzungsmaßnahmen der OCR stiegen um 340% im Jahr 2025.

Wir konzipieren KI-Governance-Programme so, dass sie die Anforderungen von ONC, OCR, CMS und der Joint Commission gleichzeitig erfüllen — ein Ansatz, der detailliert beschrieben ist in unserer Forschung zur Governance-Grenze algorithmischer Integrität. Ein Gesundheitssystem, das den Ambient Scribe von Epic, ein prädiktives Sepsis-Modell und einen patientengerichteten Chatbot einsetzt, weist drei verschiedene KI-Risikoprofile auf, die dieselben Patientendaten teilen. Diese isoliert zu steuern — nach Anbieter, nach Abteilung oder nach Compliance-Vorschrift — führt unweigerlich zu überlappenden Richtlinien, widersprüchlichen Risikobewertungen und Lücken, die Aufsichtsbehörden früher entdecken als das Governance-Komitee.

Pharma-KI: 173 klinische Programme, null Zulassungen, reale Validierungslücken

Mehr als 173 durch KI entdeckte Wirkstoffprogramme befinden sich in der klinischen Entwicklung (unsere Forschung zur Closed-Loop-KI-Wirkstoffentdeckung). Insilico Medicine veröffentlichte den branchenweit ersten klinischen Machbarkeitsnachweis für ein KI-entdecktes Medikament in Nature Medicine im Juni 2025. Recursion stellte seinen Spitzenkandidaten REC-994 im Mai 2025 ein, nachdem Langzeitdaten frühere Wirksamkeitstrends nicht bestätigten. Große Pharmaunternehmen haben Milliarden für KI-Partnerschaften zugesagt — Novo Nordisk–Valo Health ($2.76B), Eli Lilly–Isomorphic Labs ($1.75B) und Bayer–Recursion ($1.5B) — doch bis Anfang 2026 hat kein durch KI entdecktes Medikament eine FDA-Zulassung erhalten.

Die Validierungslücke bei Pharma-KI liegt nicht in der Modellleistung — sie liegt in der regulatorischen Dokumentation. Sobald KI GxP-regulierte Prozesse berührt, erfordert jede algorithmische Entscheidung einen 21 CFR Part 11 -konformen Audit-Trail. Der Entwurf der FDA-Leitlinie vom Januar 2025 führte ein risikobasiertes Framework zur Glaubwürdigkeitsbewertung ein, und die im Januar 2026 gemeinsam von FDA und EMA veröffentlichten Grundsätze betonen Zwecktauglichkeit und robuste Daten-Governance. Unser Ansatz besteht darin, die Validierungsinfrastruktur aufzubauen, die Ausgaben von KI-Modellen mit den Dokumentations-Frameworks verknüpft, die Aufsichtsbehörden tatsächlich prüfen: Glaubwürdigkeitsbewertungspläne, Context-of-Use-Definitionen und Audit-Trails, die jede algorithmische Entscheidung von den Trainingsdaten bis zum klinischen Endpunkt lückenlos nachvollziehbar machen.

Die KI-Abrechnung der Kostenträger

CMS startete das WISeR-Pilotprojekt im Januar 2026, um KI-gestützte Vorabgenehmigungen für Medicare-Empfänger in sechs Bundesstaaten zu testen. Binnen weniger Monate berichteten Ärzte über mehr Ablehnungen, längere Wartezeiten für Peer-to-Peer-Prüfungen und Verzögerungen beim Patientenzugang. Die finanzielle Struktur des Programms vergütet Anbieter auf Basis eines Anteils an den „Einsparungen“, was einen direkten Anreiz zur Ablehnung schafft. Die EFF reichte Klage ein, um Transparenz über finanzielle Anreize der Anbieter zu erzwingen, und die Demokraten brachten Gesetzesinitiativen zur Aufhebung des Pilotprojekts ein. Währenddessen handeln die Gesetzgeber der Bundesstaaten unabhängig:

• Texas untersagt automatisierte negative Leistungsentscheidungen ohne menschliche Aufsicht.
• Kaliforniens SB 243 reguliert KI-Begleit-Chatbots.
• Illinois und Nevada haben KI für die Verhaltensgesundheit vollständig verboten.

Für Kostenträger, die KI im Versorgungsmanagement einsetzen, lautet die Frage nicht mehr, ob Regulierung kommt, sondern ob Ihr System den Audit-Trail, die Dokumentation der klinischen Begründung und die Integration menschlicher Aufsicht nachweisen kann, die jede anstehende Regulierung fordert. Wir entwickeln algorithmische Compliance-Frameworks für Kostenträger-KI, um Entscheidungsbegründungen auf Ebene des einzelnen Leistungsantrags zu dokumentieren, verpflichtende Trigger für menschliche Prüfungen zu integrieren und jene Transparenzberichte zu erstellen, die CMS, Generalstaatsanwälte der Bundesstaaten und Klägeranwälte letztlich verlangen werden.

Warum keine große Unternehmensberatung?

Deloitte, Accenture und McKinsey verfügen alle über KI-Praxen im Gesundheitswesen. Sie erstellen Governance-Frameworks, Reifegradbewertungen und strategische Roadmaps, und sie sind stark im organisatorischen Veränderungsmanagement sowie beim Executive Alignment. Sie bauen jedoch keine klinischen Sicherheitssysteme.

Wenn Ihre Epic-Integration eine Echtzeit-Validierungsschicht benötigt, die KI-generierte Medikamentenempfehlungen innerhalb von CDS Hooks mit der Allergieliste eines Patienten abgleicht, ist das ein Ingenieurproblem, das sowohl fundierte klinische Informatikkompetenz als auch Systemintegrationsfähigkeit erfordert. Die großen Beratungshäuser vergeben diese Arbeit an Subunternehmer; wir behandeln sie als zentrale Ingenieurleistung des Projekts statt als Übergabe. Wenn Ihr Pharma-Team 21 CFR Part 11-konforme Audit-Trails für ein KI-Modell in einem GxP-Prozess benötigt, ist ein Projekt so ausgelegt, dass die funktionierende Pipeline entsteht — nicht die PowerPoint-Präsentation, die beschreibt, wie die Pipeline aussehen sollte.