Gezondheidszorg & biowetenschappen

Klinische AI is al actief binnen uw EPD, uw coderingsketen, uw wachtrij voor voorafgaande autorisatie en uw pijplijn voor geneesmiddelenontdekking — maar de laag voor veiligheid, verificatie en regelgevingsdocumentatie tussen het model en de patiënt ontbreekt in de meeste implementaties. De aanpak van Veriprajna is gericht op het bouwen van die ontbrekende laag: deterministische klinische validatie, continue monitoring van medische hulpmiddelen en auditklare governance, ontworpen voor zorginstellingen, farmacie en zorgverzekeraars.

De AI die uw clinici al gebruiken heeft geen veiligheidslaag

Tweederde van het zorgverlenersbestand van Epic heeft inmiddels toegang tot door GPT-4 gegenereerde klinische content. Ambient scribes stellen verslagen op, In Basket-antwoorden gaan naar patiënten en MyChart-berichten krijgen automatisch gegenereerde reacties. In een peer-reviewed studie van reële klinische implementaties bevatte 2.9% van de door AI gegenereerde consultsamenvattingen hallucinaties of feitelijke onjuistheden — waaronder onjuiste medicatiestatussen en verkeerde behandeldata.

Dat cijfer lijkt bescheiden, totdat u bedenkt dat 22.7% van de zorgverleners aangaf volledige verslagen soms helemaal over te slaan ten gunste van de AI-samenvatting. De veiligheidslaag tussen het LLM en de patiënt ontbreekt momenteel in de meeste EPD-integraties: Epics CDS Hooks -architectuur was niet ontworpen om door LLM gegenereerde tekst in realtime te valideren tegen de actieve probleemlijst, medicatielijst en allergielijst van een patiënt. Dat is het hiaat waarvoor onze trajecten zijn ontworpen — zie een werkende demo van onze klinische AI-veiligheidslaag.

Dit is niet theoretisch. Toen onderzoekers zes toonaangevende LLM's testten met klinische casussen waarin één fictieve laboratoriumwaarde was geplaatst, herhaalden of borduurden de modellen voort op de onjuiste informatie in tot wel 83% van de gevallen. Een eenvoudige mitigatieprompt halveerde het percentage, maar nam het niet weg. In workflows waarin een door AI gegenereerd verslag direct doorstroomt naar codering, orderinvoer en facturatie, kan een gehallucineerde labwaarde of verzonnen medicatiehistorie zich door de gehele zorgketen verspreiden voordat een mens ingrijpt.

Het coderingsprobleem van $2.3 billion waar niemand rekening mee hield

De analyse van commerciële declaratiedata door Blue Cross Blue Shield van maart 2026 wees uit dat door AI ondersteunde coderingspraktijken gepaard gaan met een toename van $2.3 billion in de zorguitgaven — $663 million intramuraal en $1.67 billion extramuraal. Het debat over de vraag of dit upcoding betreft of verbeterde verslagleggingsnauwkeurigheid mist de kern: als uw ambient scribe meer klinische details vastlegt maar niemand valideert of die details juist zijn, heeft u een dure machine gebouwd om declaraties van een hogere zwaartegraad te genereren op basis van dezelfde klinische realiteit.

Zorgverleners en zorgverzekeraars zijn het erover eens dat ambient scribes de kosten opdrijven; geen van beiden heeft een oplossing, omdat het probleem zich bevindt tussen de scribe en de codeur — in een verificatielaag die nu nog ontbreekt. Onze aanpak is gericht op het bouwen van die verificatielaag — niet door ambient documentatietools te vervangen of te concurreren met coderingsengines, maar door deterministische klinische validatie in te voegen tussen de door AI gegenereerde verslaglegging en de downstream-systemen die daarop handelen. De controles zijn ontworpen om structureel te zijn, niet probabilistisch:

• Komt deze gedocumenteerde bevinding voor in het dossier van de patiënt?
• Komt deze beoordeling overeen met het gedocumenteerde bewijs?
• Wordt dit complexiteitsniveau ondersteund door de consultgegevens?

Dit zijn regelgebaseerde validaties tegen bekende klinische feiten, geen probabilistische oordelen.

1,451 door de FDA goedgekeurde AI-hulpmiddelen en een recall-probleem

De FDA keurde 295 AI-gestuurde medische hulpmiddelen goed in alleen al 2025 — het hoogste aantal in haar geschiedenis — waarmee het cumulatieve totaal op 1,451komt. Maar een evaluatie van 60 door de FDA goedgekeurde AI-hulpmiddelen wees op 182 recalls, waarvan bijna de helft plaatsvond binnen een jaar na goedkeuring. Het TruDI Navigation System registreerde meer dan 100 storingen en incidenten (adverse events) na AI-integratie, vergeleken met zeven daarvoor. Slechts 5.2% van de goedgekeurde AI-hulpmiddelen heeft überhaupt gegevens over incidenten gerapporteerd — wat betekent dat we in het duister tasten over de postmarket veiligheid van de overige 95%.

De PCCP-richtlijn van december 2024 opende een traject voor adaptieve AI-apparaten om na markttoelating te evolueren zonder nieuwe indieningen, maar de meeste fabrikanten zijn niet toegerust om de monitoring-, validatie- en documentatie-infrastructuur te implementeren die PCCP's vereisen. Onze aanpak is gericht op het bouwen van die infrastructuur: de continue monitoringsystemen, de prestatievalidatiepijplijnen en de regelgevingsdocumentatiekaders die zijn ontworpen om van een PCCP een operationele realiteit te maken in plaats van een indieningsstrategie.

Governance-kloof: 23% heeft kaders, 78% is bezig met uitrol

Slechts 23% van de zorgorganisaties heeft formele structuren voor AI-governance ingericht, maar toch 78% is van plan om binnen de komende 24 maanden klinische AI uit te rollen. Het toezichtsdomein breidt zich sneller uit dan de meeste zorgorganisaties governancecommissies kunnen bemannen:

• De AMA bracht haar AI Governance Toolkit uit in augustus 2025.
• De Coalition for Health AI (CHAI) publiceerde haar Blueprint samen met de Joint Commission in september 2025, waarmee governance-verwachtingen werden afgegeven aan 22,000+ geaccrediteerde organisaties.
• De HTI-1-regel van de ONC vereist 31 bronattributen voor voorspellende beslissingsondersteunende interventies en verplicht openbare openbaarmaking van risicobeheerpraktijken voor interventies.
• Section 1557's non-discriminatieregeling is van toepassing op op AI gebaseerde klinische besluitvormingstools, met een mei 2025 deadline voor naleving.
• OCR's handhavingsacties rond AI stegen met 340% in 2025.

Wij ontwerpen AI-governanceprogramma's om gelijktijdig te voldoen aan de eisen van ONC, OCR, CMS en de Joint Commission, een aanpak die nader wordt beschreven in ons onderzoek naar de frontier van algoritmische integriteit en governance. Een zorgorganisatie die Epics ambient scribe, een voorspellend sepsismodel en een patiëntgerichte chatbot inzet, heeft te maken met drie verschillende AI-risicoprofielen die patiëntgegevens delen. Als deze in silo's worden bestuurd — per leverancier, per afdeling of per compliancenorm — leidt dat tot overlappend beleid, tegenstrijdige risicobeoordelingen en hiaten die toezichthouders eerder ontdekken dan de governancecommissie zelf.

Farma-AI: 173 klinische programma's, nul goedkeuringen, reële validatiekloven

Meer dan 173 door AI ontdekte geneesmiddelenprogramma's zijn in klinische ontwikkeling (ons onderzoek naar closed-loop AI-ontdekking). Insilico Medicine publiceerde het eerste klinische proof-of-concept in de sector voor een door AI ontdekt geneesmiddel in Nature Medicine in juni 2025. Recursion staakte de ontwikkeling van haar belangrijkste kandidaat-geneesmiddel REC-994 in mei 2025 nadat langetermijndata eerdere werkzaamheidstrends niet bevestigden. Grote farmaceutische concerns hebben miljarden toegezegd aan AI-samenwerkingsverbanden — Novo Nordisk–Valo Health ($2.76B), Eli Lilly–Isomorphic Labs ($1.75B), en Bayer–Recursion ($1.5B) — en toch heeft per begin 2026 nog geen enkel door AI ontdekt geneesmiddel FDA-goedkeuring gekregen.

Het validatiehiaat in farma-AI zit niet in de modelprestaties — het zit in de regelgevingsdocumentatie. Wanneer AI GxP-gereguleerde processen raakt, vereist elke algoritmische beslissing een 21 CFR Part 11 -conforme audit trail. De conceptleidraad van de FDA van januari 2025 introduceerde een risicogebaseerd beoordelingskader voor geloofwaardigheid, en de gezamenlijke FDA–EMA-principes van januari 2026 benadrukken geschiktheid voor het beoogde doel en robuuste datagovernance. Onze aanpak is gericht op het bouwen van de validatie-infrastructuur die de outputs van AI-modellen koppelt aan de documentatiekaders die toezichthouders daadwerkelijk beoordelen: plannen voor geloofwaardigheidsbeoordeling, definities van de gebruikscontext en audit trails die elke algoritmische beslissing herleiden van trainingsdata tot klinisch eindpunt.

De afrekening voor AI bij zorgverzekeraars

CMS lanceerde de WISeR-pilot in januari 2026, waarin door AI ondersteunde voorafgaande autorisatie voor Medicare-begunstigden in zes staten wordt getest. Binnen enkele maanden rapporteerden artsen een toename van afwijzingen, langere wachttijden voor peer-to-peer reviews en vertragingen in de toegang tot zorg voor patiënten. De financiële structuur van het programma betaalt leveranciers uit op basis van een aandeel in de "besparingen", wat een directe prikkel creëert om zorg af te wijzen. De EFF spande een rechtszaak aan om transparantie te eisen over financiële prikkels voor leveranciers, en Democraten dienden wetsvoorstellen in om de pilot in te trekken. Ondertussen nemen wetgevende instanties in verschillende staten zelfstandig maatregelen:

• Texas verbiedt geautomatiseerde afwijzende besluiten zonder menselijk toezicht.
• Californië's SB 243 reguleert AI-metgezelschatbots.
• Illinois en Nevada hebben AI voor geestelijke gezondheidszorg volledig verboden.

Voor zorgverzekeraars die AI inzetten bij zorgbeheer (utilization management) is de vraag niet langer óf er regelgeving komt, maar of uw systeem kan aantonen dat het beschikt over de audit trail, de documentatie van de klinische onderbouwing en de integratie van menselijk toezicht die elke naderende regeling vereist. Wij ontwerpen kaders voor algoritmische compliance bij zorgverzekeraars-AI om de besluitvormingslogica op individueel declaratieniveau vast te leggen, verplichte triggers voor menselijke beoordeling te integreren en de transparantierapporten te genereren die CMS, openbaar aanklagers van de staten en letselschadeadvocaten uiteindelijk zullen eisen.

Waarom geen groot consultancykantoor?

Deloitte, Accenture en McKinsey hebben allemaal healthcare AI-praktijken. Ze leveren governancekaders, volwassenheidsbeoordelingen en strategische roadmaps op, en ze zijn sterk in organisatorisch verandermanagement en afstemming op directieniveau. Ze bouwen geen klinische veiligheidssystemen.

Wanneer uw Epic-integratie een realtime validatielaag nodig heeft die door AI gegenereerde medicatieadviezen controleert tegen de allergielijst van de patiënt binnen CDS Hooks, dan is dat een technisch engineeringprobleem dat zowel diepgaande kennis van klinische informatica als systeemintegratiecapaciteit vereist. De grote advieskantoren besteden dat werk uit; wij behandelen het als de kern-engineering van het traject in plaats van een overdracht. Wanneer uw farmacieteam 21 CFR Part 11-conforme audit trails nodig heeft voor een AI-model in een GxP-proces, is ons traject erop gericht de werkende pijplijn op te leveren — niet de PowerPoint-presentatie die beschrijft hoe de pijplijn eruit zou moeten zien.