90% van de AI-dekkingsafwijzingen wordt in beroep teruggedraaid. Een rechter noemde dat contractbreuk.

Een gezin betaalde $16.768 uit eigen zak om hun moeder in een ziekenhuisbed te houden.

Ze had methemoglobinemie — een bloedaandoening die het lichaam van zuurstof berooft. Het algoritme dat over haar dekking besliste, wist dat niet, of beter gezegd, het wist het wel en kon het niets schelen. Het was getraind om de opnameduur te voorspellen op basis van haar diagnosegroep, en de gemiddelde patiënt in die groep was klaar om naar huis te gaan. Dus markeerde het systeem haar voor ontslag op een populatietijdlijn, terwijl haar werkelijke bloedzuurstof een ander verhaal vertelde. Haar gezin vond het geld. De meeste gezinnen kunnen dat niet — en de meesten proberen het zelfs nooit: in de UnitedHealth-rechtszaak ging slechts ongeveer 0,2% van de Medicare-begunstigden überhaupt in beroep tegen hun afwijzingen.

Die zaak vormt de kern van Lokken v. UnitedHealth, de collectieve rechtszaak over nH Predict, het AI-hulpmiddel dat wordt gebruikt om hersteltijdlijnen te voorspellen in het zorgmanagement van Medicare Advantage. En het getal dat elke zorgverzekeringsbestuurder koud zou moeten maken is dit: ongeveer 90% van de door AI gegenereerde afwijzingen in die rechtszaak werd in beroep teruggedraaid — onder het handjevol leden dat de moeite nam om ze aan te vechten. Toen ik dat voor het eerst las, was mijn instinct hetzelfde als dat van de meeste ingenieurs — een terugdraaipercentage van 90% is een probleem met de modelnauwkeurigheid, iets wat je oplost met betere trainingsdata en strakkere drempelwaarden. Ik had het mis, en de rechter vertelde me waarom. Een federale rechter behandelt die 90% niet als een technisch defect, maar als bewijs van contractbreuk. Die enkele herformulering is waar AI-governance voor Medicare Advantage daadwerkelijk verantwoording voor moet afleggen, en het is de reden dat ik er uiteindelijk een bedrijf omheen heb gebouwd.

Een terugdraaipercentage van 90% in beroep is geen afstelparameter. Het is een bekentenis dat het systeem in de eerste plaats nooit over medische noodzaak besliste.

De rechtszaak gaat over een zin in uw contract, niet over een fout in uw model

Wat mij beschamend lang kostte om te begrijpen, is dat de juridische blootstelling in deze zaken niet in de modelgewichten zit. Ze zit in uw Evidence of Coverage.

Uw EOC — het contract dat elk lid tekent — belooft dat dekkingsbeslissingen worden genomen door klinisch personeel en artsen. Dat is de afspraak. Toen ik de EOC-taal voor verzekeraars begon te ontleden en naast hun daadwerkelijke automatische beoordelingswachtrijen legde, zat de kloof er bijna altijd zwart-op-wit. Het contract zegt dat een arts beslist. De workflow laat een algoritme zien dat de aanvraag scoort en een mens die op goedkeuren klikt voor wat het ook teruggeeft. De tegenpartij heeft geen datawetenschapper nodig om die kloof te vinden. Ze hebben een paralegal en een markeerstift nodig.

De inzagebevel van maart 2026 in Lokken (2026 WL 658883) maakte dit concreet. De rechtbank verleende eisers toegang tot AI-ontwikkelingsdocumenten, specificaties van trainingsdata en validatierapporten. Ik bewaar een uitdraai van dat bevel met één clausule omcirkeld, want het veranderde hoe ik met elke verzekeraar praat: uw AI-documentatie is nu opvraagbaar. Als uw model geen gestructureerd beslissingslogboek, versiebeheerde trainingsdata en gedocumenteerde validatieresultaten kan produceren, kunt u niet reconstrueren waarom u een claim hebt afgewezen — en u kunt niet verdedigen wat u niet kunt reconstrueren.

Het moment waarop "human-in-the-loop" een fictie wordt

Een tijdlang nam ik aan dat de verzekeraars die werden aangeklaagd roekeloze uitzonderingen waren die volledig geautomatiseerde afwijzingen draaiden. De werkelijkheid is ongemakkelijker, en het is het detail waarmee ik nu begin telkens wanneer een chief medical officer me vertelt dat ze veilig zijn omdat een clinicus tekent voor akkoord.

De breuk vindt plaats bij één operationele beslissing die niemand buiten de kamer ooit ziet. De managers van nH Predict versmalden de aanvaardbare afwijking van de modelprognose van 3% naar 1%. Op papier is dat een afstelwijziging. In de praktijk veranderde het een beslissingsondersteunend hulpmiddel in een geautomatiseerde poortwachter, want clinici die meer dan een haartje van het getal van het algoritme afweken, waren nu niet langer compliant. Sommigen die het systeem overrulden, kregen te maken met disciplinaire maatregelen.

Dat is het moment waarop de human-in-the-loop ophoudt een waarborg te zijn en theater wordt. Een arts wier baan op het spel staat als ze het oneens is met het model, oefent geen klinisch oordeel uit — ze zet een stempel. En elke afwijzing die door een schijnvertoning van een beoordeling loopt, draagt de volledige contractuele en regelgevende aansprakelijkheid van een geautomatiseerde, want functioneel is dat wat het is.

De afwijkingsmarge ligt begraven in de notulen van een commissievergadering. Daar wordt de rechtszaak gewonnen of verloren, niet in de modelarchitectuur.

Ik kan het aantal governance-gesprekken niet tellen dat hier meteen aan voorbijgaat. Verzekeraars auditen hun model. Ze auditen bijna nooit het workflowbeleid eromheen — de drempelwaarde, de overrule-regels, de disciplinaire structuur. Dat beleid bepaalt of uw clinicus een beslisser is of een aansprakelijkheidsschild dat eigenlijk niets afschermt.

Waarom we eerst het verkeerde ding bouwden

Toen mijn team begon, deden we het voor de hand liggende. We bouwden monitoring.

Op een whiteboard was het logisch. De markt zit vol met AI-observability — Fiddler levert SHAP- en LIME-verklaarbaarheid met drift- en biasdetectie; IBM's Watsonx.governance heeft OpenScale voor fairness; Credo AI en Holistic AI verkopen beleidspakketten en compliance-dashboards die automatisch bewijs verzamelen. De logica van de hele categorie is: je hebt modellen in productie, je zet er een laag bovenop die ze in de gaten houdt, en nu heb je governance. Dus bouwden we een laag die de zorgmanagement-AI van een pilotverzekeraar in de gaten hield en prachtige fairnessmetrieken produceerde.

Toen keek een medisch directeur bij die verzekeraar — iemand die jarenlang in haar eigen UM-commissie had gezeten — naar ons dashboard en stelde de vraag die ons terugstuurde naar de tekentafel. "Dit vertelt me dat het model zich consistent gedraagt. Het vertelt me niet dat het model deze beslissing überhaupt zou moeten nemen. nH Predict was ook consistent."

Ze had gelijk, en het deed pijn. We hadden een zeer nauwkeurig instrument gebouwd om iets fundamenteel gebrekkigs te meten. nH Predict faalde niet omdat het niet werd gemonitord. Het faalde omdat het de gemiddelden van diagnosegroepen zwaarder liet wegen dan individuele klinische indicatoren — bloedzuurstof, beschikbaarheid van mantelzorg, comorbiditeitsinteracties — in een domein waar individuele variatie is de definitie van medische noodzaak. Dat model nauwlettender monitoren zou een net verslag hebben opgeleverd van een systeem dat betrouwbaar het verkeerde deed. Het terugdraaipercentage van 90% zou prachtig gedocumenteerd zijn geweest.

Dat was het falen dat alles betaalde wat we daarna bouwden. Observability vertelt je of het model stabiel is. Het vertelt je niet of de beslissing verdedigbaar is. Dat zijn verschillende problemen, en de hele categorie governance-platforms loste, voor de koper die mij lag, het eerste op en noemde het het tweede.

Wat Moet AI-governance voor Medicare Advantage Eigenlijk Doen?

Dus scheurden we de monitoring-premisse aan flarden en begonnen bij de enige vraag die er in een rechtszaal toe doet: kunt u deze specifieke afwijzing van deze specifieke persoon verdedigen?

Die herformulering verandert de bouw volledig. U instrumenteert niet langer een model — u engineert een beslissing zodat die zich, jaren later, onder een inzagebevel, zelf reconstrueert. Voor een Medicare Advantage-verzekeraar betekent dat dat er drie dingen tegelijk waar moeten zijn, en die waar maken is het werk dat Veriprajna doet op veriprajna.com/solutions/medicare-advantage-ai-governance.

Ten eerste moet elke beslissing haar eigen uitleg meedragen — geen globale fairnessscore, maar een dossier per beslissing van welke klinische factoren het model heeft meegewogen en welke het heeft genegeerd, in taal die zowel een clinicus als een rechter kan lezen. Dit is het onderdeel dat iedereen onderschat, en het is waar ik slecht nieuws moet brengen. De verouderde claimsplatforms waarop de meeste verzekeraars draaien — Facets, QNXT — zijn nooit ontworpen om een dossier van feature-attributie per beslissing af te geven. Ze slaan de uitkomst op, niet de redenering. Dus echte verklaarbaarheid op een Medicare Advantage-stack is geen kwestie van een beter model van de plank kiezen. Het is middleware: een laag die de inputs, gewichten en het klinische overrule-pad van het model vastlegt en ze wegschrijft naar een logboek dat gebouwd is om inzage te overleven. Dat is roemloos integratiewerk, en het is het grootste deel van de klus.

De lastigere eis is dat de compliance-architectuur moet aansluiten op de regelgeving die tegelijkertijd arriveert — wat me bij een valkuil brengt waar ik een geraffineerde verzekeraar recht in zag lopen.

De metriek die er schoon uitziet en het niet is

CMS-0057-F, de definitieve regel voor voorafgaande toestemming, begon te bijten in januari 2026 — 72 uur doorlooptijd voor spoedaanvragen, zeven dagen voor standaardaanvragen, geen heropening van goedgekeurde klinische opnames behalve bij fraude. Vervolgens sloeg op 31 maart 2026 de eerste openbare rapportagedeadline toe: verzekeraars moesten acht metrieken voor voorafgaande toestemming op contractniveau rapporteren, waaronder afwijzingspercentages, doorlooptijden en terugdraaipercentages in beroep.

Het detail dat ertoe doet, is het soort dat je alleen opmerkt als je de correcties in het Federal Register hebt gelezen, en niet alleen de kop. In juni 2025 schortte CMS de uitsplitsingen op verzekeraarsniveau en de vereisten voor expertise op het gebied van gezondheidsgelijkheid in UM-commissies op. Wat openbaar blijft, zijn geaggregeerde metrieken op contractniveau. Zo kan een verzekeraar een volkomen respectabel terugdraaipercentage in beroep op contractniveau publiceren en er schoon uitzien — terwijl zijn individuele beslissingslogboeken, die een inzagebevel in de trant van Lokken rechtstreeks bereikt, een compleet ander verhaal vertellen.

De openbare metrieken zijn het deel dat u ervoor kiest te tonen. De beslissingslogboeken zijn het deel dat een rechtbank neemt. Governance moet op het tweede winnen, niet op het eerste.

Ik heb tegenover bestuurders gezeten die naar hun aangifte van 31 maart wezen als bewijs dat ze gedekt waren. De aangifte is noodzakelijk. Het is geen verdediging. De advocatuur van eisers leest uw geaggregeerde dashboard niet; ze dagvaarden het dossier achter de afwijzing van één lid.

Dan is er 1 januari 2027, wanneer de HL7 FHIR-API's voor voorafgaande toestemming — CRD, DTR en PAS — verplicht worden, waarmee een volledig elektronisch transactiespoor voor elke PA-beslissing ontstaat. Dat spoor is ofwel uw beste bewijs ofwel uw slechtste, volledig afhankelijk van de vraag of de redenering werd vastgelegd op het moment dat de beslissing werd genomen. U kunt het later niet aanvullen. Ik heb op dit moment een integratieticket openstaan tegen een QNXT-instance dat in wezen een weddenschap is over in welke van die twee toekomsten een verzekeraar terechtkomt.

Het lappendeken waarvoor geen enkel platform werd gebouwd

En het moet een regelgevingslandschap overleven dat geen enkel kant-en-klaar product dekt. De eerste keer dat ik de verplichtingen van één multistate-klant op één spreadsheet uitzette, stopten de kolommen het met elkaar eens te zijn — en dat is bij ontwerp zo. De vereisten zijn opzettelijk inconsistent.

De Texas Responsible AI Governance Act trad in januari 2026 in werking met brede bevoegdheid tot civiel-onderzoekende vorderingen — en Texas had zijn kaarten al op tafel gelegd door de eerste onderzoeksprocedure rond generatieve AI in de zorg te schikken, tegen Pieces Technologies, terug in september 2024 wegens opgeblazen nauwkeurigheidsclaims. Pennsylvania is een andere richting ingeslagen, met wetgeving die menselijke beoordeling door een zorgverlener vereist vóór elke AI-gestuurde afwijzing, verplichte openbaarmaking dat AI überhaupt in gebruik is, en jaarlijkse compliance-verklaringen. Een multistate Medicare Advantage-organisatie staat nu voor een lappendeken waarbij elke staat andere transparantie-, audit- en openbaarmakingscontroles wil. En voor elke verzekeraar met wereldwijde activiteiten classificeert de EU AI Act zorg-AI als hoog risico onder Annex III, met volledige naleving verplicht in augustus 2027 en boetes die oplopen tot 6% van de wereldwijde jaaromzet.

Dit is precies de naad waar de grote consultancybureaus in vallen. Deloitte en Accenture zullen een verpakt platform uitrollen — een Credo AI of een IBM Watsonx — en het governance noemen. Maar een verpakt platform kent uw specifieke Facets-configuratie niet, en het verzoent Texas' onderzoeksvorderingen niet met Pennsylvania's mandaat voor beoordeling vóór afwijzing met de EU-eis voor een risicobeheerdossier. De leveranciers van claimssystemen staan er nog slechter voor: dezelfde bedrijven die Facets en QNXT onderhouden, verkopen ook de AI-add-ons daarvoor, dus hebben ze niet bepaald een prikkel om governance-hiaten in hun eigen platforms aan het licht te brengen. Niemand in dat landschap bouwde het ene ding dat de koper nodig had — technische controles die, beslissing voor beslissing, in kaart zijn gebracht op elke regelgeving die tegelijk op hen van toepassing is.

Waarom Kan een Verzekeraar Niet Gewoon Verklaarbaarheidssoftware Kopen?

Mensen stellen me een terechte vraag: als verklaarbaarheid en biasmonitoring al bestaan, waarom kan een verzekeraar dan niet gewoon Fiddler kopen of causale AI opzetten en klaar zijn?

Twee redenen. De monitoringleveranciers zijn oprecht goed in wat ze doen — maar hun hele premisse is dat het model in productie het waard is om te reguleren. Wanneer de beslissingsarchitectuur van het model de fout is, zoals bij nH Predict, geeft het nauwlettender in de gaten houden je alleen een hogere-resolutie-opname van de schade. Causale AI — causaLens is hier de meest geloofwaardige naam — is het academisch juiste antwoord, dat oorzaak modelleert in plaats van correlatie, maar het is commercieel onvolwassen en vooral gericht op de financiële dienstverlening; zorgspecifieke causale modellen voor dekkingsbeslissingen bevinden zich nog grotendeels in het onderzoeksstadium. En de leveranciers van automatisering voor voorafgaande toestemming, zoals Cohere Health, optimaliseren volledig de verkeerde variabele. Cohere zal uw administratieve kosten voor PA met 47% verlagen. Dat is een reëel getal en een reëel voordeel. Maar snelheid is geen verdedigbaarheid. Een snellere afwijzing die u in de rechtbank nog steeds niet kunt reconstrueren, is een sneller pad naar precies de aansprakelijkheid die Lokken definieerde.

De andere reden is schaal, en het is het deel waar ik een verzekeraar niet vanaf kan praten. Gartner verwacht dat 80% van de poliklinische claims tegen 2028 zal worden verwerkt via AI-gestuurde realtime-beoordeling. Toch heeft slechts 12% van de Amerikaanse ziekenhuizen vandaag een formeel AI-governanceraamwerk, volgens de telling van Censinet. Het volume aan geautomatiseerde dekkingsbeslissingen staat op het punt zich veel sneller te vermenigvuldigen dan wie dan ook de infrastructuur bouwt om ze te verdedigen. En CMS wacht niet beleefd — zijn RADV-audits voor betalingsjaar 2020 begonnen in februari 2026 met AI-gestuurde anomaliedetectie om niet-onderbouwde diagnoses te markeren. De toezichthouder audit uw AI met AI terwijl hij van u eist dat u het zelf reguleert.

De verzekeraars die als eerste bewegen, maken hier een voordeel van

Ik wil eindigen met datgene wat ik werkelijk geloof, niet met een waarschuwing.

Elke verzekeraar met wie ik praat, behandelt governance als een kostenpost — een belasting op het inzetten van AI, een rem op de agentic automatisering die iedereen wil. Ik begrijp de framing. De administratieve economie is meedogenloos aan beide kanten: zorgverleners geven $19,7 miljard per jaar uit aan het bestrijden van afwijzingen, en verzekeraars dragen hun eigen kosten bij elke aangevochten claim. De verleiding is om harder te automatiseren en zo weinig te reguleren als de regel vereist.

Maar die rekensom loopt achterstevoren. De afwijzingen die in beroep worden teruggedraaid, waren nooit kostenbesparingen — het was aansprakelijkheid die de verzekeraar als inkomsten boekte en met rente in de rechtbank zal terugbetalen. Een verzekeraar die voor elke afwijzing een schoon dossier kan produceren van welke klinische factoren zijn meegewogen, ondertekend door een clinicus die werkelijk de vrijheid had om het oneens te zijn, in kaart gebracht op elke regelgeving die van toepassing is, vermijdt niet alleen de rechtszaak. Hij kan sneller en met meer vertrouwen afwijzen, want elke beslissing is gebouwd om de toetsing te overleven die nu routinematig komt. We hebben de AI-governancearchitectuur voor Medicare Advantage gebouwd voor precies die verzekeraar.

Het gezin van de methemoglobinemie-patiënt verloor niet omdat een algoritme een fout maakte. Ze verloren, tijdelijk, omdat het systeem zichzelf niet kon uitleggen en geen mens in de loop vrij was om het te overrulen. Bouw het systeem zo dat het zichzelf kan uitleggen, en geef de mens de vrijheid om het te overrulen, en dan hoopt u niet langer dat het inzagebevel nooit komt. U bent er klaar voor.