90 % des refus de couverture par IA sont annulés en appel. Un tribunal vient d'y voir une rupture de contrat.

Une famille a payé 16 768 $ de sa poche pour garder sa mère dans un lit d'hôpital.

Elle souffrait de méthémoglobinémie — un trouble sanguin qui prive l'organisme d'oxygène. L'algorithme qui décidait de sa couverture ne le savait pas, ou plutôt, il le savait mais s'en moquait. Il avait été entraîné à prédire la durée de séjour à partir de son groupe de diagnostic, et le patient moyen de ce groupe était prêt à rentrer chez lui. Le système l'a donc signalée pour une sortie sur la base d'un calendrier populationnel, alors que son taux réel d'oxygène sanguin racontait une tout autre histoire. Sa famille a trouvé l'argent. La plupart des familles ne le peuvent pas — et la plupart n'essaient même jamais : dans le litige UnitedHealth, seulement 0,2 % environ des bénéficiaires de Medicare ont fait appel de leurs refus.

Cette affaire est au cœur de Lokken v. UnitedHealth, le recours collectif concernant nH Predict, l'outil d'IA utilisé pour projeter les délais de rétablissement dans la gestion de l'utilisation en Medicare Advantage. Et le chiffre qui devrait glacer tout dirigeant de plan de santé est celui-ci : environ 90 % des refus générés par l'IA dans ce litige ont été annulés en appel — parmi la minorité de membres qui ont pris la peine de les contester. Quand j'ai lu cela pour la première fois, mon instinct fut le même que celui de la plupart des ingénieurs — un taux d'annulation de 90 % est un problème de précision du modèle, quelque chose qu'on corrige avec de meilleures données d'entraînement et des seuils plus serrés. Je me trompais, et le tribunal m'a expliqué pourquoi. Un juge fédéral traite ces 90 % non pas comme un défaut technique mais comme la preuve d'une rupture de contrat. C'est de ce seul recadrage que la gouvernance de l'IA en Medicare Advantage doit réellement répondre, et c'est la raison pour laquelle j'ai fini par bâtir une entreprise autour de cette question.

Un taux d'annulation en appel de 90 % n'est pas un paramètre de réglage. C'est l'aveu que le système ne décidait jamais de la nécessité médicale, pour commencer.

Le procès porte sur une phrase de votre contrat, pas sur un défaut de votre modèle

Ce qu'il m'a fallu un temps embarrassant pour comprendre, c'est que l'exposition juridique dans ces affaires ne se trouve pas dans les poids du modèle. Elle se trouve dans votre Evidence of Coverage.

Votre EOC — le contrat que chaque membre signe — promet que les décisions de couverture sont prises par du personnel de services cliniques et des médecins. C'est l'engagement. Quand j'ai commencé à extraire le texte des EOC de plans et à le placer à côté de leurs véritables files d'auto-adjudication, l'écart était presque toujours là, noir sur blanc. Le contrat dit qu'un médecin décide. Le flux de travail montre un algorithme qui note la demande et un humain qui clique sur « approuver » sur ce qu'il renvoie. L'avocat de la partie adverse n'a pas besoin d'un data scientist pour trouver cet écart. Il lui faut un assistant juridique et un surligneur.

L'ordonnance de communication de mars 2026 dans Lokken (2026 WL 658883) a rendu cela concret. Le tribunal a accordé aux plaignants l'accès aux documents de développement de l'IA, aux spécifications des données d'entraînement et aux rapports de validation. Je garde une impression de cette ordonnance avec une clause entourée, parce qu'elle a changé ma façon de parler à chaque plan : votre documentation d'IA est désormais communicable. Si votre modèle ne peut pas produire un journal de décision structuré, des données d'entraînement gérées en versions et des résultats de validation documentés, vous ne pouvez pas reconstituer pourquoi vous avez refusé une demande — et vous ne pouvez pas défendre ce que vous ne pouvez pas reconstituer.

Le moment où « l'humain dans la boucle » devient une fiction

Pendant un temps, j'ai supposé que les plans poursuivis en justice étaient des cas isolés et imprudents pratiquant des refus entièrement automatisés. La réalité est plus inconfortable, et c'est le détail que je mets désormais en avant chaque fois qu'un directeur médical me dit qu'ils sont à l'abri parce qu'un clinicien valide.

La rupture se produit à une seule décision opérationnelle que personne, en dehors de la salle, ne voit jamais. Les responsables de nH Predict ont réduit l'écart acceptable par rapport à la projection du modèle, de 3 % à 1 %. Sur le papier, c'est un changement de réglage. En pratique, cela a transformé un outil d'aide à la décision en un gardien automatisé, car les cliniciens qui s'écartaient de plus d'un cheveu du chiffre de l'algorithme étaient désormais en infraction. Certains de ceux qui contournaient le système ont fait l'objet de mesures disciplinaires.

C'est l'instant où l'humain dans la boucle cesse d'être une garantie pour devenir un théâtre. Un médecin dont l'emploi est menacé si elle est en désaccord avec le modèle n'exerce pas de jugement clinique — elle appose un tampon. Et chaque refus qui passe par un examen de façade porte l'entière responsabilité contractuelle et réglementaire d'un refus automatisé, car fonctionnellement, c'est ce qu'il est.

La bande de variance est enfouie dans le compte rendu de réunion d'un comité. C'est là que le procès se gagne ou se perd, et non dans l'architecture du modèle.

Je ne compte plus le nombre de conversations sur la gouvernance qui passent directement à côté de cela. Les plans auditent leur modèle. Ils n'auditent presque jamais la politique du flux de travail qui l'entoure — le seuil, les règles de contournement, la structure disciplinaire. C'est cette politique qui détermine si votre clinicien est un décideur ou un bouclier de responsabilité qui, en réalité, ne protège de rien.

Pourquoi nous avons d'abord construit la mauvaise chose

Quand mon équipe a démarré, nous avons fait la chose évidente. Nous avons construit de la surveillance.

Cela avait du sens sur un tableau blanc. Le marché regorge d'observabilité de l'IA — Fiddler propose l'explicabilité SHAP et LIME avec détection de dérive et de biais ; le Watsonx.governance d'IBM dispose d'OpenScale pour l'équité ; Credo AI et Holistic AI vendent des packs de politiques et des tableaux de bord de conformité qui collectent automatiquement les preuves. La logique de toute cette catégorie est : vous avez des modèles en production, vous ajoutez une couche qui les surveille, et vous voilà avec de la gouvernance. Nous avons donc construit une couche qui surveillait l'IA de gestion de l'utilisation d'un plan pilote et produisait de superbes indicateurs d'équité.

Puis une directrice médicale de ce plan — quelqu'un qui avait siégé pendant des années à son propre comité de gestion de l'utilisation — a regardé notre tableau de bord et a posé la question qui nous a renvoyés à la planche à dessin. « Cela me dit que le modèle se comporte de manière cohérente. Cela ne me dit pas que le modèle devrait prendre cette décision, tout court. nH Predict était cohérent aussi, lui. »

Elle avait raison, et ça piquait. Nous avions construit un instrument très précis pour mesurer une chose fondamentalement défaillante. nH Predict n'a pas échoué parce qu'il n'était pas surveillé. Il a échoué parce qu'il pondérait les moyennes de groupe de diagnostic au-dessus des indicateurs cliniques individuels — oxygène sanguin, disponibilité d'un aidant, interactions entre comorbidités — dans un domaine où la variation individuelle est la définition même de la nécessité médicale. Surveiller ce modèle de plus près aurait produit un compte rendu net d'un système accomplissant de façon fiable la mauvaise chose. Le taux d'annulation de 90 % aurait été magnifiquement documenté.

Ce fut l'échec qui a financé tout ce que nous avons construit ensuite. L'observabilité vous dit si le modèle est stable. Elle ne vous dit pas si la décision est défendable. Ce sont des problèmes différents, et toute la catégorie des plateformes de gouvernance résolvait, pour l'acheteur qui m'importait, le premier en l'appelant le second.

Que doit réellement accomplir la gouvernance de l'IA en Medicare Advantage ?

Nous avons donc mis en pièces le postulat de la surveillance et sommes partis de la seule question qui compte dans une salle d'audience : pouvez-vous défendre ce refus précis, opposé à cette personne précise ?

Ce recadrage change complètement la construction. Vous n'instrumentez plus un modèle — vous concevez une décision de sorte que, des années plus tard, sous une ordonnance de communication, elle se reconstitue d'elle-même. Pour un plan Medicare Advantage, cela signifie que trois choses doivent être vraies en même temps, et les rendre vraies est le travail que Veriprajna accomplit sur veriprajna.com/solutions/medicare-advantage-ai-governance.

Premièrement, chaque décision doit porter sa propre explication — non pas un score d'équité global, mais un registre, décision par décision, des facteurs cliniques que le modèle a pondérés et de ceux qu'il a ignorés, dans un langage qu'un clinicien et un juge peuvent tous deux lire. C'est la partie que tout le monde sous-estime, et c'est là que je dois annoncer une mauvaise nouvelle. Les plateformes de gestion des demandes héritées sur lesquelles tournent la plupart des plans — Facets, QNXT — n'ont jamais été conçues pour émettre un registre d'attribution des facteurs décision par décision. Elles stockent le résultat, pas le raisonnement. Ainsi, une véritable explicabilité sur une pile Medicare Advantage n'est pas une question de choisir un meilleur modèle sur une étagère. C'est du middleware : une couche qui capture les entrées du modèle, les pondérations et le parcours de contournement clinique, et les écrit dans un journal conçu pour survivre à la communication. C'est un travail d'intégration ingrat, et c'est l'essentiel de la tâche.

L'exigence la plus difficile, c'est que l'architecture de conformité doit correspondre aux réglementations qui arrivent en même temps — ce qui m'amène à un piège dans lequel j'ai vu un plan sophistiqué tomber tout droit.

L'indicateur qui a l'air propre et ne l'est pas

CMS-0057-F, la règle finale sur l'autorisation préalable, a commencé à mordre en janvier 2026 — délai de traitement de 72 heures pour les demandes accélérées, sept jours pour les demandes standard, aucune réouverture des admissions en hospitalisation approuvées sauf en cas de fraude. Puis, le 31 mars 2026, la première échéance de déclaration publique est tombée : les plans devaient déclarer huit indicateurs d'autorisation préalable au niveau du contrat, y compris les taux de refus, les délais de traitement et les taux d'annulation en appel.

Le détail qui compte est le genre de chose qu'on ne remarque que si l'on a lu les Federal Register corrections, et pas seulement le gros titre. En juin 2025, CMS a suspendu les ventilations au niveau du plan et les exigences d'expertise en équité en santé sur les comités de gestion de l'utilisation. Ce qui reste public, ce sont des indicateurs agrégés, au niveau du contrat. Ainsi, un plan peut publier un taux d'annulation en appel parfaitement respectable au niveau du contrat et paraître irréprochable — tandis que ses journaux de décision individuels, ceux qu'une ordonnance de communication de type Lokken atteint directement, racontent une tout autre histoire.

Les indicateurs publics sont la partie que vous choisissez de montrer. Les journaux de décision sont la partie qu'un tribunal saisit. La gouvernance doit l'emporter sur la seconde, pas sur la première.

Je me suis assis en face de dirigeants qui pointaient leur dépôt du 31 mars comme preuve qu'ils étaient couverts. Le dépôt est nécessaire. Ce n'est pas une défense. Le barreau des plaignants ne lit pas votre tableau de bord agrégé ; il assigne à comparaître le dossier derrière le refus d'un membre.

Puis vient le 1er janvier 2027, date à laquelle les API d'autorisation préalable HL7 FHIR — CRD, DTR et PAS — deviennent obligatoires, créant une piste de transaction électronique complète pour chaque décision d'autorisation préalable. Cette piste est soit votre meilleure preuve, soit votre pire, selon exclusivement que le raisonnement ait été capturé au moment où la décision a été prise. Vous ne pouvez pas le combler après coup. J'ai en ce moment même un ticket d'intégration ouvert contre une instance QNXT qui est, en substance, un pari sur lequel de ces deux avenirs un plan finira par connaître.

Le patchwork pour lequel aucune plateforme unique n'a été conçue

Et cela doit survivre à une carte réglementaire qu'aucun produit tout fait ne couvre. La première fois que j'ai étalé les obligations d'un client multi-États sur une seule feuille de calcul, les colonnes ont cessé de s'accorder entre elles — et c'est voulu. Les exigences sont délibérément incohérentes.

Le Texas Responsible AI Governance Act est entré en vigueur en janvier 2026 avec un large pouvoir d'injonction d'enquête civile — et le Texas avait déjà abattu ses cartes en réglant la première enquête sur l'IA générative en santé, contre Pieces Technologies, dès septembre 2024, au sujet d'allégations de précision gonflées. La Pennsylvanie a pris une direction différente, avec une législation exigeant un examen par un prestataire humain avant tout refus dicté par l'IA, une divulgation obligatoire du seul fait qu'une IA est utilisée, et des déclarations de conformité annuelles. Une organisation Medicare Advantage multi-États fait désormais face à un patchwork où chaque État veut des contrôles de transparence, d'audit et de divulgation différents. Et pour tout plan ayant des opérations mondiales, l'AI Act de l'UE classe l'IA en santé comme à haut risque au titre de l'Annexe III, avec une mise en conformité complète due en août 2027 et des pénalités atteignant 6 % du chiffre d'affaires annuel mondial.

C'est exactement la couture dans laquelle tombent les grands cabinets de conseil. Deloitte et Accenture déploieront une plateforme packagée — un Credo AI ou un IBM Watsonx — et l'appelleront gouvernance. Mais une plateforme packagée ne connaît pas votre configuration Facets spécifique, et elle ne réconcilie pas les injonctions d'enquête du Texas avec le mandat d'examen avant refus de la Pennsylvanie et l'exigence de dossier de gestion des risques de l'UE. Les éditeurs de systèmes de gestion des demandes sont encore plus mal positionnés : les mêmes entreprises qui maintiennent Facets et QNXT vendent aussi les modules d'IA qui s'y greffent, elles ne sont donc pas vraiment incitées à faire remonter les failles de gouvernance de leurs propres plateformes. Personne dans ce paysage ne construisait la seule chose dont l'acheteur avait besoin — des contrôles techniques cartographiés, décision par décision, sur chacune des réglementations qui s'appliquent à lui en même temps.

Pourquoi un plan ne peut-il pas simplement acheter un logiciel d'explicabilité ?

On me pose une question légitime : si l'explicabilité et la surveillance des biais existent déjà, pourquoi un plan ne peut-il pas simplement acheter Fiddler ou mettre en place de l'IA causale et en avoir fini ?

Deux raisons. Les fournisseurs de surveillance sont réellement bons dans ce qu'ils font — mais tout leur postulat est que le modèle en production est la chose qui mérite d'être gouvernée. Quand c'est l'architecture décisionnelle du modèle qui est la faille, comme c'était le cas avec nH Predict, le surveiller plus attentivement ne fait que vous donner un enregistrement en plus haute résolution du préjudice. L'IA causale — causaLens est le nom le plus crédible ici — est la réponse académiquement juste, modélisant la cause plutôt que la corrélation, mais elle est commercialement immature et vise surtout les services financiers ; les modèles causaux spécifiques à la santé pour les décisions de couverture en sont encore largement au stade de la recherche. Et les fournisseurs d'automatisation de l'autorisation préalable comme Cohere Health optimisent entièrement la mauvaise variable. Cohere réduira votre coût administratif d'autorisation préalable de 47 %. C'est un chiffre réel et un bénéfice réel. Mais la rapidité n'est pas la défendabilité. Un refus plus rapide que vous ne pouvez toujours pas reconstituer devant un tribunal est un chemin plus rapide vers la responsabilité exacte que Lokken a définie.

L'autre raison est l'échelle, et c'est la partie dont je ne peux pas dissuader un plan. Gartner s'attend à ce que 80 % des demandes ambulatoires soient traitées par une adjudication en temps réel assistée par l'IA d'ici 2028. Pourtant, seulement 12 % des hôpitaux américains disposent aujourd'hui d'un cadre formel de gouvernance de l'IA, selon le décompte de Censinet. Le volume de décisions de couverture automatisées est sur le point de se multiplier bien plus vite que personne ne construit l'infrastructure pour les défendre. Et CMS n'attend pas poliment — ses audits RADV de l'année de paiement 2020 ont débuté en février 2026 en utilisant la détection d'anomalies par l'IA pour signaler les diagnostics non étayés. Le régulateur audite votre IA avec de l'IA tout en exigeant que vous la gouverniez vous-même.

Les plans qui bougent en premier transforment cela en avantage

Je veux terminer sur ce que je crois vraiment, non sur un avertissement.

Chaque plan à qui je parle traite la gouvernance comme un coût — une taxe sur le déploiement de l'IA, un frein à l'automatisation agentique que tout le monde veut. Je comprends ce cadrage. L'économie administrative est brutale des deux côtés : les prestataires dépensent 19,7 milliards de dollars par an à contester des refus, et les plans supportent leur propre coût sur chaque demande contestée. La tentation est d'automatiser plus fort et de gouverner aussi peu que la règle l'exige.

Mais ce calcul tourne à l'envers. Les refus qui sont annulés en appel n'ont jamais été des économies — c'était de la responsabilité que le plan a comptabilisée comme du revenu et qu'il remboursera avec intérêts devant le tribunal. Un plan capable de produire, pour tout refus, un registre net des facteurs cliniques qui ont été pondérés, signé par un clinicien qui avait véritablement la liberté d'être en désaccord, cartographié sur chaque réglementation applicable, ne se contente pas d'éviter le procès. Il peut refuser plus vite et avec plus d'assurance, parce que chaque décision est bâtie pour survivre à l'examen qui arrive désormais de manière routinière. Nous avons construit l'architecture de gouvernance de l'IA en Medicare Advantage pour exactement ce plan.

La famille de la patiente atteinte de méthémoglobinémie n'a pas perdu parce qu'un algorithme a commis une erreur. Elle a perdu, temporairement, parce que le système ne pouvait pas s'expliquer et qu'aucun humain dans la boucle n'était libre de le contredire. Construisez le système pour qu'il puisse s'expliquer, et libérez l'humain pour qu'il puisse le contredire, et vous n'espérez plus que l'ordonnance de communication ne vienne jamais. Vous êtes prêt pour elle.