L'impératif clinique d'une IA ancrée : au-delà du wrapper LLM dans les communications de santé

Le secteur de la santé se trouve à un point de bascule précaire où le besoin urgent d'atténuer l'épuisement professionnel des cliniciens est entré en collision avec le déploiement rapide, souvent non validé, de l'intelligence artificielle générative. La charge administrative pesant sur les médecins de soins primaires (PCPs) a atteint un seuil critique, certains cliniciens consacrant en moyenne 10 heures par mois uniquement aux messages du portail patient—un travail historiquement non facturable et un moteur majeur de l'épuisement professionnel.¹ En réponse, l'intégration des grands modèles de langage (LLM) pour automatiser les communications patients a été saluée comme un gain d'efficacité révolutionnaire. Cependant, une étude de simulation transversale de référence publiée dans The Lancet Digital Health en avril 2024—menée par des chercheurs de la Harvard Medical School, de la Yale School of Medicine et de l'University of Wisconsin—a mis au jour des vulnérabilités systémiques de cette approche.¹ L'étude a constaté que, si l'IA générative réduit significativement la charge cognitive perçue, elle introduit de graves risques pour la sécurité des patients que les garde-fous existants de type « humain dans la boucle » échouent fréquemment à détecter.³

Ce livre blanc, préparé par Veriprajna, soutient que la dépendance actuelle du secteur aux « wrappers LLM »—des applications qui se contentent essentiellement de transmettre les données utilisateur à un modèle polyvalent avec un ancrage clinique minimal—est insuffisante pour l'environnement à forts enjeux des soins cliniques. Alors que le California Assembly Bill 3030 (AB 3030) s'apprête à imposer la divulgation de l'IA pour les communications patients à compter de janvier 2025, l'ère de l'automatisation expérimentale doit céder la place à une ingénierie de l'IA profonde, fondée sur les preuves.⁶ Une véritable sécurité clinique exige un virage architectural vers la génération augmentée par récupération (RAG), les graphes de connaissances médicales et un red teaming adversaire rigoureux.

Les preuves médico-légales : analyse des conclusions du Lancet d'avril 2024

L'étude du Lancet constitue l'une des évaluations les plus rigoureuses à ce jour de l'IA générative dans un environnement clinique simulé. Les chercheurs ont évalué la performance de GPT-4 dans la rédaction de réponses à 156 messages de portail patient au sein d'une plateforme de dossier patient informatisé (DPI) simulée.¹ Les résultats offrent un double récit : celui d'un immense potentiel de productivité, et celui d'un risque catastrophique.

Décomposition statistique des préjudices de l'IA et de la supervision médicale

Les conclusions quantitatives de l'étude démontrent que les LLM, lorsqu'ils sont utilisés sans ancrage clinique profond, sont capables de générer un contenu hautement persuasif mais médicalement dangereux. Sur les 156 brouillons générés par l'IA, 7,1 % ont été classés comme présentant un risque de préjudice grave pour le patient.¹ Plus alarmant encore, 0,6 % des réponses—spécifiquement une instance dans la simulation—présentaient un risque direct de décès.¹ Ces sorties dangereuses résultaient typiquement de l'échec du modèle à reconnaître l'urgence clinique ou de sa tendance à fournir des conseils médicaux obsolètes et incorrects.³

Métrique de performance et de risque de l'IA	Valeur statistique	Source
Risque de préjudice grave (brouillons IA non édités)	7,1 %	4
Risque direct de décès (brouillons IA non édités)	0,6 %	4
Accord des médecins : l'IA a réduit la charge cognitive	80 %	3
Confiance des médecins dans la performance de l'outil d'IA	90 %	3
Moyenne des brouillons erronés manqués par les médecins	66,6 %	3
Brouillons erronés soumis entièrement non édités	35 % – 45 %	3
Probabilité qu'un brouillon erroné soit manqué (valeur p)	< 0,001	3

La signification clinique de ces chiffres est amplifiée lorsqu'elle est mise en regard de la performance des médecins réviseurs. L'étude a mobilisé 20 PCPs en exercice pour examiner les réponses générées par l'IA. Malgré leur expertise, ces cliniciens ont manqué en moyenne 2,67 sur 4 brouillons intentionnellement erronés.³ Un seul participant sur vingt a été capable d'identifier et de traiter de manière suffisante les quatre messages erronés.³ Cet écart met en lumière une vulnérabilité psychologique fondamentale du modèle « médecin dans la boucle » : le biais d'automatisation.

Le mécanisme de l'échec : biais d'automatisation et hallucination

Le biais d'automatisation survient lorsque les opérateurs humains s'appuient excessivement sur les suggestions automatisées, échouant souvent à exercer le même niveau d'examen critique qu'ils appliqueraient à leur propre travail ou à celui d'un collègue humain.⁵ Dans la simulation du Lancet, la haute qualité linguistique et le ton empathique des brouillons GPT-4 ont créé un faux sentiment de sécurité.¹ Les médecins ont rapporté un niveau de confiance de 90 % dans la performance de l'outil, alors même qu'ils manquaient des erreurs critiques.³

Les erreurs elles-mêmes n'étaient pas de simples fautes de frappe, mais des échecs substantiels du raisonnement clinique. Ces « hallucinations » comprenaient la fabrication d'informations médicales, l'utilisation de protocoles obsolètes et, plus critique encore, un échec à évaluer l'« acuité » de la situation du patient.³ Par exemple, l'instance classée comme un « risque de décès » s'est produite parce que l'IA n'a pas instruit le patient à chercher immédiatement des soins d'urgence pour un symptôme mettant en jeu le pronostic vital, fournissant plutôt une réponse standard, non urgente.¹

Évolution réglementaire : California AB 3030 et le mandat de transparence

À mesure que les risques techniques de l'IA générative deviennent quantifiables, les instances législatives commencent à adopter des cadres pour protéger les patients. L'AB 3030 de Californie, promulguée en septembre 2024, marque un virage significatif vers une transparence obligatoire de l'IA en santé.⁷

Exigences de conformité pour 2025

À compter du 1er janvier 2025, l'AB 3030 exige que tous les établissements de santé, cliniques et cabinets médicaux notifient les patients chaque fois que l'IA générative est utilisée pour communiquer des « informations cliniques du patient ».⁶ Cela inclut toute information relative à l'état de santé d'un patient, tout en exemptant les tâches administratives telles que la prise de rendez-vous ou la facturation.⁶

Support de communication	Norme de notification au titre de l'AB 3030	Source
Écrit (lettres, e-mails)	Avertissement affiché de manière proéminente au début de chaque communication	6
En ligne (chat, télésanté)	Avertissement affiché de manière proéminente tout au long de l'interaction	6
Audio (messageries vocales, appels)	Avertissement verbal fourni à la fois au début et à la fin	6
Communications vidéo	Avertissement affiché de manière proéminente tout au long de l'interaction	6

Au-delà de la simple divulgation, la loi impose que les patients reçoivent des instructions claires sur la manière de contacter un professionnel de santé humain ou le personnel approprié.⁷ Le non-respect de ces dispositions expose les établissements de santé à des amendes et à des mesures relatives à leur licence, tandis que les médecins individuels peuvent faire face à des mesures disciplinaires contre leur licence médicale.⁹

L'exemption « humain dans la boucle » et ses implications

Une clause critique de l'AB 3030 stipule que les exigences d'avertissement et d'instruction ne s'appliquent pas si la communication générée par l'IA est « lue et examinée » par un professionnel de santé humain agréé ou certifié.⁶ En apparence, cela offre aux systèmes de santé une voie pour continuer à utiliser des outils de rédaction par IA sans divulguer leur usage aux patients.

Cependant, l'étude du Lancet apporte un contrepoint dévastateur à cette exemption : si les cliniciens manquent 66 % des erreurs en raison du biais d'automatisation, le standard « lu et examiné » peut offrir un faux sentiment de conformité tout en maintenant un niveau élevé de risque clinique.¹ Veriprajna affirme que le refuge juridique et éthique (« safe harbor ») fourni par la revue humaine n'est valide que si cette revue est soutenue par une technologie qui décourage activement l'acceptation passive et fournit au réviseur le contexte nécessaire pour identifier les hallucinations.

La limitation du modèle « wrapper LLM »

L'approche dominante dans les startups actuelles d'IA en santé est le déploiement de « wrappers »—de minces couches logicielles qui facilitent les interactions entre un système DPI et une API LLM commerciale (comme GPT-4 d'OpenAI ou Gemini de Google). Bien que ces wrappers puissent être développés rapidement, ils héritent de plusieurs défauts fondamentaux qui les rendent inadaptés à l'aide à la décision clinique.

L'écart de raisonnement auto-régressif

Les LLM standard sont auto-régressifs ; ils prédisent le prochain jeton (mot ou sous-mot) sur la base de la probabilité statistique plutôt que d'une compréhension structurée de la science médicale.⁸ Cette « prédiction au niveau du jeton » manque du « raisonnement au niveau du concept » requis pour la médecine.¹³ Dans des domaines spécialisés comme la radiologie ou l'oncologie, les LLM peinent souvent à capturer les dépendances à longue portée et les relations sémantiques complexes essentielles à une interprétation diagnostique nuancée.¹³

Coupures de connaissances et cécité contextuelle

Les versions publiques des LLM sont entraînées sur des jeux de données statiques avec des coupures de connaissances fixes, ce qui les rend incapables de référencer les dernières lignes directrices cliniques ou les résultats de laboratoire les plus récents d'un patient sans intégration de données externes.¹⁴ En outre, un système basé sur un wrapper manque souvent de la capacité d'intégrer des données multimodales—telles que des radiographies, des formes d'onde (ECG) ou des profils génomiques—aboutissant à des réponses « généralistes » qui manquent le détail critique requis pour des situations médicales complexes.¹⁵

Sécurité et conformité HIPAA

De nombreuses interfaces LLM polyvalentes ne sont pas intrinsèquement conformes à HIPAA, et leur utilisation avec des données patients sans un Business Associate Agreement (BAA) spécifique et des protocoles rigoureux de masquage des données crée de graves risques pour la vie privée.¹⁵ Les développeurs de wrappers négligent souvent la profondeur des vulnérabilités de « data poisoning » ou de « prompt injection », où des entrées adverses pourraient potentiellement tromper le modèle pour qu'il révèle un contexte interne sensible ou des données patients.¹⁶

Solutions architecturales pour une IA profonde : le cadre Veriprajna

Pour dépasser le modèle wrapper, les solutions d'IA doivent être construites dès le départ avec la sécurité clinique comme contrainte architecturale primaire. Cela implique de passer de modèles purement probabilistes à des systèmes hybrides ancrés.

Génération augmentée par récupération (RAG) en santé

La génération augmentée par récupération (RAG) atténue le problème des hallucinations en fournissant au modèle une « source de vérité » à référencer avant de générer une réponse.¹⁴ Dans un système basé sur le RAG, l'IA récupère d'abord les documents pertinents d'un corpus vérifié—tels que les notes cliniques du patient, des revues médicales à comité de lecture et les lignes directrices institutionnelles—puis conditionne sa réponse sur cette information récupérée.²⁰

Composante RAG	Fonction dans la sécurité clinique	Avantage par rapport à un LLM autonome
Retriever sparse (BM25)	Appariement exact par mots-clés pour des médicaments ou codes spécifiques	Haute précision pour les données objectives
Retriever dense (neuronal)	Appariement sémantique pour des symptômes complexes et des synonymes	Capture l'intention médicale au-delà du texte
Prompting RAG	Contraint le LLM à « n'utiliser que le contexte fourni »	Réduction significative des hallucinations
Citation vérifiée	Relie chaque affirmation de l'IA à un document source	Renforce la revue clinique et la confiance

Graphes de connaissances médicales et intégration Neo4j

L'approche la plus sophistiquée de l'ancrage clinique implique l'utilisation de graphes de connaissances médicales (KG). Ces graphes représentent la connaissance clinique non comme des chaînes de texte, mais comme des réseaux de concepts interreliés.²¹ Par exemple, un KG peut modéliser explicitement la relation entre un médicament spécifique, son mécanisme d'action, ses contre-indications et sa posologie typique pour un patient présentant une insuffisance rénale.

Des systèmes comme MediGRAF (Medical Graph Retrieval Augmented Framework) utilisent Neo4j pour combiner des capacités Text2Cypher—traduisant le langage naturel en requêtes de graphe précises—avec des embeddings vectoriels pour la récupération narrative.²² Cela permet à l'IA de parcourir le « parcours patient complet », identifiant les résultats factuels de requête avec un rappel de 100 % tout en maintenant des normes de sécurité élevées pour l'inférence complexe.²²

Modélisation au niveau du concept (LCM) vs. prédiction au niveau du jeton

L'IA clinique prête pour l'avenir doit évoluer vers les Large Concept Models (LCM). Contrairement aux LLM qui traitent des jetons, les LCM opèrent au niveau des idées et du raisonnement hiérarchique.¹³

Caractéristique	Grands modèles de langage (LLM)	Large Concept Models (LCM)
Niveau d'abstraction	Prédiction au niveau du jeton (mot par mot)	Prédiction au niveau du concept (idée par idée)
Capacité de raisonnement	Prédictions principalement locales ; manque de logique	Raisonnement/planification hiérarchique explicite
Représentation	Jetons spécifiques à la langue	Embeddings de phrases agnostiques à la langue
Utilité clinique	Risque élevé d'hallucinations linguistiques	Optimisé pour le raisonnement structuré

Validation et tests de sécurité : la nouvelle norme

Les tests logiciels traditionnels sont insuffisants pour l'IA générative. Les solutions de niveau entreprise exigent un cycle continu de tests adverses et d'évaluation par benchmarks.

Med-HALT et benchmarks cliniques

Le Med-HALT (Medical Domain Hallucination Test) est un benchmark multinational conçu spécifiquement pour identifier les hallucinations dans les LLM de santé.²³ Il utilise des tests d'hallucination de raisonnement (RHT) tels que le False Confidence Test—où le modèle est mis au défi d'évaluer une réponse suggérée au hasard—et le Fake Questions Test, qui détermine si le modèle peut identifier des requêtes médicales absurdes ou fabriquées.²³

En outre, la recherche indique que la sous-performance des modèles « spécialisés médicaux » comme MedGemma (qui n'a atteint que 28 %–61 % de précision dans certains tests) par rapport à des modèles de raisonnement plus larges comme Gemini-2.⁵ Pro souligne que la sécurité émerge de « capacités de raisonnement sophistiquées développées pendant le préentraînement à grande échelle », et non seulement d'un fine-tuning spécifique au domaine.²⁴

Red teaming automatisé pour la sécurité et la sûreté

Le red teaming consiste à simuler un comportement adverse pour identifier les modes de défaillance avant le déploiement.¹⁹ Pour la santé, cela inclut :

1.​ Sondage adversaire direct : tenter de contourner les instructions du système pour générer des conseils médicaux dangereux.¹⁹

2.​ Extraction de données sensibles : sonder le modèle pour voir s'il fuitera des PHI par questionnement indirect ou prompt injection.²⁶

3.​ Motifs de jailbreak : utiliser le jeu de rôle ou le recadrage pour contourner les restrictions de contenu et les garde-fous cliniques.¹⁹

Responsabilité et l'évolution du standard of care

L'intégration de l'IA dans la pratique clinique n'est pas seulement un défi technique, mais aussi juridique. Dans les litiges pour faute médicale, la question centrale est de savoir si un médecin a respecté le « standard of care »—les soins qu'un professionnel de santé raisonnable délivrerait dans des circonstances similaires.²⁷

Les ABCD de la négligence liée à l'IA

À mesure que l'IA devient le « nouveau collègue dans le cabinet de consultation », la définition juridique de la responsabilité professionnelle évolue.²⁹

●​ Duty (devoir) : le prestataire a le devoir d'utiliser les outils d'IA de manière appropriée. Ne pas utiliser un outil d'IA validé qui aurait pu prévenir une erreur pourra bientôt être considéré comme un manquement au devoir.²⁹

●​ Breach (manquement) : si un système d'IA fournit une recommandation qui conduit à un préjudice en raison de l'opacité du modèle ou de données incorrectes, le médecin peut être jugé avoir manqué à son devoir s'il a accepté la recommandation aveuglément.³⁰

●​ Causation (lien de causalité) : établir un lien causal clair entre la sortie d'une IA et le préjudice patient est difficile en raison de la nature « boîte noire » de certains modèles, exigeant une enquête approfondie sur le processus de décision.³⁰

●​ Damages (dommages) : le patient doit subir un préjudice réel. Le biais algorithmique qui conduit à un diagnostic retardé ou à un triage inégal représente une source significative de préjudice que les tribunaux reconnaissent désormais.³⁰

Assurance et dérive de modèle

Le phénomène de « model drift » ou de « model collapse »—où la performance d'une IA décline au fil du temps à mesure qu'elle est réentraînée sur ses propres données ou de nouvelles données—pose un défi unique pour l'assurance responsabilité médicale.³³ De nouveaux produits d'assurance commencent à couvrir les réclamations juridiques causées par les hallucinations de l'IA et les chatbots défaillants, mais ceux-ci ont typiquement des plafonds bas et exigent une preuve documentée de supervision humaine.³³ Pour les systèmes de santé, la capacité à produire des journaux d'audit montrant la version du modèle utilisée et les étapes de raisonnement spécifiques qu'il a suivies est essentielle à la défense dans les affaires de faute médicale.²⁷

Considérations éthiques : collaboration humain-IA

Une IA de santé éthique doit prioriser la capacité d'agir du patient et l'autonomie du clinicien. L'objectif n'est pas d'automatiser l'interaction humaine, mais de l'enrichir.

Transparence vs. satisfaction du patient

La recherche montre que, si les patients apprécient l'empathie et le détail des messages d'IA, leurs notes de satisfaction diminuent légèrement lorsqu'ils apprennent que l'IA était impliquée.¹ Cela met en lumière le « biais d'automatisation inverse » chez les patients : ils valorisent la relation clinique et la conviction que leur clinicien est personnellement engagé dans leurs soins.¹ Par conséquent, l'IA doit être utilisée pour traiter les tâches routinières et structurées, libérant le clinicien pour se concentrer sur l'interaction nuancée, d'humain à humain, que la technologie ne peut pas reproduire.

Atténuation des biais et équité

Les algorithmes reflètent les données sur lesquelles ils sont entraînés, qui contiennent souvent des biais systémiques contre les groupes sous-représentés.¹⁵ Veriprajna plaide pour des systèmes « EquityGuard »—des processus de débiaisage en deux étapes qui appliquent des contraintes d'équité a posteriori aux sorties de l'IA avant qu'elles n'atteignent le clinicien.¹⁶ Cela garantit que les recommandations d'appariement aux essais ou les scores de triage ne sont pas faussés par des étiquettes démographiques.

Conclusion : la feuille de route stratégique Veriprajna

L'étude du Lancet d'avril 2024 a fourni les preuves, et l'AB 3030 fournit l'impulsion juridique : la trajectoire actuelle de l'IA en santé est intenable sans une ingénierie profonde et spécialisée.³ Pour les systèmes de santé et les fournisseurs de logiciels, la voie à suivre exige une transition des programmes pilotes expérimentaux vers des écosystèmes d'IA de niveau entreprise.

1.​ Éliminer la dépendance aux wrappers : s'éloigner des simples intégrations d'API. Investir dans des architectures RAG hybrides qui ancrent les LLM dans un graphe de connaissances médicales persistant et validé.²²

2.​ Mettre en œuvre un red teaming robuste : la sécurité ne peut pas être une réflexion après coup. Des agents de red teaming automatisés doivent sonder le système quotidiennement pour détecter hallucinations, fuites de données et inexactitudes cliniques.¹⁹

3.​ Se préparer aux mandats de divulgation : concevoir des systèmes qui facilitent une revue humaine significative, permettant aux cliniciens de documenter leur validation des brouillons d'IA et de se conformer à des lois comme l'AB 3030 sans perdre d'efficacité.⁷

4.​ Prioriser l'ancrage clinique plutôt que le flair génératif : en médecine, la précision est la seule métrique qui compte. Les systèmes doivent être optimisés pour le raisonnement au niveau du concept plutôt que pour la probabilité au niveau du jeton.¹³

En adoptant ces principes, le secteur de la santé peut mobiliser la puissance transformatrice de l'intelligence artificielle pour résoudre la crise de l'épuisement professionnel des médecins tout en respectant le principe le plus sacré de la médecine : Primum non nocere—D'abord, ne pas nuire. Veriprajna se tient prêt à mener cette transition, allant au-delà du wrapper pour fournir les solutions d'IA profonde qu'exige l'avenir de la santé.

Ouvrages cités

1. Patients Not Told AI Drafted Messages From Their Doctors - MHA Online, consulté le 6 février 2026, https://www.mhaonline.com/blog/ai-messages-from-doctors

2. When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/394687833_When_AI_Writes_Back_Ethical_Considerations_by_Physicians_on_AI-Drafted_Patient_Message_Replies

3. Opportunities and risks of artificial intelligence in patient portal messaging in primary care, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12022076/

4. Mass General Brigham research identifies pitfalls and opportunities for generative artificial intelligence in patient messaging systems | EurekAlert!, consulté le 6 février 2026, https://www.eurekalert.org/news-releases/1041892

5. Critics bristle over creating MyChart messages with AI: 4 things to know | Becker's, consulté le 6 février 2026, https://www.beckershospitalreview.com/patient-experience/critics-bristle-over-creating-mychart-messages-with-ai-4-things-to-know/

6. GenAI Notification Requirements | Medical Board of California, consulté le 6 février 2026, https://www.mbc.ca.gov/Resources/Medical-Resources/GenAI-Notification.aspx

7. California Requires Disclaimers for Health Care Providers' AI-Generated Patient Communications | ArentFox Schiff, consulté le 6 février 2026, https://www.afslaw.com/perspectives/alerts/california-requires-disclaimers-health-care-providers-ai-generated-patient

8. The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations - Interactive Journal of Medical Research, consulté le 6 février 2026, https://www.i-jmr.org/2025/1/e59823

9. New Law Regulates Use of Generative Artificial Intelligence in Healthcare - Fenton & Keller, consulté le 6 février 2026, https://fentonkeller.com/fk-articles/new-law-regulates-use-of-generative-artificial-intelligence-in-healthcare/

10. Bill Text: CA AB3030 | 2023-2024 | Regular Session | Amended - LegiScan, consulté le 6 février 2026, https://legiscan.com/CA/text/AB3030/id/3012689

11. U.S. State AI Law Tracker – All States, consulté le 6 février 2026, https://ai-law-center.orrick.com/us-ai-law-tracker-see-all-states/

12. California Turns to the Use of AI in Healthcare | BCLP - Bryan Cave Leighton Paisner, consulté le 6 février 2026, https://www.bclplaw.com/en-US/events-insights-news/california-turns-to-the-use-of-ai-in-healthcare.html

13. Large language models and large concept models in radiology: Present challenges, future directions, and critical perspectives - PMC - PubMed Central, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12679190/

14. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, consulté le 6 février 2026, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

15. The dangers of using non-medical LLMs in healthcare communication - Paubox, consulté le 6 février 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

16. Challenges of Implementing LLMs in Clinical Practice: Perspectives - PMC, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12429116/

17. Risk Management: Artificial Intelligence in Clinical Practice - PMC - NIH, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11709444/

18. Large Language Models Are Highly Vulnerable to Adversarial Hallucination Attacks in Clinical Decision Support: A Multi-Model Assurance Analysis | medRxiv, consulté le 6 février 2026, https://www.medrxiv.org/content/10.1101/2025.03.18.25324184v1.full-text

19. How AI red teaming fixes vulnerabilities in your AI systems | Invisible Blog, consulté le 6 février 2026, https://invisibletech.ai/blog/ai-red-teaming-2026

20. Retrieval-Augmented Generation (RAG) in Healthcare: A Comprehensive Review - MDPI, consulté le 6 février 2026, https://www.mdpi.com/2673-2688/6/9/226

21. Use case: Building a medical intelligence application with augmented patient data, consulté le 6 février 2026, https://docs.aws.amazon.com/prescriptive-guidance/latest/rag-healthcare-use-cases/case-1.html

22. Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA - arXiv, consulté le 6 février 2026, https://arxiv.org/html/2602.00009v1

23. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, consulté le 6 février 2026, https://github.com/medhalt/medhalt

24. mitmedialab/medical_hallucination: Medical Hallucination in Foundation Models and Their Impact on Healthcare (2025) - GitHub, consulté le 6 février 2026, https://github.com/mitmedialab/medical_hallucination

25. What Is AI Red Teaming? Why You Need It and How to Implement - Palo Alto Networks, consulté le 6 février 2026, https://www.paloaltonetworks.com/cyberpedia/what-is-ai-red-teaming

26. AI Red Teaming Agent (preview) - Microsoft Foundry, consulté le 6 février 2026, https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/ai-red-teaming-agent?view=foundry-classic

27. AI in Medical Malpractice: Liability, Risk, & What Physicians Need to Know - Indigo, consulté le 6 février 2026, https://www.getindigo.com/blog/ai-in-medical-malpractice-liability-risk-guide

28. Healthcare AI 2025 - USA – California | Global Practice Guides | Chambers and Partners, consulté le 6 février 2026, https://practiceguides.chambers.com/practice-guides/healthcare-ai-2025/usa-california/trends-and-developments

29. A New Duty of Care: How AI Is Rewriting Medical Liability | Gyrus Group, consulté le 6 février 2026, https://gyrusgroup.com/news/a-new-duty-of-care-how-ai-is-rewriting-medical-liability/

30. Artificial Intelligence: The Legalities of AI in Health Care and the Day-to-Day Use of AI in the Clinical Setting - Oncology Issues, consulté le 6 février 2026, https://journals.accc-cancer.org/view/artificial-intelligence-the-legalities-of-ai-in-health-care-and-the-day-to-day-use-of-ai-in-the-clinical-setting

31. Understanding Liability Risk from Using Healthcare AI Tools - Illinois Health and Hospital Association, consulté le 6 février 2026, https://www.team-iha.org/getmedia/3d7473d7-192e-40b8-ad2e-b40b27be43ae/K_Understanding-Liability-K-2025.pdf

32. Appendix E — The Clinical AI Morgue - The Physician AI Handbook, consulté le 6 février 2026, https://physicianaihandbook.com/appendices/failures.html

33. AI regulation in insurance: Risk-based pricing and fairness - Browne Jacobson LLP, consulté le 6 février 2026, https://www.brownejacobson.com/insights/the-word-may-2025/ai-hallucinations

34. Legal AI Hallucinations and Your Attorney Malpractice Insurance Coverage, consulté le 6 février 2026, https://www.l2insuranceagency.com/blog/legal-ai-hallucinations-and-your-attorney-malpractice-insurance-coverage/