Équité algorithmique et l'impératif de l'IA profonde : corriger les biais systémiques dans l'aide à la décision clinique

L'intégration de l'intelligence artificielle dans l'environnement clinique est passée d'une promesse théorique à une nécessité structurelle. Cependant, à mesure que les organisations de santé s'appuient de plus en plus sur des systèmes automatisés pour renforcer la précision diagnostique et l'efficacité du triage, une dissonance critique est apparue entre la performance algorithmique en environnement contrôlé et la réalité vécue des résultats patients. La récente vague de preuves empiriques—allant des inexactitudes matérielles de l'oxymétrie de pouls aux défaillances architecturales des modèles propriétaires de sepsis—révèle que de nombreuses mises en œuvre actuelles de l'IA ne sont pas de simples outils neutres, mais des acteurs actifs dans la perpétuation des inégalités historiques en santé. La crise de la santé maternelle des femmes noires, où les taux de mortalité restent trois fois plus élevés que ceux des populations blanches, constitue l'indicateur le plus saisissant de ces défaillances systémiques. Ce rapport, présenté par Veriprajna, soutient que la solution à ces disparités ne réside pas dans l'application superficielle de « wrappers » de grands modèles de langage (LLM), mais dans une réorientation fondamentale vers des solutions d'IA profonde qui privilégient l'intégrité physiologique, la parité démographique et une validation externe rigoureuse.

La crise de confiance : au-delà du piège des wrappers LLM

Le paysage technologique actuel est saturé d'applications « wrapper »—des couches logicielles qui offrent une mince interface utilisateur au-dessus d'API publiques généralisées telles que le GPT d’OpenAI, Gemini de Google ou Claude d’Anthropic. Si ces outils excellent dans la rédaction administrative et la synthèse de données de surface, ils sont fondamentalement inadaptés aux exigences multimodales à forts enjeux de l'aide à la décision clinique. Un LLM est un moteur statistique entraîné sur des probabilités linguistiques ; il ne possède pas de compréhension conceptuelle de la physiopathologie, et n'est pas intrinsèquement ancré dans les contraintes rigoureuses de la preuve clinique.¹ Dans le contexte de la santé maternelle ou de la prise en charge aiguë du sepsis, l'approche « wrapper » introduit des risques inacceptables, notamment des hallucinations, le renforcement de biais à l'échelle d'Internet, et un manque d'explicabilité qui fait de la nature « boîte noire » du modèle un passif plutôt qu'un atout.³

Veriprajna se positionne comme un fournisseur de solutions d'IA profonde, plaidant pour une méthodologie qui intègre des signaux physiologiques en temps réel, des jeux de données étiquetés par des experts et des fonctions de perte sensibles à l'équité. L'échec des modèles « prêts à l'emploi »—tels que l'Epic Sepsis Model—à se généraliser à des populations de patients diversifiées démontre que les métriques de précision moyennes sur une population masquent souvent des déficits létaux au sein des sous-groupes marginalisés.⁵ Une véritable intelligence clinique exige une architecture qui prenne en compte l'interdépendance des capteurs matériels, des déterminants socioéconomiques de la santé (SDOH) et des variations physiologiques entre cohortes démographiques.

Intégrité des données physiologiques : l'oxymètre de pouls et le fondement du biais

L'efficacité de tout système d'IA est inextricablement liée à la qualité des données qu'il ingère. Dans le triage et les systèmes d'alerte précoce, l'oxymétrie de pouls constitue une source d'entrée primaire pour déterminer la détresse respiratoire et le risque de sepsis. Cependant, le mécanisme physique de ces dispositifs contient un biais longuement documenté mais fréquemment ignoré : l'absorption différentielle de la lumière par la mélanine.

La physique de l'interférence optique

Les oxymètres de pouls fonctionnent en transmettant de la lumière rouge et infrarouge à travers les tissus et en mesurant le rapport d'absorption de l'hémoglobine oxygénée et désoxygénée. La mélanine, cependant, absorbe également la lumière sur ces longueurs d'onde. Lorsque ces dispositifs sont calibrés principalement sur des populations à peau claire, l'absorption supplémentaire chez les patients à peau plus foncée est souvent interprétée à tort par l'appareil comme une concentration plus élevée d'hémoglobine oxygénée.⁸ Cela conduit à une « hypoxémie occulte »—une condition dans laquelle l'appareil rapporte une saturation périphérique en oxygène ( ) dans la plage normale alors que la véritable saturation artérielle en oxygène ( ) est dangereusement basse.

Des résultats récents publiés dans le New England Journal of Medicine (NEJM) et le British Medical Journal (BMJ) soulignent l'ampleur de cette erreur de mesure et son impact ultérieur sur la logique de triage pilotée par l'IA. La recherche indique que les patients noirs sont près de trois fois plus susceptibles de connaître une hypoxémie occulte que les patients blancs, une disparité qui persiste depuis les années 1990 sans intervention réglementaire adéquate.⁸

Paramètre	Impact sur les peaux claires	Impact sur les peaux foncées	Source
Surestimation moyenne	Référence	0,6 à 1,5 points de pourcentage plus élevée	8
Taux de faux négatifs (SpO₂)	1,2 % - 26,9 %	7,6 % - 62,2 %	8
Incidence de l'hypoxémie occulte	Référence	Fréquence ~3x plus élevée	8
Échec de détection pédiatrique	0 % manqués	7 % manqués sur les peaux les plus foncées	11

L'effet en cascade sur le triage par IA

Lorsqu'un système de triage par IA utilise comme caractéristique centrale, il hérite de ce biais au niveau matériel.

Si un algorithme est conçu pour déclencher une alerte « haute priorité » pour une inférieure à 92 %, il échouera systématiquement à signaler les patients noirs dont l'oxygène artériel réel est à 88 % mais dont la lecture de l'oxymètre de pouls reste à 93 %. Cela entraîne un retard systémique dans l'administration d'oxygène supplémentaire, un risque accru de défaillance d'organes et une mortalité hospitalière plus élevée.⁹

Pour un fournisseur d’IA profonde comme Veriprajna, ces données révèlent que des données DPI « propres » sont une illusion. Un modèle sophistiqué doit être conçu pour appliquer des décalages de calibration spécifiques à la démographie ou pour utiliser des capteurs multimodaux (par exemple en combinant l’oxymétrie avec la variabilité de la fréquence cardiaque et la fréquence respiratoire) afin de trianguler l’état clinique réel d’un patient. L’étude Vanderbilt de 2024 (POSTer-Child) a souligné que même dans les populations pédiatriques, les oxymètres de pouls courants n’ont pas détecté un faible taux d’oxygène chez 7 % des patients aux peaux les plus foncées, tout en ne manquant aucun cas chez ceux aux peaux les plus claires.¹¹ Cela suggère que les lignes directrices actuelles de la FDA, qui jusqu'à récemment n'exigeaient des tests que sur dix sujets, sont fondamentalement inadéquates pour garantir la sécurité des systèmes d'IA construits sur ces capteurs.¹⁰

Échec prédictif en soins aigus : une analyse de l'Epic Sepsis Model

La transition du biais matériel au biais algorithmique est la plus évidente dans l'adoption généralisée de l'Epic Sepsis Model (ESM). Intégré aux dossiers patients informatisés (DPI) de centaines d'hôpitaux, l'ESM a été commercialisé comme un outil proactif pour identifier le sepsis avant sa reconnaissance clinique. Cependant, la réalité de son déploiement a été caractérisée par une mauvaise généralisation et des disparités raciales significatives de performance.

L'écart de généralisation

La validation interne par le développeur revendiquait une aire sous la courbe (AUC) de 0,76 à 0,83. Cependant, une validation externe indépendante menée à Michigan Medicine a révélé une chute vertigineuse de la performance, avec une AUC de seulement 0,63.⁵ Cette discordance illustre le « surapprentissage spécifique au site » courant dans les modèles propriétaires. Lorsqu'un modèle est calibré sur une population de patients particulière (par ex., trois systèmes de santé américains de 2013-2015), il échoue souvent face aux mélanges démographiques, pratiques cliniques et habitudes de documentation différents d'une nouvelle institution.⁵

Métrique de performance	Revendications du développeur	Validation externe (Michigan)	Source
Sensibilité (vrais positifs)	Élevée	33 % (manque 67 % des cas)	6
Valeur prédictive positive	N/A	12 % (taux de fausse alarme de 88 %)	7
Avantage de détection précoce	Commercialisé	6 % des cas (alerte rare avant le clinicien)	13
Charge d'alertes	Maîtrisée	Élevée (fatigue d'alerte significative)	7

Disparités raciales et le problème du biais d'étiquetage

L’échec de l’ESM n’est pas seulement une question de faible sensibilité ; c’est une question de protection inégale. Les patients noirs et hispaniques connaissent près du double de l’incidence du sepsis par rapport aux patients blancs et se présentent souvent à un âge plus jeune.¹⁴ Pourtant, des études ont noté que l'ESM présente une mauvaise « calibration » entre ces groupes, ne tenant souvent pas compte des trajectoires physiologiques spécifiques du sepsis dans les populations marginalisées.¹⁴

Un moteur principal de cet échec est le « biais d'étiquetage ». De nombreux modèles de sepsis sont entraînés sur des définitions cliniques ou des codes de facturation qui sont eux-mêmes le produit de jugements humains biaisés. Si les cliniciens sont historiquement plus lents à ordonner des hémocultures ou à reconnaître le sepsis chez les patients noirs, l'IA apprend à associer le « sepsis » aux signatures de données des patients blancs, devenant effectivement « aveugle » à la présentation de la maladie chez les patients noirs.¹⁴ Cela crée une boucle de rétroaction létale : l’IA rate le patient parce que les données historiques étaient biaisées, et le clinicien rate le patient parce qu’il s’appuie trop sur une IA qui n’a pas déclenché d’alerte.

La crise de la santé maternelle : négligence systémique et échec algorithmique

Aucun domaine de la médecine ne démontre peut-être plus clairement l'intersection du racisme structurel et de l'échec technologique que la santé maternelle. Les Centers for Disease Control and Prevention (CDC) rapportent que les femmes noires font face à un taux de mortalité liée à la grossesse de 50,3 pour 100 000 naissances vivantes—près de 3,5 fois plus élevé que les 14,5 enregistrés pour les femmes blanches.¹⁷ Cette disparité persiste même en contrôlant pour l'éducation et le revenu, suggérant que la cause profonde réside dans la qualité des soins et les biais structurels du système de santé.¹⁹

Les conclusions du California Maternal Data Center (MDC)

La Californie a historiquement été un leader de l'amélioration de la qualité en santé maternelle via le California Maternal Quality Care Collaborative (CMQCC). Cependant, même dans cet environnement riche en données, les systèmes d'alerte précoce (EWS) par IA ont montré des lacunes critiques. Le MDC a constaté que les systèmes d'alerte précoce automatisés ont manqué 40 % des cas de morbidité sévère chez les patientes noires.²⁰

La morbidité maternelle sévère (SMM) est une mesure des complications mettant en jeu le pronostic vital, telles que l'hémorragie, la prééclampsie et le sepsis, qui surviennent 100 fois plus fréquemment que le décès maternel.²¹ L'échec de l'IA à signaler ces cas chez les femmes noires est souvent lié à l'effet de « weathering »—la manifestation physiologique du stress chronique causé par le racisme systémique, qui peut entraîner des tensions artérielles de base plus élevées et des réponses cardiovasculaires altérées que l'IA peut interpréter comme « normales » pour cet individu.²⁰

Mesure de résultat	Noires non hispaniques	Blanches non hispaniques	Hispaniques	Source
Mortalité maternelle (pour 100k)	50,3	14,5	12,4	17
Taux de naissance prématurée	14,7 %	9,4 %	10,1 %	19
Soins prénatals tardifs ou absents	10,4 %	4,7 %	9,7 %	19
Maltraitance dans les soins de maternité	1 sur 3	1 sur 5 (moyenne)	N/A	23

Le « Failure to Rescue » et l'impératif économique

La disparité ne réside pas seulement dans l'incidence des complications, mais dans le « failure to rescue ». Les femmes noires sont 1,79 fois plus susceptibles de décéder une fois qu'une morbidité sévère est survenue, par rapport aux femmes blanches.²⁴ Cela indique que lorsqu'un système d'IA échoue à alerter, ou lorsque son alerte est ignorée en raison d'un biais implicite, la fenêtre d'intervention salvatrice se referme plus rapidement pour les patientes noires.

L’analyse de McKinsey sur la réduction de l’écart de santé maternelle des femmes noires souligne que traiter ces disparités n’est pas seulement une nécessité morale, mais aussi économique. Restaurer des années de vie en bonne santé pour les femmes noires pourrait ajouter 24,4 milliards $ au PIB américain et économiser 385 millions $ en coûts de santé évitables annuels.²⁵ Cela exige une transition de l'observation passive vers des stratégies d'intervention proactives, activées par l'IA, qui privilégient « Compter, Étudier, Soigner, Inclure et Investir ».²⁵

IA profonde vs wrappers LLM : une critique technique

L'essor de l'IA générative a entraîné une vague de « chatbots » cliniques et d'outils de synthèse. Cependant, pour un environnement à forts enjeux comme le triage maternel ou la détection du sepsis, ces « wrappers » sont fondamentalement inadéquats. Veriprajna plaide pour une distinction entre ces modèles de langage probabilistes et les architectures d'IA profonde conçues pour l'utilité clinique.

Les limites de la probabilité statistique

Les grands modèles de langage (LLM) fonctionnent sur des probabilités de mots, non sur une logique clinique. Dans un environnement médical, cela se manifeste ainsi :

1.​ Inexactitude clinique : des études ont montré que les LLM n’atteignaient que 16,7 % de précision dans les ajustements de dose pour dysfonction rénale lorsque les variables spécifiques au patient étaient complexes.²⁶

2.​ Absence d’ancrage en temps réel : la plupart des LLM publics sont entraînés sur des jeux de données statiques et n’ont pas accès aux bases de données cliniques en temps réel ni aux lignes directrices actualisées.¹

3.​ Opacité de la boîte noire : les LLM ne peuvent pas fournir une chaîne de raisonnement transparente qu’un clinicien puisse vérifier, ce qui est une exigence au titre du RGPD européen et des réglementations sanitaires américaines en évolution.²

4.​ Hallucination adverse : les systèmes peuvent être manipulés ou transcrire par erreur du contenu, conduisant à l’insertion de données cliniques fabriquées dans le dossier du patient.¹

Le paradigme d'IA profonde de Veriprajna

Une solution d'IA profonde, telle que définie par Veriprajna, doit être :

●​ Multimodale : intégrant des données de formes d’onde (ECG/oxymétrie), des laboratoires structurés et des notes infirmières non structurées, plutôt que de s’appuyer uniquement sur des entrées textuelles.¹³

●​ Validée par des experts : utilisant des étiquettes issues d’une revue d’experts adjudicative plutôt que des codes de facturation bruités.⁶

●​ Sensible à l’équité dès la conception : mettant en œuvre des contraintes mathématiques pendant la phase d’entraînement pour garantir la parité démographique.²⁸

Fondements mathématiques de l'équité algorithmique

Pour passer du théorique à l'échelle entreprise, nous devons aborder la structure mathématique du biais. L'optimisation traditionnelle vise à minimiser le risque empirique (erreur moyenne) sur l'ensemble du jeu de données. Cela favorise naturellement le groupe majoritaire. Veriprajna met en œuvre des fonctions de perte sensibles à l'équité pour corriger cela.

Fonctions de perte sensibles à l'équité

Une approche consiste à intégrer une « pénalité d'équité » dans la fonction de perte standard. Si est la perte d'entropie croisée standard, un modèle sensible à l'équité minimise :

où est une mesure de disparité entre groupes protégés (par ex., race ou genre) et est un paramètre de régularisation qui contrôle le compromis entre la précision globale et l'équité entre groupes.²⁸

Optimisation de la perte du pire groupe

Dans de nombreux scénarios médicaux, nous cherchons à minimiser le risque pour la population la plus vulnérable. L'approche Worst-Group Loss cherche à minimiser la perte maximale sur tous les sous-groupes démographiques :

où est l'ensemble de tous les sous-groupes (par ex., Noirs non hispaniques, Blancs, Hispaniques). La recherche en détection automatisée de la dépression a montré que, si cette approche peut légèrement abaisser la précision globale, elle améliore significativement les résultats pour les groupes sous-représentés, tels que les participants hispaniques, souvent mal classés par les modèles standards.³⁰

Equalized Odds et parité démographique

Les modèles d'IA profonde sont également évalués à l'aide de métriques au-delà de la simple précision.

●​ Parité démographique : garantit que la probabilité d’une prédiction positive (par ex., « Risque élevé ») est égale pour tous les groupes : .

●​ Equalized Odds : exige que le taux de vrais positifs (sensibilité) et le taux de faux positifs (1-spécificité) soient égaux entre les groupes :

.

Dans la détection du sepsis, atteindre l'Equalized Odds est critique. Si un modèle a une sensibilité de 80 % pour les patients blancs mais seulement de 40 % pour les patients noirs, il fournit effectivement un niveau de soins différent selon la race.¹²

Stratégies architecturales pour l'atténuation des biais cliniques

Le cadre technique de Veriprajna pour les solutions d’IA profonde implique une approche à quatre couches pour garantir que les modèles soient robustes, équitables et généralisables.

Couche 1 : alignement des représentations

Avant l'entraînement, le jeu de données doit être scruté pour une « stratification cachée ». Par exemple, si un modèle de radiographie thoracique est entraîné sur un jeu de données où les radiographies « portables » (généralement utilisées pour des patients plus graves, alités) sont plus courantes pour un groupe démographique, le modèle pourrait apprendre à associer la présence d'équipement portable à la maladie plutôt qu'à la pathologie réelle.¹³ Nous utilisons le « débiaisage adversarial », où un modèle auxiliaire est entraîné à prédire l’attribut protégé (la race) à partir des caractéristiques internes du modèle primaire. Le modèle primaire est alors pénalisé si l’adversaire réussit, le forçant à apprendre des caractéristiques « aveugles » à la race mais « clairvoyantes » vis-à-vis de la pathologie clinique.³⁵

Couche 2 : fine-tuning spécifique au domaine

Contrairement aux wrappers LLM qui utilisent des poids généralistes, les modèles d’IA profonde doivent être affinés sur des corpus cliniques spécialisés. Pour la santé maternelle, cela inclut l’entraînement sur le système de score de comorbidité obstétricale du California Maternal Data Center, qui prédit la morbidité maternelle sévère avec un degré de précision supérieur aux métriques générales en ajustant pour des comorbidités spécifiques comme l’hypertension chronique et le diabète.²¹

Couche 3 : fusion multimodale des signaux

Pour combler l’écart d’oxymétrie de pouls, nos modèles ne traitent pas comme une vérité terrain autonome. Au lieu de cela, ils utilisent la « régression temporelle de dynamiques non linéaires » pour fusionner l’oxymétrie avec d’autres marqueurs. Si la fréquence cardiaque et les niveaux de lactate d’un patient augmentent alors que reste stable, l’IA profonde déclenche une alerte de « discordance de signal », invitant le clinicien à ordonner un gaz du sang artériel (GSA) de référence.⁹

Couche 4 : validation externe et audit continu

La dérive de modèle est un risque significatif en santé. À mesure que les protocoles cliniques changent ou que la démographie des patients évolue, la performance d’un modèle peut se dégrader. Veriprajna met en œuvre un cadre de « validation locale » où chaque déploiement commence par un audit rétrospectif des propres données de l’institution. Nous mesurons l’« indice de stabilité de population » (PSI) pour quantifier à quel point la population locale diffère de la cohorte d’entraînement, garantissant que le modèle est recalibré pour la communauté spécifique qu’il sert.⁷

Le rôle du conseil en IA profonde : gouvernance stratégique

Pour les dirigeants de la santé, la décision n'est plus de savoir s'il faut adopter l'IA, mais comment le faire sans introduire une responsabilité catastrophique ni aggraver les inégalités de santé. La « méthode Veriprajna » fournit un cadre de gouvernance de l'IA à l'échelle de l'entreprise.

Exiger la transparence et les model cards

Les fournisseurs d'IA doivent être tenus à un standard plus élevé de transparence. Les affirmations générales de « 99 % de précision » sont souvent dénuées de sens. Les entreprises devraient exiger :

●​ Métriques de performance par sous-groupe : ventilations détaillées de la sensibilité, de la spécificité et de la VPP pour l’âge, le sexe et la race.⁷

●​ Courbes de calibration : la preuve qu’une « probabilité de 90 % » de sepsis signifie effectivement que 9 patients sur 10 dans cette catégorie ont la condition.⁷

●​ Validation par les pairs : rejet des livres blancs des fournisseurs au profit d’études externes indépendantes comme celles menées par Wong et al. ou l’équipe de l’étude EXAKT.⁶

Mettre en œuvre une supervision « human-in-the-loop »

L'IA doit transformer, et non remplacer, les rôles cliniques. En santé maternelle, cela signifie utiliser l'IA pour libérer du temps afin que les cliniciens se concentrent sur des activités à haute valeur comme l'écoute active et l'évaluation physique.³⁸ Cependant, le droit et l'éthique exigent que les systèmes automatisés ne soient jamais les seuls décideurs.² Nous plaidons pour une « intelligence collaborative », où l'IA fournit le « coup de pouce » fondé sur les données, mais où le parcours diagnostique et thérapeutique final est déterminé par un clinicien humain formé à reconnaître et à corriger le biais algorithmique.³

Perspectives : reprendre le récit de l'innovation

L'ère actuelle de « l'engouement pour l'IA » a conduit de nombreuses organisations à se contenter de la commodité des wrappers LLM. Cependant, les données du CDC, du NEJM et du California Maternal Data Center rappellent avec force qu'en médecine, la commodité ne peut se faire au détriment de l'équité. L'approche « Deep AI » défendue par Veriprajna représente un retour à la rigueur scientifique.

En traitant les limitations matérielles des capteurs, en corrigeant les biais d'étiquetage dans les jeux de données historiques et en mettant en œuvre des architectures mathématiques sensibles à l'équité, nous pouvons construire un système de santé où la technologie sert à refermer l'écart de mortalité plutôt qu'à l'élargir. Les gains économiques et sociaux d'un tel effort—sauver des milliers de mères et de nourrissons chaque année—constituent la véritable métrique de succès pour la prochaine génération d'intelligence artificielle.²⁵

Veriprajna s'engage dans cette philosophie de travail en profondeur, allant au-delà de l'appel API pour bâtir les fondations d'un avenir clinique véritablement équitable. L'intégration de données haute fidélité, de la conscience démographique et de la validation par des experts n'est pas seulement un défi technique ; c'est le nouveau standard de soins.

Synthèse de l'atténuation des risques de l'IA clinique en entreprise

Catégorie de risque	Faiblesse du wrapper / modèle propriétaire	Solution IA profonde / Veriprajna
Biais de données	Hérite du biais matériel (ex. : oxymétrie)	Triangulation multimodale et décalages spécifiques aux capteurs
Biais d'étiquetage	Entraîné sur des codes de facturation/cliniques biaisés	Étiquettes de vérité terrain adjudicées par des experts
Généralisation	Surapprentissage spécifique au site ; échoue sur de nouvelles pop.	Validation locale et audits de l'indice de stabilité de population (PSI)
Explicabilité	Sortie en boîte noire ; risque élevé d'hallucination	Pondération transparente des caractéristiques et chaînes de raisonnement clinique
Équité	Optimise pour la moyenne majoritaire	Perte du pire groupe et contraintes Equalized Odds
Conformité	Les API publiques manquent de garanties HIPAA/RGPD	Architecture médicale on-premise ou Private Cloud

En conclusion, le chemin vers l'excellence clinique à l'ère de l'IA exige un rejet du superficiel. Comme le démontrent la crise de la mortalité maternelle et les échecs des modèles de sepsis, les enjeux ne sont rien de moins que la vie de nos patients les plus vulnérables. L'IA profonde est la seule voie viable pour un système de santé de niveau entreprise qui valorise à la fois l'innovation et la justice.

Ouvrages cités

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, consulté le 6 février 2026, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, consulté le 6 février 2026, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, consulté le 6 février 2026, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, consulté le 6 février 2026, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, consulté le 6 février 2026, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, consulté le 6 février 2026, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, consulté le 6 février 2026, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, consulté le 6 février 2026, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, consulté le 6 février 2026, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, consulté le 6 février 2026, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, consulté le 6 février 2026, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, consulté le 6 février 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, consulté le 6 février 2026, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, consulté le 6 février 2026, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, consulté le 6 février 2026, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., consulté le 6 février 2026, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, consulté le 6 février 2026, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, consulté le 6 février 2026, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, consulté le 6 février 2026, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, consulté le 6 février 2026, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, consulté le 6 février 2026, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, consulté le 6 février 2026, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consulté le 6 février 2026, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, consulté le 6 février 2026, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, consulté le 6 février 2026, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, consulté le 6 février 2026, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, consulté le 6 février 2026, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, consulté le 6 février 2026, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, consulté le 6 février 2026, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, consulté le 6 février 2026, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/