Un écran d'éligibilité à un essai clinique tamponnant à tort « INÉLIGIBLE » une patiente pourtant éligible, par-dessus une note de cathéter veineux central.
Artificial IntelligenceHealthcareClinical Trials

L'IA a écarté une patiente éligible : elle confondait un cathétérisme cardiaque avec une simple voie intraveineuse

Ashutosh SinghalAshutosh Singhal6 mai 202614 min

Le premier patient que nous avons perdu, nous l'avons perdu à cause d'un mot.

Un essai de phase III sur un anticoagulant que nous étions en train de piloter excluait toute personne ayant subi un « cathétérisme cardiaque ». Logique — c'est une intervention cardiaque comportant un risque hémorragique, exactement le genre d'antécédent qui disqualifie quelqu'un d'une étude sur un anticoagulant. Notre système d'appariement a signalé une candidate comme inéligible et est passé à la suite. Net. Confiant. Faux.

La patiente n'avait jamais subi de cathétérisme cardiaque. Son dossier contenait une note concernant une « pose de cathéter veineux central » — une voie intraveineuse introduite dans une veine aux soins intensifs pour lui permettre de recevoir un médicament. Intervention différente. Partie du corps différente. Profil de risque entièrement différent. Pour une infirmière, ces deux choses ne sont absolument pas confondables. Pour l'IA que nous avions construite, « cathéter » plus « veineux » plus un contexte à consonance cardiovasculaire a été noté comme une quasi-correspondance, et une femme éligible est discrètement sortie de l'entonnoir.

Je veux vous raconter comment j'en suis venu à passer la majeure partie d'une année obsédé par cette seule patiente écartée, car elle m'a appris ce que personne parmi ceux qui vendent de l'IA de recrutement pour les essais cliniques ne veut dire tout haut : le problème de l'appariement des patients n'a jamais été de trouver assez de personnes. C'est que les machines qui réalisent cet appariement lisent des mots, or l'éligibilité à un essai porte sur des concepts médicaux — et ce ne sont pas les mêmes choses.

80 % des essais manquent leurs délais de recrutement. Le secteur continue de traiter cela comme un problème d'offre. C'est un problème de précision.

La première erreur que j'ai commise

Je vais l'assumer d'emblée, car c'est là que bascule toute l'histoire. Quand nous avons commencé, j'étais dans le camp de ceux qui croyaient que le problème était pour l'essentiel résolu.

Le raisonnement était le suivant. Pendant des années, l'appariement pour les essais reposait sur la recherche par mots-clés — grossière, fragile, pénible. Puis les grands modèles de langage sont arrivés, et soudain un logiciel pouvait lire la note non structurée d'un médecin comme le fait un humain. J'ai regardé cela et conclu que le plus dur était derrière nous. Nous allions prendre un modèle puissant, lui fournir les critères d'éligibilité et les dossiers des patients, ajuster les prompts, et l'appariement allait tout simplement fonctionner. J'ai défendu cette idée. J'ai dit à mon équipe que l'écart restant à combler était mince, une affaire de meilleure récupération et de prompts plus soignés.

Nous avons construit ce système. Il faisait une superbe démonstration. Sur les cas faciles — le patient qui a manifestement un cancer du sein de stade II, le critère qui dit clairement « pas de chimiothérapie antérieure » — il était vraiment bon. Les chiffres que vous voyez dans les présentations des fournisseurs proviennent exactement de ces cas. Tempus, après avoir racheté Deep 6 AI début 2025 et s'être étendu à plus de 750 sites de soins, indique que son agent Patient Query atteint 94,39 % de précision sur un ensemble de requêtes évaluées. Ce chiffre est réel. Je le crois. Il mesure aussi les cas qui n'ont jamais été le problème.

La patiente au cathétérisme a été le moment où ma version du système est morte. Je suis resté là à retracer pourquoi elle avait été écartée, m'attendant à un bug. Il n'y avait pas de bug. Le système avait fait exactement ce que fait la similarité vectorielle — noter deux chaînes selon leur proximité dans l'espace sémantique — et deux interventions qui partagent le mot « cathéter » se situent bel et bien très proches. Aucune quantité d'ingénierie de prompts n'allait lui apprendre que l'une relève d'une « intervention sur le cœur » et l'autre d'un « cathétérisme d'une veine ». Il n'avait pas de concept du cœur. Il n'avait que des mots à propos du cœur.

Pourquoi les modèles de langage confondent-ils les termes médicaux ?

Arbre SNOMED-CT montrant le cathétérisme cardiaque et le cathétérisme veineux central sur deux branches distinctes.

Voici la distinction qui a réorganisé ma façon de penser tout ce domaine.

Quand un clinicien lit « pose de cathéter veineux central », il ne traite pas cinq tokens. Il récupère un concept — un nœud précis dans une vaste hiérarchie structurée de connaissances médicales, avec des parents, des enfants et des frères, avec une place précise qui dit qu'il s'agit d'une procédure d'accès vasculaire, et non d'une procédure cardiaque. Cette hiérarchie existe réellement, formellement, sous la forme d'une ontologie clinique appelée SNOMED-CT. Dans celle-ci, le cathétérisme cardiaque porte l'identifiant de concept 41976001, classé sous les interventions sur le cœur. Le cathétérisme veineux central porte le 392230005, classé sous le cathétérisme d'une veine. Deux branches différentes de l'arbre. Un système qui raisonne sur l'arbre ne peut pas les confondre. Un système qui raisonne sur la proximité des mots les confond constamment.

Ce n'est pas une bizarrerie sur laquelle je serais tombé dans mon coin. Des évaluations publiées ont documenté des modèles d'IA commettant exactement cette erreur « cathétérisme cardiaque égale ponction veineuse centrale » (Fierce Biotech, 2025). Cela représente toute une catégorie d'échecs — partout où des interventions, des affections ou des médicaments partagent un vocabulaire mais divergent médicalement. L'angiographie coronaire et l'angiographie périphérique. Elles partagent le mot « angiographie ». L'une est une intervention cardiaque ; l'autre est un accès vasculaire. Un modèle de langage les note comme des cousines. L'ontologie sait qu'elles sont étrangères.

Multipliez maintenant cela par l'ensemble des critères d'un protocole, sur tout un portefeuille d'essais, et vous n'avez pas un cas limite. Vous avez une fuite d'éligibilité systématique qui tourne discrètement en arrière-plan de tous les outils d'appariement probabilistes du secteur.

Un modèle de langage sait que « cathéter » apparaît près de « cardiaque ». Il n'a aucune idée que l'un est une intervention cardiaque et l'autre une voie intraveineuse. C'est dans cet écart que disparaissent les patients éligibles.

Les clauses d'exception qui ont tout cassé deux fois

Une fois que j'ai commencé à regarder, l'écart entre le mot et le concept s'est révélé n'être que la première fissure.

Une autre réside dans la grammaire même de l'éligibilité. Les vrais protocoles ne disent pas « exclure l'hypertension ». Ils disent « exclure les patients hypertendus sauf si elle est bien contrôlée sous traitement stable depuis trois mois ou plus ». Cette phrase n'est pas un mot-clé — c'est une condition avec une fenêtre temporelle enfouie à l'intérieur. J'ai vu notre premier système traiter cette clause de deux façons, toutes deux fausses. Parfois il voyait « hypertension » et excluait le patient, perdant quelqu'un qui remplissait pourtant les critères. Parfois il le laissait passer et sautait entièrement la vérification des trois mois. Il n'a jamais fait de façon fiable ce qu'un coordonnateur fait sans y penser : retenir l'exception, puis vérifier la durée.

Cela compte de plus en plus chaque année, car les protocoles deviennent baroques. Le nombre médian de critères d'éligibilité dans les protocoles d'oncologie est passé d'environ 17 il y a une génération à 27 dans la cohorte plus récente, et le nombre de procédures par protocole a grimpé de 139 % depuis 2005 (IQVIA). Chaque « sauf si », « excepté » et « dans les six mois » est un endroit où un outil d'appariement par mots devine en silence. Et quand des amendements arrivent — l'amendement moyen prend désormais 260 jours à mettre en œuvre (Applied Clinical Trials, 2025) — chaque supposition doit être devinée à nouveau.

L'échec qui m'a vraiment fait peur, cependant, était différent — il touchait à la question de savoir si je pouvais assumer ce travail devant un régulateur, tout court. Faites passer le même patient deux fois dans un outil d'appariement fondé sur un modèle de langage, avec un contexte environnant légèrement différent, et vous pouvez obtenir deux réponses différentes. Pour la plupart des logiciels, un peu de non-déterminisme est tolérable. Pour un essai clinique, c'est rédhibitoire. Un régulateur ne veut pas d'une probabilité qu'un patient ait été éligible. Il veut la raison exacte et reproductible pour laquelle chaque personne a été incluse ou exclue — une trace qu'il peut lire ligne par ligne. Un système qui pourrait décider différemment un mardi ne peut pas produire cette trace.

Ce que j'aurais dû construire du premier coup

Pipeline neuro-symbolique : le LLM lit une note, les concepts sont mis en correspondance avec SNOMED-CT, une logique déterministe décide, une piste d'audit en ressort.

La reconstruction n'a pas été subtile. Nous avons cessé d'essayer de faire en sorte qu'un système probabiliste se comporte de manière déterministe et avons construit un système qui était déterministe par construction.

Sa colonne vertébrale est l'ontologie. Nous mettons en correspondance chaque terme du dossier d'un patient et chaque terme des critères d'éligibilité avec son concept SNOMED-CT — de sorte que l'outil d'appariement compare des nœuds dans une hiérarchie médicale, et non des chaînes de caractères. Le cathétérisme cardiaque et le cathétérisme veineux central cessent d'être voisins et deviennent ce qu'ils sont : des parents éloignés sur des branches distinctes. La patiente au cathétérisme, passée par ce système, ressort éligible. Correctement. À chaque fois.

Par-dessus l'ontologie, nous avons placé une logique explicite pour les parties que les modèles de langage ratent — le « sauf si », l'« excepté », le « dans les trois mois ». Ce genre de raisonnement relève en réalité de deux disciplines cousues ensemble : la logique déontique pour modéliser la structure d'obligation et d'exception d'une clause « sauf si », et le raisonnement sur les intervalles temporels pour évaluer « dans les trois mois » par rapport aux dates réelles du dossier. Ni l'un ni l'autre ne se prêtent à la reconnaissance de motifs ; les deux doivent être modélisés explicitement. Et parce que chaque décision est une chaîne d'étapes explicites portant sur des concepts nommés, le système produit exactement l'artefact que veulent les régulateurs : une piste d'audit reproductible montrant précisément quel concept correspondait à quel critère et pourquoi un patient a atterri là où il est.

Je prends soin de dire neuro-symbolique, et non « nous avons jeté les modèles de langage ». Nous ne l'avons pas fait. Ils sont excellents pour la première étape désordonnée — lire une note clinique décousue et en extraire un sens structuré de la prose. Nous les laissons faire cela. Nous ne les laissons simplement pas juger de l'éligibilité. La lecture est probabiliste ; le raisonnement est déterministe. Cette division du travail, c'est toute la conception.

C'est le système que nous construisons désormais pour les promoteurs pharmaceutiques, les CRO et les centres hospitalo-universitaires, et c'est autour de cela que s'organise notre travail d'IA de recrutement pour les essais cliniques — un appariement sur mesure qui raisonne sur les graphes de l'ontologie SNOMED-CT avec une logique déterministe, plutôt qu'un scoreur probabiliste de plus.

Pourquoi les grandes plateformes n'ont-elles pas simplement construit cela ?

C'est la question que me pose chaque promoteur, et elle est légitime. Tempus, IQVIA, Medidata, ConcertAI, TriNetX — ce sont des entreprises sérieuses disposant d'énormes volumes de données. Pourquoi l'une d'elles n'a-t-elle pas simplement construit la version ancrée dans l'ontologie ?

Une partie de la réponse est qu'elles optimisent pour autre chose, et c'est une chose raisonnable. IQVIA a dévoilé IQVIA.ai, une plateforme agentique unifiée conçue avec NVIDIA, en mars 2026, reposant sur plus de 250 millions de dossiers de patients. TriNetX exploite un réseau fédéré d'une échelle similaire pour les travaux de faisabilité et de cohortes. ConcertAI a lancé sa plateforme agentique Accelerated Clinical Trials en février 2026, revendiquant des réductions de délais de 10 à 20 mois. AI Study Build de Medidata intègre l'appariement dans son système de saisie électronique de données Rave à travers des centaines d'études. Chacune d'elles est réelle et bonne dans ce qu'elle vise — l'ampleur, l'échelle, le flux de travail de bout en bout.

Il y a aussi un écart plus discret sous tout cela. Même quand une plateforme réalise un bon appariement, le résultat se présente généralement comme une liste qu'un coordonnateur ressaisit ensuite dans le système de référence de gestion de l'essai — Rave, Veeva Vault, Oracle Clinical One. L'appariement et le système qui gère l'étude ne se parlent pas réellement, si bien qu'un transfert manuel persiste précisément là où l'on voudrait que l'automatisation soit la plus étroite.

Mais l'ampleur et la profondeur ontologique tirent dans des directions opposées. Une plateforme desservant chaque aire thérapeutique à l'échelle de 250 millions de dossiers est conçue pour être bonne de manière générique, et le générique est précisément là où vit la catégorie d'erreurs du cathétérisme. Le raisonnement profond et conscient des branches dont a besoin un protocole complexe d'oncologie, de maladie rare ou du SNC est coûteux à construire et coûteux à maintenir — SNOMED est mis à jour deux fois par an, le dictionnaire des événements indésirables MedDRA trimestriellement, et maintenir une ontologie à jour représente un effectif permanent, pas un projet ponctuel. C'est le genre d'ingénierie ingrate et jamais achevée qu'une plateforme lancée à la course vers l'ampleur a tendance à reporter.

Les plateformes n'ont pas tort. Elles résolvent le problème de l'échelle. La précision ontologique est un problème différent, et c'est celui qui décide si vos patients éligibles sont réellement trouvés.

L'autre réponse honnête, c'est la gravité des données. Plusieurs de ces plateformes réalisent leur meilleur appariement à l'intérieur de leur propre réseau — leurs données, leurs sites. Si vos patients se trouvent dans votre propre dossier de santé électronique, derrière votre propre pare-feu, c'est un déploiement entièrement différent. Et beaucoup de promoteurs et d'hôpitaux, pour de très bonnes raisons liées à la HIPAA, n'enverront pas des dossiers de patients dans le cloud de quelqu'un d'autre pour les faire apparier.

Le coût que personne ne met sur la diapositive

Rendons les enjeux concrets, car les aspects humains et financiers de tout cela sont faciles à évacuer dans l'abstraction.

Financièrement : un jour de retard dans un essai coûte environ 800 000 dollars en ventes de prescriptions perdues (Tufts CSDD), et pour certaines aires thérapeutiques c'est bien pire — les retards en cardiovasculaire atteignent environ 1,4 million de dollars par jour. Chaque échec de sélection coûte en moyenne environ 1 200 dollars, et les taux d'échec de sélection vont de 20 % à 80 % selon l'indication, atteignant jusqu'à 88 % dans les essais sur la maladie d'Alzheimer. La patiente au cathétérisme — celle qui était éligible et que nous avons écartée — est du pur gaspillage dans ce calcul : une personne qui aurait dû avancer ne l'a pas fait, et quelqu'un a été payé pour la présélectionner et aboutir à un « non ».

Mais le coût que je n'ai pas mesuré avant de m'asseoir avec le personnel des sites est humain, et il se cumule. Les coordonnateurs jonglent avec cinq ou six études à la fois et consacrent 40 à 60 % de leur temps à la présélection. Quand un outil d'appariement produit des faux positifs au-dessus d'environ 30 %, ils cessent de lui faire confiance — et ils l'abandonnent, souvent en moins de trois mois. J'ai vu cela nous arriver avant la reconstruction. Une coordonnatrice d'un site pilote avait tout simplement cessé d'ouvrir nos signalements. Non par dépit — par tri. L'outil avait crié au loup assez souvent pour que le vérifier soit plus lent que sa propre revue de dossier. Un outil d'appariement qui érode la confiance de la seule personne qui doit agir en fonction de lui n'est pas un outil de productivité. C'est un onglet de navigateur de plus qu'elle a appris à ignorer.

C'est la vraie raison pour laquelle la précision l'emporte sur la portée. Il n'y a pas seulement les patients éligibles que vous perdez à cause des faux négatifs. C'est que chaque faux positif dépense la ressource la plus rare de toute l'entreprise — l'attention d'un coordonnateur épuisé — et une fois celle-ci disparue, le meilleur réseau de données au monde débouche quand même sur une impasse : un coordonnateur qui a cessé de regarder.

« N'est-ce pas à cela que servent FHIR et l'intégration Epic ? »

On me pose souvent cette question, alors abordons les objections de front.

Commençons par l'objection des normes de données : FHIR et Epic ne résolvent-ils pas sûrement le problème de l'appariement ? Ils résolvent le problème de la plomberie, qui est nécessaire mais pas suffisant. L'intégration de FHIR et d'Epic fait circuler des données propres et structurées — mais obtenir les données, c'est la partie qui précède la partie difficile. Vous devez encore raisonner sur ce que les données signifient, et c'est exactement là que l'ontologie fait son travail. Et la plomberie n'est pas triviale non plus : la certification App Orchard d'Epic est un examen de sécurité de six à douze mois avant que vous ne touchiez le moindre dossier. Quiconque promet un appariement de DSE rapide et profond a soit déjà payé ce coût, soit ne l'a pas encore atteint.

Vient ensuite l'inquiétude réglementaire : un système déterministe et lourd en règles ne compte-t-il pas comme un dispositif médical réglementé, avec toute la charge que cela implique ? C'est là que les orientations récentes aident réellement. Les orientations actualisées de la FDA sur l'aide à la décision clinique, publiées en janvier 2026, ont précisé quelles fonctions d'aide à la décision clinique (CDS) tombent en dehors de la définition du dispositif — et l'appariement des dossiers de patients avec les critères d'éligibilité d'un essai peut être qualifié de CDS hors dispositif. Le cadre de janvier 2025 du même organisme a exposé une évaluation de crédibilité en sept étapes pour l'IA dans le développement de médicaments. Un système dont le raisonnement est transparent et reproductible est bien plus facile à faire passer par ce cadre qu'un système dont la logique est une distribution de probabilité.

Et la version la plus brutale : tout cela est-il plus rapide que d'embaucher simplement plus de personnes ? Les données de performance disent catégoriquement oui — quand l'appariement est digne de confiance. La sélection par IA rapportée a réduit les taux d'échec de sélection de 73 % dans un déploiement, passant de 54 % à 14 % (Trially), et réduit d'environ 90 % les heures de revue manuelle des dossiers. Le hic, c'est que ces gains ne se concrétisent que si les coordonnateurs croient assez au résultat pour agir en fonction de lui. Une vitesse bâtie sur des faux positifs n'est pas de la vitesse. C'est une façon plus rapide de perdre l'auditoire.

Ce que la patiente écartée m'a réellement appris

Je reviens sans cesse à elle, la femme avec la voie intraveineuse qu'un algorithme a prise pour une intervention cardiaque. Elle était éligible tout du long. L'essai avait besoin d'elle. Elle était là, juste sous nos yeux, dans les données. Et nous l'avons perdue non pas parce que la technologie était faible, mais parce qu'elle était pointée sur le mauvais problème — lire la surface du langage alors que le travail consistait à raisonner sur la médecine en dessous.

Tout le domaine a passé cinq ans à remplacer la recherche par mots-clés par des modèles de langage et a déclaré le problème de l'appariement réglé. Il ne l'était pas. Il avait été déplacé. Nous avons troqué un appariement de mots grossier contre un appariement de mots sophistiqué, et les cas qui décident si un essai recrute dans les temps — les clauses d'exception, les procédures au vocabulaire partagé, les critères qui exigent qu'un régulateur puisse en lire la raison — n'ont jamais eu quoi que ce soit à voir avec les mots.

Si vous menez des essais et que vous évaluez une IA de recrutement, la question que je poserais à un fournisseur n'est pas son chiffre de précision affiché, car ce chiffre est mesuré sur les cas qui n'allaient jamais être manqués. Demandez-lui de faire passer un cathétérisme cardiaque et une voie veineuse centrale dans son outil d'appariement et de vous montrer, concept par concept, pourquoi l'un exclut et l'autre non. La réponse à cette seule question vous dit si vous avez acheté un système qui lit, ou un système qui comprend réellement. Nous avons choisi de construire le second — l'IA de recrutement pour les essais cliniques qui raisonne sur l'ontologie — car le premier nous avait déjà coûté une patiente que nous ne pouvions pas nous permettre de perdre.

Recherche associée

Également publié sur

Développez votre IA en toute confiance.

Collaborez avec une équipe forte d'une solide expérience dans la conception de la prochaine génération d'IA d'entreprise. Nous vous aidons à concevoir, développer et déployer une stratégie d'IA digne de confiance.

Veriprajna société de conseil en Deep Tech est spécialisée dans la conception de systèmes d'IA critiques pour la sûreté destinés aux secteurs de la santé, de la finance et de la réglementation. Nos architectures sont validées au regard de protocoles établis et accompagnées d'une documentation de conformité complète.