临床试验入组资格审查界面,因一条中心静脉导管记录,将一位合格患者错误地标记为“不合格”。
Artificial IntelligenceHealthcareClinical Trials

AI 漏掉了一位合格患者,只因它分不清心脏导管术和一根输液管

Ashutosh SinghalAshutosh Singhal2026年5月6日14 min

我们失去的第一位患者,是因为一个词而失去的。

我们当时正在试点的一项 III 期抗凝药物试验,排除了任何做过"心脏导管插入术"的人。这很合理——那是一种存在出血风险的心脏手术,正是那种会让人失去参加血液稀释剂研究资格的病史。我们的匹配系统将一名候选人标记为不合格,然后继续往下走。干净利落,信心十足,却错了。

这位患者从未做过心脏导管插入术。她的病历里有一条关于"中心静脉导管置入术"的记录——那是在 ICU 里穿入静脉的一根输液管,好让她接受药物治疗。不同的手术,身体的不同部位,风险特征也完全不同。在护士看来,这两者根本不会混淆。但对我们所构建的这套 AI 而言,"导管"加上"静脉"再加上一个听起来与心血管相关的语境,被评为近似匹配,于是一位本该合格的女性悄然从漏斗中掉了出去。

我想告诉你,我是如何花了将近一年的时间,执着地纠结于那一位被漏掉的患者,因为它教会了我一件没有任何售卖临床试验招募 AI的人愿意大声说出来的事:患者匹配的问题从来不是找不到足够多的人,而是负责匹配的机器读的是词,而试验入组资格关乎的是医学概念——这二者并不是一回事。

80% 的试验都无法按时完成招募。整个行业一直把这当成供给问题,其实它是一个精度问题。

我一开始犯的错误

我先把这一点坦白出来,因为整个故事就是在这里转折的。刚起步时,我属于那种认为这基本上已经被解决了的阵营。

当时的推理是这样的。多年来,试验匹配靠的是关键词搜索——粗糙、脆弱、令人痛苦。后来大型语言模型出现了,软件突然能够像人一样读懂一份非结构化的医生记录。我看着这一切,得出结论:难的部分已经过去了。我们只要拿一个强大的模型,喂给它入组标准和患者病历,调好提示词,匹配就会自然而然地跑通。我为此据理力争。我告诉团队,剩下要弥合的差距很小,无非是更好的检索和更细致的提示。

我们把那套系统建了起来。它演示时非常漂亮。在那些简单的案例上——明显患有 II 期乳腺癌的患者、明确写着"无既往化疗史"的标准——它确实很出色。你在供应商演示文稿里看到的那些数字,正是来自这类案例。Tempus 在 2025 年初收购 Deep 6 AI 并扩展到超过 750 家医疗机构站点后,报告称其 Patient Query 智能体在一组经评估的查询中达到了 94.39% 的准确率。那个数字是真实的,我也相信。但它衡量的同样是那些从来就不成问题的案例。

那位做导管术的患者,是我那版系统寿终正寝的时刻。我坐在那里追溯她为什么被漏掉,本以为会找到一个 bug。可根本没有 bug。系统所做的恰恰是向量相似度会做的事——按两个字符串在语义空间中彼此有多接近来打分——而两种共享"导管"一词的手术,确实坐得非常近。再多的提示工程也无法教会它:一个归在"心脏上的手术"之下,另一个归在"静脉的导管插入术"之下。它并没有关于心脏的概念,它只有关于心脏的词语。

语言模型为什么会混淆医学术语?

SNOMED-CT 树状图,显示心脏导管插入术和中心静脉导管插入术分处两个不同的分支。

下面这个区分,重新组织了我对整个领域的思考方式。

当一位临床医生读到"中心静脉导管置入术"时,他们处理的并不是五个词元。他们检索的是一个概念——在庞大而有结构的医学知识层级中的一个具体节点,有父节点、子节点和同级节点,有一个精确的位置,标明这是一项血管通路手术,而非心脏手术。这个层级确实是真实存在的,正式地存在,作为一个名为 SNOMED-CT 的临床本体。在其中,心脏导管插入术是概念 ID 41976001,归档于心脏上的手术之下;中心静脉导管插入术是 392230005,归档于静脉的导管插入术之下。这是树上两个不同的分支。一个基于这棵树进行推理的系统不可能把它们弄混,而一个基于词语邻近度进行推理的系统会不断把它们弄混。

这并不是我私下里偶然碰上的怪癖。已发表的评估记录了 AI 模型恰恰犯下这种"心脏导管插入术等于中心静脉穿刺"的错误(Fierce Biotech,2025)。它代表着一整失败——凡是手术、病症或药物共享词汇却在医学上分道扬镳之处,皆是如此。冠状动脉造影和外周动脉造影,它们共享"造影"一词。一个是心脏手术,另一个是血管通路。语言模型把它们评为表亲,本体却知道它们是陌生人。

现在把这乘以一份方案所含的全部标准,再横跨一整套试验组合,你面对的就不是一个边缘案例,而是一处系统性的入组资格泄漏,在业内每一个概率匹配器的后台悄然运行。

语言模型知道"导管"出现在"心脏"附近,却毫不知道一个是心脏手术,另一个是输液管。正是这道缺口,让合格的患者消失了。

把一切两次搞砸的例外条款

一旦我开始细看,词与概念之间的缺口原来只是第一道裂缝。

另一道裂缝就藏在入组资格本身的语法里。真实的方案不会说"排除高血压",它们会说"排除患有高血压的患者,除非其在稳定用药下病情已得到良好控制达三个月或以上"。那句话不是一个关键词——它是一个内嵌了时间窗口的条件句。我看着我们早期的系统用两种方式处理那个条款,两种都错了。有时它看到"高血压"就把患者排除,丢掉了一个其实符合条件的人。有时它又放行了他们,完全跳过了三个月的核查。它从未可靠地做到一个协调员不假思索就会做的事:先保留那个例外,再核实持续时间。

这一点每年都变得更重要,因为方案正变得日趋繁复。肿瘤学方案的入组标准中位数大致从一代人以前的 17 条增长到近期队列中的 27 条,而每份方案的手术操作数量自 2005 年以来攀升了 139%(IQVIA)。每一个"除非"、"除了"和"六个月内",都是词匹配器悄悄靠猜的地方。而当修订到来时——如今一次修订平均需要 260 天才能落实(Applied Clinical Trials,2025)——每一次猜测都得重新再猜一遍。

然而,真正让我害怕的失败是另一种——它触及的是我究竟能否在监管者面前为这项工作背书。把同一位患者通过语言模型匹配器跑两次,周围语境略有不同,你就可能得到两个不同的答案。对大多数软件而言,一点点非确定性是可以容忍的。但对一项临床试验而言,这是致命硬伤。监管者要的不是一个患者曾经合格的概率,他们要的是每个人被纳入或被排除的确切、可复现的理由——一条他们能逐行读下去的记录。一个可能在某个周二做出不同判断的系统,无法生成那样的记录。

我第一次本该建的东西

神经符号流水线:LLM 读取一份记录,概念映射到 SNOMED-CT,确定性逻辑做出裁决,输出审计记录。

这次重建并不微妙。我们不再试图让一个概率系统表现得具有确定性,而是构建了一个在构造上就是确定性的系统。

它的脊梁是本体。我们把患者病历中的每一个术语和入组标准中的每一个术语都映射到其 SNOMED-CT 概念——这样匹配器比较的就是医学层级中的节点,而不是字符串。心脏导管插入术和中心静脉导管插入术不再是邻居,而是回归它们本来的样子:分处不同分支上的远亲。那位做导管术的患者,通过这套系统跑一遍,返回的结果是合格。正确无误。每一次都是。

在本体之上,我们为语言模型笨手笨脚处理的那些部分放上了显式逻辑——那个"除非"、那个"除了"、那个"三个月内"。那种推理其实是两门学科缝合在一起:用道义逻辑来建模一个"除非"条款中义务与例外的结构,用时间区间推理来对照病历中的实际日期评估"三个月内"。两者都无法靠模式匹配;两者都必须被显式建模。而且因为每一个决策都是一连串针对具名概念的显式步骤,系统输出的恰恰是监管者想要的产物:一条可复现的审计记录,精确显示哪个概念匹配了哪条标准,以及一位患者为何落到了他所在之处。

我谨慎地说神经符号,而不是"我们把语言模型扔掉了"。我们没有。它们在那个凌乱的第一步上非常出色——读一份絮絮叨叨的临床记录,从散文中抽取出结构化的含义。我们让它们做这件事。我们只是不让它们来当入组资格的裁判。阅读是概率性的,推理是确定性的。那种分工,就是整个设计的核心。

这就是我们如今为制药申办方、CRO 和学术医疗中心构建的系统,也是我们的临床试验招募 AI工作所围绕组织的东西——用确定性逻辑在 SNOMED-CT 本体图谱上进行推理的定制匹配,而不是又一个概率打分器。

那些大平台为什么不干脆把这个建出来?

这是每一个申办方都会问我的问题,而且问得在理。Tempus、IQVIA、Medidata、ConcertAI、TriNetX——这些都是拥有海量数据的正经公司。为什么它们中没有一家干脆就把这个以本体为根基的版本建出来?

答案的一部分在于,它们优化的是另一件事,而且是一件合理的事。IQVIA 于 2026 年 3 月推出了 IQVIA.ai,这是一个与 NVIDIA 合作构建的统一智能体平台,坐拥超过 2.5 亿份患者病历。TriNetX 运营着一个规模相仿的联邦网络,用于可行性和队列研究工作。ConcertAI 于 2026 年 2 月推出了其智能体化的 Accelerated Clinical Trials 平台,宣称可缩短 10 到 20 个月的时间线。Medidata 的 AI Study Build 把匹配接入其 Rave 电子数据采集系统,覆盖数百项研究。这其中每一个都是真实的,且在它所瞄准的方面很出色——广度、规模、端到端的工作流。

在它们所有之下,还有一道更隐蔽的缺口。即便一个平台匹配得很好,其输出通常也只是落成一份列表,然后由协调员再手动录入到试验管理的记录系统里——Rave、Veeva Vault、Oracle Clinical One。匹配与运行研究的系统实际上并不对话,于是恰恰在你最希望自动化最紧密的地方,一道人工交接持续存在。

但广度与本体深度朝相反方向拉扯。一个以 2.5 亿份病历的规模服务于每一个治疗领域的平台,是为了做到通用地好而构建的,而通用地好恰恰是导管术那一类错误滋生之处。一个复杂的肿瘤学、罕见病或中枢神经系统方案所需的那种深入、能识别分支的推理,构建起来昂贵,维护起来也昂贵——SNOMED 每年更新两次,MedDRA 不良事件词典每季度更新一次,而让一套本体保持最新是永久的人力编制,不是一次性的项目。这正是那种不光鲜、永远做不完的工程,一个疾驰奔向广度的平台往往会将其搁置。

那些平台并没有错,它们求解的是规模。本体精度是另一个问题,而它才是决定你那些合格患者到底能不能被找到的问题。

另一个诚实的答案是数据引力。这些平台中有几个匹配得最好的地方,是在它们自己的网络内部——它们自己的数据,它们自己的站点。如果你的患者住在你自己的电子健康记录里,在你自己的防火墙背后,那就是一种完全不同的部署了。而且许多申办方和医院,出于非常正当的 HIPAA 理由,不会把患者病历送到别人的云上去做匹配。

没人会放在幻灯片上的代价

让我把利害说得具体些,因为这件事的人的一面和财务的一面都很容易被抽象掉。

从财务上说:试验中每延迟一天,估计损失 80 万美元的处方药销售额(Tufts CSDD),而对某些治疗领域,情况要糟得多——心血管试验的延迟每天高达约 140 万美元。每一次筛选失败平均约耗费 1,200 美元,而筛选失败率视适应症不同从 20% 到 80% 不等,在阿尔茨海默病试验中高达 88%。那位做导管术的患者——那位被我们漏掉的合格者——在这笔账里纯属浪费:一个本该推进的人却没能推进,而且还有人花了钱把她筛成了一个"否"。

但有一种代价,直到我与站点工作人员坐在一起才领会到,那是人的代价,而且会层层累积。协调员一次同时要兼顾五六项研究,把 40% 到 60% 的时间花在预筛选上。当一个匹配工具抛出的假阳性超过大约 30% 时,他们就不再信任它——并且往往在三个月内就弃用它。在重建之前,我眼看着这一幕发生在我们身上。一个试点站点的协调员干脆就不再打开我们的标记了。不是出于怨恨——而是出于分诊取舍。那个工具狼来了喊得够多了,以至于查看它比她自己翻病历还要慢。一个侵蚀了那个必须据其行动之人的信任的匹配器,不是一个生产力工具,而是她学会了忽略的又一个浏览器标签页。

这才是精度胜过覆盖面的真正原因。你因假阴性而失去的,不只是那些合格的患者。更在于,每一个假阳性都在耗费整个企业中最稀缺的资源——一个精疲力竭的协调员的注意力——而一旦那没了,世上最好的数据网络,仍会在一个已经停止查看的协调员那里走进死胡同。

"这不正是 FHIR 和 Epic 集成的用武之地吗?"

人们常这样问我,那就让我正面迎击这些反对意见。

先从数据标准这个反对意见说起:FHIR 和 Epic 难道不是解决了匹配问题吗?它们解决的是管道问题,那是必要但不充分的。FHIR 和 Epic 集成让干净、结构化的数据流动起来——但拿到数据是难点之前的那一步。你仍然得去推理这些数据意味着什么,而那恰恰是本体大显身手之处。而且管道本身也并不简单:Epic 的 App Orchard 认证是一场为期六到十二个月的安全审查,之后你才能碰到哪怕一份病历。任何承诺快速、深度 EHR 匹配的人,要么早已付出了那个代价,要么还没达到那个门槛。

接着是监管方面的担忧:一个确定性的、规则繁重的系统,难道不算一种受监管的医疗器械,连同它所隐含的全部负担?这正是近期指南真正帮上忙的地方。FDA 于 2026 年 1 月发布的更新版临床决策支持指南,厘清了哪些 CDS 功能落在器械定义之外——而将患者病历与试验入组标准进行匹配,可以符合非器械 CDS 的资格。同一机构 2025 年 1 月的框架,为药物研发中的 AI 列出了一套七步可信度评估。一个推理透明且可复现的系统,要走通那套框架,远比一个逻辑是一条概率分布的系统容易得多。

还有最直白的一个版本:这一切难道比干脆多雇些人更快吗?绩效数据斩钉截铁地回答是——当匹配值得信赖时。有报告称,在一次部署中 AI 筛选把筛选失败率削减了 73%,从 54% 降到 14%(Trially),并把人工翻阅病历的工时减少了大约 90%。要害在于,那些收益只有在协调员足够相信输出、愿意据其行动时才会兑现。建立在假阳性之上的速度不是速度,而是一种更快地失去在场者的方式。

那位被漏掉的患者究竟教会了我什么

我总是一次次回到她身上,那位带着输液管、被一个算法误当成心脏手术的女性。她自始至终都是合格的。试验需要她。她就坐在数据里。而我们失去她,并不是因为技术薄弱,而是因为它对准了错误的问题——阅读语言的表面,而这份工作本该是对其底下的医学进行推理。

整个领域花了五年时间用语言模型取代关键词搜索,然后宣布匹配问题已经解决。它并没有,它只是被重新摆放了位置。我们把粗糙的词匹配换成了精致的词匹配,而那些决定一项试验能否按时招募到人的案例——那些例外条款、那些共享词汇的手术、那些需要让监管者能够读懂原因的标准——从来就与词无关。

如果你在做试验,并且正在评估招募 AI,我会向供应商提出的问题,不是他们那个头条般的准确率数字,因为那个数字是在那些本来就不会被漏掉的案例上测出来的。让他们把一次心脏导管插入术和一条中心静脉导管在他们的匹配器里跑一遍,并按概念向你展示,为什么一个被排除而另一个不被排除。这一个问题的答案,会告诉你你买到的究竟是一个会阅读的系统,还是一个真正理解的系统。我们选择了构建后一种——那种在本体之上进行推理的临床试验招募 AI——因为前一种已经让我们付出了一位我们输不起的患者。

相关研究

同步发布于

满怀信心地构建您的 AI。

与一支在打造新一代企业级 AI 方面拥有深厚经验的团队携手合作。让我们助您设计、构建并部署一套值得信赖的 AI 战略。

Veriprajna 深度科技咨询公司 专注于为医疗健康、金融和监管等领域构建安全攸关的 AI 系统。我们的架构均依据成熟的规范进行验证,并配有完善的合规文档。