AI가 심장 카테터 삽입술과 정맥주사 라인을 구분하지 못해 적격 환자를 놓쳤다
우리가 처음 놓친 환자는 단어 하나 때문에 놓쳤다.
우리가 시범 운영하던 3상 항응고제 임상시험은 "심장 카테터 삽입술(cardiac catheterization)"을 받은 적이 있는 사람은 누구든 제외했다. 합리적이다 — 출혈 위험이 있는 심장 시술이고, 혈액 희석제 연구에서 누군가를 부적격으로 만드는 바로 그런 종류의 병력이다. 우리 매칭 시스템은 한 후보를 부적격으로 표시하고 넘어갔다. 깔끔하게. 확신에 차서. 하지만 틀렸다.
그 환자는 심장 카테터 삽입술을 받은 적이 한 번도 없었다. 그녀의 차트에는 "중심정맥 카테터 삽입(central venous catheter placement)"에 관한 기록이 있었다 — 약물을 투여받을 수 있도록 중환자실에서 정맥에 꽂은 정맥주사 라인이었다. 다른 시술. 다른 신체 부위. 완전히 다른 위험 프로필. 간호사에게 이 둘은 조금도 헷갈릴 만한 것이 아니다. 하지만 우리가 만든 AI에게는 "카테터"에 "정맥"이 더해지고 심혈관처럼 들리는 맥락이 붙자 거의 일치하는 것으로 점수가 매겨졌고, 적격이었던 한 여성이 조용히 깔때기에서 빠져나갔다.
그 한 명의 놓친 환자에게 집착하며 어떻게 거의 1년을 보내게 되었는지 이야기하고 싶다. 그 일이, 임상시험 모집 AI를 파는 그 누구도 드러내 놓고 말하고 싶어 하지 않는 것을 내게 가르쳐 주었기 때문이다: 환자 매칭의 문제는 결코 충분한 사람을 찾는 것이 아니었다. 문제는 매칭을 하는 기계가 단어를 읽는다는 것이고, 임상시험 적격성은 의학적 개념에 관한 것이라는 점이다 — 그리고 그 둘은 같은 것이 아니다.
임상시험의 80%가 등록 일정을 맞추지 못한다. 업계는 이를 계속 공급 문제로 취급한다. 하지만 이것은 정밀성의 문제다.
내가 처음 저지른 실수
이 점을 먼저 인정하겠다. 이야기 전체가 여기서 뒤바뀌기 때문이다. 우리가 시작했을 때, 나는 이 문제가 사실상 해결됐다고 믿는 진영에 있었다.
논리는 이랬다. 수년간 임상시험 매칭은 키워드 검색으로 이루어졌다 — 조잡하고, 취약하고, 형편없었다. 그러다 대규모 언어 모델이 등장했고, 갑자기 소프트웨어가 비정형 의사 소견서를 사람처럼 읽을 수 있게 되었다. 나는 그것을 보고 어려운 부분은 이미 지나갔다고 결론지었다. 강력한 모델을 가져와 적격 기준과 환자 기록을 입력하고 프롬프트를 조정하면, 매칭은 그냥 작동할 것이었다. 나는 그것을 주장했다. 팀에게 좁혀야 할 격차는 작다고, 더 나은 검색과 더 신중한 프롬프팅의 문제일 뿐이라고 말했다.
우리는 그 시스템을 구축했다. 데모는 아름답게 돌아갔다. 쉬운 사례에서는 — 분명히 2기 유방암인 환자, 분명히 "이전 항암 치료 없음"이라고 적힌 기준에서는 — 정말로 훌륭했다. 벤더 발표 자료에서 보는 수치는 바로 이런 사례들에서 나온다. Tempus는 2025년 초 Deep 6 AI를 인수하고 750개가 넘는 의료기관 사이트로 확장한 뒤, 자사의 Patient Query 에이전트가 평가된 쿼리 집합 전반에서 94.39%의 정확도를 기록했다고 보고한다. 그 수치는 진짜다. 나는 그것을 믿는다. 그것은 또한 애초에 문제가 된 적이 없던 사례들을 측정한 것이기도 하다.
카테터 삽입술 환자는 내 버전의 시스템이 죽은 순간이었다. 나는 앉아서 그녀가 왜 탈락했는지 추적했고, 버그를 예상했다. 버그는 없었다. 시스템은 벡터 유사도가 하는 일을 정확히 했다 — 두 문자열을 의미 공간에서 얼마나 가까이 있는지로 점수 매겼고, "카테터"라는 단어를 공유하는 두 시술은 실제로 매우 가까이 있다. 그 어떤 프롬프트 엔지니어링도, 하나는 "심장에 대한 시술"에 속하고 다른 하나는 "정맥의 카테터 삽입"에 속한다는 것을 시스템에 가르칠 수 없었다. 시스템에는 심장이라는 개념이 없었다. 그것에게는 심장에 관한 단어들만 있었다.
언어 모델은 왜 의학 용어를 혼동하는가?
이 분야 전체에 대한 내 사고방식을 재편한 구분은 이것이다.
임상의가 "중심정맥 카테터 삽입"을 읽을 때, 그들은 다섯 개의 토큰을 처리하지 않는다. 그들은 개념을 불러온다 — 부모와 자식과 형제가 있는, 방대하고 구조화된 의학 지식 계층 구조 속의 특정 노드, 그리고 정확한 위치를 가진 노드, 즉 이것은 심장 시술이 아니라 혈관 접근 시술이다라고 말하는 위치. 그 계층 구조는 실제로, SNOMED-CT라 불리는 임상 온톨로지로서 공식적으로 존재한다. 그 안에서 심장 카테터 삽입술은 개념 ID 41976001이며, 심장에 대한 시술 아래에 분류된다. 중심정맥 카테터 삽입술은 392230005이며, 정맥의 카테터 삽입 아래에 분류된다. 트리의 서로 다른 두 가지다. 트리를 근거로 추론하는 시스템은 이 둘을 혼동할 수 없다. 단어 근접성을 근거로 추론하는 시스템은 끊임없이 혼동한다.
이것은 내가 혼자 우연히 발견한 별난 현상이 아니다. 발표된 평가들은 AI 모델이 바로 이 "심장 카테터 삽입술은 중심정맥 천자와 같다"는 오류를 범하는 것을 기록해 왔다(Fierce Biotech, 2025). 이것은 하나의 부류 전체를 이루는 실패다 — 시술, 질환, 약물이 어휘를 공유하지만 의학적으로는 갈라지는 어디에서든 말이다. 관상동맥 조영술과 말초 혈관 조영술. 이들은 "조영술"을 공유한다. 하나는 심장 시술이고, 다른 하나는 혈관 접근이다. 언어 모델은 이들을 사촌으로 점수 매긴다. 온톨로지는 이들이 남남임을 안다.
이제 그것을 프로토콜 하나 분량의 기준으로, 나아가 여러 임상시험 포트폴리오 전반으로 곱해 보라. 그러면 이것은 예외적 사례가 아니다. 업계의 모든 확률론적 매처의 배경에서 조용히 돌아가는 체계적인 적격성 누수인 것이다.
언어 모델은 "카테터"가 "심장" 근처에 나타난다는 것을 안다. 하지만 하나는 심장 시술이고 다른 하나는 정맥주사 라인이라는 것은 전혀 알지 못한다. 바로 그 간극에서 적격 환자들이 사라진다.
모든 것을 두 번 망가뜨린 예외 조항
일단 들여다보기 시작하니, 단어 대 개념의 간극은 첫 번째 균열에 불과한 것으로 드러났다.
또 다른 균열은 적격성 자체의 문법 속에 있다. 실제 프로토콜은 "고혈압 제외"라고 말하지 않는다. 프로토콜은 "고혈압 환자를 제외하라, 다만 안정적인 약물로 3개월 이상 잘 조절되는 경우는 예외로 한다"라고 말한다. 그 문장은 키워드가 아니다 — 그것은 시간 조건이 안에 묻힌 조건문이다. 나는 우리 초기 시스템이 그 조항을 두 가지 방식으로 처리하는 것을 지켜봤는데, 둘 다 틀렸다. 어떨 때는 "고혈압"을 보고 환자를 제외해, 실제로는 자격이 있는 사람을 놓쳤다. 어떨 때는 그냥 통과시키고 3개월 확인을 완전히 건너뛰었다. 그것은 코디네이터가 생각 없이도 해내는 일 — 예외를 붙잡아 두고 나서 기간을 확인하는 일 — 을 결코 안정적으로 해내지 못했다.
이 문제는 해마다 더 중요해진다. 프로토콜이 점점 복잡해지고 있기 때문이다. 종양학 프로토콜의 적격 기준 중앙값은 한 세대 전 약 17개에서 최근 코호트에서는 27개로 늘었고, 프로토콜당 시술 수는 2005년 이후 139% 증가했다(IQVIA). 모든 '단서(unless)', '예외(except)', '6개월 이내(within six months)'는 단어 매처가 조용히 추측하는 지점이다. 그리고 수정안이 도착하면 — 이제 평균 수정안 하나를 구현하는 데 260일이 걸린다(Applied Clinical Trials, 2025) — 모든 추측을 다시 추측해야 한다.
하지만 나를 진짜로 두렵게 한 실패는 달랐다 — 그것은 내가 규제 당국 앞에서 이 작업을 뒷받침할 수 있느냐 자체를 파고들었다. 같은 환자를 주변 맥락만 살짝 다르게 하여 언어 모델 매처에 두 번 돌리면, 서로 다른 두 개의 답을 얻을 수 있다. 대부분의 소프트웨어에서는 약간의 비결정성은 용인할 만하다. 임상시험에서는 그것이 결격 사유다. 규제 당국은 환자가 적격이었을 확률을 원하지 않는다. 그들은 각 사람이 포함되거나 제외된 정확하고 재현 가능한 이유를 원한다 — 한 줄 한 줄 읽을 수 있는 기록 말이다. 화요일에는 다르게 결정할 수도 있는 시스템은 그런 기록을 만들어 낼 수 없다.
처음에 만들었어야 했던 것
재구축은 미묘한 것이 아니었다. 우리는 확률론적 시스템을 결정론적으로 행동하게 만들려는 시도를 멈추고, 설계 자체가 결정론적인 시스템을 구축했다.
그 핵심 뼈대는 온톨로지다. 우리는 환자 기록의 모든 용어와 적격 기준의 모든 용어를 해당하는 SNOMED-CT 개념에 매핑한다 — 그래서 매처는 문자열이 아니라 의학 계층 구조 속의 노드를 비교한다. 심장 카테터 삽입술과 중심정맥 카테터 삽입술은 더 이상 이웃이 아니게 되고, 실제 그대로의 모습이 된다: 서로 다른 가지에 놓인 먼 친척 말이다. 카테터 삽입술 환자를 이것에 돌리면, 적격으로 돌아온다. 정확하게. 매번.
온톨로지 위에, 우리는 언어 모델이 더듬거리는 부분들 — "unless", "except", "3개월 이내" — 을 위한 명시적 로직을 얹었다. 그런 종류의 추론은 사실 두 가지 학문을 꿰매어 붙인 것이다: "unless" 조항의 의무-예외 구조를 모델링하는 의무 논리(deontic logic), 그리고 기록의 실제 날짜에 대해 "3개월 이내"를 평가하는 시간 구간 추론이다. 둘 다 패턴 매칭이 불가능하며, 둘 다 명시적으로 모델링되어야 한다. 그리고 모든 결정이 명명된 개념들에 대한 명시적 단계들의 사슬이기 때문에, 시스템은 규제 당국이 원하는 바로 그 산출물을 내놓는다: 어떤 개념이 어떤 기준과 일치했는지, 그리고 환자가 왜 그 자리에 놓였는지를 정확히 보여주는 재현 가능한 감사 추적이다.
나는 신중하게 neuro-symbolic이라고 말한다, "우리가 언어 모델을 내던졌다"가 아니라. 우리는 그러지 않았다. 언어 모델은 지저분한 첫 단계 — 장황한 임상 소견서를 읽고 산문에서 구조화된 의미를 뽑아내는 일 — 에 탁월하다. 우리는 언어 모델이 그 일을 하도록 둔다. 다만 그것이 적격성의 심판이 되도록 두지는 않는다. 읽기는 확률론적이고, 추론은 결정론적이다. 그 분업이 설계 전체다.
이것이 우리가 이제 제약 스폰서, CRO, 학술 의료 센터를 위해 구축하는 시스템이며, 우리의 임상시험 모집 AI 작업이 중심으로 삼는 것이다 — 또 하나의 확률론적 채점기가 아니라, 결정론적 로직으로 SNOMED-CT 온톨로지 그래프를 근거로 추론하는 맞춤형 매칭 말이다.
왜 대형 플랫폼들은 이것을 그냥 구축하지 않았나?
이것은 내가 모든 스폰서에게서 받는 질문이며, 타당한 질문이다. Tempus, IQVIA, Medidata, ConcertAI, TriNetX — 이들은 막대한 데이터를 보유한 진지한 기업들이다. 왜 이들 중 하나가 온톨로지 기반 버전을 그냥 구축하지 않았을까?
답의 일부는 그들이 다른 것을 최적화하고 있고, 그것이 합리적인 것이라는 데 있다. IQVIA는 2026년 3월 NVIDIA와 함께 구축한 통합 에이전트형 플랫폼 IQVIA.ai를 공개했으며, 이는 2억 5천만 건이 넘는 환자 기록 위에 놓여 있다. TriNetX는 타당성 및 코호트 작업을 위해 비슷한 규모의 연합 네트워크를 운영한다. ConcertAI는 2026년 2월 에이전트형 Accelerated Clinical Trials 플랫폼을 출시하며 10개월에서 20개월의 일정 단축을 주장했다. Medidata의 AI Study Build는 수백 건의 연구 전반에서 자사의 Rave 전자 데이터 수집 시스템에 매칭을 연결한다. 이들 각각은 실재하며 자신이 겨냥하는 것 — 폭, 규모, 엔드투엔드 워크플로 — 을 잘 해낸다.
그 모든 것들 아래에는 더 조용한 간극도 있다. 플랫폼이 매칭을 잘해낼 때조차, 그 출력물은 대개 코디네이터가 이후 임상시험 관리 기록 시스템 — Rave, Veeva Vault, Oracle Clinical One — 에 다시 입력해야 하는 목록으로 떨어진다. 매칭과 연구를 운영하는 시스템은 실제로 서로 대화하지 않기에, 자동화가 가장 촘촘하기를 바라는 바로 그 지점에서 수작업 인수인계가 계속 남는다.
하지만 폭과 온톨로지적 깊이는 서로 반대 방향으로 당긴다. 2억 5천만 건 규모에서 모든 치료 영역을 아우르는 플랫폼은 두루두루 좋도록 만들어지며, 두루두루 좋다는 것이야말로 바로 카테터 삽입술 부류의 오류가 사는 곳이다. 복잡한 종양학, 희귀질환, 또는 중추신경계(CNS) 프로토콜이 필요로 하는 깊고 가지를 인식하는 추론은 구축하는 데 비용이 많이 들고, 또한 유지하는 데도 비용이 많이 든다 — SNOMED는 1년에 두 번 업데이트되고, MedDRA 이상반응 사전은 분기마다 업데이트되며, 온톨로지를 최신 상태로 유지하는 것은 일회성 프로젝트가 아니라 영구적인 인력이다. 그것은 폭을 향해 질주하는 플랫폼이 미루기 마련인, 화려하지 않고 결코 끝나지 않는 종류의 엔지니어링이다.
플랫폼들이 틀린 것은 아니다. 그들은 규모를 위해 문제를 풀고 있다. 온톨로지적 정밀성은 다른 문제이며, 그것은 당신의 적격 환자가 실제로 발견되느냐를 결정하는 문제다.
또 다른 정직한 답은 데이터 중력이다. 이 플랫폼들 중 몇몇은 자신의 네트워크 안에서 가장 잘 매칭한다 — 그들의 데이터, 그들의 사이트에서 말이다. 만약 당신의 환자들이 당신 자신의 전자 건강 기록 안에, 당신 자신의 방화벽 뒤에 있다면, 그것은 완전히 다른 배포다. 그리고 많은 스폰서와 병원은, 매우 타당한 HIPAA 상의 이유로, 매칭을 위해 환자 기록을 다른 누군가의 클라우드로 보내지 않을 것이다.
아무도 슬라이드에 올리지 않는 비용
이해관계를 구체적으로 짚어 보겠다. 이 문제의 인간적 측면과 재정적 측면은 추상화되어 사라지기 쉽기 때문이다.
재정적으로: 임상시험에서 하루의 지연은 처방 매출 손실로 약 80만 달러의 비용이 든다고 추정되며(Tufts CSDD), 일부 치료 영역에서는 훨씬 더 심각하다 — 심혈관 지연은 하루에 약 140만 달러에 이른다. 스크린 실패는 건당 평균 약 1,200달러이며, 스크린 실패율은 적응증에 따라 20%에서 80% 사이 어디든 될 수 있고, 알츠하이머 임상시험에서는 88%까지 높아진다. 카테터 삽입술 환자 — 우리가 놓친 그 적격 환자 — 는 이 계산에서 순전한 낭비다: 나아갔어야 할 사람이 나아가지 못했고, 누군가는 그녀를 "부적합"으로 걸러 내는 데 돈을 지불했다.
하지만 내가 현장 직원들과 함께 앉아 보기 전까지 미처 이해하지 못한 비용은 인간적인 것이고, 그것은 복리로 불어난다. 코디네이터들은 한 번에 대여섯 개의 연구를 저글링하며 시간의 40~60%를 사전 스크리닝에 쓴다. 매칭 도구가 대략 30% 이상의 거짓 양성을 내놓으면, 그들은 그 도구를 신뢰하기를 멈춘다 — 그리고 흔히 3개월 안에 그것을 버린다. 나는 재구축 이전에 이 일이 우리에게 일어나는 것을 지켜봤다. 한 파일럿 사이트의 코디네이터는 우리의 플래그를 여는 것을 그냥 멈춰 버렸다. 악의에서가 아니라 — 우선순위 분류에서였다. 그 도구가 충분히 자주 늑대가 나타났다고 외친 나머지, 그것을 확인하는 것이 그녀 자신의 차트 검토보다 더 느렸던 것이다. 그것에 따라 행동해야 하는 단 한 사람의 신뢰를 갉아먹는 매처는 생산성 도구가 아니다. 그것은 그녀가 무시하는 법을 익힌 또 하나의 브라우저 탭일 뿐이다.
그것이 정밀성이 도달 범위를 이기는 진짜 이유다. 그것은 거짓 음성으로 잃는 적격 환자만의 문제가 아니다. 모든 거짓 양성은 전체 사업에서 가장 희소한 자원 — 번아웃된 코디네이터의 주의력 — 을 소비하며, 그것이 한번 사라지고 나면 세상에서 가장 좋은 데이터 네트워크조차 더 이상 들여다보기를 멈춘 코디네이터에서 막다른 길에 다다른다.
"이것이 바로 FHIR와 Epic 통합이 하는 일 아닌가?"
사람들이 내게 이것을 자주 묻는다. 그러니 그 반론들을 정면으로 다뤄 보겠다.
데이터 표준에 관한 반론부터 시작하자: 분명 FHIR와 Epic이 매칭 문제를 해결하지 않는가? 그것들은 배관 문제를 해결하는데, 그것은 필요조건이지 충분조건은 아니다. FHIR와 Epic 통합은 깨끗하고 구조화된 데이터가 흐르게 한다 — 하지만 데이터를 얻는 것은 어려운 부분 이전의 부분이다. 당신은 여전히 그 데이터가 무엇을 의미하는지에 대해 추론해야 하고, 바로 거기서 온톨로지가 제 역할을 한다. 그리고 그 배관 역시 사소하지 않다: Epic의 App Orchard 인증은 단 하나의 차트에 손대기 전에 거쳐야 하는 6개월에서 12개월짜리 보안 심사다. 빠르고 깊은 EHR 매칭을 약속하는 사람은 누구든 이미 그 비용을 치렀거나, 아직 그것을 충족하지 못한 것이다.
그다음은 규제에 관한 걱정이다: 결정론적이고 규칙이 많은 시스템은, 그것이 함의하는 모든 부담과 함께, 규제 대상 의료기기로 간주되지 않는가? 바로 여기서 최근의 지침이 실제로 도움이 된다. 2026년 1월에 발표된 FDA의 갱신된 임상 의사결정 지원 지침은 어떤 CDS 기능이 기기 정의의 바깥에 속하는지를 명확히 했다 — 그리고 환자 기록을 임상시험 적격 기준과 대조하는 것은 비기기(non-device) CDS로 인정될 수 있다. 같은 기관의 2025년 1월 프레임워크는 신약 개발에서 AI를 위한 7단계 신뢰성 평가를 제시했다. 추론이 투명하고 재현 가능한 시스템은 그 로직이 확률 분포인 시스템보다 그 프레임워크를 통과시키기가 훨씬 쉽다.
그리고 가장 노골적인 버전: 이 중 무엇이라도 그냥 사람을 더 고용하는 것보다 빠른가? 성능 데이터는 단호하게 그렇다고 말한다 — 매칭이 신뢰할 만할 때 말이다. 보고된 AI 스크리닝은 한 배포에서 스크린 실패율을 73% 줄여 54%에서 14%로 낮췄고(Trially), 수작업 차트 검토 시간을 약 90% 줄였다. 문제는 그러한 이득이 코디네이터가 출력물을 믿고 그에 따라 행동할 만큼만 실현된다는 것이다. 거짓 양성 위에 세워진 속도는 속도가 아니다. 그것은 좌중을 잃는 더 빠른 방법이다.
놓친 환자가 실제로 내게 가르쳐 준 것
나는 계속 그녀에게로, 알고리즘이 심장 시술로 착각한 정맥주사 라인을 가진 그 여성에게로 돌아간다. 그녀는 내내 적격이었다. 임상시험은 그녀를 필요로 했다. 그녀는 데이터 속에 바로 거기 앉아 있었다. 그런데 우리는 기술이 약해서가 아니라 그것이 잘못된 문제를 겨냥하고 있었기 때문에 그녀를 잃었다 — 그 밑에 깔린 의학에 대해 추론하는 것이 일이었는데도 언어의 표면을 읽고 있었던 것이다.
이 분야 전체가 5년을 들여 키워드 검색을 언어 모델로 대체하고는 매칭 문제가 처리되었다고 선언했다. 처리되지 않았다. 위치만 재배치되었을 뿐이다. 우리는 조잡한 단어 매칭을 정교한 단어 매칭과 맞바꿨고, 임상시험이 제때 등록하느냐를 결정하는 사례들 — 예외 조항, 어휘를 공유하는 시술들, 규제 당국이 그 이유를 읽을 수 있어야 하는 기준들 — 은 애초에 전혀 단어에 관한 것이 아니었다.
만약 당신이 임상시험을 운영하며 모집 AI를 평가하고 있다면, 내가 벤더에게 던질 질문은 그들의 대표 정확도 수치가 아니다. 그 수치는 애초에 놓칠 리 없던 사례들에서 측정된 것이기 때문이다. 그들에게 심장 카테터 삽입술과 중심정맥 라인을 그들의 매처에 통과시켜 보게 하고, 개념 단위로, 왜 하나는 제외되고 하나는 제외되지 않는지 보여 달라고 요청하라. 그 하나의 질문에 대한 답이, 당신이 읽는 시스템을 샀는지, 아니면 실제로 이해하는 시스템을 샀는지를 말해 준다. 우리는 두 번째 종류 — 온톨로지를 근거로 추론하는 임상시험 모집 AI — 를 구축하기로 선택했다. 첫 번째 종류가 이미 우리가 잃을 수 없었던 환자 한 명을 대가로 치르게 했기 때문이다.
