근거 기반 AI의 임상적 당위성: 의료 커뮤니케이션에서 LLM 래퍼를 넘어서

헬스케어 산업은 임상의 번아웃을 완화해야 하는 시급한 필요와, 생성형 인공지능의 신속하고 종종 검증되지 않은 배포가 충돌하는 위태로운 기로에 서 있습니다. 일차진료 의사(PCP)에 대한 행정 부담은 임계점에 도달했으며, 일부 임상의는 환자 포털 메시지에만 월평균 10시간을 쓰고 있습니다. 이 업무는 역사적으로 청구가 불가능했고 직업적 소진의 주요 원인이었습니다.¹ 이에 대한 대응으로, 환자 커뮤니케이션을 자동화하기 위한 대규모 언어 모델(LLM) 통합은 혁명적 효율 향상으로 환영받아 왔습니다. 그러나 2024년 4월 The Lancet Digital Health에 게재된 획기적인 단면 시뮬레이션 연구—Harvard Medical School, Yale School of Medicine, University of Wisconsin 연구자들이 수행—는 이 접근의 체계적 취약성을 드러냈습니다.¹ 연구는 생성형 AI가 인지된 인지 업무량을 크게 줄이지만, 기존의 "휴먼인더루프" 안전장치가 자주 놓치는 심각한 환자 안전 위험을 도입한다는 사실을 확인했습니다.³

Veriprajna가 작성한 이 백서는, 본질적으로 사용자 데이터를 최소의 임상 근거화만으로 범용 모델에 전달하는 애플리케이션인 "LLM 래퍼"에 대한 현재 산업의 의존이 임상 진료의 고위험 환경에는 불충분하다고 주장합니다. 캘리포니아 Assembly Bill 3030(AB 3030)이 2025년 1월부터 환자 커뮤니케이션에 대한 AI 고지를 의무화할 준비를 함에 따라, 실험적 자동화의 시대는 깊은 근거 기반 AI 엔지니어링에 자리를 내주어야 합니다.⁶ 진정한 임상 안전에는 검색 증강 생성(RAG), 의료 지식 그래프, 엄격한 적대적 레드 티밍으로의 아키텍처적 전환이 필요합니다.

포렌식 증거: 2024년 4월 Lancet 연구 결과 분석

Lancet 연구는 시뮬레이션된 임상 환경에서 생성형 AI에 대한 가장 엄격한 평가 중 하나를 대표합니다. 연구자들은 시뮬레이션된 전자건강기록(EHR) 플랫폼 내에서 156건의 환자 포털 메시지에 대한 GPT-4의 답변 초안 작성 성능을 평가했습니다.¹ 결과는 생산성에 대한 거대한 잠재력과 파국적 위험이라는 이중 서사를 제공합니다.

AI 위해와 의사 감독의 통계적 분석

연구의 정량적 결과는, 깊은 임상 근거화 없이 사용될 때 LLM이 매우 설득력 있으면서도 의학적으로 위험한 콘텐츠를 생성할 수 있음을 보여줍니다. 156건의 AI 생성 초안 중 7.1%가 환자에게 심각한 위해의 위험을 초래하는 것으로 분류되었습니다.¹ 가장 충격적인 것은, 응답의 0.6%—시뮬레이션에서 구체적으로 한 사례—가 직접적인 사망 위험을 초래했다는 점입니다.¹ 이러한 유해 출력은 일반적으로 모델이 임상적 긴급성을 인식하지 못하거나, 구식이거나 잘못된 의학적 조언을 제공하는 경향에서 비롯되었습니다.³

AI 성능 및 위험 지표	통계값	출처
심각한 위해 위험(미편집 AI 초안)	7.1%	4
직접 사망 위험(미편집 AI 초안)	0.6%	4
의사 동의: AI가 인지 업무량을 줄임	80%	3
AI 도구 성능에 대한 의사 신뢰	90%	3
의사가 놓친 평균 오류 초안	66.6%	3
전혀 편집 없이 제출된 오류 초안	35% – 45%	3
오류 초안이 놓칠 가능성(p값)	< 0.001	3

이 수치들의 임상적 중요성은 검토 의사들의 성과와 나란히 놓일 때 더욱 커집니다. 연구는 AI 생성 응답을 검토하기 위해 현직 PCP 20명을 활용했습니다. 전문성에도 불구하고, 이 임상의들은 의도적으로 오류가 있는 초안 4건 중 평균 2.67건을 놓쳤습니다.³ 20명 중 단 한 명의 참가자만이 네 건의 오류 메시지를 모두 식별하고 충분히 대응할 수 있었습니다.³ 이 불일치는 "의사인더루프" 모델의 근본적 심리적 취약성인 자동화 편향을 부각합니다.

실패의 메커니즘: 자동화 편향과 환각

자동화 편향은 인간 운영자가 자동화된 제안에 과도하게 의존하여, 자신의 작업이나 인간 동료의 작업에 적용할 것과 같은 수준의 비판적 검토를 종종 하지 않을 때 발생합니다.⁵ Lancet 시뮬레이션에서 GPT-4 초안의 높은 언어 품질과 공감적 어조는 그릇된 안전감을 만들었습니다.¹ 의사들은 중대한 오류를 놓치면서도 도구 성능에 대해 90%의 신뢰 수준을 보고했습니다.³

오류 자체는 단순한 오타가 아니라 임상 추론의 실질적 실패였습니다. 이러한 "환각"에는 의료 정보의 날조, 구식 프로토콜의 사용, 그리고 가장 중요하게는 환자 상황의 "급성도(acuity)"를 평가하지 못한 실패가 포함되었습니다.³ 예를 들어, "사망 위험"으로 분류된 사례는 AI가 생명을 위협하는 증상에 대해 즉각적인 응급 진료를 받도록 환자에게 지시하지 못하고, 대신 표준적이고 비긴급한 응답을 제공했기 때문에 발생했습니다.¹

규제 진화: 캘리포니아 AB 3030과 투명성 의무

생성형 AI의 기술적 위험이 정량화됨에 따라, 입법 기관들은 환자를 보호하기 위한 프레임워크를 제정하기 시작했습니다. 2024년 9월에 법으로 서명한 캘리포니아의 AB 3030은 헬스케어 AI에서 의무적 투명성을 향한 중대한 전환을 표시합니다.⁷

2025년 컴플라이언스 요건

2025년 1월 1일부터 AB 3030은 모든 의료 시설, 클리닉, 의사 진료소가 생성형 AI를 사용해 "환자 임상 정보"를 커뮤니케이션할 때마다 환자에게 고지할 것을 요구합니다.⁶ 여기에는 환자의 건강 상태와 관련된 모든 정보가 포함되며, 예약 일정이나 청구와 같은 행정 업무는 면제됩니다.⁶

커뮤니케이션 매체	AB 3030에 따른 고지 기준	출처
서면(편지, 이메일)	각 커뮤니케이션의 시작 부분에 눈에 띄게 표시된 고지	6
온라인(채팅 기반, 원격의료)	상호작용 전반에 걸쳐 눈에 띄게 표시된 고지	6
오디오(음성사서함, 통화)	시작과 종료 모두에서 제공되는 구두 고지	6
영상 커뮤니케이션	상호작용 전반에 걸쳐 눈에 띄게 표시된 고지	6

단순한 공개를 넘어, 법은 환자가 인간 의료 제공자 또는 적절한 담당자에게 연락하는 방법에 대한 명확한 지침을 제공받을 것을 의무화합니다.⁷ 이러한 조항을 준수하지 못하면 의료 시설은 벌금과 면허 조치의 대상이 되며, 개별 의사는 의료 면허에 대한 징계 조치에 직면할 수 있습니다.⁹

"휴먼인더루프" 면제와 그 함의

AB 3030의 핵심 조항은, AI 생성 커뮤니케이션이 면허 또는 인증을 받은 인간 의료 제공자에 의해 "읽고 검토"된 경우 고지 및 지침 요건이 적용되지 않는다고 명시합니다.⁶ 표면적으로 이는 의료 시스템이 환자에게 사용을 고지하지 않고도 AI 초안 작성 도구를 계속 사용할 수 있는 경로를 제공합니다.

그러나 Lancet 연구는 이 면제에 대한 치명적인 반론을 제공합니다. 임상의가 자동화 편향으로 인해 오류의 66%를 놓친다면, "읽고 검토" 기준은 높은 임상 위험을 유지하면서 그릇된 컴플라이언스 감각을 줄 수 있습니다.¹ Veriprajna는 인간 검토가 제공하는 법적·윤리적 "세이프 하버"가, 수동적 수용을 적극적으로 억제하고 검토자에게 환각을 식별하는 데 필요한 맥락을 제공하는 기술로 그 검토가 지원될 때만 유효하다고 주장합니다.

"LLM 래퍼" 모델의 한계

현재 AI 헬스케어 스타트업에서 만연한 접근은 "래퍼"—EHR 시스템과 상용 LLM API(OpenAI의 GPT-4 또는 Google의 Gemini 등) 간의 상호작용을 촉진하는 얇은 소프트웨어 계층—의 배포입니다. 이러한 래퍼는 빠르게 개발될 수 있지만, 임상 의사결정 지원에 부적합하게 만드는 여러 근본적 결함을 물려받습니다.

자기회귀 추론 격차

표준 LLM은 자기회귀적입니다. 의학 과학에 대한 구조화된 이해가 아니라 통계적 확률에 기반해 다음 토큰(단어 또는 하위 단어)을 예측합니다.⁸ 이 "토큰 수준 예측"에는 의학에 필요한 "개념 수준 추론"이 결여되어 있습니다.¹³ 영상의학이나 종양학과 같은 전문 영역에서 LLM은 미묘한 진단 해석에 필수적인 장거리 의존성과 복잡한 의미 관계를 포착하는 데 종종 어려움을 겪습니다.¹³

지식 컷오프와 맥락적 맹목

공개 LLM 버전은 고정된 지식 컷오프를 가진 정적 데이터셋으로 학습되어, 외부 데이터 통합 없이는 최신 임상 가이드라인이나 환자의 가장 최근 검사 결과를 참조할 수 없습니다.¹⁴ 또한 래퍼 기반 시스템은 X선, 파형(ECG), 유전체 프로파일과 같은 다중모드 데이터를 통합하는 능력이 종종 결여되어, 복잡한 의료 상황에 필요한 핵심 세부사항을 놓치는 "일반주의적" 답변을 초래합니다.¹⁵

보안과 HIPAA 컴플라이언스

많은 범용 LLM 인터페이스는 본질적으로 HIPAA 준수가 아니며, 특정 사업 제휴 계약(BAA)과 엄격한 데이터 마스킹 프로토콜 없이 환자 데이터와 함께 사용하면 심각한 프라이버시 위험을 초래합니다.¹⁵ 래퍼 개발자는 종종 "데이터 포이즈닝" 또는 "프롬프트 인젝션" 취약성의 깊이를 간과하며, 적대적 입력이 모델을 속여 민감한 내부 맥락이나 환자 데이터를 노출하게 할 수 있습니다.¹⁶

딥 AI를 위한 아키텍처 솔루션: Veriprajna 프레임워크

래퍼 모델을 넘어서려면, AI 솔루션은 임상 안전을 일차적 아키텍처 제약으로 삼아 처음부터 구축되어야 합니다. 이는 순수 확률 모델에서 근거 기반의 하이브리드 시스템으로의 전환을 포함합니다.

헬스케어에서의 검색 증강 생성(RAG)

검색 증강 생성(RAG)은 응답을 생성하기 전에 모델이 참조할 "진실의 원천"을 제공함으로써 환각 문제를 완화합니다.¹⁴ RAG 기반 시스템에서 AI는 먼저 검증된 코퍼스—환자의 임상 노트, 동료 심사 의학 저널, 기관 가이드라인 등—에서 관련 문서를 검색한 다음, 이 검색된 정보에 조건부로 응답을 생성합니다.²⁰

RAG 구성 요소	임상 안전에서의 기능	독립형 LLM 대비 이점
희소 검색기(BM25)	특정 약물이나 코드에 대한 정확 키워드 매칭	객관적 데이터에 대한 높은 정밀도
밀집 검색기(신경망)	복잡한 증상과 동의어에 대한 의미적 매칭	텍스트를 넘어 의료 의도를 포착
RAG 프롬프팅	LLM을 "제공된 맥락만 사용"하도록 제약	환각의 유의미한 감소
검증된 인용	모든 AI 진술을 원천 문서로 다시 연결	임상의 검토와 신뢰 강화

의료 지식 그래프와 Neo4j 통합

임상 근거화에 대한 가장 정교한 접근은 의료 지식 그래프(KG)의 사용을 포함합니다. 이러한 그래프는 임상 지식을 텍스트 문자열이 아니라 상호 연관된 개념의 네트워크로 표현합니다.²¹ 예를 들어, KG는 특정 약물, 그 작용 기전, 금기사항, 신장애 환자에 대한 전형적 용량 간의 관계를 명시적으로 모델링할 수 있습니다.

MediGRAF(Medical Graph Retrieval Augmented Framework)와 같은 시스템은 Neo4j를 활용하여 Text2Cypher 기능—자연어를 정밀한 그래프 쿼리로 변환—과 서술 검색을 위한 벡터 임베딩을 결합합니다.²² 이를 통해 AI는 "완전한 환자 여정"을 탐색하며, 사실적 쿼리 결과를 100% 재현율로 식별하면서 복잡한 추론에 대한 높은 안전 기준을 유지할 수 있습니다.²²

개념 수준 모델링(LCM) 대 토큰 수준 예측

미래지향적 임상 AI는 대규모 개념 모델(LCM)로 나아가야 합니다. 토큰을 처리하는 LLM과 달리, LCM은 아이디어와 계층적 추론의 수준에서 작동합니다.¹³

특징	대규모 언어 모델(LLM)	대규모 개념 모델(LCM)
추상화 수준	토큰 수준 예측(단어별)	개념 수준 예측(아이디어별)
추론 능력	주로 국소적 예측; 논리 결여	명시적 계층적 추론/계획
표현	언어 특화 토큰	언어 비의존적 문장 임베딩
임상 유용성	언어적 환각의 높은 위험	구조화된 추론에 최적화

검증과 안전 테스트: 새로운 표준

전통적 소프트웨어 테스트는 생성형 AI에 불충분합니다. 엔터프라이즈급 솔루션에는 적대적 테스트와 벤치마크 평가의 지속적 사이클이 필요합니다.

Med-HALT와 임상 벤치마크

Med-HALT(Medical Domain Hallucination Test)는 헬스케어 LLM의 환각을 구체적으로 식별하기 위해 설계된 다국적 벤치마크입니다.²³ 이는 False Confidence Test—모델이 무작위로 제안된 답을 평가하도록 도전받는 테스트—와 Fake Questions Test—모델이 무의미하거나 날조된 의료 쿼리를 식별할 수 있는지 판정하는 테스트—와 같은 추론 환각 테스트(RHT)를 활용합니다.²³

또한 연구에 따르면 MedGemma와 같은 "의료 특화" 모델의 저조한 성능(일부 테스트에서 정확도 28%–61%에 그침)이 더 넓은 추론 모델인 Gemini-2.⁵ Pro와 비교될 때, 안전은 "대규모 사전학습 중에 개발된 정교한 추론 능력"에서 나오며 단순한 도메인 특화 파인튜닝만으로는 나오지 않음을 강조합니다.²⁴

안전과 보안을 위한 자동화된 레드 티밍

레드 티밍은 배포 전에 실패 모드를 식별하기 위해 적대적 행동을 시뮬레이션하는 것을 포함합니다.¹⁹ 헬스케어의 경우 다음을 포함합니다:

1.​ 직접 적대적 프로빙: 시스템 지침을 무력화하여 안전하지 않은 의학적 조언을 생성하려는 시도.¹⁹

2.​ 민감 데이터 추출: 간접 질문이나 프롬프트 인젝션을 통해 PHI를 유출할지 모델을 프로빙.²⁶

3.​ 탈옥(jailbreak) 패턴: 역할 연기나 재구성을 사용해 콘텐츠 제한과 임상 가드레일을 우회.¹⁹

책임과 변화하는 진료 기준

임상 실무에 AI를 통합하는 것은 기술적 과제일 뿐 아니라 법적 과제입니다. 의료 과실 소송에서 핵심 질문은 의사가 "진료 기준"—유사한 상황에서 합리적 의료 제공자가 제공할 돌봄—을 준수했는지입니다.²⁷

AI 과실의 ABCD

AI가 "진료실의 새로운 동료"가 됨에 따라, 전문적 책임의 법적 정의가 진화하고 있습니다.²⁹

●​ 의무(Duty): 제공자는 AI 도구를 적절히 사용할 의무를 집니다. 오류를 방지할 수 있었던 검증된 AI 도구를 사용하지 않는 것은 곧 의무 위반으로 간주될 수 있습니다.²⁹

●​ 위반(Breach): AI 시스템이 모델 불투명성이나 잘못된 데이터로 인해 위해로 이어지는 권고를 제공하고, 의사가 그 권고를 맹목적으로 수용했다면 의무를 위반한 것으로 판정될 수 있습니다.³⁰

●​ 인과관계(Causation): 일부 모델의 "블랙박스" 성격으로 인해 AI 출력과 환자 위해 사이의 명확한 인과 연결을 확립하는 것은 어렵고, 의사결정 과정에 대한 철저한 조사가 필요합니다.³⁰

●​ 손해(Damages): 환자는 실제 위해를 입어야 합니다. 진단 지연이나 불평등한 선별로 이어지는 알고리즘 편향은 법원이 이제 인정하는 중대한 위해의 원천을 나타냅니다.³⁰

보험과 모델 드리프트

"모델 드리프트" 또는 "모델 붕괴"—AI가 자체 데이터나 신규 데이터로 재학습되면서 성능이 시간이 지남에 따라 저하되는 현상—는 과실 보험에 독특한 과제를 제기합니다.³³ 신규 보험 상품은 AI 환각과 오작동하는 챗봇으로 인한 법적 청구를 보장하기 시작했지만, 이러한 상품은 일반적으로 한도가 낮고 인간 감독의 문서화된 증거를 요구합니다.³³ 의료 시스템에게, 사용된 모델 버전과 그것이 따른 구체적 추론 단계를 보여주는 감사 로그를 생성할 수 있는 능력은 과실 사건에서의 방어에 필수적입니다.²⁷

윤리적 고려사항: 인간-AI 협업

윤리적 헬스케어 AI는 환자 주체성과 임상의 자율성을 우선해야 합니다. 목표는 인간 상호작용을 자동화하는 것이 아니라 이를 강화하는 것입니다.

투명성 대 환자 만족도

연구에 따르면 환자들은 AI 메시지의 공감과 세부사항을 높이 평가하지만, AI가 관여했다는 사실을 알게 되면 만족도 평가가 약간 감소합니다.¹ 이는 환자 측의 "역 자동화 편향"을 부각합니다. 환자들은 임상 관계와 임상의가 자신의 돌봄에 개인적으로 관여하고 있다는 믿음을 중시합니다.¹ 따라서 AI는 일상적이고 구조화된 업무를 처리하는 데 사용되어야 하며, 임상의가 기술이 복제할 수 없는 미묘한 인간 대 인간 상호작용에 집중할 수 있게 해야 합니다.

편향 완화와 형평성

알고리즘은 학습 데이터를 반영하며, 그 데이터에는 종종 과소대표 집단에 대한 체계적 편향이 포함되어 있습니다.¹⁵ Veriprajna는 "EquityGuard" 시스템—임상의에게 도달하기 전에 AI 출력에 사후 공정성 제약을 적용하는 2단계 디바이싱 프로세스—을 옹호합니다.¹⁶ 이는 임상시험 매칭 권고나 선별 점수가 인구통계적 라벨에 의해 왜곡되지 않도록 보장합니다.

결론: Veriprajna 전략 로드맵

2024년 4월 Lancet 연구는 증거를 제공했고, AB 3030은 법적 동력을 제공합니다. 깊은 전문화된 엔지니어링 없이는 헬스케어 AI의 현재 궤적은 지속 불가능합니다.³ 의료 시스템과 소프트웨어 제공자에게, 앞으로의 길은 실험적 파일럿 프로그램에서 엔터프라이즈급 AI 생태계로의 전환을 요구합니다.

1.​ 래퍼 의존 제거: 단순 API 통합에서 벗어나십시오. LLM을 지속적이고 검증된 의료 지식 그래프에 근거화하는 하이브리드 RAG 아키텍처에 투자하십시오.²²

2.​ 견고한 레드 티밍 구현: 안전은 사후 고려사항이 될 수 없습니다. 자동화된 레드 티밍 에이전트가 환각, 데이터 유출, 임상 부정확성에 대해 시스템을 매일 프로빙해야 합니다.¹⁹

3.​ 고지 의무에 대비: 임상의가 AI 초안에 대한 검증을 문서화하고 AB 3030과 같은 법을 효율 손실 없이 준수할 수 있도록, 의미 있는 인간 검토를 촉진하는 시스템을 설계하십시오.⁷

4.​ 생성적 화려함보다 임상 근거화 우선: 의학에서 정확성은 유일한 중요한 지표입니다. 시스템은 토큰 수준 확률보다 개념 수준 추론에 최적화되어야 합니다.¹³

이러한 원칙을 채택함으로써, 헬스케어 산업은 인공지능의 변혁적 힘을 활용하여 의사 번아웃 위기를 해결하면서도 의학의 가장 신성한 원칙을 지킬 수 있습니다. Primum non nocere—첫째, 해를 끼치지 말라. Veriprajna는 이 전환을 이끌 준비가 되어 있으며, 래퍼를 넘어 미래 헬스케어가 요구하는 딥 AI 솔루션을 제공합니다.

인용 문헌

1. Patients Not Told AI Drafted Messages From Their Doctors - MHA Online, 2026년 2월 6일 접속, https://www.mhaonline.com/blog/ai-messages-from-doctors

2. When AI Writes Back: Ethical Considerations by Physicians on AI-Drafted Patient Message Replies - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/394687833_When_AI_Writes_Back_Ethical_Considerations_by_Physicians_on_AI-Drafted_Patient_Message_Replies

3. Opportunities and risks of artificial intelligence in patient portal messaging in primary care, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12022076/

4. Mass General Brigham research identifies pitfalls and opportunities for generative artificial intelligence in patient messaging systems | EurekAlert!, 2026년 2월 6일 접속, https://www.eurekalert.org/news-releases/1041892

5. Critics bristle over creating MyChart messages with AI: 4 things to know | Becker's, 2026년 2월 6일 접속, https://www.beckershospitalreview.com/patient-experience/critics-bristle-over-creating-mychart-messages-with-ai-4-things-to-know/

6. GenAI Notification Requirements | Medical Board of California, 2026년 2월 6일 접속, https://www.mbc.ca.gov/Resources/Medical-Resources/GenAI-Notification.aspx

7. California Requires Disclaimers for Health Care Providers' AI-Generated Patient Communications | ArentFox Schiff, 2026년 2월 6일 접속, https://www.afslaw.com/perspectives/alerts/california-requires-disclaimers-health-care-providers-ai-generated-patient

8. The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations - Interactive Journal of Medical Research, 2026년 2월 6일 접속, https://www.i-jmr.org/2025/1/e59823

9. New Law Regulates Use of Generative Artificial Intelligence in Healthcare - Fenton & Keller, 2026년 2월 6일 접속, https://fentonkeller.com/fk-articles/new-law-regulates-use-of-generative-artificial-intelligence-in-healthcare/

10. Bill Text: CA AB3030 | 2023-2024 | Regular Session | Amended - LegiScan, 2026년 2월 6일 접속, https://legiscan.com/CA/text/AB3030/id/3012689

11. U.S. State AI Law Tracker – All States, 2026년 2월 6일 접속, https://ai-law-center.orrick.com/us-ai-law-tracker-see-all-states/

12. California Turns to the Use of AI in Healthcare | BCLP - Bryan Cave Leighton Paisner, 2026년 2월 6일 접속, https://www.bclplaw.com/en-US/events-insights-news/california-turns-to-the-use-of-ai-in-healthcare.html

13. Large language models and large concept models in radiology: Present challenges, future directions, and critical perspectives - PMC - PubMed Central, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12679190/

14. Reducing Hallucinations in Large Language Models for Healthcare - Cognome, 2026년 2월 6일 접속, https://cognome.com/blog/reducing-hallucinations-in-large-language-models-for-healthcare

15. The dangers of using non-medical LLMs in healthcare communication - Paubox, 2026년 2월 6일 접속, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

16. Challenges of Implementing LLMs in Clinical Practice: Perspectives - PMC, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12429116/

17. Risk Management: Artificial Intelligence in Clinical Practice - PMC - NIH, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC11709444/

18. Large Language Models Are Highly Vulnerable to Adversarial Hallucination Attacks in Clinical Decision Support: A Multi-Model Assurance Analysis | medRxiv, 2026년 2월 6일 접속, https://www.medrxiv.org/content/10.1101/2025.03.18.25324184v1.full-text

19. How AI red teaming fixes vulnerabilities in your AI systems | Invisible Blog, 2026년 2월 6일 접속, https://invisibletech.ai/blog/ai-red-teaming-2026

20. Retrieval-Augmented Generation (RAG) in Healthcare: A Comprehensive Review - MDPI, 2026년 2월 6일 접속, https://www.mdpi.com/2673-2688/6/9/226

21. Use case: Building a medical intelligence application with augmented patient data, 2026년 2월 6일 접속, https://docs.aws.amazon.com/prescriptive-guidance/latest/rag-healthcare-use-cases/case-1.html

22. Unlocking Electronic Health Records: A Hybrid Graph RAG Approach to Safe Clinical AI for Patient QA - arXiv, 2026년 2월 6일 접속, https://arxiv.org/html/2602.00009v1

23. Med-HALT: Medical Domain Hallucination Test for Large Language Models - GitHub, 2026년 2월 6일 접속, https://github.com/medhalt/medhalt

24. mitmedialab/medical_hallucination: Medical Hallucination in Foundation Models and Their Impact on Healthcare (2025) - GitHub, 2026년 2월 6일 접속, https://github.com/mitmedialab/medical_hallucination

25. What Is AI Red Teaming? Why You Need It and How to Implement - Palo Alto Networks, 2026년 2월 6일 접속, https://www.paloaltonetworks.com/cyberpedia/what-is-ai-red-teaming

26. AI Red Teaming Agent (preview) - Microsoft Foundry, 2026년 2월 6일 접속, https://learn.microsoft.com/en-us/azure/ai-foundry/concepts/ai-red-teaming-agent?view=foundry-classic

27. AI in Medical Malpractice: Liability, Risk, & What Physicians Need to Know - Indigo, 2026년 2월 6일 접속, https://www.getindigo.com/blog/ai-in-medical-malpractice-liability-risk-guide

28. Healthcare AI 2025 - USA – California | Global Practice Guides | Chambers and Partners, 2026년 2월 6일 접속, https://practiceguides.chambers.com/practice-guides/healthcare-ai-2025/usa-california/trends-and-developments

29. A New Duty of Care: How AI Is Rewriting Medical Liability | Gyrus Group, 2026년 2월 6일 접속, https://gyrusgroup.com/news/a-new-duty-of-care-how-ai-is-rewriting-medical-liability/

30. Artificial Intelligence: The Legalities of AI in Health Care and the Day-to-Day Use of AI in the Clinical Setting - Oncology Issues, 2026년 2월 6일 접속, https://journals.accc-cancer.org/view/artificial-intelligence-the-legalities-of-ai-in-health-care-and-the-day-to-day-use-of-ai-in-the-clinical-setting

31. Understanding Liability Risk from Using Healthcare AI Tools - Illinois Health and Hospital Association, 2026년 2월 6일 접속, https://www.team-iha.org/getmedia/3d7473d7-192e-40b8-ad2e-b40b27be43ae/K_Understanding-Liability-K-2025.pdf

32. Appendix E — The Clinical AI Morgue - The Physician AI Handbook, 2026년 2월 6일 접속, https://physicianaihandbook.com/appendices/failures.html

33. AI regulation in insurance: Risk-based pricing and fairness - Browne Jacobson LLP, 2026년 2월 6일 접속, https://www.brownejacobson.com/insights/the-word-may-2025/ai-hallucinations

34. Legal AI Hallucinations and Your Attorney Malpractice Insurance Coverage, 2026년 2월 6일 접속, https://www.l2insuranceagency.com/blog/legal-ai-hallucinations-and-your-attorney-malpractice-insurance-coverage/