알고리즘 형평성과 딥 AI의 당위성: 임상 의사결정 지원에서의 체계적 편향 시정

임상 환경에 인공지능이 통합되는 것은 이론적 약속에서 구조적 필수로 전환되었습니다. 그러나 의료 기관이 진단 정밀도와 선별 효율을 강화하기 위해 자동화 시스템에 점점 더 의존하면서, 통제된 환경에서의 알고리즘 성능과 환자 결과의 실제 현실 사이에 중대한 단절이 드러났습니다. 맥박 산소측정의 하드웨어 수준 부정확성부터 독점적 패혈증 모델의 아키텍처적 실패에 이르는 실증 증거의 최근 급증은, 현재의 많은 AI 구현이 단순한 중립적 도구가 아니라 역사적 의료 불평등을 영속화하는 적극적 참여자임을 보여줍니다. 흑인 산모 건강의 위기—사망률이 백인 인구의 세 배에 달하는 상황—는 이러한 체계적 실패의 가장 참담한 지표입니다. Veriprajna가 제시하는 이 보고서는, 이러한 격차에 대한 해법이 대규모 언어 모델(LLM) "래퍼"의 피상적 적용에 있는 것이 아니라, 생리학적 무결성, 인구통계적 동등성, 엄격한 외부 검증을 우선하는 딥 AI 솔루션으로의 근본적 재지향에 있다고 주장합니다.

신뢰의 위기: LLM 래퍼 함정을 넘어서

현재의 기술 지형은 "래퍼" 애플리케이션—OpenAI의 GPT, Google의 Gemini, Anthropic의 Claude와 같은 일반화된 공개 API 위에 얇은 사용자 인터페이스를 제공하는 소프트웨어 계층—으로 포화되어 있습니다. 이러한 도구는 행정적 초안 작성과 표면적 데이터 요약에는 뛰어나지만, 임상 의사결정 지원의 고위험·다중모드 요구에는 근본적으로 부적합합니다. LLM은 언어 확률에 대해 학습된 통계적 엔진입니다. 병태생리학에 대한 개념적 이해를 갖추고 있지 않으며, 임상 증거의 엄격한 제약에 본질적으로 기반하지도 않습니다.¹ 산모 건강이나 급성 패혈증 관리의 맥락에서 "래퍼" 접근은 환각, 인터넷 규모 편향의 강화, 그리고 모델의 "블랙박스" 성격을 자산이 아닌 책임으로 만드는 설명 가능성의 결여를 포함한 용납할 수 없는 위험을 초래합니다.³

Veriprajna는 딥 AI 솔루션 제공자로서, 실시간 생리학적 신호, 전문가 라벨링 데이터셋, 공정성 인식 손실 함수를 통합하는 방법론을 옹호합니다. Epic Sepsis Model과 같은 "기성" 모델이 다양한 환자 집단에 걸쳐 일반화하지 못한 실패는, 인구 전체에 대해 평균화된 정확도 지표가 소외된 하위 집단 내의 치명적인 결함을 종종 가린다는 점을 보여줍니다.⁵ 진정한 임상 지능에는 하드웨어 센서, 건강의 사회경제적 결정요인(SDOH), 인구통계적 코호트 전반의 생리학적 변이의 상호의존성을 반영하는 아키텍처가 필요합니다.

생리학적 데이터 무결성: 맥박 산소측정기와 편향의 토대

어떤 AI 시스템의 효능도 그것이 섭취하는 데이터의 품질과 불가분의 관계에 있습니다. 선별 및 조기 경보 시스템에서 맥박 산소측정은 호흡곤란과 패혈증 위험을 판정하는 주요 입력원입니다. 그러나 이러한 장치의 물리적 메커니즘에는 오래전부터 문서화되었으나 자주 무시되는 편향이 있습니다. 바로 멜라닌에 의한 빛의 차별적 흡수입니다.

광학 간섭의 물리학

맥박 산소측정기는 조직을 통해 적색 및 적외선 광을 투과시키고 산소화된 헤모글로빈과 탈산소화된 헤모글로빈의 흡수비를 측정하는 방식으로 작동합니다. 그러나 멜라닌 또한 이러한 파장대에 걸쳐 빛을 흡수합니다. 이러한 장치가 주로 밝은 피부 집단에 대해 보정되면, 어두운 피부 환자에서의 추가 흡수는 종종 장치에 의해 더 높은 산소화 헤모글로빈 농도로 오해석됩니다.⁸ 이로 인해 "잠재성 저산소혈증"—장치가 정상 범위 내의 말초 산소포화도( )를 보고하는 반면 실제 동맥 산소포화도( )는 위험할 정도로 낮은 상태—가 발생합니다.

New England Journal of Medicine(NEJM)과 British Medical Journal(BMJ)에 발표된 최근 연구 결과는 이 측정 오차의 규모와 AI 기반 선별 로직에 미치는 후속 영향을 강조합니다. 연구에 따르면 흑인 환자는 백인 환자에 비해 잠재성 저산소혈증을 경험할 가능성이 거의 세 배 높으며, 이 격차는 1990년대부터 적절한 규제 개입 없이 지속되어 왔습니다.⁸

매개변수	밝은 피부톤에 대한 영향	어두운 피부톤에 대한 영향	출처
평균 과대추정	기준선	0.6~1.5퍼센트포인트 더 높음	8
위음성률(SpO₂)	1.2% - 26.9%	7.6% - 62.2%	8
잠재성 저산소혈증 발생률	기준선	약 3배 높은 빈도	8
소아 검출 실패	0% 누락	가장 어두운 피부톤에서 7% 누락	11

AI 선별에 미치는 연쇄 효과

AI 선별 시스템이 을 핵심 특징으로 활용하면, 이 하드웨어 수준의 편향을 그대로 물려받습니다.

알고리즘이 92% 미만일 때 "고우선순위" 경보를 발령하도록 설계되어 있다면, 실제 동맥 산소는 88%이지만 맥박 산소측정기 수치가 93%로 유지되는 흑인 환자를 체계적으로 표시하지 못하게 됩니다. 이는 보조 산소 투여의 체계적 지연, 장기 부전 위험 증가, 더 높은 원내 사망률로 이어집니다.⁹

Veriprajna와 같은 딥 AI 제공자에게 이 데이터는 "깨끗한" EHR 데이터가 환상임을 보여줍니다. 정교한 모델은 인구통계별 보정 오프셋을 적용하거나, 산소측정과 심박 변이도 및 호흡수를 결합하는 등의 다중모드 센서를 활용하여 환자의 실제 임상 상태를 삼각측량하도록 설계되어야 합니다. 2024년 Vanderbilt 연구(POSTer-Child)는 소아 집단에서도 일반 맥박 산소측정 장치가 가장 어두운 피부톤 환자의 7%에서 저산소증을 검출하지 못한 반면, 가장 밝은 피부톤에서는 누락 사례가 제로였음을 강조했습니다.¹¹ 이는 최근까지 단 열 명의 피험자에 대한 시험만을 요구했던 현재의 FDA 가이드라인이, 이러한 센서 위에 구축된 AI 시스템의 안전을 보장하기에는 근본적으로 부적절함을 시사합니다.¹⁰

급성 진료에서의 예측 실패: Epic Sepsis Model 분석

하드웨어 편향에서 알고리즘 편향으로의 전환은 Epic Sepsis Model(ESM)의 광범위한 도입에서 가장 뚜렷하게 나타납니다. 수백 개 병원의 전자건강기록(EHR)에 통합된 ESM은 임상적 인식 이전에 패혈증을 식별하는 선제적 도구로 마케팅되었습니다. 그러나 배포의 현실은 낮은 일반화와 유의미한 인종적 성능 격차로 특징지어져 왔습니다.

일반화 격차

개발자의 내부 검증은 곡선하면적(AUC) 0.76~0.83을 주장했습니다. 그러나 Michigan Medicine에서 수행된 독립적 외부 검증은 성능의 충격적인 하락을 드러냈으며, AUC는 단 0.63이었습니다.⁵ 이 불일치는 독점 모델에서 흔한 "사이트 특화 과적합"을 보여줍니다. 모델이 특정 환자 집단(예: 2013–2015년의 세 미국 의료 시스템)에 대해 보정되면, 새로운 기관의 다른 인구통계적 구성, 임상 관행, 문서화 습관에 직면했을 때 종종 실패합니다.⁵

성능 지표	개발자 주장	외부 검증(Michigan)	출처
민감도(진양성)	높음	33%(사례의 67% 누락)	6
양성예측도	N/A	12%(오경보율 88%)	7
조기 검출 우위	마케팅됨	사례의 6%(임상의보다 앞서 경보가 드묾)	13
경보 부담	관리됨	높음(유의미한 경보 피로)	7

인종 격차와 라벨 편향 문제

ESM의 실패는 낮은 민감도의 문제에 그치지 않습니다. 불평등한 보호의 문제입니다. 흑인 및 히스패닉 환자는 백인 환자에 비해 패혈증 발생률이 거의 두 배에 달하며, 종종 더 젊은 연령에 내원합니다.¹⁴ 그러나 연구들은 ESM이 이러한 집단에 걸쳐 열악한 "보정"을 보이며, 소외된 인구에서의 패혈증의 특정 생리학적 궤적을 반영하지 못하는 경우가 많다고 지적해 왔습니다.¹⁴

이 실패의 주요 동인은 "라벨 편향"입니다. 많은 패혈증 모델은 그 자체가 편향된 인간 판단의 산물인 임상 정의나 청구 코드에 대해 학습됩니다. 임상의가 역사적으로 흑인 환자에 대해 혈액 배양 검사를 더 늦게 지시하거나 패혈증을 더 늦게 인식한다면, AI는 "패혈증"을 백인 환자의 데이터 서명과 연관짓도록 학습하여 흑인 환자에서의 질병 발현에 사실상 "맹목"이 됩니다.¹⁴ 이는 치명적인 피드백 루프를 만듭니다. AI는 역사적 데이터가 편향되어 있어 환자를 놓치고, 임상의는 경보를 발령하지 않은 AI에 과도하게 의존하여 환자를 놓칩니다.

산모 건강 위기: 체계적 방치와 알고리즘 실패

구조적 인종주의와 기술적 실패의 교차점을 의학의 어느 영역보다 명확히 보여주는 곳은 아마도 산모 건강일 것입니다. 미국 질병통제예방센터(CDC)에 따르면 흑인 여성의 임신 관련 사망률은 생존아 출산 10만 명당 50.3명으로, 백인 여성의 14.5명보다 거의 3.5배 높습니다.¹⁷ 이 격차는 교육과 소득을 통제한 후에도 지속되며, 근본 원인이 돌봄의 질과 의료 시스템의 구조적 편향에 있음을 시사합니다.¹⁹

California Maternal Data Center(MDC) 연구 결과

캘리포니아주는 California Maternal Quality Care Collaborative(CMQCC)를 통해 산모 건강 질 개선의 선도자였습니다. 그러나 이처럼 데이터가 풍부한 환경에서도 AI 조기 경보 시스템(EWS)은 중대한 결함을 보였습니다. MDC는 자동화된 조기 경보 시스템이 흑인 환자의 중증 이환 사례의 40%를 놓쳤다고 밝혔습니다.²⁰

중증 산모 이환(SMM)은 출혈, 전자간증, 패혈증과 같은 생명을 위협하는 합병증의 척도로, 산모 사망보다 100배 더 빈번하게 발생합니다.²¹ 흑인 여성에서 AI가 이러한 사례를 표시하지 못하는 실패는 종종 "풍화(weathering)" 효과—체계적 인종주의로 인한 만성 스트레스의 생리학적 발현으로, 더 높은 기준 혈압과 변화된 심혈관 반응을 초래하여 AI가 해당 개인에게 "정상"으로 해석할 수 있는 현상—과 연결됩니다.²⁰

결과 지표	흑인 비히스패닉	백인 비히스패닉	히스패닉	출처
산모 사망률(10만 명당)	50.3	14.5	12.4	17
조산율	14.7%	9.4%	10.1%	19
늦은 또는 없는 산전 관리	10.4%	4.7%	9.7%	19
산과 돌봄에서의 부당 대우	3명 중 1명	5명 중 1명(평균)	N/A	23

"구조 실패"와 경제적 당위성

격차는 합병증의 발생률에만 있는 것이 아니라 "구조 실패"에도 있습니다. 흑인 여성은 중증 이환이 발생한 후 사망할 가능성이 백인 여성보다 1.79배 높습니다.²⁴ 이는 AI 시스템이 경보를 내지 못하거나, 암묵적 편향으로 인해 경보가 무시될 때, 생명을 구하는 개입의 창이 흑인 환자에게서 더 빠르게 닫힌다는 것을 나타냅니다.

흑인 산모 건강 격차 해소에 관한 McKinsey의 분석은 이러한 격차 해결이 도덕적 필요일 뿐 아니라 경제적 필수이기도 함을 강조합니다. 흑인 여성의 건강한 수명을 회복하면 미국 GDP에 $24.4 billion을 더하고 연간 예방 가능한 의료비 $385 million을 절감할 수 있습니다.²⁵ 이는 수동적 관찰에서 "집계, 연구, 돌봄, 포함, 투자"를 우선하는 선제적·AI 기반 개입 전략으로의 전환을 요구합니다.²⁵

딥 AI 대 LLM 래퍼: 기술적 비판

생성형 AI의 부상은 임상 "챗봇"과 요약 도구의 급증으로 이어졌습니다. 그러나 산모 선별이나 패혈증 검출과 같은 고위험 환경에서 이러한 "래퍼"는 근본적으로 부적절합니다. Veriprajna는 이러한 확률적 언어 모델과 임상 유용성을 위해 설계된 딥 AI 아키텍처 사이의 구분을 옹호합니다.

통계적 확률의 한계

대규모 언어 모델(LLM)은 임상 논리가 아니라 단어 확률로 작동합니다. 의료 환경에서 이는 다음과 같이 나타납니다.

1.​ 임상적 부정확성: 연구에 따르면 환자 특이적 변수가 복잡할 때 LLM은 신기능 장애에 대한 용량 조정에서 단 16.7%의 정확도만을 달성했습니다.²⁶

2.​ 실시간 그라운딩의 부재: 대부분의 공개 LLM은 정적 데이터셋에 대해 학습되며 실시간 임상 데이터베이스나 최신 가이드라인에 접근하지 못합니다.¹

3.​ 블랙박스 불투명성: LLM은 임상의가 검증할 수 있는 투명한 추론 사슬을 제공할 수 없으며, 이는 유럽 GDPR과 진화하는 미국 보건 규제 하의 요구사항입니다.²

4.​ 적대적 환각: 시스템이 조작되거나 콘텐츠를 잘못 전사하여 환자 기록에 조작된 임상 데이터가 삽입될 수 있습니다.¹

Veriprajna 딥 AI 패러다임

Veriprajna가 정의하는 딥 AI 솔루션은 다음을 충족해야 합니다.

●​ 다중모드: 텍스트 기반 입력에만 의존하지 않고 파형 데이터(EKG/산소측정), 구조화된 검사실 결과, 비구조화된 간호 기록을 통합.¹³

●​ 전문가 검증: 잡음이 많은 청구 코드가 아닌 판정된 전문가 검토에서 도출된 라벨 사용.⁶

●​ 설계 단계부터의 공정성 인식: 인구통계적 동등성을 보장하기 위해 학습 단계에서 수학적 제약 구현.²⁸

알고리즘 공정성의 수학적 기초

이론을 넘어 엔터프라이즈급으로 나아가려면 편향의 수학적 구조를 다루어야 합니다. 전통적 최적화는 전체 데이터셋에 걸친 경험적 위험(평균 오차)을 최소화하는 것을 목표로 합니다. 이는 자연스럽게 다수 집단에 유리합니다. Veriprajna는 이를 보정하기 위해 공정성 인식 손실 함수를 구현합니다.

공정성 인식 손실 함수

한 가지 접근은 표준 손실 함수에 "공정성 페널티"를 통합하는 것입니다. 이 표준 교차 엔트로피 손실이라면, 공정성 인식 모델은 다음을 최소화합니다.

여기서 은 보호 집단(예: 인종 또는 성별) 간 격차의 척도이며, 은 전체 정확도와 집단 공정성 사이의 트레이드오프를 제어하는 정규화 매개변수입니다.²⁸

최악 집단 손실 최적화

많은 의료 시나리오에서 우리는 가장 취약한 인구에 대한 위험을 최소화하는 데 관심이 있습니다. 최악 집단 손실(Worst-Group Loss) 접근은 모든 인구통계적 하위 집단에 걸친 최대 손실을 최소화하고자 합니다.

여기서 은 모든 하위 집단의 집합입니다(예: 흑인 비히스패닉, 백인, 히스패닉). 자동화된 우울증 검출 연구에 따르면 이 접근은 전체 정확도를 약간 낮출 수 있지만, 표준 모델에 의해 자주 오분류되는 히스패닉 참가자와 같은 과소대표 집단의 결과를 유의미하게 개선합니다.³⁰

Equalized Odds와 인구통계적 동등성

딥 AI 모델은 단순 정확도를 넘어선 지표로도 평가됩니다.

●​ 인구통계적 동등성: 양성 예측(예: "고위험")의 확률이 모든 집단에서 동일하도록 보장: .

●​ Equalized Odds: 진양성률(민감도)과 위양성률(1−특이도)이 모두 집단 간에 동일할 것을 요구합니다.

.

패혈증 검출에서 Equalized Odds 달성은 결정적입니다. 모델이 백인 환자에 대해 80% 민감도를 보이지만 흑인 환자에 대해서는 40%에 그친다면, 사실상 인종에 따라 다른 수준의 돌봄을 제공하는 것입니다.¹²

임상 편향 완화를 위한 아키텍처 전략

딥 AI 솔루션을 위한 Veriprajna의 기술 프레임워크는 모델이 견고하고, 형평하며, 일반화 가능하도록 보장하는 4계층 접근을 포함합니다.

계층 1: 표현 정렬

학습 전에 데이터셋은 "숨겨진 계층화"에 대해 면밀히 검토되어야 합니다. 예를 들어 흉부 X선 모델이 한 인구통계에서 "이동형" X선(보통 더 아픈 와상 환자에게 사용)이 더 흔한 데이터셋에 대해 학습되면, 모델은 실제 병리보다 이동형 장비의 존재를 질병과 연관짓도록 학습할 수 있습니다.¹³ 우리는 "적대적 디바이싱"을 활용합니다. 보조 모델이 주 모델의 내부 특징으로부터 보호 속성(인종)을 예측하도록 학습되고, 적대가 성공하면 주 모델이 페널티를 받아 인종에는 "맹목"이지만 임상 병리에는 "시력" 있는 특징을 학습하도록 강제합니다.³⁵

계층 2: 도메인 특화 파인튜닝

일반주의적 가중치를 사용하는 LLM 래퍼와 달리, 딥 AI 모델은 전문 임상 코퍼스에 대해 파인튜닝되어야 합니다. 산모 건강의 경우, 이는 California Maternal Data Center의 Obstetric Comorbidity Scoring System에 대한 학습을 포함합니다. 이 시스템은 만성 고혈압과 당뇨병과 같은 특정 동반질환을 조정하여 일반 지표보다 더 높은 정확도로 중증 산모 이환을 예측합니다.²¹

계층 3: 다중모드 신호 융합

맥박 산소측정 격차를 해결하기 위해, 우리 모델은 을 단독의 근거 진실로 취급하지 않습니다. 대신 "비선형 역학의 시간적 회귀"를 활용하여 산소측정을 다른 표지자와 융합합니다. 환자의 심박수와 젖산 수치가 상승하는 동안 이 안정적으로 유지되면, 딥 AI는 "신호 불일치" 경보를 발령하여 임상의에게 골드 스탠더드인 동맥혈가스(ABG) 검사를 지시하도록 촉구합니다.⁹

계층 4: 외부 검증과 지속적 감사

모델 드리프트는 의료에서 중대한 위험입니다. 임상 프로토콜이 변하거나 환자 인구통계가 이동하면 모델 성능이 저하될 수 있습니다. Veriprajna는 모든 배포가 해당 기관 자체 데이터에 대한 후향적 감사로 시작되는 "로컬 검증" 프레임워크를 구현합니다. 우리는 "인구 안정성 지수"(PSI)를 측정하여 로컬 인구가 학습 코호트와 얼마나 다른지 정량화하고, 모델이 서비스하는 특정 커뮤니티에 맞게 재보정되도록 보장합니다.⁷

딥 AI 컨설팅의 역할: 전략적 거버넌스

의료 경영진에게 결정은 더 이상 AI를 도입할지 여부가 아니라, 재앙적 책임을 초래하거나 건강 불평등을 악화시키지 않으면서 어떻게 도입할지의 문제입니다. "Veriprajna Method"는 엔터프라이즈급 AI 거버넌스를 위한 프레임워크를 제공합니다.

투명성과 모델 카드 요구

AI 벤더는 더 높은 투명성 기준을 준수해야 합니다. "99% 정확도"라는 일반적 주장은 종종 무의미합니다. 기업은 다음을 요구해야 합니다.

●​ 하위 집단 성능 지표: 연령, 성별, 인종에 대한 민감도, 특이도, PPV의 상세 분해.⁷

●​ 보정 곡선: 패혈증 "90% 확률"이 실제로 그러한 환자 10명 중 9명이 해당 상태를 가짐을 의미한다는 증명.⁷

●​ 동료 심사 검증: 벤더 백서 대신 Wong 등 또는 EXAKT 연구팀이 수행한 것과 같은 독립적 외부 연구 채택.⁶

"휴먼 인 더 루프" 감독 구현

AI는 임상 역할을 대체하는 것이 아니라 변환해야 합니다. 산모 건강에서 이는 AI를 활용하여 임상의가 적극적 경청과 신체 평가와 같은 고가치 활동에 집중할 시간을 확보하는 것을 의미합니다.³⁸ 그러나 법과 윤리는 자동화 시스템이 유일한 의사결정자가 되어서는 안 된다고 요구합니다.² 우리는 "협력적 지능"을 옹호합니다. AI가 데이터 기반 "넛지"를 제공하되, 최종 진단 및 치료 경로는 알고리즘 편향을 인식하고 보정하도록 훈련된 인간 임상의가 결정합니다.³

미래 전망: 혁신의 서사 되찾기

현재의 "AI 과대광고" 시대는 많은 조직이 LLM 래퍼의 편의에 안주하게 만들었습니다. 그러나 CDC, NEJM, California Maternal Data Center의 데이터는 의학에서 편의가 형평성의 대가를 치를 수 없다는 엄중한 경고입니다. Veriprajna가 옹호하는 "딥 AI" 접근은 과학적 엄격성으로의 회귀를 나타냅니다.

센서의 하드웨어 한계를 다루고, 역사적 데이터셋의 라벨 편향을 보정하며, 공정성 인식 수학적 아키텍처를 구현함으로써, 우리는 기술이 사망률 격차를 확대하는 것이 아니라 좁히는 데 기여하는 의료 시스템을 구축할 수 있습니다. 매년 수천 명의 산모와 영아를 구하는 것과 같은 이러한 노력의 경제적·사회적 이득이야말로 차세대 인공지능의 진정한 성공 지표입니다.²⁵

Veriprajna는 이 딥워크 철학에 전념하며, API 호출을 넘어 진정으로 형평한 임상 미래의 토대를 구축합니다. 고정밀 데이터, 인구통계적 인식, 전문가 검증의 통합은 단순한 기술적 과제가 아니라 새로운 돌봄 표준입니다.

엔터프라이즈 임상 AI 위험 완화 요약

위험 범주	래퍼/독점 모델의 약점	딥 AI/Veriprajna 솔루션
데이터 편향	하드웨어 편향을 상속(예: 산소측정)	다중모드 삼각측량 및 센서별 오프셋
라벨 편향	편향된 청구/임상 코드에 대해 학습	전문가 판정 근거 진실 라벨
일반화	사이트 특화 과적합; 새 인구에서 실패	로컬 검증 및 인구 안정성 지수(PSI) 감사
설명 가능성	블랙박스 출력; 높은 환각 위험	투명한 특징 가중치와 임상 추론 사슬
형평성	다수 평균에 대해 최적화	최악 집단 손실 및 Equalized Odds 제약
컴플라이언스	공개 API는 HIPAA/GDPR 보호 장치 부재	온프레미스 또는 프라이빗 클라우드 의료급 아키텍처

결론적으로, AI 시대의 임상 우수성으로 가는 길은 피상적인 것의 거부를 요구합니다. 산모 사망률 위기와 패혈증 모델의 실패가 보여주듯, 그 이해관계는 다름 아닌 가장 취약한 환자들의 생명입니다. 딥 AI는 혁신과 정의 모두를 중시하는 엔터프라이즈급 의료 시스템의 유일하게 실행 가능한 전진 경로입니다.

참고문헌

1. The dangers of using non-medical LLMs in healthcare communication - Paubox, 2026년 2월 6일 접속, https://www.paubox.com/blog/the-dangers-of-using-non-medical-llms-in-healthcare-communication

2. LLMs in Healthcare: what's helpful, harmful and what do you need to know? - Cranium, 2026년 2월 6일 접속, https://www.cranium.eu/llms-in-healthcare-whats-helpful-harmful-and-what-do-you-need-to-know/

3. Challenges and barriers of using large language models (LLM) such as ChatGPT for diagnostic medicine with a focus on digital pathology – a recent scoping review - PMC, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC10898121/

4. The Limitations of Large Language Models (in Medical Environments). | by Juan Placer Mendoza, 2026년 2월 6일 접속, https://jpm75.medium.com/the-limitations-of-large-language-models-in-medical-environments-3843054bb042

5. The Epic Sepsis Model Falls Short—The Importance of External Validation - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/352593220_The_Epic_Sepsis_Model_Falls_Short-The_Importance_of_External_Validation

6. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients - PMC, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC8218233/

7. Evaluating AI Clinical Decision Support Systems - The Physician AI Handbook, 2026년 2월 6일 접속, https://physicianaihandbook.com/implementation/evaluation.html

8. The impact of skin tone on performance of pulse oximeters used by ..., 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12801414/

9. Pulse oximeters overestimate blood oxygen levels in patients with darker skin, 2026년 2월 6일 접속, https://www.news-medical.net/news/20260114/Pulse-oximeters-overestimate-blood-oxygen-levels-in-patients-with-darker-skin.aspx

10. Racial Bias in Pulse Oximetry Measurement - AI & Digital Health Innovation, 2026년 2월 6일 접속, https://aidhi.umich.edu/impact-stories-blog/racial-bias-in-pulse-oximetry-measurement

11. Skin tone may affect accuracy of blood oxygen measurement in children: study - VUMC News, 2026년 2월 6일 접속, https://news.vumc.org/2025/03/04/skin-tone-may-affect-accuracy-of-blood-oxygen-measurement-in-children-study/

12. Mitigating AI Risks in Healthcare: Why Local Validation Matters - EisnerAmper, 2026년 2월 6일 접속, https://www.eisneramper.com/insights/blogs/health-care-blog/mitigating-ai-risks-in-healthcare-0625/

13. AI in Diagnostic and Clinical Decision Support - The Public Health AI Handbook, 2026년 2월 6일 접속, https://publichealthaihandbook.com/applications/clinical.html

14. Full article: Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis - Taylor & Francis Online, 2026년 2월 6일 접속, https://www.tandfonline.com/doi/full/10.1080/15265161.2025.2497971

15. Mitigating Bias in Machine Learning Models with Ethics-Based Initiatives: The Case of Sepsis, 2026년 2월 6일 접속, https://www.tandfonline.com/doi/pdf/10.1080/15265161.2025.2497971

16. Sepsis Prediction Models are Trained on Labels that Diverge from Clinician-Recommended Treatment Times - NIH, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12099352/

17. Health E-Stats, February 2025, Maternal Mortality Rates in the United States, 2023 - CDC, 2026년 2월 6일 접속, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/Estat-maternal-mortality.pdf

18. Health E-Stat 100: Maternal Mortality Rates in the United States, 2023 - CDC, 2026년 2월 6일 접속, https://www.cdc.gov/nchs/data/hestat/maternal-mortality/2023/maternal-mortality-rates-2023.htm

19. Racial Disparities in Maternal and Infant Health: Current Status and Key Issues | KFF, 2026년 2월 6일 접속, https://www.kff.org/racial-equity-and-health-policy/racial-disparities-in-maternal-and-infant-health-current-status-and-key-issues/

20. How California is taking on inequity for Black patients during pregnancy, childbirth, 2026년 2월 6일 접속, https://med.stanford.edu/news/insights/2024/01/california-inequity-black-patients-pregnancy-childbirth.html

21. CA-PAMR Recent Data | California Maternal Quality Care ..., 2026년 2월 6일 접속, https://www.cmqcc.org/education-research/maternal-mortality-review-ca-pamr/ca-pamr-recent-data

22. CENTERING BLACK MOTHERS IN CALIFORNIA - CDPH, 2026년 2월 6일 접속, https://www.cdph.ca.gov/Programs/CFH/DMCAH/CDPH%20Document%20Library/Centering-Black-Mothers/Centering-Black-Mothers-Report-2023.pdf

23. Disrespected and Ignored: Black Pregnant Women Demand Congressional Action, 2026년 2월 6일 접속, https://nationalpartnership.org/disrespected-and-ignored-black-pregnant-women-demand-congressional-action/

24. Racial and Ethnic Disparities in Death Associated With Severe Maternal Morbidity in the United States: Failure to Rescue | Request PDF - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/350768676_Racial_and_Ethnic_Disparities_in_Death_Associated_With_Severe_Maternal_Morbidity_in_the_United_States_Failure_to_Rescue

25. Black maternal health disparities: reducing mortality rates | McKinsey, 2026년 2월 6일 접속, https://www.mckinsey.com/institute-for-economic-mobility/our-insights/closing-the-black-maternal-health-gap-healthier-lives-stronger-economies

26. Navigating the potential and pitfalls of large language models in patient-centered medication guidance and self-decision support - PMC, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC11798948/

27. AI Horizons Institute: AI In Healthcare Workgroup Introduction - University of Rochester, 2026년 2월 6일 접속, https://www.rochester.edu/warner/lida/wp-content/uploads/2025/02/AI-Horizons-Healthcare-White-Paper.pdf

28. Bias in AI systems: integrating formal and socio-technical approaches - PMC, 2026년 2월 6일 접속, https://pmc.ncbi.nlm.nih.gov/articles/PMC12823528/

29. From Lab to Clinic: Addressing Bias and Generalizability in AI Diagnostic Systems, 2026년 2월 6일 접속, https://journalwjarr.com/sites/default/files/fulltext_pdf/WJARR-2025-4249.pdf

30. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, 2026년 2월 6일 접속, https://arxiv.org/html/2509.25795v1

31. Fair Machine Learning in Healthcare: A Survey | Request PDF - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/384486736_Fair_Machine_Learning_in_Healthcare_A_Survey

32. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches | Request PDF - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/398470731_Assessing_Algorithmic_Bias_in_Language-Based_Depression_Detection_A_Comparison_of_DNN_and_LLM_Approaches

33. Assessing Algorithmic Bias in Language-Based Depression Detection: A Comparison of DNN and LLM Approaches - arXiv, 2026년 2월 6일 접속, https://www.arxiv.org/pdf/2509.25795

34. False hope of a single generalisable AI sepsis prediction model: bias and proposed mitigation strategies for improving performance based on a retrospective multisite cohort study - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/publication/390249394_False_hope_of_a_single_generalisable_AI_sepsis_prediction_model_bias_and_proposed_mitigation_strategies_for_improving_performance_based_on_a_retrospective_multisite_cohort_study

35. A Comprehensive Survey on Bias and Fairness in Gen- erative AI: Legal, Ethical, and Technical Responses - OpenReview, 2026년 2월 6일 접속, https://openreview.net/pdf/7bd31cd005e56d87b5ed85b266cf1d1ad2693958.pdf

36. Effects of post-training mitigation on classifier performance and... - ResearchGate, 2026년 2월 6일 접속, https://www.researchgate.net/figure/Effects-of-post-training-mitigation-on-classifier-performance-and-fairness-Different_fig3_382523592

37. ICLR 2025 Papers, 2026년 2월 6일 접속, https://iclr.cc/virtual/2025/papers.html

38. Principles for Artificial Intelligence (AI) and its application in healthcare | BMA, 2026년 2월 6일 접속, https://www.bma.org.uk/media/njgfbmnn/bma-principles-for-artificial-intelligence-ai-and-its-application-in-healthcare.pdf

39. Whitepaper for the ITU/WHO Focus Group on Artificial Intelligence for Health, 2026년 2월 6일 접속, https://www.itu.int/en/ITU-T/focusgroups/ai4h/Documents/FG-AI4H_Whitepaper.pdf

40. Despite high Black maternal death rate, California hospitals ignored training about bias in care - CalMatters, 2026년 2월 6일 접속, https://calmatters.org/health/2023/10/despite-high-black-maternal-death-rate-california-hospitals-ignored-training-about-bias-in-care/