매끄럽고 친근한 AI 초안 메시지 안에 미묘하지만 위험한 임상 오류가 빨간색으로 강조된 환자 포털 메시지 화면 — 표면적 품질과 숨은 위해 사이의 긴장을 드러낸다.
Artificial IntelligenceHealthcareTechnology

당신 의사의 AI가 당신을 죽일 수도 있는 메시지를 썼다 — 그리고 아무도 알려주지 않았다

Ashutosh SinghalAshutosh Singhal2026년 3월 27일15 min

작년에 나는 한 의료 시스템 CTO와 통화 중이었는데, 그가 나를 오싹하게 만든 말을 했다.

"이제 GPT가 환자 포털 메시지를 초안으로 작성해 줍니다. 의사들이 아주 좋아해요. 매주 몇 시간씩 아껴 주거든요. AI 도입은 사실상 다 끝난 셈이죠."

다 끝났다. 그 단어가 돌덩이처럼 내 가슴에 얹혔다. 나는 방금 한 연구를 다 읽은 참이었기 때문이다 — The Lancet Digital Health에 2024년 4월 하버드 의대, 예일대, 위스콘신 대학교 연구진이 발표한, 전혀 다른 이야기를 들려주는 연구 말이다. 그 연구에서 GPT-4는 모의 전자 건강 기록(EHR) 안에서 156건의 환자 포털 메시지 초안을 작성했다. 그 초안 중 7.1%가 심각한 위해의 위험을 안고 있었다. 그리고 하나 — 0.6% — 는 직접적인 사망 위험을 안고 있었다.

그리고 내가 커피를 내려놓고 그 문단을 세 번이나 다시 읽게 만든 숫자가 여기 있다: 그 AI 초안들을 검토한 20명의 현직 1차 진료 의사들이 위험한 오류의 평균 66.6%를 놓쳤다는 것이다.

그 CTO는 태만한 것이 아니었다. 그는 업계 전체가 하고 있던 일을 하고 있었다 — 범용 언어 모델을 얇은 소프트웨어 계층으로 감싸고, 그것을 환자 메시지에 겨누고, 파이프라인 끝단의 의사의 눈이 무엇이 잘못되든 잡아낼 것이라 믿는 일 말이다.

나는 지난 몇 년간 Veriprajna에서, 그라운디드(grounded) 되도록 — 즉 단순한 통계적 확률이 아니라 검증된 지식에 닻을 내리도록 — 설계된 AI 시스템을 구축해 왔다. 그리고 이 연구는, 사람들이 듣고 싶어 하지 않는 자리에서 내가 주장해 온 무언가를 명확하게 응결시켰다: "인간이 개입하는(human-in-the-loop)" 것은 안전 장치가 아니다. 그것은 기도(祈禱)다.

AI가 당신 의사의 답장을 대신 쓴다면 무슨 일이 벌어질까?

이 기술이 애초에 왜 존재하는지 그림을 그려 보겠다. 그 필요성은 실재하고 절박하기 때문이다.

미국의 1차 진료 의사들은 환자 포털 메시지에 답하는 데만 한 달 평균 10시간을 쓴다. 참고로 이것은 무급 노동이다 — 역사적으로 청구가 불가능했다. 이것은 의사들을 의료 현장에서 완전히 밀어내고 있는 번아웃 위기의 주요 동인 중 하나다.

그래서 환자 질문에 공감적이고 상세하며 문법적으로 매끄러운 답변을 초안으로 작성할 수 있는 AI 도구가 등장했을 때 — 그 답변들은 종종 인지된 품질 면에서 더 높은 점수를 받았다, 과중한 업무에 시달리는 의사들이 밤 11시에 쓰던 것보다 말이다 — 그 도입은 빨랐다. Epic의 MyChart는 AI 초안 작성 기능을 통합했다. 스타트업들은 수억 달러를 모금했다. 의료 시스템들은 효율성 향상을 자축했다.

그리고 나는 이해한다. 진심으로 이해한다. 번아웃 문제는 내게 추상적인 것이 아니다. 나는 자신의 받은편지함을 두 번째 정규직이라고 표현하는 의사들과 마주 앉아 봤다 — 자신이 돕고자 의료계에 뛰어들었던 바로 그 환자들을 원망하게 만드는 그런 일 말이다.

하지만 헬스케어에서 정확성 없는 효율성은 혁신이 아니다. 그것은 원고(原告)를 기다리는 태만이다.

화재경보기가 되었어야 할 Lancet 연구

Lancet 연구의 핵심 통계를 제시하는 인포그래픽 — 높은 AI 신뢰, 높은 오류율, 낮은 의사 탐지율이 어떻게 결합하여 위험한 파이프라인이 되는지를 보여준다.

2024년 4월의 이 연구는 소규모 파일럿이나 의견 기고가 아니었다. 그것은 현직 임상의들이 현실적인 EHR 환경에서 AI가 생성한 초안을 검토하는 횡단면 시뮬레이션이었다. 연구진은 일부 초안에 의도적으로 오류를 심었다 — LLM이 실제로 만들어 내는 종류의 오류를 — 그러고 나서 무슨 일이 벌어지는지 지켜봤다.

벌어진 일은 참담했다.

검토에 참여한 의사의 90%가 그 AI 도구의 성능을 신뢰한다고 보고했다. 그들은 그것이 인지적 업무 부담을 줄여 준다고 느꼈다 — 80%가 그 점에 동의했다. 초안들은 유창하고 공감적이며 잘 구성되어 있었다. 그것들은 옳다고 느껴졌다.

하지만 스무 명 중 단 한 명의 의사만이 의도적으로 오류를 넣은 네 개의 초안을 모두 잡아냈다. 단 한 명. 그리고 오류가 있는 초안의 35%에서 45%가 환자에게 전혀 수정되지 않은 채 제출되었다.

AI 초안이 12시간 근무를 마친 지친 의사가 쓸 법한 것보다 더 잘 읽힐 때, 본능은 그것을 면밀히 살피는 것이 아니다. 전송 버튼을 누르는 것이다.

이 현상에는 이름이 있다: 자동화 편향(automation bias) — 인간이 자동화된 제안에 과도하게 의존하여, 자기 자신의 작업이나 동료의 작업에 적용할 것보다 덜 비판적으로 검토하는, 잘 기록된 경향이다. Lancet 연구진은 그 상관관계가 통계적으로 유의미하다는 것을 발견했다(p < 0.001): AI 초안이 표면적으로 더 좋아 보일수록, 의사가 파묻힌 임상 오류를 놓칠 가능성이 더 높았다.

그 오류들은 오타가 아니었다. 그것들은 임상적 추론의 실패였다. AI는 의학 정보를 날조했다. 낡은 프로토콜을 참조했다. 사망 위험으로 표시된 사례에서는, 생명을 위협하는 증상을 겪고 있는 환자에게 응급실에 가라고 말하지 못했다 — 대신 차분하고, 안심시키는, 치명적으로 잘못된 긴급하지 않다는 응답을 생성했다.

나는 그 특정 사례로 계속 되돌아가게 된다. 그 메시지는 아마 아름답게 읽혔을 것이다. 따뜻하고. 공감적이고. 상세하게. 그리고 만약 환자가 그 조언을 따랐다면, 그들은 월요일 진료 예약을 기다리며 집에서 사망했을 수도 있다.

왜 "루프 안의 의사(doctor-in-the-loop)"는 계속 실패하는가?

나는 임상 AI 도구를 만드는 한 동료와 이 문제로 논쟁을 벌인 적이 있다. 그의 입장은 명료했다: "의사가 모든 것을 검토합니다. 그게 안전망이죠."

나는 그에게 질문을 던졌다: "만약 당신이 의사에게 메시지 50건을 쌓아 주고, 그중 48건이 완벽히 괜찮은데, AI가 다 썼다고 말한다면 — 그 의사가 37번 메시지를 얼마나 꼼꼼히 읽을 것 같습니까?"

그는 잠시 멈칫했다.

이것이 핵심 문제다. 인간이 개입하는(human-in-the-loop) 모델은 인간의 주의력이 일정하다고, 피로가 경계심을 떨어뜨리지 않는다고, 그리고 AI 문장의 품질이 검토의 깊이에 영향을 주지 않는다고 가정한다. 그 가정 하나하나가 틀렸고, Lancet 데이터가 그것을 증명한다.

인간이 기계를 신뢰하도록 심리적으로 길들여졌을 때, "인간이 개입하는(human-in-the-loop)" 것은 안전 장치가 아니다.

더 깊은 아키텍처 문제도 있다. 표준 LLM은 자기회귀적(auto-regressive)이다 — 즉 구조화된 의학적 추론이 아니라 통계적 확률에 기반해 다음 단어를 예측한다. 이들은 어떤 증상이 긴급하다는 것을 "이해"하지 못한다. 이들은 지침이 지난달에 갱신되었다는 것을 "알지" 못한다. 이들이 생성하는 텍스트는 그럴듯하게 들린다 — 마치 아는 것이 많은 임상의처럼 말이다. 아는 것이 많은 임상의가 글을 쓰는 수백만 개의 예시로 훈련받았기 때문이다. 하지만 옳게 들리는 것과 실제로 옳은 것은 의학에서 위험할 만큼 다른 문제다.

나는 이 아키텍처적 격차에 대해 우리 연구의 인터랙티브 버전에서 깊이 있게 다뤘지만, 요약하자면 이렇다: LLM은 환자에 대한 모델을 갖고 있지 않다. 언어에 대한 모델을 갖고 있을 뿐이다. 그리고 그 둘은 같은 것이 아니다.

캘리포니아가 방금 이것을 모두의 문제로 만들었다

연구 커뮤니티가 경종을 울리는 동안, 캘리포니아 주의회는 법안을 작성하고 있었다. 의회 법안 3030(Assembly Bill 3030)은 2024년 9월에 서명되어 2025년 1월 1일부터 발효된다. 이 법은 캘리포니아의 모든 의료 시설, 클리닉, 그리고 의사 진료소가 생성형 AI를 사용해 임상 정보를 전달할 때마다 환자에게 이를 고지하도록 요구한다.

서면 메시지에는 상단에 고지문이 필요하다. 음성 메시지에는 시작 끝에 구두 고지가 필요하다. 영상 및 채팅 커뮤니케이션에는 전체에 걸쳐 고지문을 표시해야 한다.

여기서부터 흥미로워진다 — 그리고 나는 대부분의 의료 시스템이 이 법을 잘못 읽고 있다고 생각한다.

AB 3030에는 예외 조항이 있다: 면허가 있는 제공자가 AI가 생성한 커뮤니케이션을 "읽고 검토"했다면, 고지 요건이 적용되지 않는다. 서류상으로는 이것이 면죄부처럼 보인다. 의사를 루프 안에 두고, 고지문은 건너뛰고, 모든 메시지가 개인적으로 작성되었다는 환상을 유지하는 것이다.

하지만 그 예외 조항을 Lancet 데이터 — 오류의 66% 미탐지, 위험한 초안의 35~45%가 수정 없이 전송 — 와 짝지어 보면, 법적 시한폭탄이 된다. 자사 의사들이 AI 초안을 "읽고 검토"했다고 주장하면서 그 의사들이 명백히 오류의 3분의 2를 놓치고 있는 의료 시스템은 규정을 준수하는 것이 아니다. 노출되어 있는 것이다.

나는 그 통화에서 CTO에게 말했다: "그 예외 조항은 방패가 아닙니다. 그것은 책임 가속기예요 — 그 기술이 검토자의 뇌가 놓치도록 배선된 것을 능동적으로 잡아내도록 돕지 않는 한 말이죠."

"LLM 래퍼" 접근법의 실제 문제는 무엇인가?

지금 대부분의 AI 헬스케어 스타트업은 내가 래퍼(wrapper)라고 부르는 것을 만들고 있다 — 환자 데이터를 상용 LLM API로 실어 나르고 약간의 서식을 입혀 응답을 반환하는 얇은 소프트웨어 계층 말이다. 이것들은 만들기 빠르고, 시연하기 쉽고, 임상 사용에는 근본적으로 부적합하다.

세 가지 문제가 래퍼를 위험하게 만든다:

지식 컷오프는 보이지 않는 살인자다. 공개 LLM은 정적 데이터셋으로 훈련된다. 이들은 지난 분기에 바뀐 지침, 지난달에 표시된 약물 상호작용, 또는 오늘 아침 환자의 검사 결과를 알지 못한다. 실시간 임상 데이터를 통합하지 않는 래퍼는 진공 상태에서 응답을 생성하고 있는 것이다 — 그 초안을 검토하는 의사조차 존재하는지 인식하지 못할 수 있는 진공 말이다.

토큰 예측은 임상적 추론이 아니다. GPT-4가 "현재 복용 중인 약을 계속 드세요"라고 쓸 때, 그것은 당신의 신장 기능, 약물 상호작용, 또는 최신 혈액 검사 결과를 평가하고 있는 것이 아니다. 앞선 단어들 뒤에 통계적으로 올 가능성이 높은 단어가 무엇인지 예측하고 있는 것이다. 영상의학, 종양학, 그리고 섬세한 진단적 해석을 요하는 모든 영역에서, 언어적 유창함과 의학적 정확성 사이의 이 격차야말로 환자가 다치는 지점이다.

보안은 뒷전이다. 많은 범용 LLM 인터페이스는 본질적으로 HIPAA를 준수하지 않는다. 엄격한 데이터 마스킹과 적절한 비즈니스 제휴 계약(BAA) 없이는, 상용 API를 거쳐 라우팅되는 모든 환자 메시지가 잠재적인 개인정보 유출이다. 그리고 프롬프트 주입 공격 — 적대적 입력이 모델을 속여 내부 컨텍스트나 환자 데이터를 노출하게 만드는 것 — 은 래퍼 아키텍처에서 여전히 대체로 다뤄지지 않은 취약점으로 남아 있다.

환자에게 실제로 안전한 AI는 어떻게 만드는가?

왼쪽의 얇은 "LLM 래퍼" 접근법과 오른쪽의 그라운디드 RAG + 지식 그래프 접근법을 비교하는 아키텍처 다이어그램 — 그라운디드 시스템이 근본적으로 왜 다른지를 보여주는 구성 요소들이 라벨링되어 있다.

여기서 나는 비평가에서 빌더로 옮겨 간다. 대안 없는 비판은 그저 소음일 뿐이기 때문이다.

Veriprajna에서 우리는 내가 그라운디드 AI(grounded AI)라고 여기는 것을 개발해 왔다 — 언어 모델이 결코 유일한 진실의 원천이 아닌 시스템 말이다. 그것은 언제나 검증된 임상 지식에 묶여 있고, 그 답이 어디서 왔는지에 대해 언제나 투명하다.

검색 계층이 모든 것을 바꾼다

검색 증강 생성(Retrieval-Augmented Generation, RAG)이 그 토대다. AI가 환자 응답의 단어 하나를 생성하기 전에, 먼저 검증된 코퍼스에서 관련 문서를 검색한다: 환자의 임상 기록, 현행 기관 지침, 동료 심사를 거친 문헌 말이다. 그런 다음 모델은 자신의 훈련 데이터뿐 아니라 이렇게 검색된 컨텍스트에 응답을 조건화한다.

이것은 사소한 조정이 아니다. 근본적으로 다른 아키텍처다. RAG 기반 시스템은 출처를 인용할 수 있다 — "3월 12일 검사 결과와 현행 ACC/AHA 지침에 따르면..." — 이는 의사의 검토를 "이게 맞는 것 같은가?"에서 "이 출처가 맞는가?"로 바꿔 놓는다. 두 번째 질문은 목요일 밤 11시라 해도 답하기가 극적으로 더 쉽다.

지식 그래프는 래퍼가 결코 줄 수 없는 것을 AI에 준다: 관계

다음 계층은 의료 지식 그래프(Medical Knowledge Graphs)다 — 임상 지식을 텍스트가 아니라 상호 연결된 개념으로 표현하는 구조화된 네트워크 말이다. 지식 그래프는 메트포르민이 당뇨병 약이라는 것만 아는 것이 아니다. 메트포르민의 작용 기전, 신장 장애에서의 금기, 조영제와의 상호작용, 그리고 그 아래에서는 투약을 중단해야 하는 특정 eGFR 임계값을 안다.

MediGRAF 같은 시스템은 Neo4j 같은 그래프 데이터베이스를 사용해 정밀한 구조화 쿼리와 서술형 검색을 결합하여, 사실적 임상 쿼리에서 100% 재현율(recall)을 달성하는 동시에 복잡한 추론에 대한 안전 기준을 유지한다. 내가 그 재현율 수치를 처음 봤을 때는 회의적이었다 — 그래서 우리는 우리가 평가한 모든 래퍼 기반 시스템을 걸려 넘어지게 했던 엣지 케이스들에 대해 그 접근법을 스트레스 테스트했다. 그래프는 버텨 냈다.

이러한 아키텍처 접근법 — RAG 파이프라인, 지식 그래프 통합, 개념 수준 모델링 — 에 대한 전체 기술적 분석은 우리의 상세 연구 논문을 참고하라.

아무도 이야기하고 싶어 하지 않는 테스트 문제

나는 한 헬스케어 AI 스타트업의 시연을 기억한다 — 세련되고, 인상적이고, 투자자들이 수표책에 손을 뻗게 만드는 그런 것이었다. 그 AI는 새로 진단받은 당뇨병 관리에 관한 환자 메시지를 초안으로 작성했다. 따뜻하고, 철저하고, 실행 가능했다.

나는 물었다: "제가 방금 그 시스템이 추천한 약에 알레르기가 있다고 말하면 어떻게 됩니까?"

창업자는 잠시 멈칫했다. "의사가 그걸 잡아내겠죠."

또 그것이었다. 그 기도(祈禱) 말이다.

안전한 임상 AI를 구축하려면 적대적 테스트(adversarial testing)가 필요하다 — 사후에 덧붙이는 것이 아니라, 지속적이고 자동화된 프로세스로서 말이다. Veriprajna에서 우리는 Med-HALT(Medical Domain Hallucination Test, 의료 도메인 환각 테스트) 같은 프레임워크를 사용하는데, 이는 헬스케어 AI의 환각을 식별하기 위해 특별히 설계되었다 — 모델이 무작위로 제시된 오답을 평가하도록 도전받는 거짓 확신 테스트(False Confidence Test)나, 모델이 날조된 의학 질문을 식별할 수 있는지 판별하는 가짜 질문 테스트(Fake Questions Test) 같은 기법을 통해서 말이다.

우리는 또한 자동화된 레드 팀 훈련을 실행한다 — 프롬프트 주입 취약점을 탐색하는 모의 공격, 간접적 질문을 통해 환자 데이터를 추출하려는 시도, 그리고 임상 가드레일을 우회하려는 탈옥(jailbreak) 패턴 말이다. 매일. 분기마다가 아니다. 출시 전이 아니다. 매일이다.

당신의 AI 시스템이 이번 주에 레드 팀의 공격을 받지 않았다면, 그것이 안전한지 당신은 알지 못한다. 마지막으로 확인했을 때 안전했다는 것만 알 뿐이다.

나를 괴롭히는 최근 연구의 한 가지 발견: MedGemma 같은 "의료 특화" 모델이 특정 벤치마크에서 28~61%의 정확도만 달성한 반면, 더 폭넓은 추론 모델이 그것들을 능가했다. 그 함의는 직관에 반하지만 중요하다 — 임상 AI에서의 안전성은 단지 도메인 특화 미세 조정이 아니라 정교한 추론 능력에서 비롯된다. 모델에 의료 라벨을 붙인다고 해서 그것이 의학적으로 안전해지는 것은 아니다.

의료 과실 지형이 모두의 발밑에서 이동하고 있다

지난 한 해 동안 세 곳의 서로 다른 병원 법무 자문(general counsel)과 나눈 대화가 있는데, 매번 대략 같은 방식으로 흘러간다.

나: "만약 당신의 AI가 환자에게 해를 끼치는 메시지를 초안으로 작성했고, 검토한 의사가 그 오류를 놓쳤다면, 누가 책임집니까?"

그들: "의사죠. 그가 검토하고 승인했으니까요."

나: "그런데 원고 측 변호사가, 당신의 시스템이 의사가 오류를 놓치도록 심리적으로 길들이는 방식으로 설계되었다는 것을 — AI의 유창함이 거짓된 안도감을 만들어 냈다는 것을 — 입증한다면, 그것이 당신의 분석을 바꿉니까?"

침묵.

의학에서의 진료 표준(standard of care)은 AI를 반영하도록 진화하고 있다. 법원은 검증된 AI 도구를 사용하지 않는 것 — 오류를 예방할 수도 있었던 도구를 말이다 — 이 의무 위반을 구성할 수 있다고 인정하기 시작했다. 하지만 그 반대 또한 부상하고 있다: 검증되지 않은 AI 도구를 사용하는 것, 또는 검증된 도구를 인간의 감독을 약화시키는 방식으로 사용하는 것은 그 자체로 책임을 발생시킨다.

모델 드리프트가 이를 가중시킨다. AI 시스템은 새로운 데이터로 재훈련되면서 시간이 지남에 따라 성능이 저하된다. 6개월 전 당신의 안전성 평가를 통과한 모델이 오늘 환자 메시지를 생성하는 그 모델이 아닐 수 있다. 어떤 모델이 어떤 출력을 만들어 냈고 어떤 추론 단계를 따랐는지를 정확히 보여주는 버전 관리된 감사 로그 없이는, 의료 시스템은 법정에서 방어할 수 있는 입지가 없다.

일부 신형 의료 과실 보험 상품이 AI 관련 청구를 보장하기 시작하고 있지만, 이들은 대개 한도가 낮고 인간 감독에 대한 문서화된 증거를 요구한다 — Lancet 연구가 신뢰할 수 없다고 보여준 바로 그 감독 말이다.

"하지만 환자들은 AI 메시지를 더 좋아한다"

사람들이 이 점을 들어 내게 반박하는데, 데이터가 실재하기에 나는 이를 솔직하게 다루고 싶다. 여러 연구는 환자들이 AI가 초안을 쓴 메시지를 의사가 쓴 것보다 공감과 상세함 면에서 더 높게 평가한다는 것을 보여줬다. 그것은 아무것도 아닌 것이 아니다. 환자가 자신의 목소리가 들리지 않는다고 느끼는 의료 시스템에서, 시간을 들여 설명하고, 인정하고, 안심시키는 AI는 — 진정한 가치가 있다.

하지만 연구가 또한 보여주는 것은 이것이다: 환자 만족도 평가가 떨어진다 — 환자가 AI가 관여했다는 사실을 알게 되면 말이다. 여기에는 역방향 자동화 편향이 작동한다 — 환자는 자신의 의사가 진료에 개인적으로 관여하고 있다는 믿음을 소중히 여긴다. 임상적 관계는 그들에게 중요하고, 그들은 그것이 매개되었을 때 — 설령 그 매개가 "더 나은" 메시지를 만들어 냈다 하더라도 — 알아챌 수 있다.

이것은 이 워크플로에서 AI가 어디에 속하는지에 대해 내게 중요한 무언가를 말해 준다. AI가 의사를 대신해 대필해서는 안 된다. AI는 구조화되고, 검색 가능하며, 검증 가능한 일을 해야 한다 — 검사 결과를 끌어오고, 지침을 확인하고, 상호작용을 표시하는 일 말이다 — 그래서 의사가, 그것을 필요로 하는 환자에게 진정으로 개인적인 응답을 쓸 여유를 갖도록 말이다.

임상 AI의 목표는 의사의 목소리를 대체하는 것이 아니다. 의사가 그 목소리를 쓸 시간을 되돌려 주는 것이다.

이것이 여기서 어디로 가는가

나는 얼버무리는 "시간이 말해 줄 것이다"나 내 회사에 대한 부드러운 홍보로 끝내지 않을 것이다. 내가 믿는 바를 말하겠다.

현재 세대의 AI 환자 메시징 도구는 해를 끼칠 것이다. 끼칠 수도 있는 게 아니라 — 끼친다. 계산은 단순하다: AI 초안의 7.1% 심각한 위해율, 검토 의사의 66% 미탐지율, 이것이 미국 의료 시스템 전역에서 매달 수백만 건의 환자 포털 메시지에 걸쳐 확대된다. 사고는 누적될 것이다. 소송이 뒤따를 것이다. 그리고 규제 대응은 무디고 가혹할 것이다. 이것이 예견 가능했다는 증거가 이미 The Lancet에 발표되어 있기 때문이다.

이를 피하는 의료 시스템은 느리게 움직이는 곳이 아니다. 그들은 다르게 움직이는 곳이다. 그것은 검증된 의학 지식에 기반한 RAG 아키텍처를 의미한다. AI에 통계적 단어 예측 대신 구조화된 임상 추론을 부여하는 지식 그래프. 의례적으로가 아니라 지속적으로 실행되는 적대적 테스트. 그리고 자동화 편향을 악용하는 것이 아니라 상쇄하도록 설계된 검토 인터페이스 말이다.

우리는 이 일을 하기 위해 Veriprajna를 세웠다 — 시장 기회를 봐서가 아니라, 똑똑하고 선의를 가진 사람들이 환자를 다치게 할 수 있는 시스템을 배포하는 것을 지켜봤고, 그들이 만들고 있던 것과 증거가 요구하던 것 사이의 간극이 용납할 수 없었기 때문이다.

의학의 첫 번째 규칙은 primum non nocere — 즉, 무엇보다 해를 끼치지 말라는 것이다. 우리는 지난 2년간 그 규칙을 마케팅 슬로건이 아니라 엔지니어링 제약으로 삼는 AI를 구축해 왔다. 이것을 제대로 해낼 기술은 존재한다. 현재의 접근법이 위험하다는 것을 증명하는 연구도 존재한다. 남은 유일한 질문은, 증거가 업계에 작용하기 전에 업계가 그 증거에 따라 행동할 것인가이다.

관련 연구

다른 채널에도 게시됨

확신을 가지고 AI를 구축하세요.

차세대 엔터프라이즈 AI 구축에 깊은 경험을 갖춘 팀과 협업하세요. 신뢰할 수 있는 AI 전략을 설계하고 구축하며 배포할 수 있도록 지원해 드리겠습니다.

Veriprajna 딥테크 컨설팅 은(는) 헬스케어, 금융, 규제 분야를 위한 안전 필수 AI 시스템 구축을 전문으로 합니다. 당사의 아키텍처는 확립된 프로토콜에 따라 검증되며 포괄적인 규정 준수 문서를 갖추고 있습니다.