ChartSieve / Clinical AI Safety Firewall
HbA1c는 정확했습니다. 그럼에도 메트포르민 권고는 중단되어야 했습니다.
환자 포털 초안은 진료기록을 정확히 인용하면서도 잘못된 조치를 권고할 수 있습니다. 모의 릴리스 결정 전에 ChartSieve가 합성 환자 기록을 대조하여 권고사항을 어떻게 검사하는지 확인해 보세요.
기업 워크스루를 시청해 보세요. 표시된 모든 사례와 기록은 합성 데이터입니다.
6.8%
정확하게 인용된 HbA1c
합성 사례 A-1002
28
최근 기록된 eGFR
동일한 합성 기록
HOLD
임상의 검토 대기
선별된 신장 규칙
엔지니어링 시연 전용입니다. 실제 환자, PHI, EHR, 벤더 시스템 또는 진료 워크플로는 관여하지 않습니다.
실패 모드
올바른 숫자가 안전한 권고를 의미하지는 않습니다.
초안은 진료기록의 사실 하나를 정확히 맞춥니다. 검사 수치 전용 점검은 거기서 멈춥니다. 환자별 맞춤 안전 점검은 초안이 환자에게 무엇을 하도록 요구하는지 검사해야 합니다.
01 / 초안
“Continue metformin”
합성 환자 포털 초안은 HbA1c 6.8% 수치를 정확히 인용한 뒤, 약물 치료를 지속하도록 권고합니다.
02 / 진료기록
최근 eGFR: 28
합성 기록은 크레아티닌 상승 추세도 함께 보여줍니다. 이러한 추세 자체만이 아니라 최근 eGFR이 선별된 신장 규칙을 작동시킵니다.
03 / 게이트
검토를 위한 보류
결정론적 정책 게이트는 모의 워크플로에서 HOLD_FOR_REVIEW 상태를 반환하고 검토자에게 신장 소견을 표시합니다.
아키텍처
모델은 자문할 수 있습니다. 그러나 게이트를 통과시킬 수는 없습니다.
ChartSieve는 기록 기반 접지, 안전 규칙, 그리고 최종 처분을 분리합니다. 그럴듯한 답변이 안전하지 않은 조치를 은폐할 때 이러한 경계는 결정적인 차이를 만듭니다.
STEP 01
주장 접지
결정론적 코드가 추출된 검사 및 약물 청구 항목을 합성 FHIR 유사 환자 기록 JSON과 비교합니다. 가능한 경우 출처가 함께 표시됩니다.
STEP 02
안전 규칙 적용
선별된 시드 규칙 세트가 최근 eGFR, 알레르기 및 활력 징후를 점검합니다. 메트포르민 사례는 다음 결과를 도출합니다: CONTRAINDICATION_RENAL.
STEP 03
LLM 외부에서의 결정
검증기 권고사항은 맥락을 보강할 수 있지만, 결정론적 게이트의 RELEASE, HOLD_FOR_REVIEW, 또는 BLOCK 결과를 무효화할 수 없습니다.
데모를 통한 증명
소견은 결정에 결속되어 유지됩니다.
이들은 고객 기록이나 삽화가 아니라 실제 실행 중인 합성 데모의 캡처 화면입니다. 전체 너비 보기를 통해 소견과 뒷받침 증거를 명확하게 확인할 수 있습니다.
증거 추적
단순한 적색 신호가 아닌, 검토해야 하는 명확한 이유.
피드 결과는 규칙 소견, 가용한 주장 증거, 검증기 권고사항을 하나로 묶어 유지합니다. Safety Receipt에는 타임스탬프가 찍히고 16자 16진수로 축약된 SHA-256 다이제스트가 포함됩니다. 이는 디지털 서명이나 불변 감사 로그는 아닙니다.
제한적 검증
벤치마크는 임상적 배포 준비도가 아니라 시드된 규칙 패턴을 테스트합니다.
34개의 고정된 합성 레이블 아티팩트를 대상으로, ChartSieve는 12건의 안전한 사례를 보류하지 않으면서 시드된 22건의 불안전 사례를 모두 보류하거나 차단했습니다. 동일한 데이터 세트에서 정의된 검사 수치 전용 기준선은 22건의 불안전 사례 중 4건만을 포착했습니다.
34
고정된 합성 아티팩트
22/22
보류되거나 차단된 시드 불안전 사례
4/22
정의된 단순 기준선이 포착한 수
이 수치들은 알려진 규칙 패턴으로 시드된 소규모 데이터 세트에서 도출된 결과입니다. 환자 치료 결과, 실제 배포 성능 또는 전반적인 임상 정확도를 측정하지는 않습니다.
기준 사례를 넘어서
동일한 검사 경계가 다른 시드 위험에도 일관되게 적용됩니다.
피드에는 임상 의사결정 지원(CDS)과 Model Equity 뷰도 포함되어 있습니다. 이는 의료기관의 실제 진단이나 관찰 결과가 아니라 합성 거버넌스 예시입니다.
경보가 울리지 않은 출력도 엄격한 검사를 거칩니다.
시드된 모델 점수 0.34는 경보 임계값 0.40 미만이지만, 합성 기록은 우려스러운 활력 징후와 젖산 수치를 보여줍니다. 게이트는 과소 호출 및 산소화 우려를 검토 대상으로 표시합니다.
종합된 집계 결과가 전체 상황을 대변하지는 않습니다.
별도의 500건 결정 합성 로그가 선택된 0.80 동등성 임계값에 대해 하위 그룹 민감도를 선별 검사합니다. 플래그 표시는 임상적 및 통계적 검토를 요청하는 것이며, 실제 편향이나 법적 판단을 의미하지 않습니다.
본 데모가 수행하는 작업과 수행하지 않는 작업
본 워크스루는 검사 메커니즘을 시연합니다. 실제 배포를 위해서는 별도의 시스템 통합, 임상 유효성 검증, 거버넌스 작업이 수반되어야 합니다.
| 질문 | 여기서 제시되는 것 | 본 데모 외부의 영역 |
|---|---|---|
| 환자 맥락 | 합성 FHIR 유사 기록 및 고정 피드 | 실시간 EHR 또는 침상 장비 연결 |
| 안전 처분 | 선별된 규칙 및 결정론적 정책 게이트 | 포괄적으로 유지 관리되는 임상 규칙 세트 또는 진단 |
| 진료 워크플로 | 모의 릴리스, 보류 및 차단 결과 | 환자 메시지 전송 또는 임상의 검토 확정 |
| 증거 | 피드 내 가용한 주장 출처 및 축약된 SHA-256 다이제스트 영수증 | 서명된 불변의 상용 등급 감사 로깅 |
| 평가 | 고정된 합성 회귀 세트 및 하위 그룹 거버넌스 선별 검사 | 전향적 임상 검증 또는 법적 공정성 결정 |
본 데모가 수행하지 않는 작업: 실제 환자나 PHI를 사용하지 않으며, 상용 AI를 연동하거나, 환자에게 메시지를 전송하거나, 임상 연구를 수행하거나, 규제 준수를 입증하지 않습니다.
사례를 넘어서는 운영 질문
AI 검증기를 사용할 수 없는 경우 어떻게 됩니까?
ChartSieve는 선택적 실시간 제공자를 사용할 수 없거나 캐시된 응답이 누락된 경우 결정론적 권고 텍스트를 사용합니다. 결정론적 정책 게이트는 합성 초안의 릴리스, 검토를 위한 보류, 또는 차단 여부를 여전히 독자적으로 결정합니다. 에이전트 응답이 그 결정을 설정하거나 무효화할 수 없습니다.
eGFR이 메트포르민 보류를 유발한다면 크레아티닌 추세를 보여주는 이유는 무엇입니까?
합성 환자의 크레아티닌 상승 추세는 신장 소견을 뒷받침하는 맥락 정보입니다. ChartSieve의 선별된 신장 규칙은 최근 기록된 eGFR 수치 28을 사용하여 메트포르민 권고를 보류합니다. 추세 자체가 독립적으로 판정을 내리지는 않습니다.
벤치마크 행에 검증기 에이전트 권고사항이 포함됩니까?
아닙니다. ChartSieve는 별도의 고정 레이블 회귀 세트에서 벤치마크를 실행하며, 해당 행들에는 검증기 권고사항이 포함되지 않습니다. 22건 중 22건의 불안전 사례 포착은 시드된 규칙 패턴에 대한 결정론적 방화벽을 측정하는 것이며, 에이전트 성능이나 임상 검증을 측정하는 것이 아닙니다.
검사된 모든 출력마다 주장 수준의 출처가 제공됩니까?
아닙니다. 피드 검사 결과에는 규칙 소견 및 검증기 권고사항과 함께 가능한 경우에 한해 주장 출처가 포함됩니다. ChartSieve는 이 합성 피드의 모든 주장이나 아티팩트에 대해 출처를 보장하지 않습니다. 검토자는 제시된 출처와 입증되지 않은 주장을 명확히 구별해야 합니다.
Model Equity 뷰가 패혈증 모델의 편향을 입증합니까?
아닙니다. Model Equity는 500건의 합성 패혈증 결정을 대상으로 하위 그룹 민감도를 선별 검사하고 선택된 0.80 임계값 미만의 동등성 비율을 표시합니다. 이는 시드된 데이터에 대한 거버넌스 선별 검사이며, 실제 배포된 모델에 대한 평가나 법적 공정성 결정이 아닙니다. 하위 그룹 결과에 대해서는 임상적 및 통계적 검토가 별도로 필요합니다.
데모의 AI 공개 고지는 규정을 준수하는 환자 소통입니까?
아닙니다. 릴리스된 합성 포털 초안에는 AB 3030을 참조하는 예시용 AI 공개 고지 문자열이 포함됩니다. 본 시연은 규정 준수에 필요한 추가적인 커뮤니케이션 및 사람과의 직접 접촉 워크플로를 완결하지 않으며, 실제 환자나 의료팀에 메시지가 전송되지 않습니다.
기술 연구
이 데모의 기반이 된 연구 — 아키텍처, 검증 설계 및 엔터프라이즈 청사진.
- Algorithmic Equity in Clinical AI: The Deep AI Imperative (interactive whitepaper)
- Beyond the 0.001% Fallacy: Architectural Integrity in Enterprise AI (interactive whitepaper)
- The Clinical Imperative for Grounded AI in Healthcare (interactive whitepaper)
전체 솔루션
의료기관을 위한 임상 AI 안전 솔루션 살펴보기 →기록별 맞춤 점검을 설계 논의에 도입하세요
초안이 귀사의 진료 워크플로에 진입하는 지점과 검토 게이트에서 임상의에게 필요한 증거가 무엇인지 함께 검토할 수 있습니다.
ChartSieve는 합성 시연입니다. 실제 배포에는 시스템 연동, 유지 관리되는 임상 규칙, 현장 검증, 책임 있는 사람의 검토가 반드시 필요합니다.
안전 워크플로 평가
- ✓ 초안-검토 경로 맵핑
- ✓ 환자 기록 증거 요건
- ✓ 규칙 소유권 및 에스컬레이션 설계
- ✓ 배포 전 평가 질문
통제된 구현 설계
- ✓ 시스템 통합 경계
- ✓ 결정론적 게이트 규격
- ✓ 임상의 검토 증거
- ✓ 지속적인 안전 및 공정성 평가
