ChartSieve / Clinical AI Safety Firewall
HbA1cの値は正しかった。それでもメトホルミンの処方推奨は止める必要があった。
患者ポータルの下書きがカルテを正確に引用していても、誤った処置を推奨してしまうことがあります。模擬リリース判定の前に、ChartSieveが合成患者記録と照合して推奨内容をいかに検証するかをご覧ください。
解説ウォークスルーをご覧ください。表示されているすべての事例および記録は合成データです。
6.8%
正確に引用されたHbA1c
合成症例 A-1002
28
直近に記録されたeGFR
同一の合成記録
HOLD
臨床医によるレビュー待ち
厳選された腎安全性ルール
エンジニアリング実証のみを目的としています。実在の患者、PHI（保護対象保健情報）、EHR、ベンダーシステム、または診療ワークフローは一切関与していません。
障害モード
正確な数値であっても、安全な推奨とは限りません。
下書きはカルテの事実を1つ正しく捉えています。検査値のみを対象とするチェックであればそこで終了してしまうでしょう。しかし患者固有の安全性チェックでは、その下書きが患者にどのような行動を求めているかまで精査しなければなりません。
01 / 下書き
「メトホルミンの継続」
合成患者ポータル下書きはHbA1c 6.8% を正確に引用し、その上で投薬の継続を推奨しています。
02 / 記録
最新のeGFR: 28
合成記録にはクレアチニンの上昇傾向も示されています。その傾向単独ではなく、最新のeGFRが厳選された腎ルールを作動させます。
03 / ゲート
レビューのために保留
決定論的ポリシーゲートは HOLD_FOR_REVIEW を模擬ワークフロー内で返し、レビュー担当者に腎所見を提示します。
アーキテクチャ
モデルは助言できますが、ゲートを通過させることはできません。
ChartSieveは、記録に基づく根拠付け、安全性ルール、および最終判定を明確に分離します。もっともらしい回答が安全でない処置を覆い隠している場合、この境界が極めて重要になります。
STEP 01
主張の根拠付け
決定論的コードが、抽出された検査値および投薬に関する主張と、FHIR形式に準じた合成患者記録JSONを比較します。利用可能な場合にはソースが表示されます。
STEP 02
安全性ルールの適用
厳選されたシードルールセットが最新のeGFR、アレルギー、バイタルサインをチェックします。メトホルミンの事例では次を出力します： CONTRAINDICATION_RENAL。
STEP 03
LLMの外部で判定
検証器のアドバイザリはコンテキストを追加できますが、決定論的ゲートによる RELEASE、 HOLD_FOR_REVIEW、または BLOCK の結果を覆すことはできません。
デモによる実証
所見は決定に常に紐付けられます。
これらは稼働中の合成実証のキャプチャであり、顧客レコードや単なるイラストではありません。全幅表示により、所見と裏付けとなるエビデンスの可読性が維持されます。
エビデンストレイル
単なる赤信号ではなく、レビューすべき具体的な理由。
フィード結果は、ルール所見、利用可能な主張のエビデンス、および検証器のアドバイザリをまとめて保持します。そのSafety Receiptには、16進数16文字に切り詰められたタイムスタンプ付きSHA-256ダイジェストが含まれますが、これは署名や不変の監査ログではありません。
境界付けられたテスト
ベンチマークは臨床的レディネスではなく、シードされたルールパターンをテストします。
34件の固定されたラベル付き合成成果物において、ChartSieveは12件の安全な症例を保留することなく、シードされた22件の安全でない症例すべてを保留またはブロックしました。同一セット上で定義された検査値のみのベースラインが捕捉できたのは、これら22件の危険な症例のうち4件にとどまりました。
34
固定された合成成果物
22/22
保留またはブロックされたシード危険症例
4/22
定義されたナイーブなベースラインによって捕捉
これらの件数は、既知のルールパターンがシードされた小規模なセットから得られたものです。患者のアウトカム、実稼働時のパフォーマンス、または一般的な臨床精度を測定するものではありません。
アンカーケースの先へ
同一の検査境界が、他のシードされたリスクにも適用されます。
フィードには臨床意思決定支援およびModel Equityビューも含まれています。これらは合成ガバナンスの例であり、医療機関からの診断や観察結果ではありません。
アラートなしの出力であってもチェックされます。
シードされたモデルスコア0.34はアラート閾値0.40を下回っていますが、合成記録には懸念されるバイタルサインと乳酸値が示されています。ゲートは見落とし判定および酸素化の懸念をレビュー対象としてフラグ付けします。
集計結果だけでは全体像を把握できません。
独立した500件の意思決定からなる合成ログが、選定された0.80のパリティ閾値に対してサブグループの感度をスクリーニングします。フラグは臨床的および統計的なレビューを促すものであり、現実世界のバイアスや法的な事実認定ではありません。
本デモが対象とすること、対象としないこと
このウォークスルーは検査メカニズムを示すものです。実稼働環境への展開には、個別の統合、臨床的検証、およびガバナンス作業が必要となります。
| 項目 | 本デモで示す内容 | 本デモの対象外 |
|---|---|---|
| 患者コンテキスト | FHIR形式に準じた合成記録と固定フィード | 本番EHRまたはベッドサイド機器とのライブ接続 |
| 安全性の判定 | 厳選されたルールと決定論的ポリシーゲート | 包括的で維持管理された臨床ルールセットまたは診断 |
| 診療ワークフロー | シミュレートされたリリース、保留、およびブロックの結果 | メッセージの送信または臨床医レビューの確定 |
| エビデンス | フィード内の利用可能な主張ソースおよび切り詰められたSHA-256ダイジェストレシート | 署名付きの不変で本番運用グレードの監査ログ |
| 評価 | 固定された合成回帰セットとサブグループガバナンススクリーニング | 前向き臨床検証または法的な公平性の決定 |
本デモが対象としない事項： 実在の患者やPHI（保護対象保健情報）の使用、ベンダーAIの統合、患者へのメッセージ送信、臨床研究の実施、または規制コンプライアンスの確立は行いません。
症例を超えた運用上の質問
AI検証器が利用できない場合はどうなりますか？
オプションのライブプロバイダーが利用できない場合やキャッシュされた応答がない場合、ChartSieveは決定論的なアドバイザリテキストを使用します。合成下書きをリリースするか、レビューのために保留するか、あるいはブロックするかは、依然として決定論的ポリシーゲートが決定します。エージェントの応答がその決定を設定したり覆したりすることは決してありません。
eGFRがメトホルミンの保留を主導するのに、なぜクレアチニンの推移を表示するのですか？
合成患者におけるクレアチニンの上昇傾向は、腎所見を裏付ける補助的コンテキストです。ChartSieveの厳選された腎ルールは、直近に記録されたeGFR 28を用いてメトホルミンの推奨を保留します。クレアチニンの推移が単独で判定を下すわけではありません。
ベンチマークの行には検証器エージェントのアドバイザリが含まれていますか？
いいえ。ChartSieveは個別の固定ラベル付き回帰セットでベンチマークを実行しており、それらの行には検証器のアドバイザリは含まれていません。22件中22件の危険症例の捕捉は、エージェントの性能や臨床的検証ではなく、シードされたルールパターンに対する決定論的ファイアウォールを測定するものです。
検査されたすべての出力に対して、主張レベルのソースが存在しますか？
いいえ。フィードの検査結果には、ルール所見や検証器のアドバイザリとともに、利用可能な場合にのみ主張のソースが含まれます。ChartSieveは、この合成フィード内のすべての主張や成果物にソースが存在することを保証するものではありません。レビュー担当者は、表示されたソースと根拠のない主張を区別する必要があります。
Model Equityビューは、敗血症モデルにバイアスが存在することを証明するものですか？
いいえ。Model Equityは500件の合成敗血症の意思決定を対象にサブグループの感度をスクリーニングし、選定された0.80の閾値を下回るパリティ比率にフラグを立てます。これはシードされたデータに対するガバナンススクリーニングであり、実際に導入されたモデルに関する事実認定や法的な公平性の決定ではありません。サブグループの結果には臨床的および統計的なレビューが必要です。
デモ内のAI開示文は、法令に準拠した患者向けコミュニケーションですか？
いいえ。リリースされた合成ポータル下書きには、AB 3030に言及した例示用のAI開示文字列が付与されます。本実証はコンプライアンスに必要な追加のコミュニケーションや人間による連絡ワークフローを完結するものではなく、実在の患者やケアチームがメッセージを受け取ることもありません。
技術研究
このデモを支える研究 — アーキテクチャ、検証設計、およびエンタープライズブループリント。
患者記録固有のチェックを設計段階の議論に組み込む
貴院の診療ワークフローにおいて下書きがどの段階に入り、レビューゲートで臨床医がどのようなエビデンスを必要とするかを精査できます。
ChartSieveは合成実証です。実際の導入には、システム統合、維持管理された臨床ルール、現場でのローカル検証、および説明責任を伴う人的レビューが必要です。
安全性ワークフロー評価
- ✓ 下書きからレビューへのパスのマッピング
- ✓ 患者記録エビデンスの要件定義
- ✓ ルールの所有権とエスカレーションの設計
- ✓ 導入前の評価項目の策定
統制された実装設計
- ✓ システム統合の境界定義
- ✓ 決定論的ゲートの仕様策定
- ✓ 臨床医レビュー用エビデンスの整備
- ✓ 継続的な安全性および公平性の評価
