治理前沿：演算法完整性、企業法律責任，以及從預測型包裝層邁向深度 AI 解決方案

醫療產業在 2025 年初正處於一個動盪的十字路口，標誌著臨床照護與人工智慧交會的分水嶺時刻。多年來，企業 AI 的敘事一直由大型語言模型的快速採用，以及為優化行政流程而設計的薄層「包裝層」應用所主導。然而，UnitedHealth Group 的 nH Predict 演算法災難性崩解——最終在 2025 年 2 月演變為聯邦集體訴訟——已揭露在缺乏嚴謹治理、因果驗證與以人為本監督的情況下，部署「黑箱」預測工具所固有的致命風險。¹ 本白皮書由 Veriprajna 提出，檢視 UnitedHealth 事件的系統性失敗，以界定「深度 AI」解決方案的新標準。作為站在演算法完整性最前線的顧問機構，Veriprajna 主張：簡化 LLM 包裝層的時代正在終結；取而代之的，必須是因果智能、可解釋架構與健全企業治理的框架。⁴

系統性失敗的解剖：nH Predict 危機

圍繞 UnitedHealth Group（UHC）及其子公司 NaviHealth 的危機，是企業 AI「對齊問題」的決定性案例。爭議核心是 nH Predict——UHC 的 Optum 部門於 2020 年以超過 10 億美元收購的預測演算法。⁷ 該演算法被行銷為照護管理工具，旨在預測 Medicare Advantage 病患在急性後期照護環境——例如專業護理機構與復健中心——的住院天數與醫療需求。⁹

nH Predict 的根本失敗不僅是技術性的，更是架構性的。它依賴 600 萬筆病患紀錄的資料庫，交叉關聯歷史結果並產生「目標」出院日期。¹¹ 然而，該模型作為由相關性驅動的黑箱運作，未能納入個別病患的實際處境——例如家中沒有照護者、財務不穩定，或特定臨床併發症——這些因素對於依 Medicare 標準判定醫療必要性至關重要。¹²

演算法摩擦的量化代價

nH Predict 的營運化導致給付拒絕出現統計上異常的激增。透過使用「機器輔助事先授權」，UHC 試圖加速審查流程，將醫療專業人員評估申請所需時間縮短六至十分鐘。³ 雖然這提高了吞吐量，卻同時使決策過程與臨床細微差異脫鉤。³

營運指標	2019/2020 基準	2022 年報告水準	統計變動
急性後期 PAC 拒絕率	8.7% - 10.9%	22.7%	增加 108% - 160%
專業護理機構拒絕	標準基準	基準的 9 倍	增加 800%
申訴拒絕的錯誤率	不適用	90%	10 件中有 9 件被撤銷
提出申訴的病患百分比	不適用	0.2%	被深度壓抑
UnitedHealth Group 營收	$240bn（2019）	$300bn（2024）	預估 $340bn（2025）

參議院常設調查小組委員會（PSI）與進行中訴訟所浮現最具殺傷力的統計數字，是申訴拒絕的 90% 錯誤率。² 十次中有九次，當人類行政法法官或內部醫師審查演算法的拒絕決定時，該決定即被撤銷。¹² 然而，UHC 的策略優勢在於：僅有 0.2% 的年長或身心障礙病患具備認知、體力或財務資源，得以走完複雜的申訴程序。³ 這創造了扭曲的經濟誘因：不準確的演算法依然高度獲利，因為它所產生的「行政摩擦」成功嚇阻了絕大多數正當理賠。¹⁵

演算法脅迫與臨床裁量權的侵蝕

2025 年 2 月集體訴訟的核心支柱，是指控 UnitedHealth 並非僅將 AI 作為「指引」，而是作為凌駕人類判斷的強制指令。³

將決策支援工具轉化為自動化守門人，代表名義上由聯邦醫療保險與醫療補助服務中心（CMS）所要求的「人在迴路中」（HITL）防護機制全面崩解。⁷

變異幅度指令：3% 至 1%

內部調查與吹哨者證詞揭示，NaviHealth 主管為臨床員工設定了僵化目標。個案管理員被指示，須將病患住院天數維持在演算法預測的狹窄變異幅度內。⁸ 此目標最初設為 3%，其後收緊至 1%。⁸ 第一線照護協調員被指示，將進度審查時間精確對準演算法預測的出院日期，實質上「工程化」臨床時程以遷就模型。¹¹

此指令的後果是「演算法脅迫」。為遷就病患實際醫療需求而偏離 nH Predict 預測的員工，面臨紀律處分或解雇。⁸ 此環境迫使經驗豐富的臨床人員——其首要職責是病患福祉的醫師與護理師——淪為有缺陷數學模型的「橡皮圖章」。⁷ 結果即專家所稱的「慢動作 HAL」效應：系統無論人類後果如何，有條不紊地關閉保險給付這層「維生系統」。¹⁷

真實世界後果：Clemens 案例

此治理失敗的人道代價，可由 Carol Clemens 等病患的經歷說明。在一次嚴重的變性血紅素血症——一種危及生命的血液疾患——發作後，Clemens 需要密集的專業護理照護。⁸ 儘管有臨床證據顯示她持續需要復健，nH Predict 的預測仍被用來終止其給付，迫使家人自費超過 $16,768，以防止她過早出院。⁸ 訴訟指控，UHC「押注」Clemens 這類病患的受損狀況與資源匱乏，以阻止他們對這些毫無根據的決定提出申訴。¹⁶

法律分水嶺：2025 年 2 月 13 日裁定

名為 Estate of Gene B. Lokken v. UnitedHealth Group 的訴訟於 2025 年 2 月 13 日達到關鍵里程碑：美國聯邦地區法官 John R. Tunheim 裁定集體訴訟可以繼續進行。¹ 此裁定是 AI 法理學的里程碑，因為它刺穿了許多 Medicare Advantage 組織（MAO）歷來用以規避州法請求的「聯邦優先適用盾牌」。¹

儘管法院駁回過失與州消費者保護違規的請求——認定其被聯邦 Medicare 法案優先適用——但仍允許契約違反以及默示誠信與公平交易義務違反的請求繼續進行。¹ 其推理深刻：UHC 自身的保單文件承諾，給付決定將由「臨床服務人員」與「醫師」作出。⁷ 以實質上決定結果的 AI 演算法取代這些人類，公司可能違反了對保戶的契約承諾。⁷

用盡行政救濟之豁免

在一項重大舉措中，法院豁免了原告在起訴前須用盡行政救濟的要求。¹ 通常，Medicare 受益人必須經過多層申訴，才能尋求司法審查。然而，法院認定，考量病患所面臨的「無法彌補的傷害」（例如被趕出照護機構）以及向錯誤率達 90% 的系統申訴的「徒勞」，該集體可以直接進入訴訟。¹ 此裁定確立先例：若 AI 系統根本上已損壞，法律制度不會要求受害者「參與一場被操控申訴程序的鬧劇」。⁷

深度 AI 與 LLM 包裝層：策略性區隔

nH Predict 危機凸顯「淺層 AI」或「包裝層 AI」的危險——這類解決方案在核心引擎上套用表面自動化層，卻不理解底層邏輯，也不控制偏誤。⁴ Veriprajna 將自身定位為「深度 AI」提供者，正是為了因應這些商品化模型固有的脆弱點。⁵

包裝層經濟陷阱

如 Google India Accelerator 及其他產業分析師所指出，「包裝層」公司在受監管產業中日益被視為負債。⁵ 這些公司往往將既有 AI 引擎（如 OpenAI 的 GPT 或 Google 的 Gemini）「包裝」於自訂介面中。⁵

風險類別	LLM 包裝層解決方案	深度 AI 解決方案（Veriprajna）
可防禦性	易於複製；無專有智財。4	專有模型與因果邏輯。5
供應商鎖定	易受第三方 API 變更衝擊。4	混合架構；不依賴單一供應商。5
合規	黑箱邏輯；無法稽核。4	可解釋 AI（XAI）與稽核軌跡。22
偏誤緩解	繼承基礎模型的偏誤。4	以因果推論中和代理變數。25
課責	法律責任歸屬於部署者。4	董事會層級治理與風險對映。28

深度 AI 解決方案需要從機率性模式辨識邁向因果 AI。⁶ 預測模型可能得出「診斷為 X 的病患通常住院 14 天」；因果模型則會問：「哪些因素導致病患需要更多時間，以及撤除給付如何導致復發？」。²⁵ 此一從「什麼」到「為什麼」的轉型，是可信智能的基礎。⁶

監管前景：2025 年與 2026 年的合規

監管環境已積極轉向演算法課責。組織再也不能在未符合 FDA、WHO 與 NIST 所訂特定嚴謹標準的情況下，於高風險環境部署 AI。³⁰

FDA 七步驟可信度評估架構

2025 年 1 月，FDA 發布草案指引（FDA-2024-D-4689），為用於醫療與監管決策的 AI 模型建立強制架構。³³ 此架構對任何企業級 AI 部署都至關重要。

1.​ 界定關注問題：清楚闡明 AI 意圖處理的確切決策。³⁴

2.​ 界定使用情境（COU）：指明模型角色、資料輸入及其所處工作流程。³⁴

3.​ 評估模型風險：評估「模型影響力」（AI 擁有多少權限）與「決策後果」（若 AI 錯誤，傷害的嚴重程度）。³⁴

4.​ 擬定可信度計畫：概述驗證策略、指標與接受標準。³⁴

5.​ 執行計畫：進行嚴謹測試，包括對邊緣案例的壓力測試。³⁴

6.​ 記錄結果：建立「可信度報告」，標示任何偏離計畫之處。³⁴

7.​ 判定充分性：最終驗證模型是否適合其特定臨床用途。³⁴

nH Predict 系統在此架構的每一階段都失敗了。它缺乏清楚的 COU，其風險評估忽略了拒絕照護的致命後果，而其「驗證」聚焦於成本控制而非臨床準確度。²

WHO 倫理與歐盟 AI 法案

世界衛生組織（WHO）已特別針對「自動化偏誤」——人類即使與自身感官相矛盾，仍傾向服從演算法的傾向。³¹ WHO 2024 年關於大型多模態模型（LMM）的指引警告，AI 可能導致停止進行批判性評估的醫師出現「技能退化」。³¹

與此同時，歐盟 AI 法案於 2025 年開始分階段執行。¹ 依該法案，用於醫療照護的 AI 系統被歸類為「高風險」，須強制進行符合性評估、透明度揭露與人類監督。³⁷ 不合規的重罰（最高達全球營業額的 7%）使演算法治理成為董事會層級的財務要務。³⁷

工程化信任：可解釋 AI（XAI）指令

為防止 UnitedHealth 崩解重演，深度 AI 解決方案必須「設計即為可解釋」。²² 可解釋 AI（XAI）彌合複雜數學權重與人類可讀理由之間的落差。³⁹

技術方法：SHAP 與 LIME

在臨床決策支援中，SHAP（SHapley Additive exPlanations）與 LIME（Local Interpretable Model-Agnostic Explanations）這類 XAI 工具至關重要。⁴¹

●​ SHAP 提供特徵重要性的全域視圖。在保險情境中，它可揭示拒絕是否主要由「年齡」或「郵遞區號」（往往是種族的代理變數）驅動，使稽核人員得以標示歧視性偏誤。²⁴

●​ LIME 提供單一決策的局部解釋。對 Carol Clemens 這類病患，LIME 會凸顯 AI 為遷就她的「基於診斷的平均恢復時間」，而忽略其「危及生命的低血氧水準」。⁸

透過整合這些工具，Veriprajna 確保臨床人員不是 AI 輸出的「被動接受者」，而是能夠評估並驗證其邏輯的夥伴。⁴⁰

信心評分的實施

深度 AI 的一項關鍵功能是信心評分——告訴人類使用者特定預測有多可靠的指標。²³ 若病患呈現訓練資料中代表性不足的罕見病況，AI 必須明確標示自身不確定性，並將案件立即轉交人類審查（人在迴路中路由）。²³

演算法治理：高階主管與董事會的責任

AI 作為「IT 專案」的時代已經結束。到 2025 年，72% 的 S&P 500 公司已在年度 SEC 申報中揭露重大 AI 風險。³⁷ 聲譽風險現為最常被引用的關切，因為單一 AI 失敗即可病毒式擴散並觸發大規模訴訟。²⁹

AI 倫理與合規委員會的角色

組織要建立韌性，必須設立跨職能 AI 治理委員會。²⁸ 這些委員會應包含臨床領導者、法律顧問與病患安全代表，並具備以下權限：

●​ 界定所有 AI 使用案例的核准標準。⁴⁷

●​ 維護中央 AI 登錄，編目組織技術堆疊中的每一個模型。²⁸

●​ 執行模型變更管理，在效能劣化或偵測到「漂移」時具備「Kill Switch」或回滾選項。³⁰

將 NIST AI 風險管理架構（RMF）營運化

NIST AI RMF 1.0（2023 年發布，2025 年更新）為此治理提供藍圖。³² 它圍繞四項功能建構：

1.​ GOVERN：建立風險意識文化，使領導層直接對 AI 結果負責。²⁸

2.​ MAP：編目 AI 與敏感資料（PHI）互動之處，並辨識潛在「傷害情境」，例如誤診或偏誤分流。³²

3.​ MEASURE：持續追蹤敏感度、偽陰性率與「人口統計公平性」等 KPI。³²

4.​ MANAGE：實施控制措施，例如對高風險決策要求人類監督，並定期進行「AI 事件應變演練」。³²

結論：深度 AI 的 Veriprajna 標準

UnitedHealth 的 nH Predict 演算法崩解是嚴峻警告：當演算法被用來優化「理論效率」而非「真實世界臨床結果」時，人道代價是災難性的，法律責任是絕對的。² 2025 年 2 月的集體訴訟不僅是一場訴訟；它是對醫療管理「黑箱」時代的首次重大拒絕。

作為深度 AI 解決方案提供者，Veriprajna 拒絕「包裝層」作法。真正的企業 AI 需要：

●​ 因果驗證：理解為何作出某項決策，而不只是其發生的機率。⁶

●​ 可解釋架構：為臨床人員與稽核者提供每一項輸出背後的「作業底稿」。³⁹

●​ 倫理治理：確保「人在迴路中」被賦權覆寫機器，而非因覆寫而受紀律處分。³⁵

●​ 監管對齊：主動符合 FDA 七步驟可信度架構與歐盟 AI 法案的透明度要求。³⁰

企業的前進之路不在於更多自動化，而在於更好的智能。透過從預測型包裝層邁向深度治理的因果系統，組織可以重新兌現 AI 的承諾：強化人類判斷、保護弱勢，並建立既有效率又富有同理心的醫療體系。⁵

參考文獻

1. Lawsuit over AI usage by Medicare Advantage plans allowed to ...，2026年2月6日存取，https://www.dlapiper.com/insights/publications/ai-outlook/2025/lawsuit-over-ai-usage-by-medicare-advantage-plans-allowed-to-proceed

2. The Biggest AI Fails of 2025: Lessons from Billions in Losses - NineTwoThree Studio，2026年2月6日存取，https://www.ninetwothree.co/blog/ai-fails

3. UnitedHealthcare accused of relying on AI algorithms to deny Medicare Advantage claims，2026年2月6日存取，https://www.foxbusiness.com/markets/unitedhealthcare-accused-relying-ai-algorithms-deny-medicare-advantage-claims

4. Risks of AI Wrapper Products and Features - Kader Law，2026年2月6日存取，https://www.kaderlaw.com/blog/risks-of-ai-wrapper-products-and-features

5. AI Wrapper Economy Risks Highlighted by Google India Accelerator - AI CERTs News，2026年2月6日存取，https://www.aicerts.ai/news/ai-wrapper-economy-risks-highlighted-by-google-india-accelerator/

6. Integrating predictive modeling and causal inference for advancing medical science，2026年2月6日存取，https://www.chikd.org/journal/view.php?id=10.3339/ckd.24.018

7. Lawsuit alleging UnitedHealthcare used faulty AI to deny coverage advances in federal court - Insurance News | InsuranceNewsNet，2026年2月6日存取，https://insurancenewsnet.com/oarticle/lawsuit-alleging-unitedhealthcare-used-faulty-ai-to-deny-coverage-advances-in-federal-court

8. Minnesota judge: lawsuit over UnitedHealth use of AI can continue - The C.O.R.E. Group，2026年2月6日存取，https://coregroupusa.com/minnesota-judge-lawsuit-over-unitedhealth-use-of-ai-can-continue/

9. nH Predict - Wikipedia，2026年2月6日存取，https://en.wikipedia.org/wiki/NH_Predict

10. UnitedHealth faces lawsuit over AI, Medicare Advantage care denials，2026年2月6日存取，https://www.beckerspayer.com/payer/unitedhealth-faces-lawsuit-over-medicare-advantage-care-denials/

11. STAT “Denied by AI” series a model of solid investigative journalism ...，2026年2月6日存取，https://healthjournalism.org/blog/2024/10/stats-denied-by-ai-series-a-model-of-solid-investigative-journalism/

12. When Faulty AI Falls Into the Wrong Hands: The Risks of Erroneous ...，2026年2月6日存取，https://ijoc.org/index.php/ijoc/article/download/23994/4992/90761

13. AI-driven insurance decisions raise concerns about human oversight | Stanford Report，2026年2月6日存取，https://news.stanford.edu/stories/2026/01/ai-algorithms-health-insurance-care-risks-research

14. Senate report slams Medicare Advantage insurers for using predictive technology to deny claims | Healthcare Dive，2026年2月6日存取，https://www.healthcaredive.com/news/medicare-advantage-AI-denials-cvs-humana-unitedhealthcare-senate-report/730383/

15. New AI tool counters health insurance denials decided by automated algorithms | US healthcare | The Guardian，2026年2月6日存取，https://www.theguardian.com/us-news/2025/jan/25/health-insurers-ai

16. Lawsuit accuses UnitedHealth Group of using faulty AI to deny Medicare patient claims，2026年2月6日存取，https://www.startribune.com/lawsuit-accuses-unitedhealth-group-of-using-faulty-ai-to-deny-medicare-patient-claims/600319883

17. UnitedHealthcare's AI Use to Deny Claims is Center of Industrywide Debate - HFS Research，2026年2月6日存取，https://www.hfsresearch.com/news/unitedhealthcares-ai-use-to-deny-claims-is-center-of-industrywide-debate/

18. UnitedHealth Lawsuit: Can AI Deny Healthcare Services? - Haven Health Management，2026年2月6日存取，https://havenhealthmgmt.org/unitedhealth-lawsuit-can-ai-deny-healthcare-services/

19. Estate of Gene B. Lokken et al. v. UnitedHealth Group, Inc. et al.，2026年2月6日存取，https://litigationtracker.law.georgetown.edu/litigation/estate-of-gene-b-lokken-the-et-al-v-unitedhealth-group-inc-et-al/

20. Judge Decides Class Action Can Proceed Against UnitedHealth for Use of AI，2026年2月6日存取，https://www.legalhie.com/judge-decides-class-action-lawsuit-can-proceed-against-unitedhealth-for-use-of-ai/

21. Reviewing the 5 Major AI Risks (Part II of II) | The Volkov Law Group - JDSupra，2026年2月6日存取，https://www.jdsupra.com/legalnews/reviewing-the-5-major-ai-risks-part-ii-8779464/

22. Explainable AI For Insurance - Meegle，2026年2月6日存取，https://www.meegle.com/en_us/topics/explainable-ai/explainable-ai-for-insurance

23. Explainable AI (XAI) in Insurance: Benefits and Use Cases - A3Logics，2026年2月6日存取，https://www.a3logics.com/blog/explainable-ai-in-insurance/

24. How AI Bias Is Impacting Healthcare - InformationWeek，2026年2月6日存取，https://www.informationweek.com/machine-learning-ai/how-ai-bias-is-impacting-healthcare

25. Correlation vs. Causation: How Causal AI is Helping Determine Key Connections in Healthcare and Clinical Trials - DIA Global Forum，2026年2月6日存取，https://globalforum.diaglobal.org/issue/october-2024/correlation-vs-causation-how-causal-ai-is-helping-determine-key-connections-in-healthcare-and-clinical-trials/

26. Who Benefits Most from Causal AI in Healthcare? - BeeKeeperAI，2026年2月6日存取，https://www.beekeeperai.com/blog/107341-who-benefits-most-from-causal-ai-in-healthcare

27. AI governance and risk management for regulated industries - Torry Harris，2026年2月6日存取，https://www.torryharris.com/insights/articles/ai-governance-risk-management-regulated-industries

28. AI governance: A guide to responsible AI for boards - Diligent，2026年2月6日存取，https://www.diligent.com/resources/blog/ai-governance

29. Governing the Ungovernable: Corporate Boards Face AI Accountability Reckoning，2026年2月6日存取，https://www.jdsupra.com/legalnews/governing-the-ungovernable-corporate-1075132/

30. FDA Guidance on AI-Enabled Devices: Transparency, Bias, & Lifecycle Oversight，2026年2月6日存取，https://www.centerwatch.com/insights/fda-guidance-on-ai-enabled-devices-transparency-bias-lifecycle-oversight/

31. WHO Releases AI Ethics and Governance Guidance for Large Multimodal Models | Insight，2026年2月6日存取，https://www.bakermckenzie.com/en/insight/publications/2024/01/who-releases-ai-ethics-and-governance-guidance

32. Understanding the NIST AI Risk Management Framework - databrackets，2026年2月6日存取，https://databrackets.com/blog/understanding-the-nist-ai-risk-management-framework/

33. Artificial Intelligence for Drug Development | FDA，2026年2月6日存取，https://www.fda.gov/about-fda/center-drug-evaluation-and-research-cder/artificial-intelligence-drug-development

34. FDA's AI Guidance: 7-Step Credibility Framework Explained | IntuitionLabs，2026年2月6日存取，https://intuitionlabs.ai/articles/fda-ai-drug-development-guidance

35. The Ultimate AI Compliance Checklist for 2025 - NeuralTrust，2026年2月6日存取，https://neuraltrust.ai/blog/ai-compliance-checklist-2025

36. Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models，2026年2月6日存取，https://iris.who.int/server/api/core/bitstreams/e9e62c65-6045-481e-bd04-20e206bc5039/content

37. AI Risk Disclosures in the S&P 500: Reputation, Cybersecurity, and Regulation，2026年2月6日存取，https://corpgov.law.harvard.edu/2025/10/15/ai-risk-disclosures-in-the-sp-500-reputation-cybersecurity-and-regulation/

38. NIST AI Risk Management Framework: A simple guide to smarter AI governance - Diligent，2026年2月6日存取，https://www.diligent.com/resources/blog/nist-ai-risk-management-framework

39. The Role of Explainable AI (XAI) in Building Trust in Healthcare - Nitor Infotech，2026年2月6日存取，https://www.nitorinfotech.com/blog/the-role-of-explainable-ai-xai-in-building-trust-in-healthcare/

40. From Insights to Impact: Exploring Explainable AI's Contribution to Healthcare Decision-Making，2026年2月6日存取，https://dr.lib.iastate.edu/bitstreams/f7b0f5bf-56a6-484e-9c51-9d8adc2a8884/download

41. Interpretable AI for bio-medical applications - PMC，2026年2月6日存取，https://pmc.ncbi.nlm.nih.gov/articles/PMC10074303/

42. Fostering trust and interpretability: integrating explainable AI (XAI) with machine learning for enhanced disease prediction and decision transparency - PMC - NIH，2026年2月6日存取，https://pmc.ncbi.nlm.nih.gov/articles/PMC12465982/

43. A Comparative Analysis of LIME and SHAP Interpreters With Explainable ML-Based Diabetes Predictions - Diva-portal.org，2026年2月6日存取，https://www.diva-portal.org/smash/get/diva2:1886442/FULLTEXT02.pdf

44. Explainable artificial intelligence - Wikipedia，2026年2月6日存取，https://en.wikipedia.org/wiki/Explainable_artificial_intelligence

45. Responsible AI in Health Care: What Providers and AI Vendors Must ...，2026年2月6日存取，https://www.bakerdonelson.com/responsible-ai-in-health-care-what-providers-and-ai-vendors-must-do-now

46. "From Disclosure to Defense: A Strategic AI Governance Blueprint" - Shumaker, Loop & Kendrick, LLP，2026年2月6日存取，https://www.shumaker.com/insight/from-disclosure-to-defense-a-strategic-ai-governance-blueprint/

47. NIST Cybersecurity Framework for AI Risk in Healthcare | Censinet, Inc.，2026年2月6日存取，https://censinet.com/perspectives/nist-cybersecurity-framework-ai-risk-healthcare