演算法完整性危機：在生物辨識責任時代建構韌性 AI 系統

人工智慧在全球商務中的快速體制化，已從新穎實驗階段過渡到任務關鍵依賴階段。然而，隨著組織日益將自主決策系統整合進營運核心，「理論能力」與「真實世界表現」之間的「可靠性落差」不斷擴大。本白皮書由 Veriprajna 的專業工程與風險顧問團隊撰寫，透過兩起指標性事件——美國聯邦貿易委員會（FTC）對 Rite Aid 臉部辨識系統處以五年禁用，以及 Harvey Murphy 的災難性誤辨——檢視「脆弱」AI 架構的系統性失敗。這些案例凸顯一個迫切現實：當前盛行的 AI 部署「包裝層」模式——在第三方 API 上覆蓋一層薄介面——對高風險企業環境根本不足。真正的營運韌性，需要具備不確定性量化、多智能體治理與嚴謹生物辨識工程的深度 AI 解決方案。

制度性疏忽的解剖：Rite Aid 行政禁令

2023 年 12 月，聯邦貿易委員會（FTC）採取前所未有的措施，禁止 Rite Aid Corporation 在五年內將臉部辨識技術（FRT）用於保全與監視用途。¹ 此一執法行動並非僅針對孤立技術錯誤的回應，而是對長達十年未能在自動化生物辨識系統部署中落實合理防護措施的系統性批判。2012 年至 2020 年間，Rite Aid 在數百家零售據點部署基於人工智慧的監視系統，意圖遏止竊盜並識別「關注對象」。² 由此導致的失敗，對把 AI 當作「即插即用」公用事業、而非複雜工程學科的企業，構成明確警告。

採購陷阱與供應商依賴

Rite Aid 部署的根本錯誤，根植於採購與整合策略。該公司的臉部辨識能力來自兩家第三方供應商，其合約明確排除對結果準確性或可靠性的任何保證。³ 這正是「包裝層」依賴模式的標誌：實施組織為一個自己既不理解、也無法控制的系統輸出承擔全部責任。⁴

Rite Aid 未能進行嚴謹的產品安全篩檢，也未詢問供應商就其技術準確性測試的程度。² 這種缺乏內部驗證的狀態，創造了「黑箱」環境，使零售商對其部署軟體的固有偏誤與錯誤率一無所知。此外，公司未能實施影像品質控制，允許 CCTV 攝影機的低品質靜幀、甚至手機照片被用作註冊影像。³ 在生物辨識工程中，輸入品質與輸出可靠性之間的關係是非線性的；使用劣化影像會指數級提高偽陽性比對的機率。⁶

Rite Aid 系統性失敗點	營運後果
供應商保固免責	將所有技術與法律風險轉嫁給零售商。3
缺乏準確性測試	在高流量環境部署未校準模型。2
劣化輸入品質	CCTV 靜幀導致高偽陽性辨識率（FPIR）。3
缺乏監控	在無干預情況下持續使用偏誤模型。2
高階監督缺口	違反 2010 年資料安全命令。1

人口統計差異與演算法偏誤

Rite Aid 未經監控系統的統計結果，揭示了深刻的人口統計偏斜。FTC 申訴指稱，該技術產生了數千次偽陽性比對，且對女性與有色人種造成不成比例的影響。² 具體而言，相較於白人為多數的社區，位於黑人與亞裔為多數社區的門市，FRT 顯著更可能觸發錯誤警報。²

此一偏誤並非異常，而是使用在非代表性資料集上訓練的現成模型的直接結果。⁸ 若沒有自訂對抗式去偏或多尺度特徵融合——Veriprajna 主張在高風險部署中採用的技術——模型會預設落入訓練權重中固有的偏誤。⁸ 真實世界後果是一連串人權侵害：店員依低信心自動化警報行動，跟蹤無辜顧客、搜查他們，並公開指控其竊盜。² 在某些情況下，系統將個人與「關注對象」比對——後者是依數千英里外發生的活動註冊——或同時在全國數十家不同門市標記同一人。²

模型沒收原則

FTC 和解引入一項關鍵的新監管工具：模型沒收。Rite Aid 不僅必須停止使用該技術，還須刪除所有「不當取得」的生物辨識資料，並銷毀任何由該資訊衍生的 AI 模型或演算法。³ 此一「反學習」模型的要求，代表巨大的營運損失，並凸顯在不合規資料基礎上建構企業能力的危險。¹¹ 任何當今部署 AI 的組織，都必須確保其架構允許手術式移除特定資料影響——這是多數簡單包裝層所缺乏的能力。¹²

誤辨責任：Harvey Murphy 案

Rite Aid 案說明了系統性監管失敗，而 2024 年 1 月涉及 Harvey Eugene Murphy Jr. 的訴訟，則展示了演算法錯誤的災難性個人與民事責任。Murphy 是一名 61 歲的祖父，僅因 Macy’s 與 Sunglass Hut 系統的錯誤 AI 臉部辨識比對，便被錯誤逮捕並監禁十天，罪名是他並未犯下的搶劫。¹³

跨企業 AI 協作的失敗

事件始於 2022 年 1 月休士頓地區一家 Sunglass Hut 的搶劫案。Sunglass Hut 母公司 EssilorLuxottica 與其零售夥伴 Macy’s 合作，將 Macy’s 臉部辨識工具用於低品質犯罪監視影像。¹⁵ 系統將 Murphy 識別為作案者，而此一「陽性」辨識被作為決定性證據交給警方。¹³

此處的技術失敗是多面向的。首先，軟體被用於本質上不適合作生物辨識比對的影像。¹⁴ 其次，系統很可能將監視影像與資料庫中 Murphy 數十年前非暴力罪行的入檔照片進行比對。¹³ 這引入了「年齡落差」問題：研究顯示，以當前影像比對數年或數十年前拍攝的照片，偽陽性率可高達 90%。¹⁴

事件參數：Harvey Murphy 案	細節
主要訴求	因錯誤逮捕與人身傷害請求 $10 million 損害賠償。13
核心技術失敗	透過易錯臉部辨識軟體造成誤辨。14
輸入品質	低解析度、顆粒狀監視影像。15
不在場證明	德州搶劫發生時，有居住於加州的證明。13
人道後果	在錯誤拘留期間遭受殘忍性侵與身體傷害。13

反射性信任與「黑箱」謬誤

Murphy 案凸顯了對 AI「反射性信任」的危險。訴訟指稱 Sunglass Hut 與 Macy’s 將自動化比對呈現為已驗證事實，從而誤導執法機關。¹⁵ 這導致警方停止調查，並依賴受污染的辨識程序。¹⁶ 此一現象——機器輸出被賦予高於人類不在場證明的權威——是 AI 引發公民權侵害的反覆主題。¹⁶ Murphy 最終獲平反，是在地方檢察官辦公室確認搶劫當日他身在加州沙加緬度之後。¹³ 然而，錯誤被糾正時，Murphy 已在獄中遭受性侵與毆打，留下終身傷害。¹³

對企業而言，Murphy 案是嚴峻提醒：AI 失敗的責任遠超出數位領域。臉部辨識軟體的「過失使用」可導致數百萬美元訴訟與永久聲譽損害。¹⁴ AI 顧問與實施組織有責任確保每一個自動化訊號都經過嚴謹的人機協同迴路（HITL）驗證，尤其當個人自由岌岌可危之時。¹⁸

架構鴻溝：深度 AI 對決 API 包裝層

上述失敗是 AI 產業更廣泛趨勢的症狀：「AI 包裝層」的擴散。包裝層本質上是一個品牌化儀表板，疊加於第三方模型之上（如 OpenAI、Anthropic 或專業生物辨識供應商提供的模型），經 API 傳送使用者資料並回傳原始輸出。⁴ Veriprajna 將自身定位為「深度 AI」解決方案提供者，正是因為包裝層模式對企業級應用根本過於脆弱。

包裝層模式的脆弱性

包裝層受困於不對稱的商業與技術模型。它們從使用量與分發中獲利，卻對底層基礎設施毫無控制。⁴ 這導致若干關鍵風險：

1.​ 供應商鎖定與中斷：包裝層平台完全依賴上游供應商的正常運作時間與定價。若 VAPI 或 Retell 等供應商發生中斷，使用該包裝層的每一家機構會同時停擺。⁵

2.​ 可審計性缺口：當企業依賴第三方「黑箱」模型時，無法解釋或審計結果如何產生。這在合規稽核或法律爭議中構成重大責任風險。¹²

3.​ 治理赤字：簡單包裝層缺乏強制作業順序或權限的結構。它們往往依賴「巨型提示」——把所有規則與文件塞進單一提示——指望模型正確執行。²⁰

4.​ 安全與資料外洩：包裝層可能無意中將敏感客戶資料餵入第三方模型的訓練管線，破壞機密性並違反 GDPR 或 HIPAA 等法律。¹²

深度 AI：多智能體系統（MAS）哲學

相對於「一部份包辦一切」的包裝層做法，深度 AI 解決方案採用多智能體系統（MAS）。此一架構將 LLM 或生物辨識模型視為具有明確職責的專業智能體團隊中的單一元件。²⁰

智能體類型	策略功能
規劃智能體	決定工作流程並確保所有合規步驟均獲滿足。20
工作流智能體	強制正確的作業順序（例如：同意 → 驗證 → 行動）。20
合規智能體	監控輸出的語氣、政策漂移與越獄暴露。20
回應智能體	與使用者互動，從來源已驗證的 RAG 管線擷取。20
不確定性智能體	在執行前量化模型輸出的信心。21

MAS 架構提供高風險環境所需的確定性護欄。系統不是要求單一模型「辨識竊盜者並通知保全」，而是使用一連串專家：一個智能體驗證影像品質，另一個執行 1:N 比對，第三個評估該比對的不確定性，第四個在未達門檻時將案件標記供人工審查。²⁰

不確定性科學：從點估計到機率風險

Rite Aid 與 Macy’s 兩案的核心失敗，是把 AI 輸出當作二元真相。實際上，每一個 AI 輸出都是機率估計。深度 AI 解決方案超越簡單準確率分數，實施穩健的不確定性量化（UQ）。²¹

偶然性與認識性不確定性

AI 系統中的不確定性大致分為兩類，兩者皆須處理，系統才可被視為「安全」：

1.​ 偶然性不確定性（Aleatoric Uncertainty）：源自資料的內在隨機性或雜訊（例如感測器錯誤、運動模糊、零售店內照明不良）。此類不確定性通常不可化約——再多訓練也無法修復缺少資料的影像。²⁴

2.​ 認識性不確定性（Epistemic Uncertainty）：源自模型的限制或對特定情境的知識不足（例如未曾見過的人口統計群體，或老化的臉孔）。可透過提供更具代表性的訓練資料來降低。²⁴

脆弱系統無法區分這兩者。脆弱系統中的高信心分數，可能只意味著模型對猜測「過度自信」。深度 AI 系統使用貝氏神經網路或蒙特卡洛 Dropout 等技術，產生機率分佈而非單一點估計。²⁵

可靠性的數學框架

Veriprajna 主張使用共形預測（Conformal Prediction）——一種校準步驟，確保 AI 預測中的不確定性落在使用者設定顯著水準的保證界限內。²¹ 這讓決策者在採取行動前理解預測的可靠性。例如，若系統以 0.85 的比對分數識別某人，UQ 層可能揭示「不確定性分佈」很寬，意味著因影像品質低，0.85 在統計上不可靠。²¹

此公式代表保證：真實結果將以至少 的機率落在預測集合內，其中 是使用者定義的錯誤率。實施此一數學嚴謹程度，正是企業級解決方案與簡單 API 包裝層的分野。²¹

技術典範：開放集與封閉集辨識

生物辨識工程的另一關鍵區分，是封閉集與開放集辨識的差異。多數商業「現成」系統針對封閉集問題最佳化——假設被掃描者一定在資料庫中（例如解鎖手機）。²⁷

零售「觀察名單」挑戰

在零售保全中，問題幾乎總是「開放集」。進入商店的絕大多數人是「非配對」主體——他們不在罪犯資料庫中。²⁷ 封閉集模型不可避免地會為每一個人尋找「最佳比對」，導致 Rite Aid 所見的數千次偽陽性。²⁷

深度 AI 解決方案使用專門損失函數，例如辨識—偵測損失，以針對開放集表現最佳化。這些模型不僅被訓練去識別比對，還能準確「拒絕」不在圖庫中的個人。²⁷

辨識協定	假設	主要指標
封閉集	每一探測主體都在圖庫中。27	Rank-1 準確率。30
開放集	多數探測主體未知／非配對。27	特定 FPIR 下的 FNIR。27

使用本質上為開放集設計的極值機（EVM）機率，能更好拒絕「未知的未知」——系統從未見過、且不應觸發警報的個人。²⁹

以基準建立信任：NIST 與 FRVT 的角色

為防止導致 Harvey Murphy 被捕的「反射性信任」，企業必須依賴標準化基準。美國國家標準與技術研究院（NIST）臉部辨識供應商測試（FRVT）是評估臉部辨識演算法表現、準確性與偏誤的全球黃金標準。⁷

解析 NIST 指標

NIST FRVT 評估為供應商提供詳細「成績單」，跨不同資料集衡量表現：

●​ 1:1 驗證：將探測影像與單一圖庫影像比對（例如邊境管制）。⁷

●​ 1:N 辨識：在大型資料庫中搜尋探測影像（例如零售觀察名單）。³¹

●​ 入檔照與邊境資料集：評估在不同品質與控制度影像上的表現。⁷

NIST 特別在固定誤配率（FMR）下衡量誤拒率（FNMR）。對高安全性應用，FMR 常設於極低門檻（例如 ），意味著系統僅在錯誤機率低於 1 in 1,000,000 時才宣告比對成立。⁷ Rite Aid 的失敗可被視為未能依 NIST 標準化基準設定並監控這些門檻。²

人口統計表現指標

關鍵的是，NIST FRVT 包含人口統計表現指標，顯示演算法在不同性別、年齡與原籍國的表現。⁷ 此資料對識別導致 FTC 禁止 Rite Aid 的種族偏誤至關重要。任何部署 FRT 的企業，都必須要求供應商提供 NIST 驗證的成績單，顯示其門市所代表人口統計群體上的公平表現。⁷

監管超級週期：NIST AI RMF 與歐盟 AI 法案

不受監管的 AI 時代正在結束。企業如今必須駕馭一個強制透明、問責與風險管理的「監管超級週期」。

NIST AI 風險管理框架（AI RMF）

NIST AI RMF 是自願但具影響力的指南，旨在提升 AI 系統的穩健性與可靠性。³³ 它圍繞四項核心功能：

1.​ 治理（Govern）：培養風險意識文化與清晰治理結構。³⁴

2.​ 對應（Map）：將 AI 系統置於其營運與倫理維度的脈絡中。³⁴

3.​ 衡量（Measure）：透過質化與量化方法量化風險（例如偏誤偵測與表現指標）。³⁴

4.​ 管理（Manage）：透過技術控制與程序防護，優先處理並應對已識別風險。³⁴

FTC 對 Rite Aid 的行動，實質上是在執行這些原則。因未能「衡量」或「管理」其 FRT 風險，Rite Aid 違反了《FTC 法案》第 5 條的「不公平」條款。¹¹

歐盟 AI 法案：具約束力的強制要求

NIST 框架在美國屬自願性質，而歐盟的 AI 法案則是依風險等級分類 AI 系統的具約束力法規。³³

●​ 高風險系統：公共空間中的生物辨識系統自動被歸類為高風險。³⁷

●​ 強制義務：高風險系統提供者必須進行「符合性評估」、維護「詳細技術文件」，並確保「有效人工監督」。³³

●​ 禁止的 AI：某些做法被完全禁止，例如從網際網路抓取臉部影像，或將即時生物辨識用於一般執法（有限例外除外）。⁴⁰

歐盟 AI 法案合規支柱	技術要求
資料治理	訓練與測試資料集必須具代表性且無錯誤。36
透明度	部署者必須被告知其正在與 AI 互動。33
人工監督	系統必須允許手動覆寫與干預。33
紀錄保存	自動事件紀錄以識別並降低風險。36

今日採用 NIST AI RMF 的組織，更能為明日遵守歐盟 AI 法案做好準備，因為兩者共享透明與問責的相同基礎目標。³³

緩解偏誤：公平結果的技術策略

Rite Aid 與 Murphy 案中引用的種族與性別偏誤，並非 AI 的固有屬性，而是工程失敗。深度 AI 解決方案採用多項先進技術來緩解這些傷害。

對抗式去偏與公平性約束

對抗式去偏使用兩個相互競爭的網路：一個預測目標（例如身分），另一個「對抗者」試圖從第一個網路的內部表徵預測受保護屬性（例如種族或性別）。¹⁰ 若對抗者成功，第一個網路會受罰。這迫使模型尋找對受保護屬性「盲目」、同時仍對任務保持準確的特徵。¹⁰

此外，「公平性約束」可整合進損失函數，以確保不同群體之間的錯誤率相等。¹⁹ 例如，系統可在數學上被強制對黑人女性維持與白人男性相同的誤配率。¹⁹

多尺度特徵融合與空間注意力

生物辨識偏誤常源自照明不良或低對比，這不成比例地影響較深膚色。⁶ 「多尺度特徵融合」在不同解析度擷取特徵以捕捉更多脈絡細節，而「空間注意力」機制幫助模型聚焦特定生物辨識地標（如眼睛或鼻子）並忽略背景雜訊。⁸

活體與偽裝偵測

穩健的生物辨識系統還必須區分真人與「呈現攻擊」（例如照片或面具）。⁷ NIST 的 PAD（呈現攻擊偵測）測試為這些能力建立基準。⁷ 若無這些檢查，系統不僅有偏誤且不安全，易受簡單「暴力」偽裝攻擊。⁶

將安全營運化：人機協同迴路（HITL）框架

對抗自主系統失敗的最終防護，是整合人類判斷。Veriprajna 主張「人機協同迴路」（HITL）框架，將 AI 視為助理而非裁決者。¹⁸

識別關鍵人工審查點

設計良好的 HITL 系統使用信心門檻來優先分配人類注意力。²³

1.​ 自動拒絕：若信心低於 70%，比對立即被捨棄。

2.​ 人工審查：若信心介於 70% 與 95% 之間，系統將案件標記供手動驗證。²³

3.​ 自動核准：僅當信心高於 95%（且任務後果較低）時，系統才自主行動。⁴²

設計有效的人工審查介面

在零售或保全場景中，人工審查者必須能存取原始來源資料。有效介面會並排顯示原始 CCTV 影像與擷取的圖庫影像，讓審查者發現 AI 可能遺漏的異常，例如耳形不匹配或獨特紋身。²³

HITL 元件	效益
信心門檻設定	僅標記模糊案件，防止「警報疲勞」。23
稽核軌跡	記錄每一次人工決策與覆寫，供法律辯護。18
持續回饋	人工修正被用作標籤以再訓練並精煉模型。42
例外手冊	標準化人類應如何回應「邊緣案例」。23

Rite Aid 系統的失敗，部分歸因於缺乏「有意義的人工審查」。² 員工被指示依自動化警報跟蹤並對質顧客，卻未接受偽陽性可能性的訓練。² HITL 框架賦能員工質疑 AI，並防止導致 Harvey Murphy 被捕的那種「反射性信任」。¹⁶

執行摘要：建構 AI 原生科技組織

從「AI 實驗」過渡到「AI 營運」，需要董事會層級監督與企業策略的根本轉變。⁴⁴ 隨著組織邁向「智能體勞動力」——機器自主思考與學習——首席風險長（CRO）與首席資訊長（CIO）的角色變得核心。⁴⁶

走出試點煉獄

許多企業在 AI 上停滯，是因為小型試點的早期成功撞上碎片化資料與舊有系統的現實。⁴⁴ 擴展 AI 需要：

●​ 明確所有權：為 AI 結果——而不僅技術實施——指派責任。⁴⁴

●​ 資料可靠性：確保資料依一致規則存在，並維持高品質。⁴⁴

●​ 模組化架構：採模組化做法以避免「供應商鎖定」，讓企業能以較少摩擦替換、升級並整合模型。⁴⁷

深度 AI 的投資報酬率

雖然建構自訂「深度 AI」解決方案比購買現成包裝層更耗資源，長期 ROI 顯著更高。擁有自身 AI 智財的組織可避免經常性授權費、對資料維持完整控制，並透過專業化表現建立競爭護城河。⁴⁸

此外，不建構穩健系統的代價如今已清晰可見。Rite Aid 面臨五年禁令與其生物辨識資產的銷毀；Macy’s 與 Sunglass Hut 面臨 $10 million 訴訟與公關惡夢。¹ 在此脈絡下，深度 AI 並非奢侈品——它是現代企業的策略必需。

給董事會的策略建議

1.​ 進行「包裝層稽核」：識別組織中哪些 AI 能力建立在薄弱 API 依賴上，且缺乏內部治理或可審計性。

2.​ 實施不確定性量化：強制所有高風險 AI 輸出包含量化信心分數與不確定性分佈。

3.​ 對標 NIST FRVT：要求所有生物辨識供應商提供經 NIST 驗證的表現成績單，並特別關注人口統計偏誤。

4.​ 將人機協同迴路成文化：確保影響個人自由或重大金融交易的 AI 驅動決策，皆須有文件化的人工審查流程。

5.​ 為歐盟 AI 法案做準備：即使對美國公司，對齊歐盟「高風險 AI」標準，也是未來對抗即將到來的國內法規的最佳方式。

Veriprajna 專精協助組織彌合「可靠性落差」，從脆弱、高風險的包裝層邁向穩健、經工程化的 AI 系統。企業 AI 的未來不只關乎模型能做什麼，更關乎如何被信任。在生物辨識責任時代，問責是終極競爭優勢。

引用文獻

1. Rite Aid Corporation, FTC v. | Federal Trade Commission, 查閱於 2026 年 2 月 6 日, https://www.ftc.gov/legal-library/browse/cases-proceedings/2023190-rite-aid-corporation-ftc-v

2. Rite Aid Banned from Using AI Facial Recognition After FTC Says ..., 查閱於 2026 年 2 月 6 日, https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai-facial-recognition-after-ftc-says-retailer-deployed-technology-without

3. FTC Announces Groundbreaking Action Against Rite Aid for Unfair Use of AI - WilmerHale, 查閱於 2026 年 2 月 6 日, https://www.wilmerhale.com/en/insights/blogs/wilmerhale-privacy-and-cybersecurity-law/20240111-ftc-announces-groundbreaking-action-against-rite-aid-for-unfair-use-of-ai

4. Wrappers, deeptechs, and generative AI: a profitable but fragile house of cards, 查閱於 2026 年 2 月 6 日, https://www.duperrin.com/english/2025/05/20/wrappers-deeptechs-generative-ai/

5. The Hidden Costs of Voice AI Wrappers: Dependency, Pricing, and Support Risks - Trillet AI, 查閱於 2026 年 2 月 6 日, https://www.trillet.ai/blogs/voice-ai-wrapper-dependency-risks

6. Characteristics, limitations, and how to measure accuracy when ..., 查閱於 2026 年 2 月 6 日, https://learn.microsoft.com/en-us/azure/ai-foundry/responsible-ai/face/characteristics-and-limitations?view=foundry-classic

7. Introduction to NIST FRVT - Paravision, 查閱於 2026 年 2 月 6 日, https://www.paravision.ai/news/introduction-to-nist-frvt/

8. How To Mitigate Facial Recognition Bias in Identity Verification - HyperVerge, 查閱於 2026 年 2 月 6 日, https://hyperverge.co/blog/mitigating-facial-recognition-bias/

9. Countermeasures against bias and spoofing in modern facial recognition systems, 查閱於 2026 年 2 月 6 日, https://journalwjarr.com/index.php/content/countermeasures-against-bias-and-spoofing-modern-facial-recognition-systems

10. Adversarial Debiasing for Bias Mitigation in Healthcare AI Systems: A Literature Review, 查閱於 2026 年 2 月 6 日, https://www.scirp.org/journal/paperinformation?paperid=143081

11. Companies Deploying Facial Recognition Continue to be Watched; Rite Aid Banned from Using AI Facial Recognition - Kilpatrick Townsend, 查閱於 2026 年 2 月 6 日, https://ktslaw.com/Insights/Alert/2024/1/Companies-Deploying-Facial-Recognition-Continue-to-be-Watched

12. Risks of AI Wrapper Products and Features - Kader Law, 查閱於 2026 年 2 月 6 日, https://www.kaderlaw.com/blog/risks-of-ai-wrapper-products-and-features

13. Macy's Hit With $10M Lawsuit After Faulty AI Facial Recognition ..., 查閱於 2026 年 2 月 6 日, https://www.lawcommentary.com/articles/macys-hit-with-10m-lawsuit-after-faulty-ai-facial-recognition-software-leads-to-wrongful-arrest

14. Macy's faces $10 million lawsuit for using facial recognition to accuse man of robbery he did not commit | Technology, 查閱於 2026 年 2 月 6 日, https://english.elpais.com/technology/2024-01-24/macys-faces-10-million-lawsuit-for-using-facial-recognition-to-accuse-man-of-robbery-he-did-not-commit.html

15. Lawsuit: Facial recognition software leads to wrongful arrest of Texas man; he was in Sacramento at time of robbery - CBS News, 查閱於 2026 年 2 月 6 日, https://www.cbsnews.com/sacramento/news/texas-macys-sunglass-hut-facial-recognition-software-wrongful-arrest-sacramento-alibi/

16. Facial recognition used after Sunglass Hut robbery led to man's ..., 查閱於 2026 年 2 月 6 日, https://www.theguardian.com/technology/2024/jan/22/sunglass-hut-facial-recognition-wrongful-arrest-lawsuit

17. Texas man sues Macy's, Sunglass Hut for facial recognition wrongful arrest - YouTube, 查閱於 2026 年 2 月 6 日, https://www.youtube.com/watch?v=HWq7DNf4SLI

18. How to Keep Human In The Loop (HITL) During Gen AI Testing? - testRigor, 查閱於 2026 年 2 月 6 日, https://testrigor.com/blog/how-to-keep-human-in-the-loop-hitl-during-gen-ai-testing/

19. Addressing Gender Bias in Facial Recognition Technology: An Urgent Need for Fairness and Inclusion - Cogent Infotech, 查閱於 2026 年 2 月 6 日, https://www.cogentinfo.com/resources/addressing-gender-bias-in-facial-recognition-technology-an-urgent-need-for-fairness-and-inclusion

20. The great AI debate: Wrappers vs. Multi-Agent Systems in enterprise AI - Moveo.AI, 查閱於 2026 年 2 月 6 日, https://moveo.ai/blog/wrappers-vs-multi-agent-systems

21. Personalised Uncertainty Quantification in Artificial Intelligence - Research Communities, 查閱於 2026 年 2 月 6 日, https://communities.springernature.com/posts/personalised-uncertainty-quantification-in-artificial-intelligence

22. Operationalizing the R4VR-Framework: Safe Human-in-the-Loop Machine Learning for Image Recognition - MDPI, 查閱於 2026 年 2 月 6 日, https://www.mdpi.com/2227-9717/13/12/4086

23. Human-in-the-Loop AI in Document Workflows - Best Practices & Common Pitfalls - Parseur, 查閱於 2026 年 2 月 6 日, https://parseur.com/blog/hitl-best-practices

24. From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence - arXiv, 查閱於 2026 年 2 月 6 日, https://arxiv.org/html/2501.03282v1

25. Evaluation of Uncertainty Quantification in Deep Learning - PMC, 查閱於 2026 年 2 月 6 日, https://pmc.ncbi.nlm.nih.gov/articles/PMC7274324/

26. Uncertainty Quantification | IBM, 查閱於 2026 年 2 月 6 日, https://www.ibm.com/think/topics/uncertainty-quantification

27. Open-Set Biometrics: Beyond Good Closed-Set Models - arXiv, 查閱於 2026 年 2 月 6 日, https://arxiv.org/html/2407.16133v1

28. What is difference between closed-set and open-set classification problem? - Stack Overflow, 查閱於 2026 年 2 月 6 日, https://stackoverflow.com/questions/62765276/what-is-difference-between-closed-set-and-open-set-classification-problem

29. Toward Open-Set Face Recognition, 查閱於 2026 年 2 月 6 日, https://openaccess.thecvf.com/content_cvpr_2017_workshops/w6/papers/Gunther_Toward_Open-Set_Face_CVPR_2017_paper.pdf

30. Comparison of open-set and closed-set face recognition. - ResearchGate, 查閱於 2026 年 2 月 6 日, https://www.researchgate.net/figure/Comparison-of-open-set-and-closed-set-face-recognition_fig1_316505674

31. The Best Globally Top Ranked Face Recognition Algorithm 2025 - KBY-AI, 查閱於 2026 年 2 月 6 日, https://kby-ai.com/top-ranked-face-recognition/

32. Face Recognition Technology Evaluation (FRTE) 1:1 Verification - NIST Pages, 查閱於 2026 年 2 月 6 日, https://pages.nist.gov/frvt/html/frvt11.html

33. NIST AI Risk Management Framework: A simple guide to smarter AI ..., 查閱於 2026 年 2 月 6 日, https://www.diligent.com/resources/blog/nist-ai-risk-management-framework

34. NIST AI Risk Management Framework (AI RMF) - Palo Alto Networks, 查閱於 2026 年 2 月 6 日, https://www.paloaltonetworks.com/cyberpedia/nist-ai-risk-management-framework

35. Safeguard the Future of AI: The Core Functions of the NIST AI RMF - AuditBoard, 查閱於 2026 年 2 月 6 日, https://auditboard.com/blog/nist-ai-rmf

36. High-level summary of the AI Act | EU Artificial Intelligence Act, 查閱於 2026 年 2 月 6 日, https://artificialintelligenceact.eu/high-level-summary/

37. Article 6: Classification Rules for High-Risk AI Systems | EU Artificial Intelligence Act, 查閱於 2026 年 2 月 6 日, https://artificialintelligenceact.eu/article/6/

38. Annex III: High-Risk AI Systems Referred to in Article 6(2) | EU Artificial Intelligence Act, 查閱於 2026 年 2 月 6 日, https://artificialintelligenceact.eu/annex/3/

39. Article 11: Technical Documentation | EU Artificial Intelligence Act, 查閱於 2026 年 2 月 6 日, https://artificialintelligenceact.eu/article/11/

40. Article 5: Prohibited AI Practices | EU Artificial Intelligence Act, 查閱於 2026 年 2 月 6 日, https://artificialintelligenceact.eu/article/5/

41. Human in the Loop AI: Benefits, Use Cases, and Best Practices - WitnessAI, 查閱於 2026 年 2 月 6 日, https://witness.ai/blog/human-in-the-loop-ai/

42. When Automation Breaks Trust: A Practical Guide to Human-in-the-Loop AI Workflows for SMBs | Artificial Intelligence | MyMobileLyfe | AI Consulting and Digital Marketing, 查閱於 2026 年 2 月 6 日, https://www.mymobilelyfe.com/artificial-intelligence/when-automation-breaks-trust-a-practical-guide-to-human-in-the-loop-ai-workflows-for-smbs/

43. Human-in-the-Loop AI (HITL) - Complete Guide to Benefits, Best Practices & Trends for 2026, 查閱於 2026 年 2 月 6 日, https://parseur.com/blog/human-in-the-loop-ai

44. Enterprise AI Consulting Framework for Business Leaders, 查閱於 2026 年 2 月 6 日, https://appinventiv.com/blog/enterprise-ai-consulting-framework-guide/

45. Tech Trends 2026 | Deloitte Insights, 查閱於 2026 年 2 月 6 日, https://www.deloitte.com/us/en/insights/topics/technology-management/tech-trends.html

46. Deploying agentic AI with safety and security: A playbook for technology leaders - McKinsey, 查閱於 2026 年 2 月 6 日, https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/deploying-agentic-ai-with-safety-and-security-a-playbook-for-technology-leaders

47. AI in the workplace: A report for 2025 - McKinsey, 查閱於 2026 年 2 月 6 日, https://www.mckinsey.com.br/capabilities/tech-and-ai/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work

48. Custom AI vs Off-the-Shelf AI : Which Is Right for Your Business?, 查閱於 2026 年 2 月 6 日, https://www.aalpha.net/blog/custom-ai-vs-off-the-shelf-ai/

49. Custom AI Software vs Off-the-shelf Artificial Intelligence Solution - Integrio Systems, 查閱於 2026 年 2 月 6 日, https://integrio.net/blog/custom-vs-of-the-shelf-artificial-intelligence