算法完整性危机：在生物识别责任时代构建韧性 AI 系统

人工智能在全球商业中的迅速制度化，已从新颖试验阶段过渡到任务关键依赖阶段。然而，随着组织日益将自主决策系统嵌入运营核心，AI 的理论能力与其现实表现之间出现了不断扩大的"可靠性鸿沟"。本白皮书由 Veriprajna 的专业工程与风险顾问团队撰写，通过两起标志性事件的视角审视"脆弱"AI 架构的系统性失败：联邦贸易委员会对 Rite Aid 面部识别系统实施的五年禁令，以及 Harvey Murphy 的灾难性误识别。这些案例凸显出一个紧迫现实：主流的 AI 部署"封装器"模式——以第三方 API 之上的薄接口层为特征——从根本上不足以支撑高风险企业环境。真正的运营韧性需要以不确定性量化、多智能体治理与严谨生物识别工程为特征的深度 AI 解决方案。

制度性过失解剖：Rite Aid 行政禁令

2023 年 12 月，联邦贸易委员会（FTC）采取了前所未有的措施，禁止 Rite Aid Corporation 在五年内将面部识别技术（FRT）用于安防与监控目的。¹ 此次执法行动并非仅针对孤立的技术错误，而是对十年来在部署自动化生物识别系统时未能落实合理保障措施的系统性批评。2012 年至 2020 年间，Rite Aid 在数百家零售门店部署基于人工智能的监控，意图吓阻入店行窃并识别"关注对象"。² 由此产生的失败，对那些把 AI 当作"即插即用"公用设施而非复杂工程学科的企业，构成了明确警告。

采购陷阱与供应商依赖

Rite Aid 部署的根本性错误植根于采购与集成策略。该公司从两家第三方供应商获取面部识别能力，而这些供应商的合同明确声明不对结果的准确性或可靠性提供任何保证。³ 这正是"封装器"依赖模式的标志：实施组织为系统输出承担全部责任，却既不理解也不控制该系统。⁴

Rite Aid 未能开展严格的产品安全筛查，也未询问供应商就其技术准确性进行了何种程度的测试。² 这种内部核验的缺失造就了"黑箱"环境，使零售商对其所部署软件固有的偏见与错误率一无所知。此外，公司未能实施图像质量控制，允许来自 CCTV 摄像头的低质量静态截图甚至手机照片被用作注册图像。³ 在生物识别工程中，输入质量与输出可靠性之间的关系是非线性的；使用劣化影像会指数级提高误报匹配的概率。⁶

Rite Aid 系统性失败要点	运营后果
供应商保证免责声明	将全部技术与法律风险转嫁给零售商。3
缺乏准确性测试	在高流量环境中部署未经校准的模型。2
劣化的输入质量	来自 CCTV 静态图的高误报识别率（FPIR）。3
缺乏监控	在无干预情况下持续使用有偏见的模型。2
高管监督缺口	违反 2010 年数据安全令。1

人口统计差异与算法偏见

Rite Aid 未受监控系统的统计结果揭示了深刻的人口统计偏斜。FTC 诉状指控该技术产生了数千次误报匹配，并对女性与有色人种造成不成比例的影响。² 具体而言，与白人占多数的社区中的门店相比，该 FRT 在黑人与亚裔占多数的社区门店中显著更易触发误报。²

这种偏见并非异常，而是使用在非代表性数据集上训练的现成模型的直接结果。⁸ 若无定制对抗性去偏或多尺度特征融合——Veriprajna 为高风险部署所主张的技术——模型就会默认落入其训练权重中固有的偏见。⁸ 现实后果是一系列人权侵犯：门店员工依据低置信度的自动化警报，跟踪无辜顾客、对其搜身，并公开指控其入店行窃。² 在某些情形中，系统将个人与基于数千英里之外活动所注册的"关注对象"匹配，或在全国数十家不同门店同时标记同一人。²

模型剥夺原则

FTC 和解引入了一项关键的新监管工具：模型剥夺。Rite Aid 不仅须停止使用该技术，还须删除所有"非法获取"的生物识别数据，并销毁任何源自该信息的 AI 模型或算法。³ 这一强制模型"遗忘"的要求代表着巨大的运营损失，并凸显了在不合规数据基础上构建企业能力的危险。¹¹ 当今任何部署 AI 的组织都必须确保其架构允许对特定数据影响进行手术式清除——大多数简单封装器所缺乏的能力。¹²

误识别责任：Harvey Murphy 案

Rite Aid 案说明了系统性监管失败，而 2024 年 1 月涉及 Harvey Eugene Murphy Jr. 的诉讼则展示了算法错误带来的灾难性个人与民事责任。Murphy 是一位 61 岁的祖父，仅凭 Macy's 与 Sunglass Hut 系统一次有缺陷的 AI 面部识别匹配，就被错误逮捕并关押十天，罪名是他并未实施的抢劫。¹³

跨企业 AI 协作的失败

事件始于 2022 年 1 月休斯顿地区一家 Sunglass Hut 的抢劫案。Sunglass Hut 的母公司 EssilorLuxottica 与其零售合作伙伴 Macy's 协作，将 Macy's 的面部识别工具用于该犯罪的低质量监控录像。¹⁵ 系统将 Murphy 识别为作案者，这一"阳性"识别被作为确凿证据交给警方。¹³

此处的技术失败是多方面的。首先，该软件被用于本质上不适合生物识别匹配的影像。¹⁴ 其次，系统很可能将监控录像与包含 Murphy 数十年前非暴力罪行登记照的数据库进行匹配。¹³ 这引入了"年龄差"问题：研究表明，将当前图像与数年或数十年前拍摄的照片匹配，误报率可高达 90%。¹⁴

事件参数：Harvey Murphy 案	详情
主要诉请	因错误逮捕与人身伤害索赔 $10 million 损害赔偿。13
核心技术失败	通过易错的面部识别软件发生误识别。14
输入质量	低分辨率、颗粒状的监控录像。15
不在场证明	证明德州抢劫发生时其居住在加利福尼亚。13
人身后果	在错误羁押期间遭受残酷性侵与身体伤害。13

反射性信任与"黑箱"谬误

Murphy 案凸显了对 AI"反射性信任"的危险。诉状指控 Sunglass Hut 与 Macy's 将自动化匹配呈现为已核验事实，从而误导执法部门。¹⁵ 这导致警方停止调查，并依赖受污染的识别程序。¹⁶ 这一现象——机器输出被赋予比人类不在场证明更高的权威——是 AI 诱发民权侵犯中反复出现的主题。¹⁶ 直到地方检察官办公室确认休斯顿抢劫当日 Murphy 身在加利福尼亚州萨克拉门托，他才最终被洗清嫌疑。¹³ 然而，当错误被纠正时，Murphy 已在狱中遭受性侵与殴打，留下终生伤残。¹³

对企业而言，Murphy 案严峻提醒：AI 失败的责任远超数字领域。对面部识别软件的"过失使用"可导致数百万美元诉讼与永久性声誉损害。¹⁴ AI 顾问与实施组织有责任确保每一个自动化信号都经过严格的人在环路（HITL）核验，尤其是在个人自由攸关之时。¹⁸

架构分野：深度 AI 对比 API 封装器

上述失败是 AI 行业更广泛趋势的症状："AI 封装器"的泛滥。封装器本质上是坐落在第三方模型（如 OpenAI、Anthropic 或专业生物识别供应商提供的模型）之上的品牌化仪表盘，通过 API 发送用户数据并返回原始输出。⁴ Veriprajna 将自身定位为"深度 AI"解决方案提供商，正是因为封装器模式对企业级应用从根本上过于脆弱。

封装器模式的脆弱性

封装器存在不对称的商业与技术模型。它们从使用与分发中获利，却无法控制底层基础设施。⁴ 这导致若干关键风险：

1.​ 供应商锁定与中断：封装器平台完全依赖其上游提供商的正常运行时间与定价。若 VAPI 或 Retell 等供应商发生中断，使用该封装器的每一家机构都会同时瘫痪。⁵

2.​ 可审计性缺口：当企业依赖第三方"黑箱"模型时，它无法解释或审计结果如何生成。这在合规审计或法律争议中是重大责任风险。¹²

3.​ 治理赤字：简单封装器缺乏强制执行操作顺序或权限的结构。它们往往依赖"超级提示"——把所有规则与文档塞进单一提示——寄望模型正确执行。²⁰

4.​ 安全与数据泄露：封装器可能无意中将敏感客户数据馈入第三方模型的训练流水线，破坏保密性并违反 GDPR 或 HIPAA 等法律。¹²

深度 AI：多智能体系统（MAS）理念

与"一部包办一切"的封装器方法相对，深度 AI 解决方案采用多智能体系统（MAS）。该架构将 LLM 或生物识别模型视为具有明确职责的专业智能体团队中的单一组件。²⁰

智能体类型	战略职能
规划智能体	决定工作流并确保所有合规步骤得到满足。20
工作流智能体	强制执行正确的操作顺序（例如，同意 → 核验 → 行动）。20
合规智能体	监控输出的语气、政策漂移与越狱暴露。20
响应智能体	与用户交互，并从已核验的 RAG 流水线中提取信息。20
不确定性智能体	在执行前量化模型输出的置信度。21

MAS 架构提供了高风险环境所需的确定性护栏。系统不是要求单一模型"识别入店行窃者并通知安保"，而是使用专家链：一个智能体核验图像质量，另一个执行 1:N 匹配，第三个评估该匹配的不确定性，第四个在阈值未达标时将案件标记供人工复核。²⁰

不确定性科学：从点估计到概率风险

Rite Aid 与 Macy's 两案的中心失败，是将 AI 输出当作二元真相对待。实际上，每一个 AI 输出都是概率估计。深度 AI 解决方案超越简单准确率分数，实施稳健的不确定性量化（UQ）。²¹

偶然不确定性对比认知不确定性

AI 系统中的不确定性大致分为两类，系统要被视为"安全"就必须同时应对二者：

1.​ 偶然不确定性：源于数据固有的随机性或噪声（例如传感器误差、运动模糊、零售门店中的不良照明）。这类不确定性通常不可约减——再多训练也无法修复缺失数据的图像。²⁴

2.​ 认知不确定性：源于模型的局限或其对特定场景的知识不足（例如未见过的人口统计群体，或老化的面容）。可通过提供更具代表性的训练数据加以降低。²⁴

脆弱系统未能区分这两者。脆弱系统中的高置信度分数可能仅意味着模型对猜测"过度自信"。深度 AI 系统使用贝叶斯神经网络或蒙特卡洛 Dropout 等技术，产生概率分布而非单一的点估计。²⁵

可靠性数学框架

Veriprajna 主张使用共形预测——一种校准步骤，确保 AI 预测中的不确定性落在由用户设定显著性水平所保证的界内。²¹ 这使决策者能够在采取行动前理解预测的可靠性。例如，若系统以 0.85 的匹配分数识别某人，UQ 层可能揭示"不确定性分布"很宽，意味着由于图像质量低，0.85 在统计上并不可靠。²¹

该公式表示：真实结果以至少 的概率包含在预测集中，其中 是用户定义的错误率。实施这一层级的数学严谨性，正是企业级解决方案与简单 API 封装器的分界。²¹

技术范式：开集对比闭集识别

生物识别工程中另一个关键区分是闭集识别与开集识别的差异。大多数商业"现成"系统针对闭集问题优化——即假定被扫描者一定在数据库中（例如解锁手机）。²⁷

零售"关注名单"挑战

在零售安防中，问题几乎总是"开集"。进入门店的绝大多数人是"非配对"主体——他们不在罪犯数据库中。²⁷ 闭集模型将不可避免地试图为每一个人找到"最佳匹配"，从而导致 Rite Aid 所见的数千次误报。²⁷

深度 AI 解决方案利用专门的损失函数，如识别—检测损失，以优化开集性能。这些模型被训练为不仅识别匹配，还能准确"拒绝"不在图库中的个体。²⁷

识别协议	假设	主要指标
闭集	每一个探针主体都在图库中。27	Rank-1 准确率。30
开集	大多数探针主体未知/非配对。27	特定 FPIR 下的 FNIR。27

使用本质上为开集设计的极值机（EVM）概率，可更好地拒绝"未知的未知"——系统从未见过、且绝不应当触发警报的个体。²⁹

信任基准：NIST 与 FRVT 的角色

为防止导致 Harvey Murphy 被捕的"反射性信任"，企业必须依赖标准化基准。美国国家标准与技术研究院（NIST）面部识别供应商测试（FRVT）是评估面部识别算法性能、准确性与偏见的全球金标准。⁷

解读 NIST 指标

NIST FRVT 评估为供应商提供详细"成绩单"，衡量跨不同数据集的性能：

●​ 1:1 核验：将探针图像与单一图库图像匹配（例如边境管制）。⁷

●​ 1:N 识别：在大型数据库中搜索探针（例如零售关注名单）。³¹

●​ 登记照与边境数据集：评估在不同质量与受控程度图像上的性能。⁷

NIST 具体衡量固定误配率（FMR）下的假非匹配率（FNMR）。对于高安全应用，FMR 常设为极低阈值（例如 ），意味着系统仅在错误概率低于百万分之一时才宣布匹配。⁷ Rite Aid 的失败可被视为未能依据 NIST 标准化基准设定并监控这些阈值。²

人口统计性能指标

至关重要的是，NIST FRVT 包含人口统计性能指标，显示算法在不同性别、年龄与原籍国上的表现。⁷ 这些数据对于识别导致 FTC 禁令 Rite Aid 的那类种族偏见至关重要。任何部署 FRT 的企业都必须要求其供应商提供经 NIST 验证的成绩单，显示在其门店所代表的人口统计群体间具有公平的性能。⁷

监管超级周期：NIST AI RMF 与欧盟 AI 法案

不受监管的 AI 时代正在结束。企业现在必须驾驭一个强制要求透明度、问责与风险管理的"监管超级周期"。

NIST AI 风险管理框架（AI RMF）

NIST AI RMF 是一份自愿但颇具影响力的指南，旨在提升 AI 系统的稳健性与可靠性。³³ 它围绕四个核心职能展开：

1.​ 治理：培育风险意识文化与清晰的治理结构。³⁴

2.​ 映射：将 AI 系统置于其运营与伦理维度中加以情境化。³⁴

3.​ 度量：通过定性与定量方法量化风险（例如偏见检测与性能指标）。³⁴

4.​ 管理：通过技术控制与程序性保障，优先处理并应对已识别的风险。³⁴

FTC 对 Rite Aid 的行动实质上是对这些原则的强制执行。由于未能"度量"或"管理"其 FRT 的风险，Rite Aid 违反了 FTC 法案第 5 条的"不公平"条款。¹¹

欧盟 AI 法案：具有约束力的强制令

尽管 NIST 框架在美国是自愿的，欧盟的 AI 法案则是按风险等级对 AI 系统分类的具有约束力的法规。³³

●​ 高风险系统：公共空间中的生物识别系统自动被归类为高风险。³⁷

●​ 强制义务：高风险系统的提供商必须开展"符合性评估"、维护"详细技术文档"，并确保"有效的人类监督"。³³

●​ 被禁止的 AI：某些做法被完全禁止，例如从互联网抓取面部图像，或将实时生物识别用于一般执法（有限例外除外）。⁴⁰

欧盟 AI 法案合规支柱	技术要求
数据治理	训练与测试数据集必须具有代表性且无错误。36
透明度	部署者在与 AI 交互时必须被告知。33
人类监督	系统必须允许人工覆盖与干预。33
记录保存	自动事件日志记录，以识别并缓解风险。36

今天使用 NIST AI RMF 的组织，明天更有能力遵循欧盟 AI 法案，因为二者共享透明度与问责的相同基础目标。³³

缓解偏见：实现公平结果的技术策略

Rite Aid 与 Murphy 案中援引的种族与性别偏见，并非 AI 的固有属性，而是工程失败。深度 AI 解决方案采用若干先进技术来缓解这些伤害。

对抗性去偏与公平约束

对抗性去偏使用两个相互竞争的网络：一个预测目标（例如身份），另一个"对手"试图从第一个网络的内部表示中预测受保护属性（例如种族或性别）。¹⁰ 若对手成功，则惩罚第一个网络。这迫使模型在保持任务准确的同时，找到对受保护属性"盲"的特征。¹⁰

此外，可将"公平约束"整合进损失函数，以确保不同群体具有相等的错误率。¹⁹ 例如，可在数学上强制系统对黑人女性与白人男性维持相同的误配率。¹⁹

多尺度特征融合与空间注意力

生物识别偏见往往源于不良照明或低对比度，这对较深肤色造成不成比例的影响。⁶ "多尺度特征融合"在不同分辨率提取特征以捕获更多上下文细节，而"空间注意力"机制帮助模型聚焦特定生物识别地标（如眼睛或鼻子）并忽略背景噪声。⁸

活体与欺骗检测

稳健的生物识别系统还必须区分真实的人与"呈现攻击"（例如照片或面具）。⁷ NIST 的 PAD（呈现攻击检测）测试为这些能力提供基准。⁷ 若无这些检查，系统不仅有偏见，而且不安全，易受简单"暴力"欺骗攻击。⁶

将安全运营化：人在环路（HITL）框架

对抗自主系统失败的终极保障是整合人类判断。Veriprajna 主张"人在环路"（HITL）框架，将 AI 视为助手而非裁决者。¹⁸

识别关键人工复核点

设计良好的 HITL 系统使用置信度阈值来优先分配人类注意力。²³

1.​ 自动拒绝：若置信度低于 70%，立即丢弃该匹配。

2.​ 人工复核：若置信度介于 70% 与 95% 之间，系统将该案标记供人工核验。²³

3.​ 自动批准：仅当置信度高于 95%（且任务后果较低）时，系统才自主行动。⁴²

设计有效的人工复核界面

在零售或安防场景中，人工复核者必须能够访问原始源数据。有效的界面将原始 CCTV 图像与提取的图库图像并排显示，使复核者能够发现 AI 可能遗漏的异常，例如耳形不匹配或独特纹身。²³

HITL 组件	益处
置信度阈值设定	仅标记模糊案件，防止"警报疲劳"。23
审计轨迹	记录每一次人类决策与覆盖，以供法律抗辩。18
持续反馈	人类纠正被用作标签，以再训练并精炼模型。42
例外手册	标准化人类应如何应对"边缘案例"。23

Rite Aid 系统的失败，部分归因于缺乏"有意义的人工复核"。² 员工被指示依据自动化警报跟踪并当面质问顾客，却未接受关于误报可能性的培训。² HITL 框架赋能员工质疑 AI，并防止导致 Harvey Murphy 被捕的那种"反射性信任"。¹⁶

执行摘要：建设 AI 原生技术组织

从"AI 试验"到"AI 运营"的转型，需要董事会层面的监督与公司战略的根本转变。⁴⁴ 随着组织迈向"智能体劳动力"——机器自主思考与学习——首席风险官（CRO）与首席信息官（CIO）的角色变得核心。⁴⁶

走出试点炼狱

许多企业在 AI 上停滞，是因为小型试点中的早期成功遭遇了碎片化数据与遗留系统的现实。⁴⁴ 扩展 AI 需要：

●​ 清晰所有权：为 AI 结果而非仅技术实施分配责任。⁴⁴

●​ 数据可靠性：确保数据遵循一致规则并维持高质量。⁴⁴

●​ 模块化架构：采用模块化方法以避免"供应商锁定"，使企业能以更小摩擦更换、升级并集成模型。⁴⁷

深度 AI 的投资回报

尽管构建定制"深度 AI"解决方案比购买现成封装器更耗费资源，长期投资回报显著更高。拥有自身 AI 知识产权的组织可避免经常性许可费，对数据保持完全控制，并通过专业化性能构筑竞争护城河。⁴⁸

此外，不构建稳健系统的代价如今已清晰可见。Rite Aid 面临五年禁令及其生物识别资产的销毁；Macy's 与 Sunglass Hut 面临 $10 million 诉讼与公关噩梦。¹ 在此背景下，深度 AI 并非奢侈品——它是现代企业的战略必需。

给董事会的战略建议

1.​ 开展"封装器审计"：识别组织中哪些 AI 能力建立在薄弱的 API 依赖之上，并缺乏内部治理或可审计性。

2.​ 实施不确定性量化：强制要求所有高风险 AI 输出包含量化的置信度分数与不确定性分布。

3.​ 对标 NIST FRVT：要求所有生物识别供应商提供经 NIST 验证的性能成绩单，并特别关注人口统计偏见。

4.​ 将人在环路制度化：确保任何影响个人自由或重大金融交易的 AI 驱动决策，都须经过有文档记录的人工复核流程。

5.​ 为欧盟 AI 法案做好准备：即使对美国公司而言，对齐欧盟"高风险 AI"标准，也是面向即将到来的国内监管进行前瞻性防护的最佳方式。

Veriprajna 专长于帮助组织弥合"可靠性鸿沟"，从脆弱、高风险的封装器迈向稳健、经工程化的 AI 系统。企业 AI 的未来不仅关乎模型能做什么，更关乎它如何可被信任。在生物识别责任时代，问责是终极竞争优势。

参考文献

1. Rite Aid Corporation, FTC v. | Federal Trade Commission，2026年2月6日访问， https://www.ftc.gov/legal-library/browse/cases-proceedings/2023190-rite-aid-corporation-ftc-v

2. Rite Aid Banned from Using AI Facial Recognition After FTC Says ...，2026年2月6日访问， https://www.ftc.gov/news-events/news/press-releases/2023/12/rite-aid-banned-using-ai-facial-recognition-after-ftc-says-retailer-deployed-technology-without

3. FTC Announces Groundbreaking Action Against Rite Aid for Unfair Use of AI - WilmerHale，2026年2月6日访问， https://www.wilmerhale.com/en/insights/blogs/wilmerhale-privacy-and-cybersecurity-law/20240111-ftc-announces-groundbreaking-action-against-rite-aid-for-unfair-use-of-ai

4. Wrappers, deeptechs, and generative AI: a profitable but fragile house of cards，2026年2月6日访问， https://www.duperrin.com/english/2025/05/20/wrappers-deeptechs-generative-ai/

5. The Hidden Costs of Voice AI Wrappers: Dependency, Pricing, and Support Risks - Trillet AI，2026年2月6日访问， https://www.trillet.ai/blogs/voice-ai-wrapper-dependency-risks

6. Characteristics, limitations, and how to measure accuracy when ...，2026年2月6日访问， https://learn.microsoft.com/en-us/azure/ai-foundry/responsible-ai/face/characteristics-and-limitations?view=foundry-classic

7. Introduction to NIST FRVT - Paravision，2026年2月6日访问， https://www.paravision.ai/news/introduction-to-nist-frvt/

8. How To Mitigate Facial Recognition Bias in Identity Verification - HyperVerge，2026年2月6日访问， https://hyperverge.co/blog/mitigating-facial-recognition-bias/

9. Countermeasures against bias and spoofing in modern facial recognition systems，2026年2月6日访问， https://journalwjarr.com/index.php/content/countermeasures-against-bias-and-spoofing-modern-facial-recognition-systems

10. Adversarial Debiasing for Bias Mitigation in Healthcare AI Systems: A Literature Review，2026年2月6日访问， https://www.scirp.org/journal/paperinformation?paperid=143081

11. Companies Deploying Facial Recognition Continue to be Watched; Rite Aid Banned from Using AI Facial Recognition - Kilpatrick Townsend，2026年2月6日访问， https://ktslaw.com/Insights/Alert/2024/1/Companies-Deploying-Facial-Recognition-Continue-to-be-Watched

12. Risks of AI Wrapper Products and Features - Kader Law，2026年2月6日访问， https://www.kaderlaw.com/blog/risks-of-ai-wrapper-products-and-features

13. Macy's Hit With $10M Lawsuit After Faulty AI Facial Recognition ...，2026年2月6日访问， https://www.lawcommentary.com/articles/macys-hit-with-10m-lawsuit-after-faulty-ai-facial-recognition-software-leads-to-wrongful-arrest

14. Macy's faces $10 million lawsuit for using facial recognition to accuse man of robbery he did not commit | Technology，2026年2月6日访问， https://english.elpais.com/technology/2024-01-24/macys-faces-10-million-lawsuit-for-using-facial-recognition-to-accuse-man-of-robbery-he-did-not-commit.html

15. Lawsuit: Facial recognition software leads to wrongful arrest of Texas man; he was in Sacramento at time of robbery - CBS News，2026年2月6日访问， https://www.cbsnews.com/sacramento/news/texas-macys-sunglass-hut-facial-recognition-software-wrongful-arrest-sacramento-alibi/

16. Facial recognition used after Sunglass Hut robbery led to man's ...，2026年2月6日访问， https://www.theguardian.com/technology/2024/jan/22/sunglass-hut-facial-recognition-wrongful-arrest-lawsuit

17. Texas man sues Macy's, Sunglass Hut for facial recognition wrongful arrest - YouTube，2026年2月6日访问， https://www.youtube.com/watch?v=HWq7DNf4SLI

18. How to Keep Human In The Loop (HITL) During Gen AI Testing? - testRigor，2026年2月6日访问， https://testrigor.com/blog/how-to-keep-human-in-the-loop-hitl-during-gen-ai-testing/

19. Addressing Gender Bias in Facial Recognition Technology: An Urgent Need for Fairness and Inclusion - Cogent Infotech，2026年2月6日访问， https://www.cogentinfo.com/resources/addressing-gender-bias-in-facial-recognition-technology-an-urgent-need-for-fairness-and-inclusion

20. The great AI debate: Wrappers vs. Multi-Agent Systems in enterprise AI - Moveo.AI，2026年2月6日访问， https://moveo.ai/blog/wrappers-vs-multi-agent-systems

21. Personalised Uncertainty Quantification in Artificial Intelligence - Research Communities，2026年2月6日访问， https://communities.springernature.com/posts/personalised-uncertainty-quantification-in-artificial-intelligence

22. Operationalizing the R4VR-Framework: Safe Human-in-the-Loop Machine Learning for Image Recognition - MDPI，2026年2月6日访问， https://www.mdpi.com/2227-9717/13/12/4086

23. Human-in-the-Loop AI in Document Workflows - Best Practices & Common Pitfalls - Parseur，2026年2月6日访问， https://parseur.com/blog/hitl-best-practices

24. From Aleatoric to Epistemic: Exploring Uncertainty Quantification Techniques in Artificial Intelligence - arXiv，2026年2月6日访问， https://arxiv.org/html/2501.03282v1

25. Evaluation of Uncertainty Quantification in Deep Learning - PMC，2026年2月6日访问， https://pmc.ncbi.nlm.nih.gov/articles/PMC7274324/

26. Uncertainty Quantification | IBM，2026年2月6日访问， https://www.ibm.com/think/topics/uncertainty-quantification

27. Open-Set Biometrics: Beyond Good Closed-Set Models - arXiv，2026年2月6日访问， https://arxiv.org/html/2407.16133v1

28. What is difference between closed-set and open-set classification problem? - Stack Overflow，2026年2月6日访问， https://stackoverflow.com/questions/62765276/what-is-difference-between-closed-set-and-open-set-classification-problem

29. Toward Open-Set Face Recognition，2026年2月6日访问， https://openaccess.thecvf.com/content_cvpr_2017_workshops/w6/papers/Gunther_Toward_Open-Set_Face_CVPR_2017_paper.pdf

30. Comparison of open-set and closed-set face recognition. - ResearchGate，2026年2月6日访问， https://www.researchgate.net/figure/Comparison-of-open-set-and-closed-set-face-recognition_fig1_316505674

31. The Best Globally Top Ranked Face Recognition Algorithm 2025 - KBY-AI，2026年2月6日访问， https://kby-ai.com/top-ranked-face-recognition/

32. Face Recognition Technology Evaluation (FRTE) 1:1 Verification - NIST Pages，2026年2月6日访问， https://pages.nist.gov/frvt/html/frvt11.html

33. NIST AI Risk Management Framework: A simple guide to smarter AI ...，2026年2月6日访问， https://www.diligent.com/resources/blog/nist-ai-risk-management-framework

34. NIST AI Risk Management Framework (AI RMF) - Palo Alto Networks，2026年2月6日访问， https://www.paloaltonetworks.com/cyberpedia/nist-ai-risk-management-framework

35. Safeguard the Future of AI: The Core Functions of the NIST AI RMF - AuditBoard，2026年2月6日访问， https://auditboard.com/blog/nist-ai-rmf

36. High-level summary of the AI Act | EU Artificial Intelligence Act，2026年2月6日访问， https://artificialintelligenceact.eu/high-level-summary/

37. Article 6: Classification Rules for High-Risk AI Systems | EU Artificial Intelligence Act，2026年2月6日访问， https://artificialintelligenceact.eu/article/6/

38. Annex III: High-Risk AI Systems Referred to in Article 6(2) | EU Artificial Intelligence Act，2026年2月6日访问， https://artificialintelligenceact.eu/annex/3/

39. Article 11: Technical Documentation | EU Artificial Intelligence Act，2026年2月6日访问， https://artificialintelligenceact.eu/article/11/

40. Article 5: Prohibited AI Practices | EU Artificial Intelligence Act，2026年2月6日访问， https://artificialintelligenceact.eu/article/5/

41. Human in the Loop AI: Benefits, Use Cases, and Best Practices - WitnessAI，2026年2月6日访问， https://witness.ai/blog/human-in-the-loop-ai/

42. When Automation Breaks Trust: A Practical Guide to Human-in-the-Loop AI Workflows for SMBs | Artificial Intelligence | MyMobileLyfe | AI Consulting and Digital Marketing，2026年2月6日访问， https://www.mymobilelyfe.com/artificial-intelligence/when-automation-breaks-trust-a-practical-guide-to-human-in-the-loop-ai-workflows-for-smbs/

43. Human-in-the-Loop AI (HITL) - Complete Guide to Benefits, Best Practices & Trends for 2026，2026年2月6日访问， https://parseur.com/blog/human-in-the-loop-ai

44. Enterprise AI Consulting Framework for Business Leaders，2026年2月6日访问， https://appinventiv.com/blog/enterprise-ai-consulting-framework-guide/

45. Tech Trends 2026 | Deloitte Insights，2026年2月6日访问， https://www.deloitte.com/us/en/insights/topics/technology-management/tech-trends.html

46. Deploying agentic AI with safety and security: A playbook for technology leaders - McKinsey，2026年2月6日访问， https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/deploying-agentic-ai-with-safety-and-security-a-playbook-for-technology-leaders

47. AI in the workplace: A report for 2025 - McKinsey，2026年2月6日访问， https://www.mckinsey.com.br/capabilities/tech-and-ai/our-insights/superagency-in-the-workplace-empowering-people-to-unlock-ais-full-potential-at-work

48. Custom AI vs Off-the-Shelf AI : Which Is Right for Your Business?，2026年2月6日访问， https://www.aalpha.net/blog/custom-ai-vs-off-the-shelf-ai/

49. Custom AI Software vs Off-the-shelf Artificial Intelligence Solution - Integrio Systems，2026年2月6日访问， https://integrio.net/blog/custom-vs-of-the-shelf-artificial-intelligence