内容溯源、引用与事实验证

您的 AI 引用了来源，但并未对其进行验证。

最危险的 AI 输出莫过于看似附有引用的内容。检索增强系统返回一段文本，模型生成回答，并在其旁边附上引用。用户理所当然地认为该引用能够支撑这一陈述。然而在 57% 的情况下，事实并非如此。

2025 年的一项研究发现，超过半数由 RAG 生成的引用存在“事后合理化”（post-hoc rationalization）现象：模型先确定答案，随后在检索到的文档中扫描字面层面的词元匹配，以伪造出一条参考文献。引用本身看似真实，文档客观存在，文本片段确实出自该文档，但该片段实际上并不能支撑模型的陈述。

这并非检索问题。即使检索流水线返回了正确的文档，引用依然可能出错。我们的方法是构建位于 AI 生成内容与用户之间的验证层——不是更好的检索，也不是更好的提示词，而是专为确保输出中的每一项陈述都切实得到其所引用来源支撑而设计的独立验证架构——这正是我们在 关于突破大模型套壳构建真实性的白皮书中所阐述的架构。

为什么“检索加提示词”并不等于验证

大多数团队将内容溯源（grounding）视为检索问题：优化文本分块、引入重排序器（reranker）、在系统提示词中强调“仅根据所提供的上下文回答”。这忽略了核心失效模式。模型并不是拒不遵从指令——而是在“不忠实地遵从”，它在上下文中找到字面相似的词元并附上引用。然而，该段落从逻辑上根本无法蕴含（entail）该陈述。

验证是一个拥有独立目标的独立系统。生成组件负责产出带有来源标注的候选陈述，并优化流畅度；验证组件则独立评估每个被引用的来源是否切实支撑所标注的陈述，其优化的目标是 蕴含关系（entailment）：该来源在逻辑上是否支持这一特定陈述？当它们作为独立子系统运行时——即 我们关于神经符号验证的研究 中所详述的双系统模式——幻觉必须同时骗过两者才能呈现在用户面前。

我们采用针对蕴含检测微调的自然语言推理（NLI）模型，并结合原子事实分解（atomic fact decomposition）来实现这种双系统架构。Google DeepMind 的 SAFE 方法表明，在验证前将回答拆解为独立的原子事实，其效果显著优于句子级检查：SAFE 与人类标注者的一致率达到 72% ；而在出现分歧时，自动验证在 76% 的情况下是正确的，且成本降低了 20 倍。我们针对您的具体业务领域对该方案进行定制，因为法律答辩书中的“原子事实”定义显然不同于临床摘要或财务披露中的定义。

主流厂商 Grounding API 的实际能力与局限

过去 18 个月内，各大主流云服务商纷纷推出了溯源（grounding）功能。但没有一家能够彻底解决这一完整问题。

这四款产品的共同盲区在于：它们能够检测模型何时偏离了给定的上下文，却无法验证附在特定陈述上的特定引用是否切实具备逻辑蕴含支撑。而这一专门的验证层，正是我们负责设计并构建的核心。

三种验证架构，精准契合您的风险偏好

基于 NLI 的蕴含验证

适用于需要针对单项陈述进行验证，又无法承担完整事实分解带来的延迟成本的团队。系统将每个生成的陈述与其引用的段落配对，由 NLI 模型评估其蕴含（entailment）、矛盾（contradiction）或中立（neutrality）关系；被评为“矛盾”或“中立”的陈述会被标记或抑制。该方案每次陈述增加 50–200 毫秒的延迟，能够胜任高吞吐量工作负载，并拦截最常见的失效模式：引用指向主题相关但实际上不具支撑力的段落。

我们采用校准后的 NLI 集成模型（即 HALT-RAG 方案）而非单一模型，因为单一 NLI 模型存在特定领域的盲区，而集成模型能够有效消除这些盲点。

结合搜索增强验证的原子事实分解

适用于高风险业务领域，在这些领域中，单句可能包含多个可验证的主张，仅靠逐句或逐项陈述检查远远不够。我们将每个回答拆解为独立的事实，针对每个事实生成针对性的验证查询，并对照被引用来源以及外部权威参考文献进行核对。这是基于 SAFE 衍生的方法。

它能捕获句子级 NLI 遗漏的错误：一个句子可能仅部分得到支持（两个事实正确，一个虚构），而 NLI 通常会将整句判定为蕴含。分解机制会增加 3–5 倍的推理成本 ，但能拦截显著更多的错误。我们将此方案应用于法律诉讼文书、临床病历记录、财务披露文件以及任何单个错误数据就会带来重大实质后果的领域。

包含时序与数值核验的持续验证

适用于来源有效性会随时间变化的受监管环境。该架构在事实分解方法的基础上扩展了三项附加检查：

• 时序核验 ——该陈述所提及的法规在涉案日期是否切实生效？
• 数值核验 ——该百分比与源数据表是完全一致还是仅为近似估算？
• 跨陈述一致性检查 ——同一回答中的多个溯源陈述之间是否存在相互矛盾？

我们维护源数据新鲜度索引，跟踪所引用文档最近一次的验证时间，并在源材料更新时自动触发重新验证。对于引用被废止的法规或过时统计数据会带来合规风险的机构，这正是其所需的架构，详见 我们关于政府 AI 法定引用强制执行的研究。

衡量溯源质量（真正关键的核心指标）

目前的评估工具格局割裂。Vectara 的 HHEM 为事实一致性评分，但衡量的是摘要忠实度而非引用准确性。RAGAS 检验内容溯源而非具体归因。ALCE 基准在学术数据集上评估引用的查准率与查全率，未能反映企业级真实模式。艾伦人工智能研究所（Allen Institute）的研究发现，RAG 的引用准确率平均介于 65–70% 之间（在未进行归因训练的情况下）。

我们的方法是构建衡量真正关键指标的评估体系，并结合基于阈值的告警持续运行：

• 引用查准率 ——所引用的段落是否切实支撑其陈述？
• 引用查全率 ——所有可验证的陈述是否都得到了适当归因？
• 蕴含准确率 ——NLI 模型的验证通过率。
• 来源精确度 ——段落级归因对比整个文档级归因。

何时全面验证属于过度设计

全面验证成本高昂。结合搜索增强核验的原子事实分解会增加 2–5 秒 的延迟以及 每次回答 $0.01–0.05 的成本（按当前模型定价计算）。对于一个每天响应 10,000 次查询的内部知识库机器人而言，这意味着 每天 $100–500 的纯验证成本（且是在生成和检索成本之外）。

并非所有应用都需要如此深度的验证。我们帮助您将验证深度与实际风险相匹配——这一评估包含在我们的每次咨询合作中；如果较轻量的方法已足以满足您的业务场景，我们会如实告知。

我们交付的成果

我们的咨询与工程服务旨在交付以下成果——正如我们在 强制引用型政务 AI 可运行演示中所展示的同类验证能力：

• 契合您的风险偏好、延迟预算与源文档类型的验证架构。
• 与您现有检索技术栈深度集成的基于 NLI 或基于事实分解的验证流水线。
• 包含查准率、查全率、蕴含准确率和来源精确度指标的引用质量评估框架。
• 配备基于阈值告警的持续监控体系。
• 与合规工作流无缝集成，满足审计追踪要求——涵盖 FINRA 遥测、欧盟《人工智能法案》透明度及 FDA 可追溯性规范。
• 针对您具体业务领域校准的已知幻觉探测测试套件。
• 验证成本量化模型，帮助您在部署全面深度验证还是较轻量检查之间做出明智的权衡决策。