依據性、引用與事實驗證

您的 AI 標註了引用來源，但並未對其進行真實性驗證。

最危險的人工智慧輸出，莫過於看似附有引用的內容。檢索增強系統檢索出一段文本，模型生成回答，旁邊隨即標註一條引用。使用者通常假設該引用為該論斷提供了依據。然而在 57% 的案例中，事實並非如此。

2025 年的一項研究發現，超過半數由 RAG 生成的引用存在「事後合理化」（post-hoc rationalization）現象：模型先確定其回答，然後在檢索到的文件中掃描表面層級的詞元（token）匹配，藉此捏造一條參考來源。引用格式真實無誤，文件確實存在，段落也確實出自該文件，但該段落實際上根本不支持該項主張。

這並非檢索層面的問題。您的檢索管線即便能傳回正確的文件，引用依然可能完全錯誤。我們的方法是打造介於人工智慧生成與終端使用者之間的獨立驗證層——不是單純改進檢索，也不是調整提示詞，而是透過嚴謹的獨立驗證，確保輸出中的每一項主張都切實獲得其引證來源的支撐——此架構詳見 我們關於超越 LLM 包裝層構建真實性的白皮書。

為什麼「檢索加提示詞」並不等同於真實性驗證

大多數團隊將依據性（grounding）視為檢索問題：更好的分塊、重新排序器（reranker），以及在系統提示詞中加入「僅根據所提供的上下文回答」。這忽略了核心的失效根源。模型並非在違抗指令——而是在不忠實地遵從指令，它在上下文中尋找表面上匹配的詞元並附上引用，而檢索到的段落實際上並不能在邏輯上蘊涵該項主張。

驗證是一個擁有獨立目標的獨立系統。生成組件產生帶有來源註釋的候選主張，並以流暢度為最佳化目標；驗證組件則獨立評估每個引用的來源是否切實支撐所註釋的主張，其最佳化目標是 蘊涵關係（entailment）：此來源是否在邏輯上必然支持這項特定主張？當兩者作為獨立子系統運作時——此即詳見於 我們在神經符號驗證領域的研究 中的雙系統模式——幻覺必須同時欺騙兩者才能傳遞給使用者。

我們透過微調用於蘊涵檢測的 NLI 模型，並結合原子事實分解（atomic fact decomposition）來實現此雙系統架構。Google DeepMind 的 SAFE 方法表明，在驗證前將回應拆解為獨立的原子事實，其效果顯著優於句子級檢查：SAFE 與人類標註者的一致性達到 72% ，而在存在分歧時，自動化驗證的正確率達 76% ，且成本 降低 20 倍。我們將此架構針對您的業務領域進行客製化調整，因為法律訴狀中「原子事實」的定義，與臨床摘要或財務揭露中的定義截然不同。

主流廠商的依據性（Grounding）API 究竟能做什麼（以及做不到什麼）

過去 18 個月內，各大主流雲端服務供應商相繼推出了依據性（grounding）功能。但沒有任何一家能徹底解決完整的驗證問題。

上述四種方案的共同缺口在於：它們能夠檢測模型何時偏離了所提供的上下文，但無法驗證附加在特定主張上的具體引用是否切實獲得了邏輯蘊涵的支撐。而這一層嚴密的驗證架構，正是我們所設計並建構的核心所在。

三種驗證架構，完美匹配您的風險等級

基於自然語言推論（NLI）的蘊涵驗證

適用於需要逐條主張進行驗證、但無法承擔完全分解延遲成本的團隊。每項生成的主張均與其引用的段落配對，並由 NLI 模型評估其屬於蘊涵（entailment）、矛盾（contradiction）還是中立（neutrality）；被評為「矛盾」或「中立」的主張將被標記或隱藏。這僅增加 每項主張 50–200ms 的延遲，能夠應對高吞吐量工作負載，並攔截最常見的失效模式：引用指向主題相關但實際上並不支持該論斷的段落。

我們採用校準後的 NLI 模型整合（即 HALT-RAG 方法），而非單一模型，因為單一 NLI 模型常存在特定領域的盲點，而模型整合能夠有效平滑這些偏差。

結合搜尋增強驗證的原子事實分解

適用於單一主張檢查尚顯不足的高風險領域，因為單個句子可能包含多個可驗證的主張。我們將每項回應拆解為獨立的事實單元，針對每個事實生成具針對性的驗證查詢，並同時對照引用的來源與外部權威參考資料進行檢查。這即是源自 SAFE 的方法論。

它能精準攔截句子級 NLI 所遺漏的錯誤：一個句子可能僅獲得部分支撐（例如兩項事實正確，一項純屬捏造），而 NLI 往往會將整個句子判定為蘊涵成立。事實分解雖然會增加 3–5 倍的推論成本 ，但能捕捉到顯著更多的錯誤。我們將其應用於法律文書、臨床病歷摘要、財務揭露報告，以及任何單一數字錯誤皆會引發實質重大後果的關鍵領域。

結合時效性與數值檢查的持續驗證

適用於來源有效性隨時間動態變化的受監管環境。這在分解方法的基礎上擴充了三項額外檢查：

• 時效性驗證（Temporal verification） ——該法規在主張所引用的日期是否確實有效？
• 數值驗證（Numerical verification） ——該百分比是否與來源表格精確相符，而非近似估計？
• 跨主張一致性檢查（Cross-claim consistency checking） ——同一回應中具有依據的多個主張之間是否存在相互矛盾？

我們維護來源新鮮度索引，追蹤所引用文件最近一次驗證的時間，並在來源材料更新時自動觸發重新驗證。此架構專為引用已廢止法規或過時統計數據將帶來合規風險的組織量身打造，具體細節詳見 我們關於政府人工智慧法定引用強制執行的研究。

評估依據性品質（真正關鍵的核心指標）

目前的評估工具生態呈現碎片化。Vectara 的 HHEM 評估事實一致性，但衡量的是摘要忠實度，而非引用準確性。RAGAS 檢查依據性（grounding）而非歸因性（attribution）。ALCE 基準在學術數據集上評估引用精確率與召回率，卻無法反映企業級應用模式。艾倫人工智慧研究所（Allen Institute）的研究發現，在未經歸因訓練的情況下，RAG 中的引用準確率平均僅為 65–70% 。

我們的方法是建構衡量核心價值的評估體系，持續運行並具備基於閾值的警報功能：

• 引用精確率（Citation precision） ——所引用的段落是否切實支撐其對應的主張？
• 引用召回率（Citation recall） ——應標註引用的可驗證主張是否皆已正確歸因？
• 蘊涵準確率（Entailment accuracy） ——NLI 驗證的通過率。
• 來源特異性（Source specificity） ——段落級歸因與文件級歸因的精細度對比。

何時完整驗證會成為過度設計

全量驗證代價高昂。在當前的模型定價下，結合搜尋增強檢查的原子分解會增加 2–5 秒 的延遲以及 每次回應 0.01–0.05 美元 的成本。對於每天處理 10,000 次查詢的內部知識庫機器人而言，這相當於在生成與檢索之外，僅驗證成本一項便需 每天 100–500 美元 。

並非所有應用場景都需要最高規格的驗證。我們協助您將驗證深度與實際風險精準匹配——此評估是我們每項專案服務的核心環節，當更簡潔的方法足以滿足您的使用情境時，我們會坦誠告知。

我們的交付成果

專案交付範疇涵蓋以下內容——即如我們在 強制引用的政府人工智慧即時展示系統中所展現的同等水準驗證能力：

• 一套完美匹配您的風險等級、延遲預算與來源文件類型的驗證架構。
• 與您現有檢索技術堆疊深度整合、基於 NLI 或事實分解的驗證管線。
• 包含精確率、召回率、蘊涵準確率與來源特異性指標的引用品質評估體系。
• 具備基於自訂閾值告警機制的持續監控系統。
• 與您的合規工作流程深度整合，滿足各項稽核追蹤要求——涵蓋 FINRA 遙測數據、歐盟人工智慧法案透明度與 FDA 可溯源性標準。
• 針對您業務領域量身校準的已知幻覺探針測試套件。
• 驗證成本模型，協助您做出明智決策，合理劃分全量驗證與輕量級檢查的部署邊界。