你能信任 AI 做法律研究嗎？恐怕還不行。

問題所在

2023 年 6 月，一名律師向紐約一家聯邦法院提交了一份法律書狀。書狀中引用了多起案件——Varghese v. China Southern Airlines、Shaboon v. Egyptair、Petersen v. Iran Air——連案號、日期與引文一應俱全。然而每一個案例都是假的，全部出自 ChatGPT 的憑空杜撰。

在 Mata v. Avianca, Inc. 一案中，法官察覺這些引用全是捏造。他形容這些 AI 生成的判決摘要部分內容根本是「胡言亂語」，儘管其法律格式看似令人信服。法院處以 5,000 美元罰鍰，並要求律師通知其當事人。但金錢處罰只是損害中最小的部分——這起事件的信譽衝擊登上了國際頭條。

讓這個故事更糟的是：當對造律師質疑這些假案例時，該律師回頭去問 ChatGPT 這些案子是否真實。AI 為自己的謊言背書，稱這些案例「確實存在」，可以在「信譽良好的法律資料庫」中查到。這就形成了白皮書所說的「幻覺迴圈」（hallucination loop）——用於驗證的工具，與用於生成的工具犯下了同一種錯誤。

法院駁回了「律師不知道 AI 會捏造資訊」的抗辯。法官們已就此確立：律師是其科技工具準確性的最終擔保人。如果你的事務所將 AI 用於法律工作，責任就在你身上——而不是軟體供應商身上。

為什麼這對你的企業至關重要

Mata 案並非孤立事件。它暴露了一個結構性問題，影響著每一個將 AI 用於法律研究、合規或法規工作的組織。

以下數字值得你警惕：

• **58% 至 82%：**史丹佛大學研究人員發現，通用型 AI 聊天機器人在複雜法律問題上的幻覺率正是落在此區間——即使是具備網路存取或基本檢索功能的工具也不例外。
• 5,000 美元： Mata v. Avianca 案的直接罰鍰。但真正的代價是名譽掃地，以及涉案律師可能面臨的撤銷律師資格風險。
• **最高達 30-35%：**先進的圖譜式檢索系統與標準向量式系統在多步驟法律推理任務上的效能差距。

這些風險會從三個方面衝擊你的企業：

• **職務過失責任。**你的事務所對書狀中每一條 AI 生成的引用承擔法律責任。無法證明自身具備嚴謹 AI 治理的事務所，其職務過失保險費很可能會上漲。
• **法規曝險。**各法院正在發布常設命令，要求強制揭露 AI 使用情形。如果你的工具無法解釋自身的推理過程，你甚至還沒接觸到案件實體，就先面臨了合規失敗。
• **客戶信任。**你的客戶會越來越常問：「你們用的是什麼 AI？」如果答案是「ChatGPT」——或任何包裹著通用模型的薄層應用——就代表你沒有認真思考過準確性問題。在企業級法律工作中，這樣的回答正變得無法接受。

就你的損益表而言，底線是：如果律師必須逐一人工核實每一條 AI 生成的引用，那麼當初支撐這筆 AI 投資的效率增益便化為烏有。

底層究竟發生了什麼事

要理解 Mata 案為何發生，你得先了解大型語言模型（LLM）運作方式的一個關鍵：它們預測序列中的下一個字。它們不搜尋圖書館，也不查核資料庫，而是依據統計模式生成聽起來像對的文字。

把它想成手機上的自動完成功能——只不過作用範圍是整段文字。當你輸入「See you at the」，手機可能建議「meeting」。LLM 做的是同一件事，只是規模巨大。當被問及一起航空傷害案件時，它並不查找真實案例，而是按照法律引用的樣態拼湊出一則回應。「Varghese」是統計上合理的原告姓名，「China Southern Airlines」是合理的被告。但兩者之間的關係只是數學虛構，不是法律現實。

業界的第一個解方是所謂的檢索增強生成（Retrieval-Augmented Generation, RAG）——在 AI 生成答案之前，先把真實的原始文件餵給它。標準 RAG 將法律文件儲存為數值向量，並檢索出與你的問題語義相似的文字片段。這有幫助，但也帶來新的問題。

只要文字看起來相似，向量式搜尋就會把不同意見書與多數意見書一視同仁。它無法判斷某個案例是否已被推翻。它孤立地檢索文件，因此會遺漏成文法、解釋該成文法的法規，以及適用該法規的案例三者之間的關聯。研究顯示，當 LLM 收到長串檢索文字時，會聚焦於開頭與結尾的資訊，而忽略中間的材料。在法律工作中，關鍵的例外往往埋在第 15 個檢索到的判例片段裡。

一個只有 80% 的時間檢索到正確案例的系統，剩下的 20% 就是職務過失風險。

什麼有效（以及什麼無效）

三種常見做法在高風險的法律 AI 中都不奏效：

• **更好的提示詞。**提示工程可以改變 AI 輸出的風格或格式，卻無法注入模型本來沒有的知識，也無法強迫模型對照它無法存取的資料庫來核實事實。
• **包殼應用程式。**這些是疊在 OpenAI 之類 API 上方的薄層介面。它們或許加入了「你是一位盡責的律師」這類系統提示詞，但這既不能取得已驗證判例法資料庫的存取權，也不能阻止 AI 憑空編造引用。
• **單獨使用標準向量 RAG。**它能減少純粹的捏造，卻無法掌握法律的階層體系。它不知道哪個案例推翻了另一個案例，不理解管轄權，而且只要文字符合你的查詢，它就把已廢止的成文法與現行成文法同等對待。

真正有效的方法叫做 Citation-Enforced GraphRAG——一套將法律權威依據映射進已驗證知識圖譜、並從物理上阻止 AI 生成假引用的系統。它的運作方式分三步：

1. **輸入：建立地圖。**每一部成文法、每一項法規、每一個案例，都成為知識圖譜中的一個特定節點——這是由法律實體及其關係構成的結構化網絡。節點之間的邊承載語義：「推翻」「解釋」「維持」「區別」。這不是一堆文件的堆積，而是一張經過驗證的法律關聯地圖。

2. **處理：約束 AI。**在文字生成過程中，約束機制會將 AI 嘗試產出的每一段引用拿去和知識圖譜核對。如果 AI 想輸出「Varghese v. China Southern」，系統便檢查圖譜；在確認不存在此案後，完全阻斷該輸出。對於不在已驗證資料庫中的案例，AI 在物理上無法產出對應的 token 序列。這使你的系統從機率式的準確，升級為結構性的強制保證。

3. **輸出：展示推導過程。**當系統確實引用某個案例時，它會提供完整的遍歷路徑——從哪一部成文法出發、哪些案例解釋了它，以及這些案例是否仍是有效的法律依據。若某案例已被推翻，圖譜會以「紅旗」加以標記，並在生成尚未開始前就將其從 AI 的上下文中移除。

這正是你的合規團隊應該留意的環節。每一條引用都附帶稽核軌跡。你的律師能看到 AI 為什麼選中某個案例，而不只是選了某個案例。系統能夠顯示它已查核負面後續處理（negative treatment）——相當於數位版的 Shepardizing——並確認該法律依據仍然有效。這一套 提供「接地」（grounding）、引用與驗證功能的 層，使每一項輸出皆可追溯且具可辯護性。

對於身處 法律與專業服務產業的組織而言，此架構還能把內部政策映射到外部法規。圖譜可以將你合規手冊中的特定段落，連結到該段落所針對的法規精確條文，從而建立經得起稽核、自動化且可驗證的合規矩陣。

混合式做法——以向量搜尋找出相關文字，再以圖譜式驗證確認法律效力——讓你兼得廣度與精度。你的 解決方案架構 便能獲得 AI 的流暢表達，而不沾染其捏造傾向。

隨著法律 AI 邁向能夠規劃並執行多步驟研究任務的自主代理程式，圖譜式結構將成為不可或缺的基礎設施。代理程式需要一張法律世界的地圖，才能推理複雜的問題。向量資料庫給它們的是一堆文件；知識圖譜給它們的才是地圖。

若想深入了解技術架構， 閱讀完整技術分析 或 探索互動版本。