一面綠旗救不了你：2026 年法律 AI 幻覺的真實樣貌

當 2026 年 3 月兩名律師走出第六巡迴上訴法院、兩人合計背負 $30,000 罰款時，他們書狀中所引用的判例並非全都是虛構的。這個細節正是沒有人願意直視的，而它也正是我每天投入打造這套東西的原因。

我是從問題內部走進這個領域的。在 Veriprajna 之前，我是一名訴訟組的受僱律師，而這份工作中沒有人會去美化的部分，就是引註核對——晚上十一點，對著一份滿是紅線修改的書狀，圈出一則引註，在頁緣潦草寫下這則判例真的是這樣說的嗎？。當第一波法律 AI 浪潮到來時，我以為它會讓那樣的夜晚消失。結果它反而讓那些夜晚更危險，因為這些工具變得非常擅長讓自己生成的引註看起來像是已核對過的。法律 AI 引註核實，結果並不是一個你按下開關就能啟用的功能。它是一道必須有人親手打造出來的層，而幾乎沒有人打造過。

以下是我想在這篇文章中捍衛的主張：在 2026 年會讓一家律所遭到制裁的幻覺，並不是你目前的工具所設計來捕捉的那一種。那個著名的失誤——憑空捏造出來的判例——大致上已經解決了。真正在不斷升級的失誤，是一則真實存在、卻被錯誤引用、還掛著一面綠旗的判例。

人人都記得 Mata 案，卻幾乎沒有人學到正確的教訓

就算你不知道它的名字，你也知道這個故事。Mata v. Avianca，2023 年：一名律師向 ChatGPT 索取支持性判例，它生成了Varghese v. China Southern Airlines——具說服力的案號、貌似可信的法院、詳盡的內部引註——然而這則判例根本不存在。隨之而來的是 $5,000 罰款，以及足以毀掉一整段職業生涯的難堪。

整個行業從 Mata 案學到的教訓是「AI 會憑空捏造判例」。於是業界建立起防範捏造判例的防線。Thomson Reuters 有 KeyCite；LexisNexis 有 Shepard's，那是數十年歷史的黃金標準；Harvey 則把它的輸出建立在 LexisNexis 的資料庫之上。這些引註檢核工具在 Mata 這類問題上確實很在行：餵給它們一則查無結果的引註，它們就會告訴你這則引註查無結果。

問題在於，這個行業解決了 2023 年的問題，卻以為自己連 2026 年的問題也一併解決了。

看看 2026 年 2 月在紐奧良實際發生的事。一名律師因提交十一則捏造或錯誤陳述的引註而遭到制裁。真正該讓你睡不著的部分是：他同時用了 ChatGPT 和 Westlaw Precision AI。他用的是有資料支撐、專為此打造、背後有引註檢核工具撐腰的工具——結果仍然提交了一份招致制裁的書狀。「減少」不等於「消除」，而如今的法律責任，就住在這兩個詞之間的落差裡。

你的工具看不見的那種失誤

讓我精確地描述這種失效模式，因為精確正是重點所在。

AI 引用一則真實存在的判例，去支撐一個該判例並不支持的論點。案號有效。判例存在。KeyCite 回傳一面綠旗。Shepard's 也認同。然而分析依舊是錯的——因為 AI 把不同意見書當成多數意見的判決要旨來引用，又或者引用了一則解讀某成文法某個版本的判例，而那個版本兩年前就已被修訂。

這正是那項史丹佛研究實際測量到的結果——這項研究經同儕審查，刊登於Journal of Empirical Legal Studies（2025 年）；當時它把 Westlaw Precision 的幻覺率定在33%、把 Lexis+ AI 定在 17%。人們讀到「33% 的幻覺率」，腦中浮現的是一個工具每三次查詢就憑空捏造一次判例。那並不是這些數字的意思。它們大多是錯誤的分析，針對的是真實的引註。你的核實工具確認了判例存在。它確實存在。它只是從來沒有聲稱要檢查判例究竟說了什麼。

我把它講得具體一點，因為正是這個例子，最終讓我自己的團隊停止爭論。一名訴訟組的受僱律師請 AI 助理去研究：在德拉瓦州法之下，如何抗辯一項違反受託義務的主張。工具回傳了一份乾淨俐落的分析，引用了Stone v. Ritter（2006 年）來說明董事監督責任的標準。引註是真實的。判決要旨的摘要也準確——就 2006 年而言。工具漏掉的是：德拉瓦州最高法院 2019 年在Marchand v. Barnhill一案中的判決，大幅擴張了Caremark 的監督義務，而此後衡平法院的一系列判決意見，更在其之上建立起一套「關鍵任務」等級的合規標準。

Stone v. Ritter 至今仍掛著一面綠色的 KeyCite 標記。它從未被推翻，它依然是「有效法律」。然而，一份用於 2026 年送件的書狀若倚賴它，仍舊是錯的，因為這則判決要旨在實務上的觸及範圍，已被其後發生的一切所限縮——而這正是引註檢核工具的標記天生無法呈現出來的那種發展。

引註檢核工具告訴你一則判例還活著，卻不會告訴你這則判例是否依然如你的 AI 所說的那個意思。

這正是引註捏造，與情境幻覺之間的差別，也是整個領域中唯一最重要的區分。在截止期限壓力下審閱這份輸出的資淺律師不會察覺到它，因為這則引註看起來是對的。它確實是對的——就工具唯一真正在檢查的那個意義而言。

我們一開始也搞錯了——而且是我主張要那樣做的

我想誠實地談談我是怎麼學到這一點的，因為我並不是靠推理想通的。我是先把錯的東西做了出來、上了線。

當我的團隊打造我們第一版核實檢查器時，我曾主張——就在我們自己的設計評審會上，我還帶著幾分自信、大聲地說——只要判例是真的，我們就沒問題。於是我們的第一條流程，本質上只是把引註檢核工具的邏輯重跑一遍。它確認每一則被引用的判例都存在，並抓出它的處理狀態。又快又乾淨，在一次試點中，它讓一份書狀一路暢通地通過，儀表板亮起一片綠燈。

接著，其中一名試點使用者——一位真正的出庭律師——對我們工具所核可的某一段提出了質疑。被引用的判例是真的。我們的檢查器很滿意。但書狀歸給這則判例的判決要旨，出自意見書中並不具有拘束力的那個部分。我們的系統對此毫無判斷，因為我把它設計成對此毫無判斷。我等於是重建了一個 Shepard's，卻把它叫做核實。

那次失敗換來了我們接下來所做的一切。把引註檢核工具跑得更快並不是核實——那只是換上更漂亮介面的同一個盲點。這次轉向是被逼出來的：我們必須打造一道層，讓它的判讀能越過引註檢核工具的狀態，深入到後續的引用文獻中，去追問後來的判例是否對某項判決要旨作了區分或限縮，並標記出那些核心論點已被實質修改、但判例本身仍屬有效法律的意見書。這才是真正的工程問題。引註檢核工具永遠不可能解決它，無論我們把它跑得多快。

為什麼買下 Harvey 補不上這道缺口？

人們假設平台廠商會解決這個問題，我也理解為什麼——這些平台確實非凡，而資金的流向也說明了大家都認同。Harvey 在 2026 年 3 月達到 110 億美元的估值，年度經常性收入約 1.9 億美元，客製化代理的數量超過 25,000 個，並在 AmLaw 100 律所中有半數採用。Thomson Reuters 以 6.5 億美元收購了 Casetext，並把它併入 CoCounsel 的代理式工作流程。LexisNexis 則在 2026 年 2 月以 Lexis+ Protege 取代了 Lexis+ AI——四個專門代理、超過 300 套預建工作流程。

這些平台不是問題所在。我明白地告訴各家律所：留著你的平台。缺口在於，這些工具沒有一個內建獨立的核實層，而其中比較好的那些會坦白承認：輸出的核實，是使用者自己的責任。LexisNexis 在史丹佛的數字出爐之後，悄悄收回了它「100% 無幻覺」的措辭，這是有原因的。

而且，這些平台還把核實問題變得更困難，而不是更簡單——因為它們走向了代理式。當一個長時程代理執行多步驟的研究與草擬工作流程時，輸出的並不是單獨一段帶引註的文字——而是一整條由它們串成的鏈，每一步都餵給下一步，每一步都是情境錯誤可能進入並擴散的地方。當一名資淺律師在晚上十一點用 Slack 問我，代理的輸出能不能安心提交，誠實的答案是：不行，除非有某種東西把每一則引註都對照它所引用的判例究竟怎麼判來逐一讀過，並記錄下這是由哪一個代理步驟產出的。那份稽核軌跡不是可有可無的加分項，而是法官的常設命令愈來愈明確要求的東西。而這並不是我在杞人憂天的邊緣場景——企業界對法律 AI 的採用率在一年之內就從 23% 翻倍到 52%，Gartner 更預期到 2026 年，將有 40% 的企業應用內嵌特定任務的代理；引註鏈的失效模式，會隨著它們每一個而一起放大。

那麼，究竟是什麼，能抓出一則被錯誤引用的真實判例？

不是換一個 AI——而是換一種任務。核實層坐落在 AI 的輸出與人類的簽名之間，它做的，是引註檢核工具不會做的事：它不會止步於一則判例是否仍屬有效法律，而是深入到後續的引用文獻裡，追問後來的意見書是否對這則判決要旨作了區分或限縮，並標記出那些核心論點已被實質修改、即使判例摘要讀起來依然乾淨的判例。處理狀態是這場探究的起點，而不是終點。

在底層，檢索的重要性超乎人們的想像。向量搜尋——大多數檢索增強系統的預設做法——找到的是與某個查詢在文字上相似的判例。法律權威並不是按文字相似度來組織的；它是按判例之間如何相互引用、區分與推翻來組織的。那是一張圖，而不是一份清單。建立在法律知識圖譜之上、而非扁平向量索引之上的檢索，已被證明在法律工作的檢索相關性上，比向量搜尋高出約 14%——這正是「找出真正具拘束力的那則判例」與「找出只是聽起來像具拘束力的那則判例」之間的差別。這張圖，正是你藉以找到那則Marchand的方法——它悄悄重塑了那則Stone，而這則判例眾人至今仍在引用。

這正是我們在 Veriprajna 打造的那道層——引註核實流程、知識圖譜基礎設施，以及治理系統——正是這些，讓 AI 的輸出能夠安心送件——而我們打造它的方式，是圍繞著一家律所已經在運行的任何平台——無論是 Harvey、Lexis Protege 還是開源模型——而不是要求任何人拆掉一個運作良好的工具。

沒有人會放進簡報的那一塊：治理

在技術問題底下，還藏著第二個問題，而正是它，把一次制裁變成一樁業務過失索賠。

大約有68% 的法律專業人士承認，自己至少使用過一次未經核准的 AI 工具，而每五家律所中，正式訂有 AI 政策的還不到一家——即便如今將近十分之七的律師都會用生成式 AI 來工作，而這個比例在一年之內就翻了一倍。所以在大多數律所裡，都有律師把客戶事務餵進沒有人核准過的工具，既不記錄用了哪個工具，也沒有核實步驟，更沒有稽核軌跡。業務過失保險公司已經注意到了。它們正把 AI 的使用寫進保單的考量之中，而在缺乏律師監督的情況下擅自使用，正是那種一旦索賠發生就會讓保障失效的行為。

監管的底線也移動了，而大多數律所還沒達標。美國律師協會於 2024 年 7 月發布的第 512 號正式意見，列出了生成式 AI 的六項倫理義務——其中包括能力、保密、對法庭的坦誠，以及監督——而它帶有兩道人們常常忽略的鋒刃。你不能為了學習一項你將經常使用的工具所花的時間，向客戶收費。而且已有一家聯邦法院裁定，AI 生成的工作成果不受律師—當事人保密特權的保護。與此同時，已有超過 300 名法官各自發布了自己的 AI 常設命令，每一份都帶有各自的揭露或認證要求；佛羅里達州更在 2026 年 2 月新增了一項揭露規定，而我所遇過的律所，沒有一家有系統化的方法去追蹤哪一位法官要求什麼。而且這道底線仍在升高：歐盟《AI 法案》將於 2026 年 8 月生效，科羅拉多州的《AI 法案》則在 6 月，而歐盟的《產品責任指令》如今將 AI 視為適用嚴格責任的產品——這使風險敞口從單獨一名遭制裁的受僱律師，轉移到了律所的資產負債表上。

影子 AI 不是紀律問題，而是基礎設施的缺口——人們會繞開那些不符合自己工作方式的工具。

一套名副其實的治理系統，不會只是把政策寫進一份沒人會讀的 PDF 裡。它會在工作流程中強制執行政策，記錄每一則由 AI 協助產生的引註，生成特定司法管轄區所要求的揭露用語，並產出那份能讓督導合夥人誠實地證明「每一則引註都經過核對」的稽核軌跡。

律所總會問我的那些問題

開場白通常是這句話的某種版本：如果我要用手工去核實每一則引註，那我不就把 AI 帶給我的效率全都丟掉了嗎？沒錯——而這正是把核實內建進流程、而不是丟給一名午夜疲憊的受僱律師去做的全部意義所在。對 AI 輸出進行人工引註核對是無法規模化的，而跳過它就是業務過失風險。這道層之所以存在，正是為了讓速度能在安全之下存活下來。

接著是懷疑論者的版本：這是不是小題大作——情境幻覺到底多常真的咬人？Charlotin 幻覺資料庫已經累積超過1,222 起有記錄的案例——這些都是美國法院文件中 AI 幻覺的案例，統計截至 2026 年初，而 2025 年底時還只是 729 起出頭。這條曲線正朝著錯誤的方向走，制裁金額也已從 $500 的輕拍手背，攀升到五位數罰款成為家常便飯，而這個數字還只涵蓋了那些被抓到並公開的案例。我一直在瀏覽器分頁裡開著那個資料庫。就在你沒盯著看的時候，數字又往上跳了一格。

而來自經營合夥人的問題，則幾乎總是：難道四大會計師事務所，或某家大型系統整合商，不能把這一切全包了嗎？他們可以幫你把平台設定好，並且會為此收取 50 萬到 200 萬美元。但設定 Harvey 是在部署一個平台——那並不是在打造平台刻意留給你去做的那道核實層。這是兩個不同的問題，而其中只有一個，才是會害你遭到制裁的那一個。

如果是晚上十一點的那位受僱律師，我會對他說的話

法律 AI 市場正從 2026 年的約 56 億美元，朝著 2030 年的 125 億美元邁進，而法律研究是其中最大的一塊。這樣的成長是真實的，這些工具也當之無愧。但整個行業都在為輸出而最佳化——更快的研究、更多的代理、更長的自主工作流程——卻把核實當成別人的責任，而這在實務上就意味著：沒有人負責。

那則會在 2026 年害你遭制裁的判例，會通過你目前工具所跑的每一項檢查。它會真實存在。它會掛著一面綠旗。它會被引用來支撐某個它其實並沒有那樣說的論點，而在截止期限壓力下、於午夜讀著它的那個版本的你，不會察覺到這一點，因為螢幕上的一切都在說：沒問題。

這不是不信任法律 AI 的理由，反而是打造那道被平台漏掉的層的理由——核實與治理層——它讀的是這則判例究竟怎麼判，而不只是它是否還有呼吸。裝上這道層的律所，會保住那份速度。而沒裝的律所，則會一次一份限期說明理由命令地，不斷發現：綠旗從來就不曾向他們承諾過什麼。