法院裁定你的聊天機器人是一項「產品」。這個詞改寫了 AI 產品責任。
2026 年 1 月，佛羅里達州一家聯邦法院寫下了一個詞，我認為多數企業法務團隊至今在評估風險時，仍當作它從未發生過。那個詞是產品。
那起案件是Garcia v. Character.AI。一名十四歲少年在與一個聊天機器人對話數月後自殺身亡，家屬因此提起訴訟。Character.AI 與 Google 搬出了保護網路公司長達一個世代的兩面盾牌——第 230 條豁免與美國憲法第一修正案——並主張聊天機器人的話語是言論，或至多是他們僅僅託管的第三方內容。法院並不買帳，裁定該聊天機器人是「就原告基於 Character.AI 應用程式缺陷所提出的主張而言，屬於一項產品，而非該應用程式內的思想或表達」。這些公司與佛羅里達州、科羅拉多州、德州及紐約州的家屬達成和解。而該產品的認定則留存在案。
這項裁定發布的那一週我便讀了，而我要坦白說出我的第一反應：我以為這是個邊緣案例。一個消費者聊天機器人、一組悲劇但不尋常的事實情境、一家法院勉強套用類比。那種直覺是錯的，而我花了幾個月，並與一位總法律顧問進行了一場令人不安的對話，才明白它有多離譜。這是一個關於什麼改變了、我的團隊最初如何以錯誤方式建構、以及我為何如今相信AI 產品責任是多數企業資產負債表上最被低估的單一風險的故事。
言論沒有缺陷。產品有。
以下說明為何那一個詞如此重要。如果你的 AI 產出是言論，那麼法律問題關乎表達、意圖與豁免——而第 230 條已花了二十五年，讓這些問題對平台而言不復存在。如果你的 AI 產出是一項產品，你就踏入了一套截然不同的法律體系。產品沒有意見。它們有的是缺陷。而缺陷產品的製造商，無論其是否有疏失，都須為該產品所造成的傷害負責。
最後那一句話就是關鍵所在。在過失責任標準下——也就是法務團隊直到今年為止所身處的世界——原告必須證明你未能盡到合理的注意義務。而在嚴格產品責任之下，他們不必如此。他們只需證明產品有缺陷，且該缺陷造成了傷害。你的盡責、你的善意、你的「我們遵循了最佳實務」——沒有一項能構成抗辯。是你製造了那個東西。那個東西有缺陷。你賠。
過失責任問的是你是否謹慎。嚴格責任問的是你的產品是否有缺陷。多數企業 AI 是為回答第一個問題而打造的，而法院如今問的是第二個。
同一季的另外兩起案件，讓人再也無法把這個模式當作偶發個案而不予理會。在Nippon Life v. OpenAI一案中——於 2026 年 3 月向伊利諾州北區聯邦法院提起——一家保險公司求償 1,030 萬美元，起因是 ChatGPT 據稱為一名自行訴訟的當事人草擬了四十四份法院文件——當中充斥著捏造的判例引用——並慫恿她解僱律師、提起進一步訴訟。這家保險公司花了大約 30 萬美元，去應對由一台機器所撰寫的文件。請注意在此受害的是誰：不是 AI 的使用者，而是一個第三方，位於其產出的下游。而在Bouck v. Meta一案——同樣是 2026 年 3 月——加州一家法院拒絕就 AI 生成的廣告給予第 230 條豁免，認為一旦 Meta 的系統創造了廣告內容，且 Meta 已實際知悉其為詐欺，該平台便不能主張自己只是在託管他人的話語。
到 2026 年 2 月，已有超過 2,200 件進行中的案件，主張 AI 與最大化互動的演算法造成了真實傷害。這不是前沿地帶。這是一份案件清單。
立法機關迎頭趕上的那一季
法院一案接一案地推進。立法機關則是成批推進，而在 2025 與 2026 年，他們推進的速度比多數打造 AI 的人所察覺到的還要快。
我會最先向任何企業總法律顧問指出的，是AI LEAD Act，這項由 Durbin 與 Hawley 於 2025 年 9 月提出的兩黨法案。它將設立一項聯邦產品責任訴訟事由，專門針對 AI 系統，並採嚴格責任——即便開發者已盡「一切可能的注意」，條文仍可觸及他們。它涵蓋設計缺陷與未盡警告義務的理論，設有四年的時效期間，而且——這正是應該讓某一場董事會對話永遠終結的部分——它禁止透過服務條款來拋棄該責任。你的供應商最愛的那句「點擊接受即表示你同意本產品按現狀提供」的條款？這項法案的寫法就是要讓它對這類傷害不具強制執行力。
加州並沒有等待華府。AB 316，自 2026 年 1 月起生效，堵死了我開始稱之為「孤兒抗辯」的說法——也就是「AI 是自己做的，所以我們不必負責」這種論點。你再也不能拿自家系統的自主性當作卸責的理由。而在大西洋的另一端，《歐盟產品責任指令 2024/2853》明確地將軟體——包括 AI 系統與大型語言模型——歸類為適用嚴格責任的產品。成員國必須在2026 年 12 月 9 日之前完成轉置。歐盟《AI 法案》的高風險要求將於2026 年 8 月 2 日全面適用，罰款最高達 1,500 萬歐元或全球營業額的 3%。
我刻意不把整張地圖一一唸出——科羅拉多州的 SB 205，附帶每次違規 2 萬美元的罰則與 2026 年 6 月的執法起始日；紐約州提案中的 RAISE 法案，對重複違規的罰款最高達 3,000 萬美元。重點不在這份清單。重點在於方向，而這個方向是一致的：在其他方面毫無共識的各個司法管轄區之間，對 AI 傷害的標準正朝嚴格責任收斂，而契約上的逃生出口正被焊死。
你的保險公司悄悄讀了同樣的判決
律師辯論。核保人定價。而保險業對此定價的速度與狠勁，超乎了幾乎我談過的任何一個法務團隊的預料。
截至 2026 年 1 月，將 AI 索賠完全排除在外的標準條文文字如今已經存在，預先草擬好、隨時可以釘進你的續保保單。保險服務局（Insurance Services Office）——多數美國商業保單所依據的表格出自該機構——發布了一項背書條款CG 40 47，將生成式 AI 造成的人身傷害、財產損失，以及個人與廣告傷害，從標準的商業一般責任保單中剔除。還有一個較輕微的姊妹條款 CG 40 48，僅排除廣告傷害的承保。而像 W.R. Berkley 這樣的保險公司走得更遠，在董事及高階主管責任險、專業疏失責任險與受託人責任險中寫入了「絕對」AI 排除條款——這類文字會使任何「基於、源於或可歸因於」AI 之使用、部署或開發的索賠喪失承保。
我如今已坐過夠多場續保會談，足以告訴你核保人的問題變成了什麼。它以前是：你們有使用 AI 嗎？它現在是：拿出你們部署的每一套 AI 系統、有文件記載的治理證據給我們看。拿出對抗式紅隊演練的結果給我們看。拿出模型的來源譜系給我們看。拿出證據，證明人為監督的控管確實在運作，而不只是寫在某人上一季更新過的一份政策 PDF 裡。
核保人不再問你是否使用 AI。現在他們要你證明你的系統站得住腳——而一份政策文件並不是證據。
陷阱裡還有陷阱。當商業一般責任（CGL）排除條款把 AI 風險敞口推出一般責任之外時，那個風險並不會蒸發——它會遷移到本就從未設計來吸收產品責任索賠的網路險與科技專業疏失（E&O）保單上。於是一家公司可能翻閱自己的保單組合，在某處看到「AI 已承保」，卻對於是哪一份保單，以及什麼才是它實際賠付的這兩點，犯下災難性的錯誤。走進 2026 年時手握真正文件的公司發現，證據已成為可保性的通貨。而沒有文件的公司正在發現，他們的保險公司早已擬好了排除背書條款。
我們最先打造的那個版本——以及它為何失敗
這是我搞錯的部分，而我寧願告訴你，也不想讓你以為我們是乾淨俐落地得出答案的。
當我的團隊最初就此與法務和工程主管合作時，我們的直覺是最顯而易見的那個：問題在於文件記錄，所以就建一層治理。盤點模型、為風險評分、產出可供稽核的報告、做出稽核人員想看的儀表板。這是個合理的直覺——這正是成熟的治理平台在做的事，而且他們做得很好。Credo AI 已募得超過 4,500 萬美元，並於 2026 年入選《Fast Company》最具創新力名單，提供對應歐盟《AI 法案》、NIST AI 風險管理框架與 ISO 42001 的預建政策包。IBM 的 watsonx.governance 在整個企業技術堆疊中執行全生命週期治理。Holistic AI 在演算法偏誤稽核方面很強；OneTrust 則帶來隱私合規的底蘊。實際上，我們當時是在打造那類東西的一個較單薄的版本。
後來，一位我敬重的總法律顧問看了我們做出的東西，問了一個我答不出來的問題。她大致上是這麼說的：如果這套系統因為某個有缺陷的產出而被告，我會提出『合理替代設計』抗辯——我會主張並不存在製造商本應採用的更安全設計。那麼，在這一切當中，能顯示部署前做了哪些架構選擇、以及為何如此選擇的記錄，究竟在哪裡？
我回頭去看那些儀表板。它們能以精美的細節告訴她，這套系統此刻正在做什麼。它們無法告訴她，為何它被打造成這個樣子、團隊考慮過並否決了哪些替代方案，或工程師在出貨那一刻對故障模式了解多少。治理層監控的是當下。她所需要的抗辯活在過去——存在於那些沒有人記錄為證據的決策裡，因為在當時，沒有人知道他們正在製造證據。
那次失敗，換來了我們接下來所做的一切。治理平台負責監控與報告。它們不做架構設計。你無法把一套抗辯強行栓在一個從未設計來被辯護的系統上，就如同你無法為一場從未進行過的撞擊測試拍照。
「設計即可辯護」究竟是什麼意思？
於是我們拋棄了儀表板優先的做法，把它整個倒過來。問題不再是我們要如何為這套系統做文件記錄？而變成了我們要如何設計一套系統，讓它的歷史本身就是文件記錄？這樣的反轉，正是Veriprajna 的 AI 產品責任防禦實務所圍繞建立的核心——可辯護的架構與可供訴訟使用的證據，而不是事後又栓上系統的另一層監控。
在實務上，這意味著把架構決策記錄當成頭等重要的產物——在部署前加上時間戳，記下團隊嘗試過什麼、否決了什麼，以及背後的理由，好讓『合理替代設計』抗辯擁有早於訴訟的原始素材，而不是等到訴狀送達之後才逆向拼湊。這意味著建立能挺過訴訟證據開示的稽核軌跡：不是每三十天就滾動覆蓋的應用程式日誌，而是一條被保存下來的鏈——涵蓋提示詞、產出、模型版本與人工審查動作——因為針對 AI 系統的訴訟保全備忘錄，必須把這些全部列為你將被要求提交的東西。多數企業法務團隊還沒更新他們的保全範本，把其中任何一項列進去——這意味著保全義務其實已經附著在公司正透過滾動日誌輪替悄悄銷毀的資料上，遠早於任何訴狀送達之前。而這也意味著把人為監督的控管設計成系統中承重的部分，真正對產出設下關卡——因為核保人，乃至最終原告方的專家，都會測試你的「人在迴路中」究竟是否擁有阻止不良產出的權限與介面，還是只是組織圖上的一個勾選框。
這裡有一個微妙之處，把能挺過這一關的公司與挺不過的公司區分開來。特權保護救不了你。2026 年 2 月，Rakoff 法官裁定，某公司的消費者 AI 相關文件並不受律師—當事人特權保護，因為當時員工是在未經法律顧問指示的情況下使用該工具的。你無法事後把你的 AI 決策裹進一層特權的毯子裡。這些證據將可被調取開示，而這正是為什麼它必須是好的證據，從一開始就刻意打造出來的。
你無法把一套抗辯栓在一個從未設計來被辯護的系統上。架構就是不在場證明——而這個不在場證明必須在事件發生之前就存在，而非之後。
這也正是 agentic AI 浪潮讓一切變得更加棘手之處。當一套系統自主行動時——在不需要每次都由人按下按鈕的情況下採取行動——舊有的契約免責聲明便被拉扯到超過斷裂點。新加坡的 IMDA 於 2026 年 1 月發布了一份《Agentic AI 治理框架》草案，而像 Clifford Chance 這樣的事務所已指出標準契約中的「責任缺口」——那些契約悄悄假設行為者永遠是人類。加州的 AB 316 已經說了，你不能怪罪那個代理程式。因此，你為效率而打造的自主性，在法律上是你如今所擁有的額外受攻擊面。那是必須被設計進去的，而不是靠免責聲明推開的。
為什麼那些顯而易見的供應商填補不了這個缺口？
有人問我一個合理的問題：既然治理平台、律師事務所與大型系統整合商都已經存在，那還有什麼東西剩下來需要打造？
因為他們每一方都只做這份工作的一部分，而沒有一方在做這個部分。那些治理平台——Credo AI、IBM、Holistic AI、OneTrust——治理的是已經存在的系統；它們不會把一個外殼重構成可辯護的架構，也不會產出駁回動議所倚賴的設計決策證據。律師事務所給你法律理論——他們會確切告訴你『合理替代設計』抗辯需要什麼——但他們不寫程式碼，也不做那些創造證據的架構選擇。而大型整合商實作的是他們合作夥伴的平台，這使得他們在結構上偏向 Salesforce 或 Microsoft Copilot，而不是你特定的風險敞口所需要的那套供應商中立、可辯護的客製系統。
這個缺口，是外部法律顧問所建議的內容，與工程團隊實際上能夠實作的內容之間的那道接縫。我曾即時目睹那道接縫崩解——一條 Slack 討論串裡，律師不斷寫著「我們需要可辯護的架構」，而工程師不斷回覆「告訴我要改哪個檔案」。必須有人站在那個缺口上，這個人既能讀懂判決又能讀懂程式碼儲存庫。那正是我的團隊在做的事——圍繞架構與證據來建構，而不是圍繞儀表板與報告，好讓律師與工程師終於指向同一件產物。
值得你細細琢磨的那個問題
我要用一件我一再回想的事作結。2025 至 2026 年間，一次資料外洩的平均成本約為 444 萬美元，而業界圍繞這個數字建立了一整套專門學問——預算、保險產品、董事會報告。AI 產品責任則是一種沒有上限的嚴格責任風險敞口，其契約上的逃生出口正被立法封死，而保險公司正積極地把它從過去承保它的保單中剔除。然而多數企業卻只用一本政策活頁夾和一份供應商的「按現狀」條款在管理它。
政策活頁夾是你交給監管機關的東西。它不是能在庭外證言中挺得住的東西。想像一下如今正朝許多公司逼近的那一刻：原告方的專家坐在你的工程師對面，問你在出貨之前考慮過什麼更安全的設計。答案要嘛是一份加了時間戳的記錄，要嘛是一片沉默——而在嚴格責任之下，那片沉默就是那個缺陷。當你的 AI 的話語變成了一項產品，你的架構就變成了你的抗辯，而一套你在事件發生前沒有設計好的抗辯，就是一套你並不擁有的抗辯。如果你今天打不開那份記錄，你面對的就不是文件記錄的問題。你面對的是市場上一項毫無防禦的產品。這件事值得在 12 月 9 日之前就修好，而不是等到訴狀送達之後——而填補那個缺口，正是我們所做的工作。
