年度報告裡的十一個單字，如今可能構成證券詐欺
我第一次真正理解 AI 洗白，是盯著一家公司年度報告裡的一個段落。十一個單字，大概是「我們由 AI 驅動的平台即時分析風險」。一句乾淨、自信的話。那種行銷團隊五分鐘就能寫出、執行長眼睛都不眨一下就核准的句子。
然後我問工程師，是哪個模型產出那份分析、它跑在什麼資料上、在決策流程中它究竟在哪裡啟動。房間安靜了下來。不是因為他們在隱瞞什麼，而是因為從來沒有人把那句話和一個系統連結起來。那個主張存在於申報文件裡，系統存在於生產環境中。而兩者之間什麼都沒有——沒有文件、沒有對應圖、沒有證據——把兩者串起來。
那道缺口就是整個故事。 AI 洗白不是一個關於糟糕 AI 的故事。它是一個關於距離的故事——你說你的 AI 會做什麼，和你的 AI 實際做什麼之間的距離——以及你能否在被要求時彌合那道距離。 美國證券交易委員會（SEC）、聯邦貿易委員會（FTC）與各州檢察長都已經看清，這道缺口正是案件所在之處。我建立了 Veriprajna 的 AI 驗證與反 AI 洗白業務，因為我不斷看到企業直到收到審查員的信函之後，才發現這道缺口。
「你的 AI 能不能運作」不再是問題的那一天
我是從證券執法工作切入這個領域的，那是不光鮮的一面——當文件調閱函上門時，把企業要交給審查員的卷宗整理起來。所以我讀每一件 AI 洗白的執法案件，都像讀一件老詐欺案：他們說了什麼、他們做了什麼、以及兩者之間的落差是什麼。
這個模式殘酷地一致。Delphia 與 Global Predictions，是 2024 年 3 月最早的兩起 AI 洗白和解案，合計支付了 400,000 美元，不是因為他們的 AI 很糟，而是因為 Delphia 聲稱有機器學習驅動的投資，卻從未真正整合過。他們吹噓餵給模型的那些資料？從來沒有到達模型。
接著是 Presto Automation，2025 年 1 月——第一起針對上市公司的 AI 洗白案件。Presto 的得來速語音 AI 被行銷成能取代人工點餐。SEC 發現超過 70% 的訂單仍然需要人工，在某些門市甚至是 100%。這個系統是真的，只是它並沒有做行銷所說的那件事。
然後是 Nate。2025 年 4 月，SEC 與司法部（DOJ）對 Nate Inc. 的創辦人提起平行訴訟，這位創辦人以一款 AI 驅動的購物應用程式為承諾，募得了超過 4,200 萬美元。用 SEC 的話說，實際的自動化率基本上是零——菲律賓有數百名約聘人員在手動完成本應由 AI 處理的購買。DOJ 的指控最高可判 20 年。當有人告訴我 AI 洗白只是行銷揭露的一個註腳時，這就是我會想到的案子。有一份掛著創辦人名字的新聞稿，底下卻是一項刑事詐欺指控。
這些案件中的每一件，都圍繞著同一道落差：申報文件承諾了什麼，以及生產環境中的系統實際做了什麼。
2025 年 2 月，SEC 把它制度化了：它在執法部門內成立了專責的網路安全與新興技術小組（Cybersecurity and Emerging Technologies Unit）。而它 2026 年的檢查重點說得很明白——審查員將「審查註冊人關於其 AI 能力之陳述的準確性」。那句話就是一封等著被寄出的文件調閱函。
三個機構，同一套打法
當我開始梳理這件事時，讓我意外的是，各機構之間的執法理論差異竟然這麼小。他們全都打同一套：把主張和現實對齊，然後索取證據。
FTC 是透過《FTC 法》第 5 條切入的——不公平或欺騙性行為——在它命名為「Operation AI Comply」、於 2024 年 9 月啟動的一波行動之下。DoNotPay，自稱「全球第一位機器人律師」，就它無法支撐的主張達成了和解。Workado 宣傳一款 AI 偵測工具準確率達 98%；FTC 自己的測試顯示真實世界準確率約為 53%。差不多是擲硬幣，卻被當成近乎確定來販售。任何法務長都該害怕的細節，是 FTC 的工具理論：責任會沿著鏈條向下傳遞，從基礎模型的開發者，到部署它的企業，再到終端使用者。如果你在自己的資料裡重複某供應商的準確率數字，FTC 就把它當成你的主張——而不是供應商的。
這一點我怎麼強調都不為過，因為這正是我看到聰明公司一步步走進去的陷阱。你授權了第三方模型，把供應商的基準測試數字抄進你的 10-K 或投資人簡報，還假設那個數字歸供應商所有。並不是。它一出現在你的申報文件裡，就是你的陳述，而「我們的供應商是這麼告訴我們的」並不是獨立的佐證。
各州也拿出自己的工具加碼。紐約的 AI 陪伴（AI-companion）法律，每次違規每天最高可罰 15,000 美元。科羅拉多的《AI 法》於 2026 年 6 月 30 日生效，要求對高風險系統進行影響評估、消費者通知與合理注意義務，每次違規罰 20,000 美元。德州的《負責任 AI 治理法》自 2026 年 1 月 1 日起施行，賦予檢察長基於單一投訴即可發動廣泛的民事調查傳喚權——一封消費者來信，文件調閱要求就擺在你桌上了。而當聯邦政府放話要優先排除各州的 AI 法律時，一個由 36 位州檢察長組成的跨黨派聯盟站出來反對。無論法院最終如何裁定，執法者都不會等。
連民間律師界也加入了。史丹佛證券集體訴訟資料中心（Stanford Securities Class Action Clearinghouse）統計，截至 2025 年上半年共有 53 件與 AI 相關的證券集體訴訟，和解金額中位數為 1,150 萬美元。其中一件，Tucker 訴 Apple 案，於 2025 年 6 月提起，指控 Apple 在 WWDC 上關於 Apple Intelligence 的承諾，促使投資人為一些起訴狀指稱根本沒有可運作原型的功能而買進。一張主題演講投影片成了第一號證物。
為什麼「我們有一套 AI 治理政策」救不了你？
接下來這部分，是我早期搞錯的地方，而它讓我花了幾個月建構了錯的東西。
當我最初為此做設計時，我以為答案是治理——這個類別已經被 Credo AI、IBM 的 watsonx.governance、Holistic AI、OneTrust 與 Fiddler 等平台服務得很好。我們朝著一種治理姿態去建構：政策、一份 AI 清單、儀表板、監督工作流程。我把一個早期版本展示給一家中型公司的合規長看，還挺自我感覺良好的。她讓我講完，然後問了唯一重要的問題：當審查員要求證明某一項特定主張為真的證據時，她該按哪一個按鈕？
並沒有那個按鈕。也沒有那份文件。我所建構的東西告訴她，她應該記錄她的系統。它並沒有包含那些文件。我建構出的東西指向那道缺口，而不是填補它。就是那次失敗，為我重新定義了整家公司。
治理告訴你，你應該記錄你的 AI。佐證就是那份文件本身——經過測試、標註日期，並為一位素未接觸、直接冷讀它的審查員準備妥當。
這些治理平台在它們擅長的事情上做得很好。它們監控、盤點、執行政策。但在它們底下有一層幾乎沒有人建構：SEC 審查員或州檢察長要求看到的那條實際證據鏈。那就是我圍繞著重建這項業務的缺口。
審查員實際上會要求你提出什麼？
當我坐下來定義我們要交付什麼時，我不是從產品規格開始的。我是從那份「請提出」清單開始——執法函裡實際包含的文件調閱要求——然後往回推。一份站得住腳的佐證包，也就是我們現在建構的東西，有幾個承重的部分。
它始於一份主張—系統對應圖：每一個公開的 AI 主張——來自 10-K、網站、新聞稿、募資簡報——都連結到交付它的特定模型、資料管線與決策點。當一份申報文件寫著「AI 驅動的風險分析」，這張圖會指名是哪個模型、哪些資料、哪個決策。這正是本可以救 Delphia 的產物，因為它逼你在監管機構開口之前，先問「這個主張真的接上一個系統了嗎？」
接著是一份技術證據彙編——架構、訓練方法，以及針對你所聲稱的確切指標所量測的效能基準。是經過測試的，不是理論上的。如果你的資料裡寫了一個數字，這份彙編會展示在真實世界方法下產生該數字的測試，而不是精挑細選的展示。Workado 就是那個警世故事：文宣上 98%，測試下 53%。
接著是營運驗證，這正是 Presto 栽跟頭的地方。系統是存在的。缺的是能證明 AI 確實驅動了行銷所描述的那些決策的證據，而不是與真正在做事的人類並行運作。證明營運的真實情況，比證明一個模型存在要難得多，而這正是審查員如今會探究的。
在這一切之下是一份 AIBOM——AI 物料清單（AI Bill of Materials），一份機器可讀的清單，列出每一個組件：訓練資料的來源脈絡、模型版本、第三方依賴項、基礎設施。要好好做這件事的標準終於出現了；SPDX 3.0 於 2024 年 10 月新增了 AI 剖繪（profile），CycloneDX 1.6 支援機器學習物料清單，還有 OWASP AIBOM 專案在推動工具往前走。老實說，如今大多數公司仍然用一張試算表追蹤這些，而它在模型一被重新訓練的瞬間就過期了。我打開過帶著版本號、卻已落後兩個重新訓練週期的模型卡——那份文件描述的是一個已經不存在的系統。一份會隨著管線更新的 AIBOM，就是快照與活紀錄之間的差別。
最後是持續監測證據——偏移偵測結果、自動化測試日誌，以及主張在上線後仍然為真的持續證明。一份佐證包不是你歸檔後就忘掉的一次性彙編。它是一份持續呼吸的紀錄，因為你的模型不斷在變，而你的申報文件不會。
沒有人放進資產負債表的那筆幻覺帳單
這件事還有第二條戰線，也正是把我從證券申報一路拉進內容本身的那一條。
主張不只是你在揭露文件裡對你的 AI 所說的話。它也是你的 AI 產生、而你掛上自己名字的每一份輸出——那份報告、那份分析、那份面向客戶的摘要。而那些輸出會產生幻覺。史丹佛的 RegLab 發現，大型語言模型在特定法律查詢上產生幻覺的比例介於 69% 到 88% 之間。如今已有超過 600 起有文件記錄的 AI 幻覺出現在法院文件中的案例，牽涉超過 100 名律師，法官祭出的制裁金超過 10,000 美元。
企業付出的成本高得驚人，卻又詭異地隱形。一份分析把 2024 年全球因 AI 幻覺造成的損失估為 674 億美元，各家公司光是在緩解上，每名員工每年就花費約 14,200 美元——那是人們拿去查核自己工具所燒掉的時間。當將近一半的企業 AI 使用者曾根據幻覺內容做出重大決策時，「是 AI 產生的」並不是抗辯，而是自認。
這就是為什麼內容驗證和主張佐證屬於同一項業務：兩者都關乎來源證明（provenance）。歐盟《AI 法》第 50 條於 2026 年 8 月生效，要求 AI 生成的內容必須是機器可讀且可被辨識為 AI 生成，並有一份內容標示的實務守則隨之而來。C2PA 來源證明標準——三星與 Google 的旗艦手機已經原生用它簽署——正在成為證明一段內容從何而來的管路。如果你的 AI 產出了一份報告，後來卻查出裡面含有捏造內容，唯一擋在你和責任之間的，就是一條回溯到來源的稽核軌跡。大多數公司並沒有這條軌跡。
來源證明也會反過來發揮作用。2023 年有 65% 的企業回報曾發生深偽（deepfake）事件，而偵測市場正從 55 億美元一路衝向 2026 年預估的 157 億美元。證明你自己的內容是真的，正變得和證明別人的內容是假的一樣迫切——而那個為你的 AI 輸出做認證的同一個 C2PA 簽章，也正是讓你能否認一件披著你品牌的偽造品的那個簽章。
我常被問到的問題，以及我希望有人問我的問題
人們總是問我，ISO 42001 認證是不是能搞定這一切。它有幫助——它是一個真實、可稽核的標準，第三方認證在董事會和採購那裡有分量。但它第一年的花費在 90,000 到 200,000 多美元之間，要花上大半年才能建立起來，而且它認證的是你有一套管理系統，而不是任何特定的行銷主張為真。認證和佐證是不同的工作。你可以通過認證，卻仍然無法回答審查員關於你 10-K 裡某一句話的提問。
另一個問題，通常來自創辦人，是這是不是只是大公司的問題。Nate 募了 4,200 萬美元，創辦人正面臨刑事指控。Delphia 並不是家喻戶曉的名字。德州檢察長可以憑一件投訴就展開調查。執法風險的大小，跟隨的是你所提出主張的大小，而不是你公司的大小。
問題不再是你的 AI 能不能運作，而是你能不能證明它做到了你申報文件所說的事。
如果我能在每一位讀到這篇文章的法務長與法遵長心裡種下一個想法，那就是：行銷與工程現實之間的落差，如今是一項貼著金額標籤的法律責任——而唯一能彌合它的，是你在任何人開口之前就先建好的證據。這就是我們在 Veriprajna 所建構之物的整個前提：不是又一個叫你去記錄 AI 的儀表板，而是佐證包本身——主張—系統對應圖、證據彙編、AIBOM、來源證明軌跡——在文件調閱函落地之前就已組裝完成並經過測試。
我一再回到那份年度報告。十一個單字，歸檔後就被遺忘，背後什麼都沒有——沒有對應圖、沒有彙編、沒有把那句話連到系統的日誌。它底下的模型大概運作得好好的；大多數都是如此。缺的是那唯一一件 SEC 審查員、FTC 調查員與原告律師都用同一句平淡的話要求的東西：證明給我看。寫下你能證明的主張，並在任何人開口之前就把證明建好。
