你公司買的那套 AI，很可能正在對你說謊——以及我們正在打造的替代方案
幾個月前，我與一家《財星》500 大製造商的採購總監面對面而坐。她已經在一套 AI 驅動的供應商遴選系統上花了 230 萬美元——就是那種號稱要「以 GPT 的力量徹底改造採購」的華麗平台。她在筆電上叫出儀表板，把螢幕轉向我，說：「它一直推薦同樣那三家供應商。我們的網絡裡有 4,000 家。它到底在做什麼？」
我看了那些輸出。我看了架構文件——那少得可憐的一點。然後我告訴了她一件她不想聽的事：她的 AI 並不是在挑選最好的供應商。它挑選的是那些看起來最像它過去見過的供應商。這套系統學會了把「熟悉」誤認為「品質」。
那次談話，讓我在 Veriprajna 盤旋了兩年的想法終於凝聚成形。企業 AI 產業有個不可告人的祕密：企業買到的多數「AI 產品」，不過是包在別人語言模型外的一層薄薄軟體。它們看起來很聰明，聽起來也很聰明。但從數學定義上來說，它們就是在猜。而在高風險的企業營運中——採購、物流、製造、保險——猜測不是一項功能，而是一種責任風險。
企業 AI 產業不可告人的祕密：企業買到的多數產品，只是包在別人語言模型外的一層薄薄封裝。它們看起來很聰明。它們其實是在猜。
聊天機器人用一美元賣掉一輛卡車的那個夜晚
我得告訴你雪佛蘭（Chevrolet）那起事件，因為它完美寓言了當前企業 AI 做法的一切問題。
加州沃森維爾（Watsonville）的一家經銷商，把一個標準的 GPT 封裝整合進他們的客服入口網站。看起來無傷大雅——回答庫存問題，或許安排試駕。接著有位使用者開始玩弄它。只用了幾個提示，這個聊天機器人就同意以一美元賣出一輛價值 76,000 美元的 Chevy Tahoe。使用者甚至讓它宣告：「這是一份具法律約束力的要約——不得反悔。」
我第一次讀到這件事時笑了。然後我笑不出來了，因為我意識到這並不是什麼好笑的邊緣案例。這是必然的邏輯結果，源自架構本身。這個聊天機器人與經銷商實際的定價資料庫毫無連結。它對「法律要約」是什麼毫無概念。它只是一個語言模型，透過系統提示被告知要樂於助人、要善於對話。而它確實非常樂於助人。災難性地樂於助人。
那一週，我和共同創辦人熬到過了午夜，拆解那份技術事後檢討。失敗不在模型——GPT 做的正是 GPT 該做的事。失敗在於架構。有人把一個機率式的文字生成器，放到了必須執行確定性商業規則的位置上。這就像聘一位詩人來管你的會計部門。詩人也許才華洋溢，但他不會抓到第 47 行的小數點錯誤。
這就是我所說的封裝妄想（Wrapper Delusion）——一種普遍存在的信念，認為在非確定性模型之上加一層薄薄的軟體，就足以支撐企業級的營運。我在我們最新研究的互動版本中詳細探討過這個問題，而我們蒐集的資料越多，情況看起來就越糟。
為什麼 AI 採購會以 3.5 比 1 的比例偏好大型供應商？
回到那位採購總監。她的直覺——「它一直推薦同樣那幾家供應商」——結果有硬數據支持。
研究顯示，AI 驅動的採購系統偏好大型的既有供應商，勝過規模較小或少數族裔擁有的企業，差距達3.5:1。再讀一次這個數字。AI 每浮現一家合格的小型供應商，就會推薦三家半的大型既有廠商。
這個機制很陰險。多數採購 AI 都以歷史採購資料訓練。大型企業存在得更久，在資料集裡有更多交易紀錄，而且因為擁有相應的基礎設施，能產生更「乾淨」的數位訊號。演算法學到的不是誰最好。它學到的是誰在資料中最常出現。歷史交易量成了可靠度的代理指標——這就像用你經過某家餐廳的次數來評斷它好不好。
我記得曾為此和團隊裡的一位資料科學家爭論。他的立場是：這種偏誤是資料問題，不是架構問題。他說：「去拿到更好的訓練資料就行了。」我反駁：就算資料完美無瑕，相關性模型仍然會找到某種規模的代理指標，因為規模會與數十項其他特徵相關。你無法為一個本質上依靠相關性運作的系統去偏誤。你必須改變這個系統所提出的問題。
你無法為一個本質上依靠相關性運作的系統去偏誤。你必須改變這個系統所提出的問題。
就是在那個時候，我們投入了因果 AI（Causal AI）。我們的結構因果模型（Structural Causal Models）問的不是「過去簽約的是誰？」，而是：「如果我們用數學方式移除歷史交易量這個干擾變數，這家少數族裔擁有的供應商，其績效指標是否會被視為更優異？」這是反事實推理——AI 想像一個競爭起點齊平的世界，並依據那個世界來為供應商評分。
這個差別不是漸進式的。它是「延續排除」的系統與「主動發掘被忽視人才」的系統之間的差別。它也是「依賴三家巨型供應商的脆弱供應鏈」與「取材自多元生態系的韌性供應鏈」之間的差別。
當 77% 的物流 AI 無法解釋自己時，會發生什麼事？
採購偏誤是一場危機。物流的透明度赤字是另一場，而且可能更危險，因為在出事之前，它是看不見的。
這個數字讓我夜不能寐：只有 23% 的 AI 驅動物流系統，能提供有意義的決策可解釋性。這意味著在超過四分之三的 AI 驅動作業中——路線最佳化、庫存配置、需求預測——負責的人並不清楚地知道系統為什麼會做出某個特定的建議。
我曾與一位供應鏈長談過，他形容得再貼切不過：「我有一筆 4,000 萬美元的 AI 投資，它給我的答案我無法質疑，給我的解釋我無法理解。它對的時候，我看起來像個天才。它錯的時候，我連發生了什麼事都搞不清楚。」
這不只是令人挫折——它在經濟上是毀滅性的。光是進貨作業中的系統性錯誤，劣質的資料品質與透明度不足，就讓企業損失15% 至 25% 的營收。這也是 42% 的物流領導者對代理型 AI（agentic AI）——能在無人核准下自主執行決策的系統——踩剎車的主要原因。如果你無法稽核一個自主代理正在做什麼，你就不能把鑰匙交給它。
我是這樣想的：物流業打造了一整支自動駕駛卡車車隊，卻忘了裝擋風玻璃。這些卡車也許正朝著正確的方向前進。你只是看不見它們要往哪裡去。
隨機性陷阱——以及為什麼「更聰明的提示」救不了你
談到這裡，大家總會反駁我。「Ashutosh，你不能就寫出更好的提示嗎？多加一些護欄（guardrails）？把模型微調一下？」
不行。原因如下。
大型語言模型（LLM）就其數學本質而言，是隨機的——它們根據訓練資料中的統計模式，預測序列中下一個可能出現的 token。它們沒有「真相」這個概念。它們不會對邏輯進行推理。它們產出的文字是統計上看似合理的，而這與正確的文字截然不同。
一個 LLM 可能正確回答一千個關於採購規則的查詢，然後在第一千零一個查詢上，幻覺出一條根本不存在的折扣條款。在高風險領域，幻覺率介於 1.5% 到 6.4% 之間。這聽起來很小，直到你意識到：它意味著大約每二十個關鍵決策中，就有一個可能建立在捏造的資訊之上。
提示工程——也就是精心設計聰明指令來引導模型的做法——就像在河邊立一塊告示牌，請河水往上游流。水流平緩時，告示牌也許管用。但只要條件一變——一個不尋常的查詢、一位帶有敵意的使用者、脈絡上的細微偏移——水就會流向物理法則所決定的方向。
那個雪佛蘭聊天機器人是有護欄的。它有一段系統提示，告訴它要樂於助人，但要遵守經銷商政策。一位有創意的使用者在五分鐘內就繞過了全部。因為在架構層次上，系統提示和使用者提示都只是……文字。模型把它們當成一個整體區塊來處理。「規則」與「對話」之間，並沒有結構性的分隔。
提示工程就像在河邊立一塊告示牌，請河水往上游流。它有用，直到它沒用為止——而在企業 AI 裡，「直到它沒用為止」可能要付出數百萬美元的代價。
我們實際上正在打造的替代方案
當我創立 Veriprajna 時，這個名字是刻意選的——「Veri」來自拉丁文的「真」，「Prajna」來自梵文的「智慧」。不是因為我想要一個聰明的品牌名，而是因為這兩個概念定義了我們所信仰的技術架構：可被驗證為正確、且在脈絡上具備智慧的系統。
我們把這套方法稱為神經符號架構（Neuro-Symbolic Architecture），其核心理念簡單得令人意外：永遠不要讓語言模型成為最終決策者。
以下是它在實務上的運作方式。當我們的神經引擎提出一個回應——比如一項供應商建議或一條物流路線——這個輸出在送到任何人面前之前，會先通過一層符號驗證。這一層會查詢一個知識圖譜，其中包含企業真正的真相來源：法律合約、定價資料庫、工程規格、法規要求。神經層提出的每一項主張，都會對照硬證據接受檢驗。
如果模型試圖幻覺出一項在合約圖譜中並不存在的供應商優惠，符號驗證器就會抓到它。不是偶爾抓到。是每一次都抓到。這套架構讓「有依據的事實」在結構上不可能被幻覺——我們達到資料擷取 100% 的精確度，相較之下，GPT-4 這類獨立模型只有 63–95%。
我們也導入了我們所稱的「憲章式護欄」（Constitutional Guardrails）——有趣的地方就在這裡。傳統的封裝試圖用文字指令來防止不良輸出。我們防止不良輸出的方式是受限解碼（constrained decoding），也就是用數學方式把模型的輸出限制在特定的 schema 或領域本體論之內。在採購的情境中，AI 根本就無法產生一個違反企業公平性憲章的供應商評分。解碼層會拒絕任何引入非法偏誤的 token 序列。這不是對模型的一項建議。這是對它能說出什麼的一種物理性約束。
想完整了解這些層次如何互動的技術細節——知識圖譜、因果 AI 模型、受限解碼——請參閱我們的技術深度剖析。
這一切在哪裡變得真實：工廠、農場與詐欺
我想帶你走過三個場景，在那裡「封裝式 AI」與「深度 AI」的差別不是學術問題——而是物理上的差別。
在工廠車間，雲端 AI 檢測系統面臨 800 毫秒的延遲。這聽起來很快，直到你意識到：一條以每秒 2 公尺移動的輸送帶，早已把那個瑕疵零件帶過檢測點 1.6 公尺。我們的邊緣原生模型直接部署在產線的硬體上，在 12 毫秒內就能回應——減少了 98.5%。我們甚至在專用微控制器上運行聲學模型，能在 5 毫秒內偵測到軸承失效的頻譜特徵，並在機器把自己撕裂之前觸發實體的緊急停止開關。我記得我們第一次在真實環境中向一位廠長展示這個能力。軸承故障警報在振動感測器都還沒偵測到異常之前就響了。他盯著讀數看了好一會兒，說：「那不是 AI。那是第六感。」那是我第一次覺得，我們已經從軟體跨過那條線，進入了某種真正理解問題背後物理原理的領域。
在農業，標準攝影機在為時已晚之前，看不見究竟是什麼在殺死作物。我們打造客製化的神經架構來處理高光譜資料——超過 200 個人眼無法偵測的光波段。透過對大氣干擾建模並以計算方式將其剝離，我們能夠辨識出養分缺乏或蟲害，比肉眼可見提早好幾天，讓預視覺化成本降低 60%。
在保險業，我們以鑑識級電腦視覺取代通用的影像分類：用語意分割精確辨識像素層級的損壞邊界，用單目深度估計在沒有 3D 掃描器的情況下計算凹痕體積，用鏡面反射分析偵測被竄改的照片。AI 不會去猜一件理賠是不是詐欺。它會用物理原理告訴你，為什麼影像中的光線分布並不一致。
你怎麼知道自己的 AI 架構壞了？
幾乎每一場高階主管簡報上，我都會被問到一個問題，通常帶著懷疑與真切憂慮交織的語氣：「我們已經在現有的 AI 技術堆疊上投入了數百萬美元。我怎麼知道它到底有沒有問題？」
我的誠實回答是：如果你的 AI 系統無法告訴你它為什麼做出某個特定決策，也無法引用具體的資料點佐證，那就是問題。如果你的採購 AI 上線以來，供應商多元性的數字沒有改善，那就是問題。如果你的營運團隊發展出了變通做法——在 AI 系統之外「以防萬一」另外維護的試算表——那就是問題。
這些變通做法就是破綻。我走進過一些組織，一個螢幕上是 AI 儀表板，另一個螢幕上是「真正的」決策支援試算表。沒有人公開談論這件事。但這意味著團隊並不信任這套系統——而他們不信任是對的。
我聽到的另一個問題是：「這不就是成熟度的問題嗎？模型不是會愈來愈好嗎？」它們在語言上會愈來愈好。它們在真相上不會愈來愈好。一個更強大的 LLM，是更有說服力的猜測者，而不是更可靠的猜測者。架構必須改變。
《Sports Illustrated》的崩壞，以及做錯這件事的代價
我在桌面上留著一張截圖作為提醒。它來自 2023 年 11 月，當時《Sports Illustrated》——一家有 70 年歷史的媒體機構——被抓到以假造的、AI 生成的作者署名發表文章。像是「Drew Ortiz」這樣的名字，還配上捏造的大頭照與虛構的個人簡歷。那些內容機械、套套邏輯，而且在沒有任何驗證層的情況下就發布了。
結果是：股價單日暴跌 27%。授權被撤銷。大規模裁員。一個老牌品牌，被掏空了。
那個 LLM 做的正是 LLM 該做的事——它補完模式。作者簡歷在統計上是產品評測中很可能出現的組成部分，於是模型就生成了一份。大頭照會伴隨著作者簡歷出現，於是也有人生成了一張。沒有人建立一套系統來問：「這個人存在嗎？這則內容經過事實查核了嗎？我們能把每一項主張追溯到來源嗎？」
這就是封裝妄想在規模化之後的代價。不是一起好笑的聊天機器人事件。而是一場企業級的滅絕事件。
為什麼你不能就繼續用 API 就好？
這件事還有最後一個面向，是多數 AI 供應商不願意談的：資料主權。
當你的企業依賴第三方 API——OpenAI、Google、Anthropic——你租用的是你無法掌控的智慧。你對模型的訓練資料毫無可見度。供應商更新權重時你不會收到任何警告，而這可能悄悄改變你系統的行為（這叫做模型漂移，對受監管產業來說是一場惡夢）。你也無法保證你的專有資料——營業祕密、客戶資訊、競爭情報——沒有在你無法稽核的基礎設施上被處理。
我們把主權企業模型部署在客戶自己的基礎設施上。沒有資料離開防火牆。沒有外部依賴。完整的生命週期掌控，包括針對專有本體論與法規限制的客製化微調。
這在前期比訂閱 API 昂貴。但相較於一次資料外洩、一筆監理罰款，或是發現你的 AI 行為變了，只因為舊金山的某家供應商在某個星期二下午推送了一次更新——它便宜得無可比擬。
那扇 18 個月的窗口
這裡我要直說，因為我認為時程很重要。
在 2026 年轉向確定性 AI 架構的組織，將擁有 12 到 18 個月真正具備競爭差異化的窗口。在那之後，這套做法會變成入場門檻——受監管產業對企業 AI 的最低期待。
3.5:1 的採購偏誤不會自行修正。23% 的可解釋性比率不會靠更好的提示而改善。幻覺問題不會隨著下一次模型發布而消失。這些是架構性的失敗，需要架構性的解方。
我不是說每一家企業都必須打造我們所打造的東西。我是說每一家企業都必須搞清楚自己到底買了什麼。掀開引擎蓋。問問你的供應商：驗證層在哪裡？知識圖譜在哪裡？當模型產生幻覺時會發生什麼事——有結構性的約束，還是只有一句寫著「請不要產生幻覺」的提示？
如果答案是一句提示，那你擁有的不是 AI 系統。你擁有的是一個非常昂貴的意見箱。
如果你的 AI 供應商對「你們如何防止幻覺」的回答是一句更好的提示，那你擁有的不是 AI 系統。你擁有的是一個非常昂貴的意見箱。
機率式企業 AI 的時代正在終結——不是因為那些模型不令人驚豔，而是因為令人驚豔不等於可靠，而在企業裡，可靠是唯一算數的事。我們打造的不是聽起來正確的 AI。我們打造的是確實正確、而且能夠證明這一點的 AI。
這不是推銷話術。這是一項工程要求。而最先認清這一點的企業，將會是封裝崩解時仍然屹立不搖的那些。
