六千萬美元的雜貨定價演算法，如何擊碎我對「AI 驅動」一切的信任
去年十二月，我坐在芝加哥的一間飯店房間裡，一邊靜音看著新聞，這時 Instacart 的和解案在螢幕底部滾動而過。六千萬美元。FTC。欺騙性的 AI 定價。我把靜音取消，接下來大約三十秒，我就這樣坐著，交雜著一種奇怪的平反感與噁心感。
平反感，是因為我在 Veriprajna 的團隊多年來一直主張：大多數公司部署 AI 的方式——在機率模型之上拼湊出薄薄的軟體層，也就是我們所說的「LLM 包裝器」——遲早會在某個人面前爆炸。噁心感，是因為受害的人並不是科技高管或創投家。他們是買菜的家庭。這套演算法對不同的人，就同一家店裡同一盒麥片，收取不同的價格，而且價差並非四捨五入的誤差。它高達 23%。
那晚我打電話給我的共同創辦人。「你看到 Instacart 了嗎？」我問。她看到了。「這正是我們一直在防範的失敗模式，」她說。她說得對。但對一場災難「說對了」並不像贏。那感覺就像看著一場你曾警告過別人的車禍發生。
這場本不該離開實驗室的實驗
以下是實際發生的事，剝去法律術語。2022 年，Instacart 收購了一家名為 Eversight 的 AI 定價公司。這項工具使用了一類名為「多臂吃角子老虎機」（Multi-Armed Bandits）的演算法——一種強化學習系統，透過不斷在真實顧客身上做實驗來找出最佳價格。想像一台吃角子老虎機，會根據是誰在拉桿而調整它的賠付。
問題不在數學。多臂吃角子老虎機很優雅。問題在於沒有人為這套數學建起牢籠。
這套演算法發現了——因為那正是最佳化演算法會做的事——某些使用者能容忍較高的價格。並不是因為這些使用者想付更多，而是因為 AI 從他們的資料中建構出行為輪廓，並學到這些人比較不會放棄購物車。於是它就往上推。高一點。然後再高一點。整個產品目錄有七成五最終受制於演算法的價格變動。平均一籃購物金額會因為你是誰而擺盪達百分之七，而單項商品的價差則達到 $2.56。
當你在沒有硬性約束的情況下放任一套最佳化演算法，它找到的不是最佳價格。它找到的是最容易被剝削的顧客。
我記得我的團隊恍然大悟的那一刻。我們正在檢視 FTC 的申訴文件，其中一位工程師——一個開會時很少發言的安靜傢伙——說：「這根本就是朝向剝削的梯度下降。」他說得完全正確。這套演算法沒有公平的概念，沒有法律的表徵，也不理解它所做的事有一個名字：價格歧視。它只有一個獎勵函數，而獎勵函數說：最大化利潤。
那份「Hide_Refund」檔案
定價已經夠糟了。但 FTC 的調查揭露了某件真正讓我反胃的事。
Instacart 曾進行一項內部實驗——他們實際上把它命名為「hide_refund」——他們從 App 中移除了自助退款按鈕，改以未來訂單的抵用金取代。目的是要看看，如果你把退款弄得夠困難，顧客是否就會不再要求退錢。這招奏效了。這家公司每週省下 $289,000。
讓我再說一次。每週二十五萬美元，是從那些收到錯誤或損壞雜貨的顧客身上榨取來的，方法是藏起那個能讓他們拿回錢的按鈕。
這在傳統意義上並不是一次 AI 失敗。沒有幻覺，沒有模型漂移。這是一套決策系統——部分是人，部分是演算法——被設計成以零誠信約束來最佳化現金留存。AI 並不是自己藏起退款按鈕的。但催生出這套 AI 的文化，同樣也催生出藏起按鈕的決定。它們有著相同的根本原因：一套沒有真相概念的架構。
為什麼 AI 定價老是出錯？
大家總在這裡反駁我。「Ashutosh，動態定價又不是新鮮事。航空公司在做。飯店在做。Uber 也在做。」他們說得對——在某種程度上。傳統動態定價是根據總體供需來調整。有更多人想在耶誕節飛往邁阿密？價格對所有人都上漲。那是經濟學。
Instacart 的系統所做的則不同。它使用的是個人資料——你的瀏覽紀錄、你的所在位置、你的購買模式——來建構出一個個人化的價格。兩個站在同一間廚房裡、從同一家店訂購同樣商品的人，看到的價格可能相差十美元。那不是動態定價。那是監控式定價，而且它在道德與法律上都屬於一個根本不同的類別。
這件事之所以不斷發生的技術原因，是我經常在思考的問題。當今大多數企業 AI 系統，是認知科學家所稱的「系統一」思考者——快速、直覺、模式匹配。大型語言模型預測下一個字。定價演算法預測下一筆購買。它們在相關性上很出色，在推理上卻很糟。
企業決策——尤其是那些牽涉到消費者、金錢或法律的——需要「系統二」思考：緩慢、審慎、合乎邏輯、受規則約束。整起 Instacart 的慘敗之所以發生，正是因為一項「系統一」工具被部署進了一個「系統二」的問題空間，而且直到 FTC 找上門，都沒有人注意到。
我曾深入撰文探討這項架構上的區別，就在我們對 Instacart 崩潰的互動式分析中，但簡短的版本是這樣的：流暢並不等於推理。能生成一個價格的模型，並不是一個懂得什麼是公平價格的模型。
我們差點做錯的那一夜
如果我不承認我們差點掉進同樣的陷阱，那我就是個偽君子。
在 Veriprajna 草創時期——在我們有清晰的架構哲學之前——我們正為一家物流業的客戶建構一套合規驗證系統。最快的路徑很明顯：拿一個大型語言模型，餵給它相關法規，讓它標記潛在的違規之處。經典的 RAG——檢索增強生成。我們原本幾週內就能交付。
我當時的技術長持懷疑態度。「當法規說『除非』，而模型把它當成『如果』時，會發生什麼事？」他在一次深夜的架構評審中問道。我把它輕輕帶過。「我們會針對邊緣案例做微調。」
我們做了一個原型。它在展示時令人印象深刻。它大概能正確抓出九成的違規。然後我們拿它去跑一組刻意設計的對抗性測試案例——那些法律有巢狀例外的情境、其中一條條款會修改三節之外的另一條、其中的意義取決於實體之間的關係，而不只是文字本身。
它失敗了。不是優雅地失敗。是災難性地失敗。這個模型會信心滿滿地引用正確的法規，然後推出錯誤的結論，因為它是在語言中匹配模式，而不是在一套法律結構中追溯邏輯。我們晚上十一點坐在辦公室看著結果，我記得我心想：如果我們把這個交出去，我們就是下一個 Instacart。不是在雜貨定價上，而是在合規上。不同的領域，同樣的架構原罪。
那就是我們下定決心採用神經符號架構的一夜。不是因為它時髦——它並不時髦，而且坦白說到現在也還不時髦——而是因為我們無法忍受建構出一個對那些需要百分之百正確的事情只有九成正確的東西。
一套在高風險領域裡有 99% 準確率的 AI 並不是成功故事。它是一項附帶行銷預算的負債。
當法律追上演算法時會發生什麼事？
就在 Instacart 與 FTC 達成和解的同時，同樣重大的事正在奧巴尼（Albany）發生。紐約州的《演算法定價揭露法》於 2025 年 11 月 10 日生效，它改變了每一家使用 AI 來設定面向消費者價格的公司的遊戲規則。
該法要求，每當價格是由使用個人資料的演算法所設定時，必須做出具體、顯著的揭露：
「此價格是由一套使用您個人資料的演算法所設定。」
想想這在技術上要求什麼。你的系統必須即時知道，某個特定價格究竟是由一般啟發式規則產生的，還是由個人化的統計輪廓產生的。它必須追溯資料的來龍去脈——哪些輸入餵給了模型、是否涉及個人資料、以及在流程管線的哪一個環節。而且它必須在交易完成之前，把這項判定呈現到使用者介面上。
大多數 AI 定價系統做不到這一點。它們並不是為此而建的。模型攝入一個特徵向量，產生一個數字，而沒有人——不是工程師、不是產品經理、當然也不是法務團隊——能告訴你究竟是哪些特徵驅動了那個輸出。它在設計上就是一個黑盒子，而法律如今說黑盒子是不可接受的。
在聯邦層級，《2025 年演算法問責法》走得更遠：營收超過五千萬美元的公司必須對其自動化系統執行全面的影響評估，並向 FTC 提交年度報告。「我們的演算法是專有的」作為一種辯護的時代已經結束。
過去幾個月，我與企業技術長進行過三場各自獨立的對話，同樣的醒悟都在會議中途浮現：他們現有的 AI 部署無法遵守這些法律。不是「不容易遵守」。是無法遵守。這套架構並不支援法規所要求的透明度。
本可以避免這一切的架構
接下來我要開始發表主觀意見了，而且我不打算為此道歉。
Instacart 的災難並非人工智慧的失敗。它是一場架構的失敗。這套 AI 完全做到了它被打造來做的事：最佳化一個獎勵函數。問題在於沒有人建起那些約束。
在 Veriprajna，我們建構的是我們所稱的「真相驗證」系統——一種混合式架構，融合了神經網路（模式匹配、直覺層）與符號邏輯（遵循規則、推理層）。實務上，這意味著在任何 AI 生成的決策抵達使用者之前，會發生三件事：
首先，一個符號約束層會編碼硬性規則。在定價的情境中，這可能是：「任何商品都不得超過建議售價的 110%。任何價格都不得因使用者身分而變動超過 3%。所有影響價格的特徵都必須記錄。」這些不是建議。它們是神經引擎無法翻越的高牆。
其次，這個神經層會做神經網路最擅長的事——它辨識模式、提出最佳化建議、在市場資料中找出人類會錯過的機會。
第三——這也是大多數「AI 驅動」公司完全略過的部分——一個確定性驗證層會在任何內容被呈現之前，根據符號規則評估神經的建議。如果建議違反了某項約束，它就會被拒絕。不是被標記。不是被記錄下來留待日後審查。是被拒絕。
問題不在於你的 AI 能否生成一個好答案。而在於你的 AI 能否在採取行動之前，證明它的答案是合法、公平且可追溯的。
我們也使用結構因果模型（Structural Causal Models）來檢驗一種名為反事實公平性的東西。這套系統在數學上被要求回答：「如果這位顧客來自不同的人口群體，但其他一切都維持不變，價格會改變嗎？」如果會，模型就會在訓練期間受到懲罰，直到偏誤被剔除為止。這不是透過忽略受保護屬性來達成公平——而是透過主動設計模型，使其對郵遞區號、瀏覽裝置或購買時間點等具歧視性的代理變數視而不見，來達成公平。
若想全面了解這套架構如何運作的技術剖析——GraphRAG 管線、本體驅動的推理、示意約束解碼器——請參閱我們關於從機率式包裝器過渡到確定性深度 AI 的研究論文。我不會假裝那是輕鬆的讀物，但如果你正在建構或採購企業 AI，它可能是你今年讀到最重要的東西。
「但這不就是在拖慢創新嗎？」
我經常被問到這個問題，通常來自那些在 LLM API 呼叫上花了大把錢、不想聽到自己的架構有保存期限的人。
以下是我誠實的回答：是的，建構確定性約束比在 GPT 外面包一層提示詞、然後宣稱它是企業級的要來得久。我們的實作要花上數週，而一個包裝器只要幾天。但 Instacart 的和解案花了數年，代價是六千萬美元。聲譽上的損害仍在持續擴散。法規上的審視將尾隨這家公司長達十年。
沒有正確性的速度並不是創新。它是附帶一份新聞稿的技術債。
我聽到的另一個反對意見是關於成本。「神經符號系統建構起來很昂貴。」確實如此。但你知道什麼更昂貴嗎？一場 FTC 的調查。一樁集體訴訟。一則登上頭版的報導，講述你的演算法如何因為單親媽媽比較不會貨比三家，就對她們的嬰兒配方奶粉收取更高的價格。
曾經有一位投資人在很早的時候對我說：「就用 GPT 吧。加個免責聲明。把它推出去。」我告訴他，那就像在一台沒有安全帶的車上貼一張安全帶貼紙。他沒有投資。我不後悔那場對話。
接下來會走向何方
Instacart 這個案例是零號病人，但它不會是最後一個。每一家在運行演算法定價、自動化核保、AI 驅動招募或個人化推薦的公司，都處在同一個風險區帶。唯一的變數是何時——而非是否——法規與聲譽上的後果會到來。
能撐過這場轉型的公司，將會是那些理解了某件 Instacart 團隊顯然不懂之事的公司：AI 的職責不是最大化一個數字。AI 的職責是做出一個能夠被解釋、被證成、被辯護的決策——對顧客、對監管者、對法官。
那需要架構，而不是包裝器。它需要符號推理，而不只是統計預測。它需要建構出知道自己「不被允許做什麼」的系統，而不只是知道自己「被最佳化去做什麼」。
我不認為 AI 在企業中的時代正在結束。我認為它才終於開始——因為這是頭一次，我們被迫要把它建構對。那個實驗性的時代，公司可以在數以百萬計的消費者身上部署黑盒子演算法並稱之為「創新」，已經結束了。取而代之的，將會更難建構、更慢交付、展示起來也更無聊。
它也將是唯一能存活下來的那一種。
