Amazon 的秘密演算法偷走了你的 10 億美元——你公司的 AI 可能就是下一個
2024 年底,我坐在一位客戶的會議室裡,他們的定價副總裁調出一個儀表板,帶著發自內心的驕傲說:「我們已經把一切都自動化了。全部交給演算法處理。」
我問了他一個問題:「你能明確告訴我,它昨天為什麼給這項產品定了這個價格嗎?」
一片沉默。不是在思考的那種沉默。而是一個人猛然意識到,自己一直在開一輛車,卻不知道煞車在哪裡的那種沉默。
那一刻不斷在我腦海裡重播,因為我們如今已經知道 Amazon 的 Project Nessie 是怎麼一回事——那是一種秘密定價演算法,攫取了超過10 億美元的超額利潤,其手法是預測競爭對手何時會跟進 Amazon 的漲價,然後刻意抬高價格以觸發這種反應。這不是程式故障。不是無心之過。而是一項刻意設計的功能。而美國聯邦貿易委員會(FTC)將於 2026 年 10 月就此對 Amazon 提起審判。
最讓我不安的是:那間會議室裡的副總裁並沒有做任何不尋常的事。他所做的,正是此刻成千上萬家公司正在做的事——把自己無法解釋、無法稽核、也無法掌控的高風險決策,交託給不透明的 AI 系統。而監管的世界即將讓這份信任變得極其昂貴。
如何在無人察覺的情況下偷走 10 億美元?
Project Nessie 從 2014 年運行到 2019 年。它不是一個簡單的比價工具。它是一具偽裝成最佳化軟體的市場操縱引擎。
它的運作方式是這樣的。Amazon 的網路爬蟲即時監控整個網際網路上數以百萬計的價格點——Walmart、Target,以及每一家設有網站的零售商。這些競爭對手大多採用簡單的規則式定價:「如果 Amazon 降到 $19.99,就跟著降。」以牙還牙,直截了當。
Nessie 察覺並利用了這個模式。演算法會計算競爭對手跟進 Amazon 價格上調的機率。當信心程度足夠高時,Amazon 便會刻意抬高價格。競爭對手那套笨拙的演算法會盡職地跟著調整。Amazon 則維持抬高後的價格。利潤就此到手。
如果競爭對手沒有跟進呢?Nessie 會自動把價格回退。沒有損失,也沒有把柄——只不過 Amazon 剛剛已經試探出市場能夠承受的價格上限。
Amazon 的演算法並不是在煙霧瀰漫的密室裡與競爭對手共謀。它是透過程式碼共謀——預測對手的自動化反應,並像時鐘般精準地加以利用。
其規模令人咋舌。據報導,Nessie 為超過800 萬件個別商品設定價格。內部文件顯示,Amazon 高層至少八次開啟又關閉這套演算法,策略性地在流量高峰、榨取最有利可圖的時段將它啟用。高階主管私下把相關做法稱為「見不得光」與「一個心照不宣的毒瘤」。但他們依然照跑不誤。
我真正理解「隱性共謀」含義的那一夜
我清楚記得這件事在我腦中豁然開朗的那個夜晚。我和團隊正在研讀一篇卡內基美隆大學關於演算法定價互動的研究——就是那種你在晚上 11 點、喝了太多咖啡、心中不安愈來愈濃時讀的論文。
研究人員模擬了當一個精密的強化學習代理與簡單的規則式定價系統競爭時會發生什麼。這個強化學習代理不需要與競爭對手溝通。它不需要任何秘密協議。它只是學會了一件事:抬高價格比降價更有利可圖,因為其他演算法都會跟進。每一次都是如此。
結果:價格全面上漲。消費者剩餘——這個經濟學術語指的是「人們得到公平的交易」——則全面崩潰。
我轉向我的共同創辦人,說了大概這樣的話:「這不是系統裡的一個錯誤。這正是系統會做的事——當你放任它在毫無約束下自行最佳化時。」
這正是 Project Nessie 的核心問題,也是我如今所見大多數企業 AI 部署的核心問題。演算法完全照著它被設計的目的去做。它把利潤最大化。只不過,它達成這個目標的方式——視 2026 年 10 月的審判結果而定——可能構成《FTC 法》第 5 條所規定的不公平競爭手段。
傳統的反壟斷法要求有「意思一致」的證據——也就是競爭對手就操縱價格達成協議。但如果這種協議是隱性的,被編碼進彼此互動的演算法那可預測的行為之中,又會如何?這正是 FTC 這場審判將要回答的問題,而其影響遠遠超出 Amazon 一家公司。
為什麼 2026 年會是一切改變的一年?
演算法決策的法律格局,正以大多數企業所意識到的更快速度轉變。我一直密切追蹤這一切,因為我們的客戶需要了解即將到來的是什麼——而即將到來的,是一堵監管的高牆。
加州修訂後的《卡特萊特法》(Cartwright Act),自 2026 年 1 月起生效,特別針對「共用定價演算法」——也就是由兩家或更多競爭對手使用、並納入競爭對手資訊以影響價格的工具。該法明確禁止利用這些工具進行共謀。更重要的是,它降低了訴狀的舉證門檻,讓原告更容易提告。你不再需要證明競爭對手不可能各自獨立行動。你只需證明他們使用了同一套工具,而且價格上漲了。
想想這對每一家使用第三方動態定價供應商的公司意味著什麼。
科羅拉多州的《AI 法》(AI Act),自 2026 年 6 月起生效,要求對高風險 AI 系統進行「合理注意」的影響評估——包括那些對定價、信貸與雇用決策有重大影響的系統。開發者必須記錄風險、限制,以及產生歧視性結果的可能性。
紐約州的透明度法要求企業在演算法使用個人資料進行定價決策時,必須顯示警語。隱形演算法定價的時代正在走向終結。
接著還有 FTC 這場審判本身。如果法院裁定 Amazon 的預測性誘導——刻意抬高價格以觸發競爭對手跟進——構成不公平的競爭手段,那就會樹立一項先例,可能適用於任何一家其 AI 會影響市場價格的公司。
如果你無法解釋自己的演算法為什麼做出某項特定決策,你就無法在法庭上為那項決策辯護。而到了 2026 年,你會愈來愈頻繁地被要求這麼做。
我在我們的互動式分析中詳細寫過完整的監管時程及其技術意涵——如果貴公司以任何形式涉及演算法定價,值得好好弄懂其中的細節。
沒有人談論的 Buy Box 陷阱
Nessie 這個故事還有一個較少受到關注、卻對理解演算法權力如何複合放大至關重要的面向。
Amazon 不只是抬高價格。它還強制執行這些價格,遍及整個網際網路。
Amazon 設有一個專門的價格監控小組,監視其市集上的第三方賣家。如果某位賣家在自己的網站或競爭平台上以更低價格販售某項產品,Amazon 就會取消其 Buy Box 的存取權——而 Buy Box 這個介面,正是98% 的 Amazon 銷售發生之處。
訊息很清楚:你在 Amazon 上的價格,就是你在任何地方的最低價格。若在別處打折,就會失去你最主要的營收管道。
這就築起了一道價格底線,把 Amazon 的演算法定價權力遠遠延伸到自家平台之外。賣家連在自己的網站上都無法把價格壓得比 Amazon 低。競爭對手無法藉由提供更低價格來搶占市場份額,因為供給端已被牢牢鎖死。
每當有人對我說「市場會自我修正」時,我都會想到這一點。市場唯有在參與者能夠自由競爭時,才可能自我修正。當一套演算法同時掌控價格與執行機制時,你擁有的就不是一個市場,而是一套系統。
為什麼你的 AI「包裝層」是一顆隨時會引爆的責任炸彈
接下來這部分對我而言很切身,因為這正是我花費大部分時間試圖解決的問題。
我所遇到的大多數企業 AI 部署都遵循同一種模式:拿一個公開 API——GPT-4、Claude,或任何當下最熱門的——在外面包上一層薄薄的應用程式,把商業規則統統塞進一個龐大的提示裡,然後就稱它為「AI 驅動」。出貨。繼續下一件事。
我把這稱為「包裝層陷阱」,而我親眼看著聰明的公司一頭栽了進去。
有一位客戶——我不會點名,但他們屬於零售業——把整套動態定價系統打造成一個公開 LLM 的包裝層。那個提示大得驚人。裡面包含定價規則、競爭對手資料、利潤目標、季節性調整。這套系統……大多數時候都能運作。當它失靈時,沒有人能解釋原因。當模型供應商推送一次更新時,輸出便會以無法預測的方式改變。當他們的法務團隊要求提供定價決策的稽核軌跡時,工程團隊只能乾瞪著他們。
我記得在一個特別糟糕的星期過後,我和他們的技術長坐下來談。那一週,系統生成的定價建議——如果真的付諸實行——看起來會非常像 FTC 在 Amazon 案中所調查的那種協同行為。並非出於故意。也並非出於惡意。模型只是從訓練資料中學到了一些模式,而這些模式碰巧產生了看似共謀的輸出。
「我們無法證明它並不是在共謀,」這位技術長告訴我。「而根據加州的新規定,光是這一點可能就足以讓我們被告上法庭。」
他說得對。
包裝層的結構性問題,遠不止於合規:
你無法稽核一個黑箱。當底層模型由第三方掌控時,你無法證明某項特定的定價決策究竟為何而做。而根據科羅拉多州的《AI 法》,你將必須做到這一點。
你無法保證一致性。提示中的細微改動,或 API 供應商在你看不見之處對模型的更新,都可能產生截然不同的輸出。試著向監管機構解釋這一點吧。
你毫無競爭護城河。如果你的「AI 解決方案」不過是輸入 GPT-4 的一段提示,任何競爭對手都能在一天之內複製它。而當 Google 與 Microsoft 把這些能力原生整合進自家平台時,獨立的包裝層一夜之間就會變得多餘。
你並不擁有自己的智慧。你最敏感的市場資料——定價策略、競爭對手分析、利潤目標——全都流經別人的伺服器。在一個資料主權要求日益提高的世界裡,這不只是有風險,而是失職。
我們改而打造了什麼(以及為什麼它比我們預想的更難)
在 Veriprajna,我們走了一條不同的路。我們稱之為「深度 AI」(Deep AI),而老實說——它比包裝層難建得多。有幾個時刻,我甚至懷疑市場是否真的在乎這其中的差別。
核心理念是「主權式智慧」:完整的推論堆疊,部署在客戶自己的基礎設施上。沒有任何資料離開企業的邊界。AI 的「大腦」運行在由客戶掌控的硬體上。
我們採用高效能的開源模型——Llama 3、Mistral——透過安全的容器化技術加以編排。本地推論。不留存於第三方。沒有外部 API 的延遲。
但模型只是起點。真正的工程挑戰,在於環繞它的一切。
我們打造了所謂的 RAG 2.0——一種檢索增強生成技術,能從公司專有的文件、日誌與營運資料中建立起一個「語意大腦」。關鍵在於,我們的檢索系統具備 RBAC(角色型存取控制)意識。它尊重組織既有的存取權限。如果某位員工在 SharePoint 中無法檢視某份文件,AI 同樣也無法取回它。這聽起來理所當然。但幾乎沒有任何以包裝層為基礎的系統做到這一點。
接著是多代理架構。我們不把所有東西都塞進一個龐大的提示裡——也就是「祈禱加提示」(pray and prompt)的做法——而是把複雜任務拆解成專門的代理。規劃代理決定工作流程。情境工程代理從大量資料中萃取相關訊號。合規代理則針對法規要求驗證每一項輸出——在它到達使用者之前。驗證代理則負責檢查準確性。
我記得曾和我的一位工程師激烈爭論,合規代理是否值得它所增加的延遲。他的立場是:「使用者要的是速度。我們為了一項每次請求都會觸發的檢查,多加了 200 毫秒。」我的立場是:「一項不合規、最終被寫進法院訴狀的定價建議,所付出的代價,會超過我們有史以來省下的每一毫秒。」我們保留了合規代理。
能在下一個十年勝出的公司,不會是那些擁有最巧妙提示的公司。而是那些把 AI 當成一門嚴肅的工程學科、並建立在自己真正擁有且信任的資料之上的公司。
至於完整的技術架構——具體的元件、編排模式、治理層——我把這一切都寫進了我們的技術深度剖析。
當演算法開始推理時,會發生什麼?
下一波浪潮已然到來,而它讓我前面所描述的一切變得更加迫切。
目前的 AI 系統把一筆輸入通過神經網路一次,然後回傳一個結果。而新興的範式——研究人員稱之為「推理式 AI」(Reasoning AI)——會在推論階段動用額外的運算來思考。模型會在做出決定之前,模擬多種可能的行動及其後果。它會預先盤算好幾步,就像一具套用在商業策略上的西洋棋引擎。
在定價的情境中,一個推理式 AI 代理不只是預測下一個可能的價格。它會模擬競爭對手可能如何對漲價做出反應,建模第二層與第三層的連鎖效應,並即時調整自己的策略。它能夠在次佳路徑真正被執行之前,就從那些路徑上回溯折返。
這是非凡的能力。它也是非凡的風險。因為一個能夠推理競爭對手反應的 AI,正是一個在設計上就能夠從事那種讓 Amazon 惹上麻煩的預測性誘導的 AI。
當演算法聰明到足以對整個競爭格局進行建模,並選擇能夠讓榨取最大化的路徑時,「最佳化」與「操縱」之間的界線便薄得幾近於無。
這正是為什麼治理不能是事後才想到的補救。它必須從第一天起就內建於架構之中——不是作為一個合規的勾選項,而是作為對系統被允許做什麼的一種結構性約束。
如何打造一個能在法庭上為自己辯護的 AI?
人們不斷這樣問我,通常說成:「我們該如何讓自己的 AI 合規?」我認為那是個錯誤的問題。合規只是最低門檻。正確的問題應該是:你要如何打造一個 AI,讓你能夠安心地向法官逐行、逐項決策地解釋?
NIST 的《AI 風險管理框架》為此提供了一套詞彙。它定義了值得信賴的 AI 的七項特徵:安全、防護、可解釋、隱私強化、公平、可問責,以及有效。但框架不會自己實作出來。
從建置這些系統的過程中,我學到的是有三件事比其他任何事都更重要:
第一,在高風險的抉擇上,絕不讓演算法成為最終決策者。「人在迴路中」(human-in-the-loop)不是一句流行術語。它是一面法律盾牌。當監管機構問「是誰決定抬高這個價格的?」時,「我們的演算法」是最糟糕的答案。而「我們的定價團隊,在審閱並核可了演算法建議之後做出的決定」則是站得住腳的。
第二,主動稽核共謀模式。別等到 FTC 找上門來。定期在模擬的競爭環境中運行你的定價演算法。如果它在與其他演算法競爭時,總是一致地收斂到更高的價格,那你就有問題了——而且你會希望搶在原告律師之前發現它。
第三,擁有你自己的技術堆疊。如果你的 AI 運行在別人的基礎設施上、使用別人的模型,而你無法取得權重、訓練資料或決策邏輯,那你擁有的就不是一套 AI 系統。你擁有的是一種帶著攸關存亡的法律風險的供應商依賴。
那個價值 10 億美元的問題
Amazon 的 Project Nessie 透過一套預測並利用競爭對手行為的演算法,從消費者身上榨取了 10 億美元。這家公司的內部高層明知它有問題。但他們依然照跑不誤,因為那筆經濟利益實在令人無法抗拒。
2026 年 10 月的審判將裁定那樣的榨取是否違法。但對於每一家在定價、供應鏈、放貸,或任何演算法決策會影響市場與消費者的領域中部署 AI 的企業而言,判決結果幾乎無關緊要。審視的目光早已到來。加州、科羅拉多州與紐約州都已經通過了法律。FTC 已經在展開調查。關於何謂演算法問責的法律標準,正即時地不斷收緊。
我創辦 Veriprajna,是因為我相信,AI 能夠做的事,與 AI 應該做的事之間的落差,將會成為這個十年最具決定性的商業課題。Project Nessie 證明了,這道落差在法律責任上可能價值高達 10 億美元。那些能夠彌合這道落差的公司——藉由打造自己擁有、理解且能夠捍衛的 AI——不只是避開了法律風險。它們還會與監管機構、客戶及市場建立起一種牢不可破、進而化為無可撼動之競爭優勢的信任。
最危險的演算法,不是那個會出錯的。而是那個以你無法解釋的方式帶來利潤的。
