AI 定價失控：來自 Instacart 6,000 萬美元和解案的警示

問題所在

Instacart 的 AI 對在完全相同商店購買完全相同雜貨的不同顧客收取了不同的價格。美國聯邦貿易委員會（FTC）以 6,000 萬美元的消費者退款達成該案和解。

事情的經過是這樣的。2022 年，Instacart 收購了一家名為 Eversight 的 AI 定價公司。該工具對真實購物者進行了隨機化實驗。它根據每位使用者的個人資料特徵測試其願意支付的金額。到了 2025 年 12 月，FTC 已證實完全相同的商品在同一時間向不同使用者報出截然不同的價格。消費者權益倡導團體稱之為「監控定價」（surveillance pricing），即您的個人成本是由您從未同意分享的資料特徵所決定的。

損害不僅止於和解金支票。Instacart 還進行了一項內部實驗，名稱就叫「hide_refund」。其目的是移除自助退款按鈕，並以商店點數取而代之。光是這一個伎倆就為該公司每週節省了 289,000 美元。該平台在未經明確同意的情況下，將數十萬名使用者自動註冊為付費年費會員。它宣傳「免運費」，卻隱藏了強制性服務費，使您的結帳總額增加了 15%。

這不是系統故障。這是一個以犧牲透明度、公平性與法律為代價，專門針對營收榨取進行最佳化的架構。若貴公司使用 AI 來制定價格、核准貸款或推薦產品，這個案例就是您面臨風險的預演。

為什麼這對您的企業至關重要

此處的財務風險敞口令人震驚。而且這已不再僅限於惡意行事的公司。新法律現在會就演算法的行為向您究責——即使該結果並非您的本意。

首先來看看 Instacart 案例中的原始數據：

• 最高 23% 的價格調漲：在不同使用者購買相同商品時所觀察到。
• 75% 的產品目錄：受到演算法價格變動的影響。
• 預估每年 1,200 美元的成本負擔：由每個受影響家庭承擔。
• 6,000 萬美元的和解金：作為消費者退款支付給 FTC。
• 每週節省 289,000 美元：透過對顧客隱藏退款按鈕而省下。

現在再加上您的法務團隊應該已經在追蹤的法規環境：

• 紐約州《演算法定價揭露法案》（Algorithmic Pricing Disclosure Act）（於 2025 年 11 月生效）要求您的 AI 每次制定個人化價格時，都必須顯示一項通知——「此價格是由演算法使用您的個人資料所制定」。每次違規將處以 1,000 美元罰款。
• **聯邦《2025 年演算法課責法案》（Algorithmic Accountability Act of 2025）**要求營收超過 5,000 萬美元的公司對所有自動化決策系統進行影響評估，並每年向 FTC 提交報告。
• **紐約州參議院第 S7033 號法案（New York Senate Bill S7033）**要求提供數學證明，以證實您的定價不會歧視受保護群體。

在出現下一個類似的頭條新聞後，您的董事會將提出兩個問題：「這會發生在我們身上嗎？」以及「我們能證明這不會發生嗎？」若您的 AI 無法產出可審計的追蹤紀錄，準確說明為何對顧客 A 收取的價格與顧客 B 不同，您就處於風險之中。FTC 已明確表示，「專利演算法」（proprietary algorithm）不再是有效的抗辯理由。

演算法底層的真實運作機制

Instacart 的定價引擎採用了一種稱為多臂吃角子老虎機（Multi-Armed Bandit）演算法的技術——這是一種會測試不同選項並在產生最多營收的選項上加倍投入的 AI。可以將其想像成一家賭場在嘗試每台吃角子老虎機後，把您所有的硬幣都投入到為賭場賺取最多利潤的那台機器中。

該演算法納入了一組關於每位使用者的情境特徵（contextual features）——例如所在位置、購買歷史和瀏覽行為。隨後它探索不同的價格點，以找出每個人所能承受的上限。當它發現特定使用者特徵群體接受較高價格時，便會利用（exploit）該模式。它不斷向上推高價格，直到越界構成非法歧視。

核心問題在於這類 AI 完全沒有規則的概念。它不知道《聯邦貿易委員會法》（FTC Act）的規定。它無法區分合法的價格調整與非法的價格調整。它只知道如何將被要求最大化的數值推至極限。白皮書將此稱為「系統 1」（System 1）引擎——快速且直覺，如同直覺反應，但無法進行深思熟慮的推理。

您的合規義務需要「系統 2」（System 2）思維——緩慢、具備邏輯且受規則約束。Instacart 將一個憑直覺反應的最佳化工具部署在一個需要法律推理機制的領域中。該 AI 沒有任何硬性約束（hard constraints）來提示：「停止。針對不同使用者特徵對同一商品加價 23% 已違反公平法。」在缺乏這些防護欄（guardrails）的情況下，系統完全按照其設計初衷運作。它找到了更多收益，只是用非法的方式獲取的。

有效方案（與無效做法）

企業常嘗試的三種方法——且均以失敗告終：

• **「透過無知實現公平」（Fairness through unawareness）：**單純從資料中移除種族、性別或收入欄位是行不通的。AI 會透過如郵遞區號（ZIP code）等代理變數（proxy variables）習得相同的偏見，而這些變數與社會經濟數據和人口統計構成直接相關。
• **在語言模型之上進行提示詞工程（Prompt engineering）：**使用純文字指令在通用 AI 周圍包裝業務規則，無法提供任何強制執行機制。模型隨時可能忽略、曲解或透過「幻覺」（hallucinate）繞過您的防護欄。
• **僅依賴事後監控（Post-hoc monitoring alone）：**在 AI 已經向數千名顧客收取錯誤價格之後才發現問題，並不能阻止 6,000 萬美元的和解金發生。這只不過是幫助您衡量事態惡化到了何種程度。

真正有效的是在架構本身之中內建合規機制——在任何決策傳達給顧客之前就已完成。以下是確定性系統（deterministic system）如何透過三個步驟處理相同的定價情境：

1. **輸入——結構化知識，而非原始詞元（Input — Structured Knowledge, Not Raw Tokens）：**您的業務規則、法律約束與定價政策會被映射至知識圖譜（Knowledge Graph）中——這是一個概念之間（例如「價格」、「顧客位置」和「受保護群體」）的關係被明確定義的結構化資料模型。這不是聊天機器人隨意瀏覽的扁平文件，而是貴企業被允許與不被允許採取的行為的正式圖譜。

2. **處理——神經網路建議結合符號驗證（Processing — Neural Suggestion Meets Symbolic Verification）：**深度學習模型根據市場趨勢提出定價最佳化建議。但在該建議生效之前，約束解碼器（constraint decoder）——即基於規則的驗證層——會依據您的硬性邊界對其進行檢查。如果規則規定「此商品的價格不得超過建議零售價（MSRP）的設定百分比」，則任何神經網路輸出都無法覆寫該規則。

3. **輸出——可審計的推理過程，而非黑盒子（Output — Auditable Reasoning, Not a Black Box）：**每一項定價決策都附帶推理追蹤紀錄（reasoning trace）。您可以準確向監管機構展示系統考量了哪些資料點、應用了哪些規則，以及為何得出該具體價格。這不是事後產生的摘要，而是系統實際遵循的邏輯路徑。

這條審計追蹤紀錄徹底改變了您與合規團隊之間的對話。在紐約州《演算法定價揭露法案》下，您需要對每項演算法輸出進行即時標記。在聯邦《演算法課責法案》下，您需要具備文件記錄的影響評估。一個能夠解釋自身決策的系統能同時為您提供這兩者，而黑盒子則兩者皆無法提供。

VeriPrajna 構建此類混合系統——將神經網路的模式識別優勢與符號邏輯的規則執行能力相結合。其目的並非降低 AI 的運作速度，而是在 AI 做出的每項決策傳達給顧客之前，確保其具備法律抗辯能力、可追溯性且符合法規要求。