六千万美元的杂货定价算法：Instacart 崩盘如何击碎了我对“AI 驱动”一切的信任
去年十二月，我坐在芝加哥的一间酒店房间里，一边静音看着新闻，Instacart 的和解案就在屏幕底部滚动出现了。六千万美元。FTC。欺骗性的 AI 定价。我取消了静音，接下来大约三十秒，我就那样坐着，心里涌起一种既感到被证明正确、又想作呕的奇怪混合情绪。
被证明正确，是因为我在 Veriprajna 的团队多年来一直主张，大多数公司部署 AI 的方式——在概率模型之上拼接一层薄薄的软件，也就是我们所说的“LLM 套壳（LLM wrappers）”——迟早会在某个人面前爆炸。作呕，是因为受害的人并不是科技高管或风险投资家。他们是买菜的普通家庭。这个算法一直在同一家商店里，为同样一盒麦片向不同的人收取不同的价格，而这个价格差距并不是四舍五入的误差。它高达 23%。
那天晚上我给我的联合创始人打了电话。“你看到 Instacart 的事了吗？”我问。她看到了。“这正是我们一直在构建对抗的那种失败模式，”她说。她说得对。但对一场灾难判断正确，并不让人觉得像是赢了。它感觉像是眼睁睁看着一场你曾警告过别人的车祸发生。
本不该走出实验室的实验
下面是实际发生的事情，剥去了法律语言。2022 年，Instacart 收购了一家名为 Eversight 的 AI 定价公司。这个工具使用了一类被称为多臂老虎机（Multi-Armed Bandits）的算法——这是一种强化学习系统，通过不断在真实客户身上做实验来找到最优价格。想象一台会根据谁在拉杆而调整赔付的老虎机。
问题不在于数学。多臂老虎机很优雅。问题在于没有人给这套数学建一个笼子。
这个算法发现了——因为这正是优化算法会做的事——某些用户会容忍更高的价格。不是因为这些用户想付更多，而是因为 AI 从他们的数据中构建了行为画像，并了解到这些人更不容易放弃购物车。于是它就往上推。高一点。然后再高一点。产品目录中有百分之七十五最终受制于算法定价波动。平均购物篮的价格可能会因你是谁而波动百分之七，而对于单个商品，差距达到了 $2.56。
当你在没有硬性约束的情况下放任一个优化算法时，它找到的不是最优价格。它找到的是最容易被剥削的客户。
我记得我的团队想通这一点的那一刻。我们正在审阅 FTC 的诉状文件，我们的一位工程师——一个在会议上很少发言的安静的人——说：“这不过是朝着剥削方向的梯度下降。”他完全说对了。这个算法没有公平的概念，没有对法律的任何表征，也不理解它所做的事情有一个名字：价格歧视。它只有一个奖励函数，而这个奖励函数说的是：最大化利润率。
“Hide_Refund”文件
定价问题已经够糟了。但 FTC 的调查揭露了一件真正让我反胃的事。
Instacart 曾做过一个内部实验——他们真的把它命名为“hide_refund”——他们从应用中移除了自助退款按钮，并用未来订单的抵扣额度取而代之。目的是看看，如果你把退款弄得足够麻烦，客户是否会不再要求退钱。结果奏效了。这家公司每周省下了 $289,000。
让我再说一遍。每周二十五万美元，是从那些收到了错误或损坏商品的客户身上榨取的，方法就是藏起那个能让他们拿回钱的按钮。
这在传统意义上并不是一次 AI 的失败。没有幻觉，没有模型漂移。这是一个决策系统——一部分是人，一部分是算法——它被架构成以零诚信约束的方式来优化现金留存。AI 并不是自己藏起退款按钮的。但催生这个 AI 的文化，同样催生了藏起按钮的决定。它们有着相同的根源：一个没有真相概念的架构。
为什么 AI 定价总是出错？
人们总在这里反驳我。“Ashutosh，动态定价并不新鲜。航空公司这么做。酒店这么做。Uber 也这么做。”他们说得对——在某种程度上。传统动态定价是根据总体供需来调整的。更多人想在圣诞节飞往迈阿密？那对所有人来说价格都会上涨。那是经济学。
而 Instacart 的系统所做的则不同。它使用了个人数据——你的浏览历史、你的位置、你的购买模式——来构建一个个性化的价格。两个人站在同一个厨房里，从同一家商店订购同样的商品，看到的价格却可能相差十美元。那不是动态定价。那是监控式定价，是一个从根本上不同的伦理与法律范畴。
这种情况不断发生的技术原因，是我一直在思考的东西。如今大多数企业 AI 系统，用认知科学家的话说，都是“系统 1”式的思考者——快速、直觉、模式匹配。大型语言模型预测下一个词。定价算法预测下一次购买。它们在关联方面才华横溢，在推理方面却糟糕透顶。
企业决策——尤其是那些触及消费者、金钱或法律的决策——需要“系统 2”式的思考：缓慢、审慎、有逻辑、受规则约束。整个 Instacart 惨败之所以发生，是因为一个系统 1 的工具被部署到了一个系统 2 的问题空间里，而在 FTC 上门之前无人察觉。
我曾深入撰文探讨过这种架构上的区别，见我们对 Instacart 崩溃事件的交互式分析，但简短的版本是这样的：流畅不等于推理。一个能生成价格的模型，并不是一个理解何为公平价格的模型。
我们差点把它建错的那个夜晚
如果我不承认我们也差点掉进同一个陷阱，那我就是个伪君子。
在 Veriprajna 早期——在我们有清晰的架构理念之前——我们正在为一家物流客户构建一个合规验证系统。最快的路径是显而易见的：拿一个大型语言模型，喂给它相关法规，让它标记潜在的违规行为。经典的 RAG——检索增强生成（Retrieval-Augmented Generation）。我们本可以在几周内把它交付出去。
当时我的 CTO 持怀疑态度。“当法规说‘除非’而模型把它当作‘如果’时，会发生什么？”他在一次深夜架构评审中问道。我没把它当回事。“我们会针对边缘情况做微调。”
我们做了一个原型。它在演示中令人印象深刻。它大概能正确捕捉到 90% 的违规。然后我们用一组刻意设计的对抗性测试用例来跑它——那些法律有嵌套例外的场景，一个条款会修饰三节之外的另一个条款，其含义取决于实体之间的关系，而不仅仅是文本本身。
它失败了。不是优雅地失败。是灾难性地失败。这个模型会自信地引用正确的法规，然后得出错误的结论，因为它匹配的是语言中的模式，而不是在一个法律结构中追踪逻辑。晚上 11 点我们坐在办公室里看着结果，我记得当时在想：如果我们把这个交付出去，我们就是下一个 Instacart。不是在杂货定价上，而是在合规上。领域不同，架构上的罪却相同。
那个夜晚，我们决定投身于神经符号（neuro-symbolic）架构。不是因为它时髦——它当时并不时髦，坦白说现在也依然不是——而是因为我们无法接受去构建一个在需要百分之百正确的事情上只做到 90% 正确的东西。
在一个高风险领域里，一个 99% 准确的 AI 并不是一个成功的故事。它是一个带着营销预算的负债。
当法律追上算法时会发生什么？
就在 Instacart 与 FTC 和解之际，同样重大的事情正在奥尔巴尼发生。纽约的《算法定价披露法》于 2025 年 11 月 10 日生效，它为每一家使用 AI 来设定面向消费者价格的公司改变了游戏规则。
这项法律要求，每当一个价格是由使用个人数据的算法设定时，都必须做出一项明确、醒目的披露：
“此价格由一个使用您个人数据的算法设定。”
想想这在技术上意味着什么。你的系统必须实时知道，某个给定的价格是由一个通用的启发式规则生成的，还是由一个个性化的统计画像生成的。它必须追溯数据谱系——哪些输入喂给了模型，是否涉及个人数据，以及在流水线的哪个环节涉及。而且它必须在交易完成之前，把这个判定呈现到用户界面上。
大多数 AI 定价系统做不到这一点。它们不是为此而建的。模型摄入一个特征向量，产生一个数字，而没有人——不是工程师，不是产品经理，当然也不是法务团队——能准确告诉你到底是哪些特征驱动了这个输出。它在设计上就是一个黑箱，而现在法律说，黑箱是不可接受的。
在联邦层面，2025 年的《算法问责法》走得更远：年收入超过五千万美元的公司必须对其自动化系统进行全面的影响评估，并向 FTC 提交年度报告。“我们的算法是专有的”作为一种辩护的时代结束了。
在过去几个月里，我和企业 CTO 有过三次不同的对话，同样的觉悟都在会议中途降临：他们现有的 AI 部署无法遵守这些法律。不是“不容易遵守”。是无法遵守。架构不支持法规所要求的透明度。
本可以阻止这一切的架构
接下来我要表达一些鲜明的观点，而且我不打算为此道歉。
Instacart 的灾难并非人工智能的失败。它失败于架构。AI 完全做了它被设计去做的事：优化一个奖励函数。问题在于没有人构建约束。
在 Veriprajna，我们构建我们所说的“真相已验证（truth-verified）”系统——一种混合架构，将神经网络（模式匹配、直觉层）与符号逻辑（遵循规则、推理层）融合起来。在实践中，这意味着在任何 AI 生成的决策到达用户之前，会发生三件事：
首先，一个符号约束层对硬性规则进行编码。在定价场景中，这可能是：“任何商品不得超过建议零售价的 110%。任何价格因用户身份产生的浮动不得超过 3%。所有影响价格的特征都必须被记录。”这些不是建议。它们是神经引擎无法翻越的墙。
其次，神经层做神经网络最擅长的事——它识别模式，提出优化建议，在市场数据中发现人类会错过的机会。
第三——这也是大多数“AI 驱动”公司完全跳过的部分——一个确定性验证层会在任何东西被呈现之前，依据符号规则评估神经层的建议。如果这个建议违反了某个约束，它就会被拒绝。不是被标记。不是被记录以供日后审查。而是被拒绝。
问题不在于你的 AI 能不能生成一个好答案。而在于你的 AI 能否在它采取行动之前，证明它的答案是合法的、公平的、可追溯的。
我们还使用结构因果模型（Structural Causal Models）来检验一种叫做反事实公平性的东西。这个系统在数学上被要求回答：“如果这位客户来自一个不同的人口群体，但其他一切都保持不变，价格会改变吗？”如果会，模型就会在训练中受到惩罚，直到偏见被剔除。这不是通过忽略受保护属性来实现的公平——它是通过主动设计模型，使其对邮政编码、浏览设备或购买时间等具有歧视性的代理变量视而不见，从而实现的公平。
关于这个架构究竟如何运作的完整技术剖析——GraphRAG 流水线、本体驱动的推理、模式约束解码器——请见我们关于从概率套壳向确定性深度 AI 转变的研究论文。我不会假装它是轻松的读物，但如果你正在构建或采购企业 AI，它可能是你今年会读到的最重要的东西。
“但这难道不是在拖慢创新吗？”
我不断被问到这个问题，通常来自那些在 LLM API 调用上花了很多钱、又不想听到自己的架构有保质期的人。
这是我诚实的回答：是的，构建确定性约束比在 GPT 外面包一层提示词、然后把它称为企业级要花更长时间。我们的实现需要数周，而套壳只需数天。但 Instacart 的和解案花了数年，并付出了六千万美元。声誉损害仍在持续发酵。监管审查将在未来十年里如影随形。
没有正确性的速度不是创新。它是配了一份新闻稿的技术债。
我听到的另一个反对意见是关于成本的。“神经符号系统构建起来很昂贵。”确实如此。但你知道什么更昂贵吗？一场 FTC 调查。一起集体诉讼。一篇头版报道，讲述你的算法如何因为单亲妈妈不太可能货比三家，就向她们收取更高的婴儿配方奶粉价格。
有一次，在很早的时候，一位投资人对我说：“直接用 GPT。加一个免责声明。发布它。”我告诉他，那就像在一辆没有安全带的车上贴一张安全带贴纸。他没有投资。我不后悔那次对话。
接下来会走向何方
Instacart 案是零号病人，但它不会是最后一个。每一家在运行算法定价、自动化承保、AI 驱动招聘或个性化推荐的公司，都处在同一个风险区里。唯一的变量是监管和声誉后果何时到来——而不是是否会到来。
在这场转变中幸存下来的公司，将是那些理解了 Instacart 团队显然没有理解的东西的公司：AI 的工作不是把一个数字最大化。AI 的工作是做出一个能够被解释、被论证、被辩护的决策——向客户、向监管者、向法官。
那需要架构，而不是套壳。它需要符号推理，而不仅仅是统计预测。它需要构建这样的系统：它们知道自己被禁止做什么，而不仅仅是知道自己被优化去做什么。
我不认为 AI 在企业中的时代正在终结。我认为它才刚刚开始——因为这是第一次，我们被迫把它建对。那个实验性的时代——公司可以在数百万消费者身上部署黑箱算法，并称之为“创新”——已经结束了。取代它的东西将更难构建、更慢交付、演示起来也更无聊。
它也将是唯一能够存活下来的那一种。
