亚马逊的秘密算法从你身上偷走了 10 亿美元——下一个可能就是你公司的 AI
2024 年底，我坐在一家客户的会议室里，他们的定价副总裁调出一个仪表盘，带着由衷的自豪说：“我们已经把一切都自动化了。算法会处理好所有事情。”
我只问了他一个问题：“你能确切地告诉我，昨天它为什么给这款产品定了这个价吗？”
一阵沉默。不是在思考的那种沉默，而是那种一个人突然意识到自己一直在开车、却不知道刹车在哪里的沉默。
那一刻不断在我脑海里重演，因为如今我们已经知道了亚马逊 Project Nessie 的真相——一套秘密的定价算法，攫取了超过10 亿美元的超额利润，其手段是预测竞争对手何时会跟随亚马逊的涨价，然后蓄意抬高价格来触发这种反应。这不是故障，也不是意料之外的后果，而是一项功能。为此，联邦贸易委员会（FTC）将于 2026 年 10 月把亚马逊送上法庭。
最让我不安的是：那间会议室里的副总裁并没有做什么不寻常的事。他所做的，正是当下成千上万家公司正在做的事情——把自己无法解释、无法审计、也无法控制的高风险决策，托付给不透明的 AI 系统。而监管世界即将让这种信任变得极其昂贵。
如何在无人察觉的情况下窃取 10 亿美元？
Project Nessie 从 2014 年运行到 2019 年。它不是一个简单的比价工具，而是一台伪装成优化软件的市场操纵引擎。
它的运作方式是这样的。亚马逊的网络爬虫实时监控着互联网上数以百万计的价格点——沃尔玛、Target，以及每一家有网站的零售商。这些竞争对手大多采用简单的基于规则的定价：“如果亚马逊降到 $19.99，就跟着降。”针锋相对，简单直接。
Nessie 识别出了这种模式并加以利用。该算法会计算竞争对手有多大可能会跟随亚马逊的价格上调。当把握很大时，亚马逊便会蓄意抬高价格。竞争对手那套笨拙的算法就会尽职地跟进。亚马逊维持住抬高后的价格。利润到手。
如果竞争对手没有跟进呢？Nessie 会自动把价格回退。没有损失，也不算犯规——只不过亚马逊刚刚试探出了市场所能承受的上限。
亚马逊的算法并不是在烟雾缭绕的密室里与竞争对手合谋。它是通过代码合谋的——预测对手的自动化反应，并像钟表般精准地加以利用。
其规模令人咋舌。据报道，Nessie 为超过800 万件单品设定了价格。内部文件显示，亚马逊管理层至少八次开启和关闭该算法，并有策略地在高流量时段——也就是攫取利润最丰厚的时候——将其激活。高管们私下里把相关做法称为“见不得光的”，是一个“未言明的毒瘤”。可他们照样继续运行它。
我真正理解“隐性合谋”含义的那个夜晚
我清楚地记得这件事在我脑中豁然开朗的那个晚上。我和我的团队正在研读卡内基梅隆大学一项关于算法定价互动的研究——那种你在晚上 11 点、灌了太多咖啡、心里越来越发怵时读的论文。
研究人员模拟了当一个复杂的强化学习智能体与简单的基于规则的定价系统竞争时会发生什么。这个强化学习智能体不需要与竞争对手沟通，也不需要什么秘密协议。它只是学会了：抬高价格比削价更有利可图，因为其他算法总会跟进。每一次都是如此。
结果是：价格全面上涨。消费者剩余——这个经济学术语指的是“人们获得公平交易”——则崩塌了。
我转向我的联合创始人，说了大致这样一句话：“这不是系统里的漏洞。这正是系统会做的事，只要你放任它毫无约束地去优化。”
这正是 Project Nessie 的核心问题，也是我如今所见的大多数企业级 AI 部署的核心问题。算法恰恰做了它被设计去做的事：它让利润最大化。只不过它做这件事的方式，视 2026 年 10 月那场审判的结果而定，可能构成《FTC 法案》第 5 条下的不公平竞争手段。
传统反垄断法要求有“意思一致”的证据——即竞争对手就操纵价格达成一致。但如果这种一致是隐性的、被编码进相互作用的算法的可预测行为之中，又会怎样呢？这正是 FTC 那场审判将要回答的问题，而其影响远远超出亚马逊本身。
为什么 2026 年是一切发生改变的一年？
算法决策的法律格局正在以超出大多数企业想象的速度发生变化。我一直在密切追踪这一点，因为我们的客户需要了解即将到来的是什么——而即将到来的，是一堵监管之墙。
加利福尼亚州修订后的《卡特赖特法案》于 2026 年 1 月生效，专门针对“共用定价算法”——即由两个或更多竞争对手使用、并纳入竞争对手信息来影响价格的工具。该法律明确禁止利用这类工具进行合谋。更重要的是，它降低了起诉门槛，对原告更为有利。你不再需要证明竞争对手不可能各自独立行事，只需要表明他们使用了同一款工具，且价格随之上涨。
想一想，这对每一家使用第三方动态定价供应商的公司意味着什么。
科罗拉多州的《AI 法案》于 2026 年 6 月生效，要求对高风险 AI 系统进行“合理注意”的影响评估——包括那些对定价、信贷和用工决策有重大影响的系统。开发者必须记录风险、局限性以及产生歧视性结果的可能性。
纽约州的透明度法律要求企业在算法利用个人数据进行定价决策时展示警示提示。隐形算法定价的时代正在终结。
然后还有 FTC 的审判本身。如果法院裁定亚马逊的预测性诱导——蓄意抬高价格以触发竞争对手跟进——构成一种不公平竞争手段，就会确立一个可适用于任何 AI 会影响市场价格的公司的判例。
如果你无法解释你的算法为什么做出某个具体决定，你就无法在法庭上为该决定辩护。而在 2026 年，你被要求这样做的情况将越来越多。
我把完整的监管时间线及其技术影响都写在了我们的交互式分析里——如果你的公司以任何形式涉及算法定价，都值得去了解其中的具体细节。
无人谈及的 Buy Box 陷阱
Nessie 这个故事有一个较少被关注、却对理解算法权力如何叠加放大至关重要的层面。
亚马逊不只是抬高了价格。它还强制推行了这些价格，覆盖整个互联网。
亚马逊设有一个专门的价格监控团队，负责盯着其平台上的第三方卖家。如果某个卖家在自己的网站或竞争对手的平台上以更低的价格出售某件商品，亚马逊就会剥夺其 Buy Box 的访问权限——而这个界面正是亚马逊 98% 的销售发生之处。
信息很明确：你在亚马逊上的价格，就是你在任何地方的最低价格。在别处打折，就会失去你的主要收入渠道。
这就设定了一道价格下限，把亚马逊的算法定价权力延伸到远远超出其自身平台的范围。卖家即便在自己的网站上也无法把价格压得比亚马逊更低。竞争对手也无法通过提供更低的价格来抢占市场份额，因为供给侧已被锁死。
每当有人对我说“市场会自我纠正”时，我都会想到这一点。只有当参与者能够自由竞争时，市场才能自我纠正。当一个算法同时掌控价格和执行机制时，你拥有的就不是一个市场，而是一套系统。
为什么你的 AI“套壳”是一颗迟早要引爆的责任隐患
接下来这部分对我来说很私人，因为这正是我把大部分时间都花在试图解决的问题。
我遇到的大多数企业级 AI 部署都遵循同一种套路：拿来一个公开的 API——GPT-4、Claude，或者任何当下流行的模型——在它外面裹上一层薄薄的应用层，把业务规则一股脑塞进一个巨大的提示词里，然后就宣称这是“AI 驱动的”。上线。收工。
我把这称为“套壳陷阱”，而且我亲眼见过一些聪明的公司径直踏了进去。
有一家客户——我不会点名，但他们做的是零售——把整个动态定价系统都构建成了对一个公开 LLM 的套壳。那个提示词极其庞大，里面塞满了定价规则、竞争对手数据、利润率目标、季节性调整。这个系统……大多数时候是好用的。而在它不好用的时候，没人能解释为什么。当模型提供方推送一次更新时，输出就会以无法预测的方式发生变化。当他们的法务团队索要定价决策的审计轨迹时，工程团队只能干瞪眼。
我记得在一个特别糟糕的星期之后，我和他们的 CTO 坐在一起——那一周里，系统生成的定价建议，如果真的付诸实施，会非常像 FTC 在亚马逊案中所调查的那种协同行为。这并非出于故意，也并非出于恶意。模型只是从其训练数据中学到了一些模式，而这些模式恰好产生了看起来像合谋的输出。
“我们无法证明它没有在合谋，”这位 CTO 对我说。“而根据加州的新规，这一点可能就足以让我们被起诉了。”
他说得没错。
套壳方案的结构性问题远不止于合规层面：
你无法审计一个黑箱。当底层模型由第三方掌控时，你无法证明某个具体定价决策为何会那样做出。而在科罗拉多州《AI 法案》之下，你将必须做到这一点。
你无法保证一致性。提示词中的细微改动，或者 API 提供方对模型进行的、你看不见的更新，都可能产生截然不同的输出。试着把这一点向监管者解释清楚吧。
你没有任何竞争护城河。如果你的“AI 解决方案”只是投喂给 GPT-4 的一个提示词，那么任何竞争对手都能在一天之内把它复制出来。而当 Google 和微软把这些能力原生集成进它们的平台时，独立的套壳产品会在一夜之间变得多余。
你并不拥有自己的智能。你最敏感的市场数据——定价策略、竞争对手分析、利润率目标——都流经别人的服务器。在一个数据主权要求日益提高的世界里，这不仅仅是有风险，更是一种失职。
我们转而构建了什么（以及为什么它比我们预想的更难）
在 VeriPrajna，我们走了一条不同的路。我们称之为 Deep AI，而我要坦白说——它比套壳要难做得多。有那么一些时刻，我甚至怀疑市场是否会在意这种差别。
其核心理念是主权智能：完整的推理栈部署在客户自有的基础设施之上。没有任何数据离开企业的边界。这个 AI 的“大脑”运行在由客户掌控的硬件上。
我们使用高性能的开源模型——Llama 3、Mistral——通过安全的容器化技术进行编排。本地推理。没有第三方数据留存。没有外部 API 延迟。
但模型只是开始。真正的工程挑战在于它周围的一切。
我们构建了我们称之为 RAG 2.0 的东西——一种检索增强生成技术，它从公司的专有文档、日志和运营数据中打造出一个“语义大脑”。至关重要的是，我们的检索系统具备 RBAC 感知能力，它尊重组织现有的访问控制。如果一名员工在 SharePoint 里无法查看某份文档，那么 AI 也同样无法检索到它。这听起来理所当然，可几乎没有哪个基于套壳的系统做到了这一点。
接下来是多智能体架构。我们没有把所有东西都硬塞进一个巨大的提示词——那种“祈祷加提示”的做法——而是把复杂任务拆解给一个个专门的智能体。一个规划智能体决定工作流程。一个上下文工程智能体从海量数据中提取相关信号。一个合规智能体则对照监管要求校验每一个输出，赶在它到达用户之前。还有一个验证智能体负责检查准确性。
我记得曾和我的一位工程师就合规智能体是否值得它所增加的延迟而激烈争论。他的立场是：“用户想要速度。我们却为一个在每次请求时都会触发的检查增加了 200 毫秒。”我的立场是：“只要有一条不合规的定价建议最终出现在法庭的诉状里，其代价就会超过我们曾经节省下来的每一毫秒。”我们保留了合规智能体。
将在下一个十年胜出的公司，不是那些拥有最巧妙提示词的公司，而是那些把 AI 当作一门严肃的工程学科来对待、并将其建立在自己真正拥有且信任的数据之上的公司。
关于完整的技术架构——具体的组件、编排模式、治理层——我把一切都记录在了我们的技术深度解析中。
当算法开始推理时，会发生什么？
下一波浪潮已经到来，它让我前面所描述的一切变得更加紧迫。
当前的 AI 系统把输入通过神经网络处理一次，然后返回一个结果。而正在兴起的新范式——研究人员称之为推理式 AI（Reasoning AI）——会在推理阶段投入额外的算力去思考。该模型会在做出决定之前，模拟多种可能的行动及其后果。它会提前谋划好几步，就像把一个国际象棋引擎运用到商业战略之中。
在定价场景中，一个推理式 AI 智能体不只是预测下一个可能的价格。它会模拟竞争对手可能如何对一次涨价做出反应，为二阶和三阶效应建模，并实时调整自己的策略。它能够在那些次优路径付诸实施之前就从中回退。
这是一种非凡的能力，同时也是一种非凡的风险。因为一个能够推理竞争对手反应的 AI，正是一个从设计上就能够从事那种让亚马逊惹上麻烦的预测性诱导的 AI。
当算法聪明到足以对整个竞争格局建模、并选择那条使攫取最大化的路径时，“优化”与“操纵”之间的界限就变得薄如蝉翼、近乎消失。
这正是为什么治理不能是事后才想起的补充。它必须从第一天起就被构建进架构之中——不是作为一个合规的勾选框，而是作为对系统被允许做什么的一种结构性约束。
如何构建一个能在法庭上为自己辩护的 AI？
人们经常这样问我，通常表述为“我们要怎样让自己的 AI 合规？”我认为这是个错误的问题。合规只是一条最低底线。真正该问的问题是：你要如何构建一个自己愿意逐行、逐个决策地向法官解释的 AI？
NIST AI 风险管理框架为此给了我们一套词汇。它定义了可信 AI 的七项特征：安全、安全防护、可解释、增强隐私、公平、可问责，以及有效。但框架不会自己把自己实现出来。
从构建这些系统的过程中，我学到的是：有三件事比其他任何事都更重要：
第一，绝不要让算法成为高风险抉择的最终决策者。“人在回路”不是一个时髦的流行词，它是一面法律盾牌。当监管者问“是谁决定抬高这个价格的？”时，“我们的算法”是最糟糕的答案。而“我们的定价团队，在参考了他们审阅并批准过的算法建议后做出的决定”则是站得住脚的。
第二，主动审计合谋性的模式。不要等到 FTC 找上门来。定期在模拟的竞争环境中运行你的定价算法。如果它在与其他算法竞争时总是一致地收敛到更高的价格，那你就有麻烦了——而你会希望在原告的律师发现它之前，先由自己找出来。
第三，掌控你自己的技术栈。如果你的 AI 运行在别人的基础设施上、使用别人的模型，而你无法访问权重、训练数据或决策逻辑，那你拥有的就不是一个 AI 系统，而是一种带有生死攸关法律风险的供应商依赖。
价值 10 亿美元的问题
亚马逊的 Project Nessie 通过一套预测并利用竞争对手行为的算法，从消费者身上攫取了 10 亿美元。公司内部的管理层清楚它有问题。可他们照样运行它，因为其中的经济诱惑令人无法抗拒。
2026 年 10 月的审判将裁定那次攫取是否违法。但对于每一家在定价、供应链、放贷，或任何算法决策会影响市场与消费者的领域中部署 AI 的企业而言，判决结果几乎无关紧要。审视的目光早已到来。加利福尼亚、科罗拉多和纽约已经通过了法律。FTC 已经在展开调查。关于何为算法问责的法律标准，正在实时收紧。
我创办 VeriPrajna，是因为我相信，AI能够做的事，与 AI应该做的事之间的鸿沟，将成为这十年里最具决定性的商业问题。Project Nessie 证明了这道鸿沟可以意味着高达十亿美元的法律责任。那些弥合它的公司——通过构建自己拥有、理解并且能够辩护的 AI——将不只是避免法律风险敞口。它们还将与监管者、客户和市场建立起一种信任，而这种信任会成为一项无可撼动的竞争优势。
最危险的算法，并不是那个会出错的算法，而是那个以你无法解释的方式盈利的算法。
