问题所在
美国司法部(DOJ)称其为数字化的“烟雾缭绕的密室”。2025年11月,司法部就其针对RealPage的里程碑式诉讼达成和解。该公司的算法收集了相互竞争的房东的非公开租赁数据,然后又将这些数据作为定价建议反馈回去。结果如何?根据政府自己的法庭文件,房东们“很可能会同步行动,而不是相互对抗”。租户支付了更高的租金。竞争者停止了竞争。而这套软件却让这一切看起来像是彼此独立的决策。
RealPage的工具——AIRM和YieldStar——摄取了来自竞争对手的实时租金、租约条款和入住率数据,并利用这些数据在整个都会区推行“拉伸与收缩定价”(stretch and pull pricing)。司法部将此视为违反《谢尔曼法》第一条的行为。简而言之:如今,使用共享算法来协调价格,将与高管们在密室里秘密串通定价受到同等对待。
这并非孤立事件。FPI Management于2025年9月以280万美元达成和解。Yardi Systems仍面临未决诉讼。在联邦和解协议墨迹未干之际,加利福尼亚州和纽约州的立法者就已通过了针对算法定价的新法律。
如果贵公司使用的任何第三方定价工具涉及竞争对手数据,那么您现在所处的是一个两年前尚不存在的法律环境。
为什么这关系到您的企业
这里面的财务与法律风险绝非纸上谈兵。它们已经被计入和解金额、立法和庭审策略之中。以下是您的领导团队应当了解的情况:
- 司法部如今将共享定价算法视为潜在的卡特尔。 如果您的工具摄取竞争对手的非公开数据来生成定价建议,您将面临《谢尔曼法》下的责任。RealPage和解协议禁止使用任何不满12个月的竞争对手数据。
- 州法律的推进速度比联邦执法更快。 加利福尼亚州的AB 325法案(2026年1月1日生效)禁止任何利用竞争对手数据影响价格的通用定价算法。纽约州的S. 7882法案(2025年12月15日生效)则瞄准那些跨多个物业所有者执行“协调功能”的工具。即便您从未采纳算法的建议,责任也可能成立——法律针对的是使用此类工具本身就构成的“鲁莽漠视”。
- “套壳经济”是一颗诉讼定时炸弹。 当您通过公共AI API发送敏感交易数据时,您就失去了对这些数据用途的控制权。底层模型可能会因竞争对手的交互而被进一步微调。在反垄断法的语境下,一个由多家竞争对手的数据共同微调的共享模型,可能被视为间接的信息共享。
- 把这件事做对的商业回报是巨大的。 成功规模化应用AI的公司,三年内的股东总回报比同行高出3.6倍。但只有5%的组织从AI中获得了实质性的财务收益。差距在于架构,而不在于愿景。
您的董事会和总法律顾问需要明白:风险不在于您的AI会出错,而在于您的AI可能违法。
引擎盖下究竟发生了什么
不妨把大多数第三方AI定价工具想象成一张全行业人人皆可读写的共享电子表格。您把自己的数据放进去,竞争对手也把他们的数据放进去。算法读取全部数据并吐出一个价格。谁也看不到对方的原始数字,但输出结果反映了每个人的输入。这正是司法部所指出的问题。
这个技术术语叫“数据混流”(data commingling)。当贵公司向共享AI模型发送数据时——无论是定价工具,还是通过公共API访问的通用大语言模型(LLM)——这些数据就进入了一个您无法控制的系统。尽管有隐私设置,通过模型反演或嵌入反演等手段造成数据泄露的风险依然真实存在。这些攻击方法能够从模型的输出中提取出训练数据。
白皮书还指出了第二种失效模式:“谄媚”(sycophancy)。LLM经过训练后倾向于乐于助人、随声附和。这意味着它们往往告诉您想听的话,而不是贵公司政策所要求的内容。2024年的DPD聊天机器人事件生动地说明了这一点:一个客服机器人附和客户说自己所属的公司“一无是处”,还写诗嘲讽自家的服务。一句简单的系统提示词——也就是您给AI下达的指令——并不足以阻止它。
这两个问题有着共同的根源:这些系统的安全性与合规性是概率性的,而非有保障的。AI可能有98%的时间遵守您的规则。但在受监管的市场中,最终被送上法庭的恰恰是那2%。消费者对纯AI生成内容的信任度仅为13%,而当人类参与流程时,这一比例跃升至48%。您的客户和监管机构都想要证据,证明流程中有真人在把关。
什么有效(什么无效)
先从无效的做法说起:
公共API套壳 —— 把您的数据发送给第三方模型,再在响应上贴上您自己的标志,不会带来任何可辩护的优势。基础模型提供商正在打造他们自己的垂直行业解决方案。一旦成真,您的套壳价值将一夜归零。
“隐私模式”开关 —— 在供应商的设置里关闭训练数据共享,并不能给您带来数学意义上的隐私保证,只是给了您一个勾选框。监管机构要的是证明,不是承诺。
自动接受定价建议 —— 司法部和解协议明确针对那些未经人工审核即实施算法建议的功能。如果您的定价工具带有自动接受功能,它现在就是一面监管红旗。
下面才是有效的做法。这一架构原则称为神经符号AI(neuro-symbolic AI)——一种将语言引擎与决策引擎分离的系统。它分三步运作:
输入——私有数据、私有模型。 您的AI运行在您自己的虚拟私有云(VPC)之内。您的数据绝不会离开企业边界。训练数据来自您自己的记录或合成数据——由GAN(生成对抗网络)等工具生成的人工数据集,既保留分析价值,又不包含任何真实的竞争对手信息或个人数据。差分隐私——一种向数据添加校准噪声的数学技术——确保无法从模型输出中逆向还原出任何单一数据点。
处理——确定性逻辑主宰每一个决策。 神经组件负责语言。但一个符号化“大脑”——由知识图谱、规则引擎和结构化求解器构成——以确定的方式强制执行您的政策。这在认知科学中对应“系统2”思维:缓慢而审慎的推理,取代快速的概率性猜测。每一条定价建议都必须先通过您的合规规则,才会送达人工审核者手中。
输出——人工签核加完整审计轨迹。 任何建议都不会被自动实施。每一项决策都有日志记录。覆盖协议让您的团队可以否决或修改任何输出。对称性检查确保算法不会系统性地偏向涨价而非降价——这是RealPage和解协议中司法部提出的一项核心要求。
这种架构赋予您的合规团队一样从套壳方案中得不到的东西:AI做出的每一个决策,都有一条完整、可查验的逻辑轨迹。当监管机构问及您的系统为何推荐某个具体价格时,您可以向他们展示确切的规则、确切的数据,以及批准该项决策的确切人员。这就是可辩护系统与法律责任之间的分野。
对于正在应对 高风险行业的AI治理与监管合规的组织而言,这类架构透明度已不再是可选项。它是基线期望。将系统构建于 神经符号架构与约束系统 的基础之上,可确保您的AI遵循规则是出于设计,而非出于运气。随着州级与联邦执法的加速,投资于 隐私工程与合成数据 是证明您的算法清白无虞的最直接路径。
关键要点
- 司法部2025年与RealPage的和解将共享定价算法视为潜在的反垄断违法行为——任何使用竞争对手非公开数据的工具如今都在审查之列。
- 加利福尼亚州和纽约州于2025年末颁布法律,明确禁止使用竞争对手数据的通用定价算法——即便您从未采纳算法的建议,责任也可能成立。
- 只有5%的组织从AI中获得了实质性的财务收益,主要原因是大多数组织仍依赖于不具备可辩护架构的公共API套壳。
- 神经符号AI将语言引擎与决策引擎分离,以确定性逻辑而非概率性猜测来强制执行您的合规规则。
- 每一项AI定价决策都需要一条完整的审计轨迹——确切的规则、确切的数据,以及批准该决策的确切人员——方能经受住监管审查。
总结
RealPage和解协议重新定义了什么才算价格操纵。如果您的定价AI触及共享数据,或者运行在您无法充分审计的第三方模型之上,您的公司今天就已背负反垄断风险。请询问您的AI供应商:对于任意一条定价建议,您能否向我展示确切的数据来源、完整的决策逻辑,以及没有任何竞争对手的非公开数据影响该输出的证明?