AI洗白罚款已经到来：您的AI声明会是下一个吗？

问题所在

美国证券交易委员会（SEC）以在AI问题上撒谎为由，对两家投资公司合计处以$400,000罚款。不是因为它们造出了糟糕的AI，而是因为它们宣称拥有自己从未真正构建出的AI。

2024年3月，SEC指控Delphia (USA) Inc.和Global Predictions Inc.就其人工智能使用情况作出虚假陈述。Delphia向客户宣称，其使用一种“预测性算法模型”，通过分析消费支出模式和社交媒体数据来“预测哪些公司和趋势即将走红”。SEC的审查人员发现，Delphia实际上从未将这些数据整合进其投资流程。而从2019年到2023年，该公司一直在持续作出此类声明——甚至在SEC于2021年警告其收手之后依然如故。

Global Predictions自称是“首家受监管的AI财务顾问”。当监管机构要求其提供支持这一说法的技术文档时，该公司根本拿不出来。Delphia支付了$225,000，Global Predictions支付了$175,000。

这些并非复杂的欺诈阴谋，而是跑在了工程现实前面的营销声明。它们代表着一类全新的企业风险，您的法务与合规团队现在就必须弄懂。如果贵公司在任何地方宣称“由AI驱动”——无论是官网上、投资者材料里还是客户提案中——您所暴露的正是与之完全相同的执法风险。SEC援引的是现行反欺诈法律，而非专门针对AI的新规。这意味着，能够惩处贵公司的法律框架今天就已存在。

这为何关系到您的企业

SEC开出的$400,000罚单只是打响的第一枪。如今，多个联邦机构正在积极搜寻它们可以发起挑战的AI声明。

美国联邦贸易委员会（FTC）发起了“Operation AI Comply”行动，打击遍及消费者经济的欺骗性AI声明。2025年1月，FTC关停了DoNotPay——一项把自己宣传为“全球首个机器人律师”的服务——因为该公司无法证明其AI真能取代人类律师。FTC还追究了Evolv Technologies的责任，指称其夸大了自家AI传感器在学校探测武器的效果。

美国司法部宣布启动“Justice AI”倡议。联邦检察官今后在开展企业合规审查时，将把贵公司管理AI风险的能力纳入评估。上级已指示他们，在AI被用来实施白领犯罪时寻求更严厉的刑罚。

以下就是这对贵公司经营底线的具体影响：

• 监管罚款只是下限，而非上限。 与公开执法行动随之而来的声誉损害和业务流失相比，Delphia被处的$225,000罚款不过是小数目。
• 您的AI供应商会制造您的法律责任。 FTC已认定：如果某个AI工具被用作实施欺骗的“工具”，供应商与企业客户双方都可能被追究责任。
• 州总检察长也纷纷加入。 他们正运用现行的消费者保护成文法，在各州层面追查AI营销声明。
• 董事会的风险敞口真实存在。 如果贵公司在提交给SEC的备案文件或投资者路演材料中声称具备AI驱动的能力，贵公司高管将依照现行反欺诈规则承担个人责任。

这不是未来的问题。执法基础设施已经建成，并且正在运转。

底层究竟发生了什么

AI洗白的根源在于对现代AI实际运作方式的技术性误解。如今的大多数AI应用——包括您的供应商可能正在向您兜售的那些——都构建在这样一类系统之上：它们预测序列中最有可能出现的下一个词。它们不去核实事实，只会生成听起来头头是道的文本。

不妨把它想象成手机上的自动补全，只不过放大到了互联网的规模。您的手机并不知道下一个词是不是真的，它只知道接下来通常会出现哪个词。大语言模型（LLM）——ChatGPT这类工具背后的AI系统——正是以同样的方式运转，只不过动用了更多的数据和更多的数学。模型内部没有关于“真”的概念，它只是依据训练数据中的模式，预测最有可能出现的字符序列。

正因如此，AI系统才会“产生幻觉”——它们会编造根本不存在的参考文献、错误的财务数字，或是从未经过裁决的法律判例。在受监管的环境里，“大体正确”在法律上就等于“错误”。一条凭空捏造的法律引用，会让贵组织背上现实的法律责任。

更糟的是，当今卖给企业的“AI解决方案”大多属于业内所称的“套壳”。这类应用通过API接入某个公共AI服务——本质上就是插个插头——再在其上加一层用户界面。它们的设计目标是最小化成本，往往以牺牲准确性为代价。它们无法验证自身的推理，只是把底层模型生成的东西原样转手，不管是对是错。而贵公司的名字和声誉，却要为这样的输出背书。

哪些做法有效（哪些无效）

我们先来看哪些做法保护不了您：

• 只靠提示词工程。 精心斟酌您给AI的指令措辞，并不能阻止它产生幻觉。这能降低频率，却消除不了风险。
• 单薄的API套壳。 接入公共AI模型再贴上您的品牌，会让您对准确性、数据隐私和审计追踪的控制力归零。这类套壳极易因劣质输入而产生错误输出——这个问题被称为“检索投毒”。
• 人工抽检。 安排人工复查随机抽样的AI输出，发现不了未被抽查输出里的错误。它只会制造一种虚假的安全感。

真正有效的，是一种截然不同的架构。它分三步运作：

1. 依托知识图谱的有据检索。 与其放任AI漫无边际地搜索相关信息，不如为您的领域知识构建一张结构化地图——也就是知识图谱。以法律AI为例，每一份法院意见都通过CITES、OVERRULES、AFFIRMS这类特定关系链接到其他意见。系统只能引用这张经验证结构中确实存在的内容。这让检索从统计猜测变成了一条经过核实的路径。

2. 多智能体验证。 与其让一个AI模型独自完成研究、核实与写作，不如把工作拆给各司其职的智能体：“研究智能体”获取原始数据；“验证智能体”对照您的知识图谱交叉核验；“写作智能体”只用经过核实的事实产出最终成果。在任何人类看到结果之前，这些智能体会循环往复地互查彼此的工作。

3. 在自有基础设施上的主权化部署。 您的AI运行在您自己的防火墙之内——或者本地部署，或者在与公共互联网隔离的私有云中。这确保了数据零泄露。您的知识产权、客户数据和商业秘密绝不会触碰外部服务器。要做到HIPAA、GDPR与CCPA的合规，这一点必不可少。

审计追踪上的优势，正是这套方案经得起抗辩的关键所在。每一项输出都可以沿着经验证的链接，一路回溯到具体的源文档。当监管者、审计师或对方律师追问“您的AI是如何得出这个结论的”，您可以摆出确切的路径——从源数据，经层层验证，直到最终输出。这就是“您能为之一辩的系统”与“将成为您下一项责任的系统”之间的分野。

您的治理框架应当双管齐下：用NIST《AI风险管理框架》落实战术层面的风险控制，同时用ISO/IEC 42001取得可认证、经第三方审计的合规。ISO 42001是唯一可供认证的AI管理体系国际标准。第三方审计师可以核验您的合规状况——为您备齐采购评审、董事会汇报和监管申报所需的文件。

最后，建立AI物料清单（AIBOM）——一份完整、机器可读的清单，记录您AI系统中的每一个组件：训练数据集、基础模型、第三方程序库以及基础设施细节。您的AIBOM将成为单一事实来源，证明您的AI声明与技术现实相符。而当年SEC找上门时，Delphia和Global Predictions恰恰就拿不出这份文件。