40 万美元罚单：SEC 首次“AI 洗白”执法，为什么该让每家 AI 公司胆寒——以及我正在构建的替代方案
那天我正在和一位潜在的银行客户通话，SEC 就在这时公布了针对 Delphia 和 Global Predictions 的执法行动。2024 年 3 月 18 日。这位客户的合规官竟然直接打断了我们的谈话，把新闻稿大声念了出来。她念完之后，出现了一段很长的沉默。然后她说：“所以基本上，SEC 刚刚告诉我们，我们现在这家 AI 供应商向我们承诺的一切，都是一场等着发生的诉讼。”
她没说错。SEC 刚刚对两家投资顾问公司合计处以 40 万美元罚款，理由是监管机构正式称之为AI 洗白（AI washing）的行为——即对自己使用人工智能的情况作出虚假和误导性陈述。其中一家公司 Delphia 自 2019 年起就一直告诉客户，它使用机器学习分析客户的消费模式和社交媒体活动，以“预测哪些公司和趋势即将大红大紫”。而现实呢？他们从未真正把这些数据整合进自己的投资流程。一次都没有。他们营销的是一项根本不存在的能力。
那通电话改变了我公司的走向。不是因为那些执法行动让我意外——几个月来，我一直在关注 AI 炒作与监管现实之间的这场碰撞。改变的是紧迫感。突然之间，我接触的每一家银行、每一个医疗系统、每一家律师事务所，问的都不再是“我们该怎么采用 AI？”，而是“我们怎么证明我们的 AI 真的做到了我们所说的事？”
这个问题——如何把可证明的真相工程化地构建进一个 AI 系统——正是我此后一直执着于回答的问题。
AI 洗白到底是什么？你为什么应该在意？
把它想成漂绿（greenwashing），只不过对象是算法。一家公司在营销材料上贴一句“由 AI 驱动”，看着股价上涨、客户线索源源不断，却没人问底层技术是否真的像宣传的那样管用。SEC 是刻意套用这个 “washing” 构词的——欺骗的运作机制一模一样。
Delphia 声称使用了由机器学习驱动的“预测性算法模型”。SEC 对其进行了检查，并在 2021 年要求他们停止撒谎，而他们照撒不误，又持续了两年。这为他们换来了 22.5 万美元的罚款和一次谴责。与此同时，Global Predictions 自称是“第一家受监管的 AI 财务顾问”，并承诺提供“由 AI 驱动的专家预测”。当监管机构索要支持这些说法的技术文档时，该公司拿不出来。又是 17.5 万美元没了。
SEC 并不需要新的 AI 专门立法来起诉这些案件。他们用的是已经存在了几十年的同一批反欺诈成文法。如果你就自己的技术能做什么撒谎，你就是在实施欺诈。“AI”这部分无关紧要。
以下这一点让此事有别于典型的监管轻拍手腕：SEC 主席 Gary Gensler 明确表示，这只是一个开端，而不是一次性事件。而且 SEC 并非孤军作战。FTC 启动了“AI 合规行动”（Operation AI Comply），并对 DoNotPay 出手——这家公司把自己营销为“世界上第一位机器人律师”——因为它无法为“其 AI 能够取代人类律师”的说法提供实证。美国司法部宣布，将把 AI 风险管理作为企业合规评估的一部分加以审查，并对借助滥用 AI 实施的犯罪寻求更严厉的处罚。
三家联邦机构，都在传递同一个信息：要么证明它，要么为它付出代价。
我意识到大多数企业级 AI 都建在沙上的那一夜
我记得某个特定的夜晚——我和团队正在给一款客户正在考虑的竞品“AI 驱动法律研究工具”做基准测试。我们向它提了一个关于近期某巡回上诉法院裁决的简单问题。工具返回了一个排版精美的答案，附带三条判例引证。语气笃定，用语专业。只有一个问题：其中一条引证完全是捏造的。那个案子根本不存在。另外两个确实存在，但它们的说法与工具所声称的恰恰相反。
我的联合创始人看着我说：“这玩意儿写起来像律师，推理起来像鹦鹉。”
这就是核心的技术问题，而它不是 bug——它就是架构本身。大多数大语言模型通过下一个 token 的预测来工作。它们计算在给定此前全部内容的条件下，下一个词应该是什么的概率。这套数学很优雅：对模型的输出分数做一次 softmax 函数运算，选出最可能的续写。但“最可能”和“真实”是根本不同的两回事。模型内部没有关于真相的概念。它从未读过一部成文法并理解它。它只是处理了数十亿 token，学会了哪些词往往出现在哪些词的附近。
用来生成营销文案或总结会议纪要，这没问题。但用来告诉一家银行某笔交易是否符合反洗钱法规，或者告诉一位医生某种药物相互作用是否危险，“统计上说得通”在法律上就等同于“错误”。
在受监管的环境里，“大致正确”不是一个质量等级——它是一个责任类别。
然而，眼下卖给企业的绝大多数“AI 解决方案”，正是业内委婉称作“套壳”的东西。他们拿来 OpenAI 或 Anthropic 的公开 API，加上一些提示工程和一个漂亮的用户界面，就上线了。套壳产品没有办法验证自己的推理。它无法证明答案从何而来。它只是把基础模型生成的一切原样转达，连同幻觉一起。
我在我们研究的交互式版本中深入探讨过这个问题——这些系统所宣称的能力，与它们在架构上真正能做到的事情之间，差距大得惊人。
为什么 RAG 在高风险决策中会失效？
每当我向技术受众解释这个问题时，总会有人说：“那 RAG 呢？”检索增强生成（Retrieval-Augmented Generation）——这种做法是让模型可以访问一个文档数据库，这样它就能去查资料，而不是自己编。它是业界最爱用的创可贴。
问题在这里。标准的向量 RAG 的工作方式，是把你的问题和你的文档转换成数学表示（向量），然后在那个抽象空间里找出与你的问题“最接近”的文档。这是一种语义相似度搜索。对许多应用来说，它的效果还算不错。
但在那些信息之间的关系与信息本身同样重要的领域里，“还算不错”就崩塌了。以法律研究为例。一个法院判例并不只是存在——它引用其他判例，推翻其中一些，维持另一些，并且在特定的司法管辖层级中运作。当你问一个法律 AI“这个先例现在还是有效法律吗？”，向量搜索可能因为词句匹配而把这个案子找出来。但它没有办法告诉你，这个案子在六个月后被一家更高级别的法院推翻了。它无法区分“引用”与“推翻”。
我的团队为此争论了好几周。一位工程师想继续改进我们的向量检索——更好的嵌入、更好的分块策略、更精细的重排序。另一位则坚持认为，问题不在于检索质量，而在于检索架构。整套“找到最接近的文档”的范式，对于那些由文档之间的关系承载含义的领域来说，本身就是错的。
她是对的。而正是那场争论，把我们推向了 GraphRAG。
当你构建出能证明自身推理过程的 AI 时，会发生什么？
GraphRAG——具体来说是我们所称的引证强制型 GraphRAG（Citation-Enforced GraphRAG）——用一个结构化的知识图谱取代了模糊的语义搜索。你不再让向量漂浮在抽象空间里，而是构建一张明确的地图，标出信息之间如何连接。在法律知识图谱中，一份司法意见是一个节点。它与其他意见的关系是一条边——引用（CITES）、推翻（OVERRULES）、维持（AFFIRMS）、解释（INTERPRETS）。成文法与解释它们的判例相连。司法管辖层级被直接编码进去。
当 AI 生成回答时，它不只是找到“相似”的文本。它在图中遍历经过验证的路径。如果它声称判例 A 支持命题 B，那么图中就必须存在一条真实的、可审计的链接把二者连起来。我们使用图约束解码，从物理上阻止模型输出它无法验证的引证。模型根本不可能凭空捏造一条引证，因为架构不允许它这么做。
这就是我所说的确定性 AI 的含义。不是“大概是对的”，而是可证明有据可依。
向量 RAG 与 GraphRAG 之间的差别不是渐进式改进——那是猜哪本书相关，与真正去读脚注之间的差别。
我们把这一点与多智能体编排结合起来。我们不让单个模型包办一切——研究、验证、写作——而是使用专门化的智能体。研究智能体负责检索原始信息。验证智能体将其与知识图谱交叉比对。写作智能体只使用经过验证的事实来产出内容。这些智能体运行在我们所称的循环反思模式（Cyclic Reflection Pattern）中，在任何人看到结果之前，反复审查草稿中的幻觉。
它比套壳产品更慢，构建成本也更高。而这是唯一一种架构，我敢用它来承载那些可能最终摆到监管机构面前的决策。
没人愿意谈的数据主权问题
这件事还有另一个维度，是 AI 洗白的讨论大多忽略的：数据存放在哪里。
一位医疗行业客户曾直截了当地问我：“如果我们用你们的系统，我们的患者数据会去哪里？”当我告诉他们数据永远不会离开他们自己的基础设施时，他们如释重负。然后他们告诉我，他们上一家供应商——一家知名 AI 公司——无法把这个问题说清楚。数据进了供应商的云，在共享基础设施上处理，而供应商的服务条款在技术上允许用这些数据改进他们的模型。
对于一家处理受 HIPAA、GDPR 或 CCPA 管辖的数据的公司来说，这不是灰色地带。这就是违规。
我们在主权基础设施上部署——完全自托管在客户的场地内，或部署在他们自己的私有云（VPC）中，AI 实例与公共互联网隔离。这需要更多的前期投入。客户需要 GPU 和专门的基础设施。但他们得到的，是任何公共 API 都无法提供的东西：零数据外泄以及完整的可审计性。每一次查询、每一次响应、每一个模型版本——全都在他们自己的治理框架之内。
关于我们如何构建这一切的完整技术架构——包括知识图谱模式、多智能体编排框架，以及我们在主权部署上的做法——请参阅我们的技术深度解析。
如何在不被合规淹没的前提下真正治理 AI？
我曾坐在一些董事会会议室里，看着高管们把 AI 治理当成打勾走过场。挑一个框架，填完表格，翻篇。这种做法会让你被罚款。
有两个框架已经成为行业标准，而它们服务于不同的目的。NIST 人工智能风险管理框架是一份自愿性的战术指南——它帮助你识别风险、衡量风险，并建立内部流程。它实施起来很快，非常适合在组织内部锻炼我所说的“AI 风险肌肉”。但它是自我声明的。没有人核实你是否真的做了你所说的事。
ISO/IEC 42001则是可认证的国际标准。第三方审计师会检查你的 AI 管理体系，然后决定给不给你认证。当监管机构、客户或收购方要求“证明你的 AI 治理是真实的”时，这份认证就有分量了。
聪明的做法是把两者排好次序：用 NIST 快速建立敏捷的内部控制，再把这些控制映射到 ISO 42001 的要求上以取得正式认证。一个给你速度，另一个给你证明。
而在这两个框架之下，还有一项正在成形的要求，大多数公司甚至还没听说过：AI 物料清单（AIBOM）。可以把它想成 AI 系统的营养成分标签。它是一份机器可读的记录，涵盖构建这套系统所用的一切——训练数据集、基础模型、第三方库、基础设施依赖。当审计师问“是什么数据训练了这个模型？”或“做出这个决策时运行的是哪个版本的 PyTorch？”时，AIBOM 能即时给出答案。
我们把 AIBOM 的生成自动化，作为部署流水线的一部分。每一个模型版本都能追溯到确切的代码和数据集版本。这不是什么光鲜的工作。但它决定了你是顺利通过审计，还是手忙脚乱地去重建那些本该从第一天起就存在的文档。
那位让我“直接用 GPT 就行”的投资人
我必须讲这个故事，因为它精准地捕捉到了 AI 洗白执法所要惩戒的那种心态。
在 Veriprajna 早期，我向一位投资人做路演。我讲解了我们的架构——知识图谱、多智能体验证、主权部署模式。他礼貌地听完，然后说：“你为什么不直接给 GPT-4 套个壳，收费更低，规模扩得更快？没人会去审计后端的。”
我告诉他，SEC 刚刚就因为完全相同的逻辑罚了两家公司。他耸了耸肩。
六个月后，他投资组合中的一家公司——一家“AI 驱动”的金融科技公司——就其营销宣称收到了监管问询。他们拿不出文档来证明自家 AI 真的做到了路演材料上写的那些事。我最后听说的是，他们正手忙脚乱地按紧急费率聘请合规顾问。
人们总是问我，执法环境会不会松动——新一届政府或优先事项的转变，会不会让 AI 洗白的风险变小。我的诚实回答是：这不重要。SEC 用的是既有的反欺诈法。FTC 依据的是《联邦贸易委员会法》第 5 条，该条款自 1914 年起就已写入法典。各州总检察长也有他们自己的消费者保护成文法。即便联邦执法的优先事项发生变化，用于起诉 AI 欺骗行为的法律基础设施仍然是永久性的、多层次的。
AI 洗白不是一阵监管的时髦风潮。它是披着白大褂的欺诈，而如今各级政府都既有工具、也有意愿去起诉它。
更重要的问题是市场会怎么样。当公司靠捏造的 AI 能力取得成功时，它们扭曲了竞争，也侵蚀了正当 AI 公司赖以运营的信任。每一个被当作“先进 AI”卖出去的套壳产品，都让那些在做真正工程的公司更难解释：为什么他们的方案更贵、构建周期更长。
一个值得信任的 AI 系统究竟长什么样？
如果剥掉那些框架和缩略词，构建一个能经受住监管审视的 AI，归根结底就是四件事。
工程化确定性。超越概率性输出，转向能够证明自身推理过程的架构——神经符号系统、知识图谱、图约束解码。如果你的 AI 无法展示它的推演过程，它就还没准备好进入受监管的环境。
把主权做进架构。在你自己掌控的基础设施内部署。如果你客户的敏感数据接触到共享的公共基础设施，你就制造了一项再多提示工程也无法修复的合规责任。
标准化治理。采用可认证的框架。维护 AI 物料清单。让文档成为一个持续的、自动化的过程，而不是一年一度的手忙脚乱。
持续验证。实施对抗性红队测试，把幻觉率和事实有据率（grounding）作为 KPI 来跟踪，并在高风险决策中保留人类参与环节。部署时准确的模型会漂移。像监控交易算法那样监控它——因为失败的后果不相上下。
SEC 那 40 万美元的罚款，对金融行业来说只是一个四舍五入的零头。但这些罚款背后传递的信息，不是。我们已经走出了那个时代——那个你可以营销自己并不具备的 AI 能力、把黑箱塞进受监管的工作流、并假定没人会去核查的时代。如今每一套企业 AI 系统都运行在一个隐含的举证责任之下：你能证明它确实做到了你所宣称的事吗？
我创办了 Veriprajna——这个名字结合了“Veri”（真相）与“Prajna”（智慧）——因为我相信，AI 行业的信誉危机，本质上是一场架构危机。你无法用一个从设计之初就不在乎真相的系统，去解决一个关于真相的问题。你必须把它工程化地构建进去：从知识图谱往上，贯穿每一个智能体、每一个验证循环、每一个部署决策。
理解这一点的公司，将构建出真正管用的 AI。不理解的那些，会继续给 API 套壳、写出令人印象深刻的路演材料，然后指望没人掀开引擎盖看一眼。监管机构现在正在看。而且他们不会停下来。
