AI 合规与验证
SEC、FTC 和各州总检察长正用他们追查证券欺诈的同一套工具来执法 AI 营销主张。三家机构、53 起集体诉讼,处罚已升级至刑事指控。问题不再是你的 AI 能否运作,而是你能否证明它确实做到了你在申报文件中所声称的事。
$42M+
基于捏造的 AI 主张所募集(Nate Inc)
SEC/DOJ 平行指控,2025 年 4 月
53
已提起的 AI 相关证券集体诉讼
斯坦福法学院,截至 2025 年上半年
$11.5M
AI 证券诉讼的和解金中位数
D&O Diary 分析,2025 年
Veriprajna 构建验证架构和佐证文档,使 AI 主张经得起辩护。不是治理仪表盘,而是真正的证据链。
AI 洗白执法是跨党派、多机构且不断加速的。SEC 为此设立了专门部门,FTC 正在开展执法扫荡,各州总检察长则拥有新的法定工具。理解谁执法、执法什么以及如何执法,是迈向可辩护合规的第一步。
| 机构 | 法律框架 | 关键判例 | 他们要求什么 | 最大风险敞口 |
|---|---|---|---|---|
| SEC(CETU) | 《投资顾问法》第 206(2) 条、《营销规则》、《证券法》第 17(a) 条 | Delphia($225K)、Presto(停止侵害令)、Nate($42M 欺诈 + DOJ 刑事) | 证明 AI 能力与披露相符的技术文档。AI 对决策产生影响的运营证据。 | 刑事指控(最高 20 年)、民事处罚、违法所得追缴 |
| FTC | 《FTC 法》第 5 条(不公平/欺骗性行为) | DoNotPay("机器人律师")、Workado(声称 98% 准确率,实测为 53%) | 证明 AI 表现与宣传相符的证据。基于真实世界测试方法学的准确率指标。 | 和解令、产品禁令、按违规次数计算的处罚 |
| 各州总检察长 | UDAP 法规、《科罗拉多州 AI 法》、《得克萨斯州 RAIGA》、纽约州 AI 法 | 科罗拉多州 SB 205(2026 年 6 月生效):影响评估、消费者通知、每次违规 $20K | 风险管理计划、影响评估、消费者披露记录、人工审查流程。 | 每次违规每日 $15K-$20K(纽约/科罗拉多)、民事调查要求(得克萨斯) |
| DOJ | 司法部 AI 倡议、电信欺诈、证券欺诈 | Nate Inc(SEC/DOJ 平行行动,针对创始人的刑事欺诈指控) | 企业合规评估。AI 风险管理作为整体合规的一部分进行评估。 | 联邦刑事起诉、对 AI 助长欺诈的加重量刑 |
| 欧盟(AI 办公室) | 《欧盟 AI 法》第 50 条、GPAI 条款 | 《AI 内容标注行为准则》(2026 年 6 月定稿)、第 50 条执法于 2026 年 8 月 | 机器可读的内容标记、GPAI 模型的透明度文档、兼容 C2PA 的来源溯源。 | 最高可处全球年营业额 3% 的罚款 |
每一次执法行动都遵循同样的逻辑:机构会将你对自己 AI 的陈述与你的 AI 实际所做的进行比对。Delphia 声称采用机器学习驱动的投资决策,却从未整合相关数据。Presto 声称 AI 取消了人工接单,而实际上 70% 以上的订单仍需人工。Nate 声称自动化率超过 90%,而实际上几乎为零。
共同的失败并非 AI 本身糟糕,而是营销与技术现实之间的差距,以及缺乏可以弥合这一差距的文档。SEC 的 2026 年检查重点明确指出,他们将"审查注册人关于其 AI 能力陈述的准确性"。如果你无法按要求拿出佐证材料包,你就处于暴露之中。
大多数企业都有 AI 治理政策,极少有佐证材料。治理告诉你应当为你的 AI 系统编制文档,佐证则是真正的文档——经过测试、可在检查中投入实际使用。
某企业使用 LLM 生成分发给客户的财务分析报告。该 LLM 引用了一项统计数据:"第三季度营收同比增长 12.4%。"这个数字看似合理,实则是捏造的。LLM 生成它,是因为财务报告的模式通常包含同比营收数字,而 12.4% 对该行业而言是一个统计上很可能出现的数字。
在标准的 RAG 管道中,系统检索到一份提及公司营收的文档,但其中并不包含具体的同比数字。LLM 填补了这一空缺。没有验证层捕捉到这一点,因为检索将该文档评分为"相关",而 LLM 的输出流畅且格式正确。
有了验证架构:系统会向结构化知识图谱查询该特定指标。如果图谱中不包含该公司经过验证的第三季度同比数字,输出就会被拦截或标记以供人工审查。审计线索会准确显示哪些主张经过图谱验证、哪些被拦截。这正是检查人员可以审查的审计线索。
AI 治理市场正在快速成熟。了解每一类供应商擅长什么、缺口在哪里,有助于你构建一个真正经得起检查的合规体系。
| 类别 | 示例 | 他们擅长什么 | 他们不做什么 |
|---|---|---|---|
| AI GRC 平台 | Credo AI(Forrester 领导者)、OneTrust AI、WrangleAI | AI 清单管理、政策包、风险评分、可供审计的合规报告、法规映射 | 不构建验证架构。不产出针对具体主张的佐证证据。不在技术层面构建 AIBOM。 |
| AI 生命周期治理 | IBM watsonx.governance(IDC 领导者)、Fiddler AI | 完整的 ML 生命周期监控、漂移检测、可解释性,以及跨 IBM 与第三方技术栈的偏差监控 | 最深层的功能需要采用 IBM 生态系统。是监控,而非架构。无法构建定制的验证层。 |
| AI 审计专家 | Holistic AI、Credo AI(审计模块) | 算法偏差测试、公平性评估、LLM 幻觉/毒性监控、影子 AI 检测 | 聚焦评估,而非补救。识别问题,但不构建修复问题的系统。 |
| AI 供应链 / AIBOM | Legit Security、OWASP AIBOM Generator、cdxgen | AIBOM 生成、面向 AI 的软件供应链安全、CI/CD 集成 | 聚焦安全,而非合规。不将 AIBOM 映射到法规要求,也不产出佐证材料包。 |
| 内容真实性 | C2PA/Content Credentials、Copyleaks、Reality Defender、Sensity AI | AI 内容检测、深度伪造识别、来源溯源、C2PA 元数据嵌入 | 是检测,而非预防。不构建那种在幻觉进入生产环境之前就予以阻止的验证架构。 |
| 四大会计师事务所 / 大型系统集成商 | Deloitte、KPMG、PwC、Accenture | 董事会层面的 AI 战略、ISO 42001 认证支持、法规咨询、大规模项目管理 | 就框架提供建议,但通常不构建定制的验证系统。项目费用为 $500K-$5M+。推荐平台,而非构建量身定制的架构。 |
| 定制验证(Veriprajna) | Veriprajna | 主张佐证审计、AIBOM 工程、知识图谱验证层、内容验证管道、跨司法辖区的法规映射 | 不是平台。每次合作都是定制的。不适合仅需要一个治理仪表盘的组织。 |
大多数企业需要的是组合:用治理平台进行组合管理和政策制定,用专业咨询机构来完成底层的架构与佐证工作。平台跟踪你的 AI 系统需要做公平性评估。架构工作则构建出能通过这项评估的系统。
每项能力都针对一项特定的执法风险。我们将这些作为集成到你现有技术栈中的定制系统来构建,而非现成模块。
我们清点你的组织所做出的每一项公开 AI 主张:10-K 披露、网站文案、新闻稿、投资者演示、营销材料。然后我们将每项主张映射到实现它的特定系统组件,并测试该主张是否准确。
产出是一份可供审计、按主张组织的证据汇编,包含技术文档、运营验证结果和差距分析。你的法务团队可以毫不手忙脚乱地将其交给 SEC 检查人员。
方法: 我们采用 SEC 在检查中所用的同一套主张与现实比对的方法学。如果 Presto 的审计人员在提交 10-K 之前就做了这件事,他们本可以在 SEC 之前就发现 70% 以上的人工介入率。
我们构建直接集成到你 CI/CD 管道中的机器可读 AI 物料清单。当你的模型版本变更、依赖更新或训练数据刷新时,AIBOM 会自动更新。没有电子表格,没有那种到完成时就已过时的年度人工清点。
我们同时支持 SPDX 3.0(AI 配置,2024 年 10 月发布)和 CycloneDX 1.6(ML-BOM 支持)。选择取决于你现有的 SBOM 工具和法规要求。
方法: 我们采用 OWASP 的 AIBOM 框架作为结构基础,并以映射到《科罗拉多州 AI 法》影响评估要求和《欧盟 AI 法》GPAI 透明度义务的法规元数据字段对其进行扩展。
对于生产 AI 生成内容(财务分析、合规报告、客户沟通、营销材料)的企业,我们构建防止幻觉进入生产环境的验证层。这是带引用强制的知识图谱接地:除非 AI 能将某项主张追溯到图谱中经过验证的来源,否则它无法输出该主张。
该架构采用受图谱约束的解码,而非事后事实核查。事后核查在生成之后才捕捉错误,受图谱约束的生成则从结构上防止错误。
方法: 我们构建带有边类型的领域专属知识图谱,这些边类型能捕捉标准向量检索所遗漏的关系。在财务内容中:SUPERSEDES、RESTATES、CORRECTS。在法律内容中:OVERRULES、AFFIRMS、DISTINGUISHES。图谱结构可防止 AI 将已被推翻的判例作为现行法律加以引用。
你的 AI 系统面临来自 SEC、FTC、DOJ、至少六个拥有新 AI 法的州(科罗拉多、得克萨斯、加利福尼亚、纽约、伊利诺伊、犹他)的执法,如果你为欧洲客户提供服务,还面临《欧盟 AI 法》的执法。每一方的要求相互重叠却并不完全一致。
我们构建统一的合规架构:一套文档框架、一套评估方法学、一套监控基础设施,满足所有适用要求。而不是六个独立的合规计划。
方法: 我们以 NIST AI RMF 作为结构主干起步(它在科罗拉多州 SB 205 下提供积极抗辩),为寻求认证的组织叠加 ISO 42001 控制要求,并将特定司法辖区的义务作为法规叠加层映射进框架。
针对并购交易、风投审查、董事会汇报或 IPO 前准备:就 AI 系统是否如所陈述般运作进行独立技术评估。我们既进行黑盒测试(系统是否从用户角度满足其所声明的要求?),在权限允许时也进行白盒分析(模型架构、训练方法学、依赖审查)。
交付物是一份独立评估报告,针对投资者、收购方或董事会成员正在提出的具体问题。不是框架概述,而是一份关于 AI 主张是否得到佐证的裁决,附带证据。
方法: 我们依据 SEC 所采用的四项标准进行评估:(1) 陈述是否公允准确,(2) 运营是否与披露相符,(3) AI 输出是否与所声明的战略一致,(4) 控制是否充分。与检查人员采用的标准相同,但以主动的方式进行。
每次合作都始于了解你的具体风险敞口。范围取决于你需要的是检查前佐证材料包、内容验证系统,还是一套全面的合规架构。
我们在所有渠道清点每一项公开 AI 主张:SEC 申报文件、网站、新闻稿、路演材料、营销材料。每项主张都按法规涉及面(SEC、FTC、州、欧盟)进行标记。
通常:2-3 周
我们将每项主张与技术现实进行对照测试。有文档的,我们予以验证;没有的,我们标记出差距。产出是一份按优先级排序的风险图谱:哪些主张承载着最高的执法风险敞口却佐证最薄弱。
通常:3-4 周
我们构建缺失的部分:佐证材料包、AIBOM 管道、验证架构、合规文档。对于内容系统,这包括知识图谱和验证层。对于主张,这意味着修订措辞或构建支撑它的证据。
通常:6-12 周(随范围而异)
我们部署自动化监控,在系统行为偏离已记录的主张时发出标记。每周的测试套件会将实际 AI 性能与佐证材料包中的断言进行比对。AIBOM 与生产环境保持同步。合规映射会随法规演变而更新。
持续进行,并按季度审查
评估你的组织在 AI 洗白执法方面的风险敞口。回答这些关于你的 AI 主张和文档的问题,以获得初步风险画像。本评估基于来自 SEC、FTC 和各州总检察长行动的执法模式。
1. 你是否维护一份你的组织所做出的每一项公开 AI 主张的清单(10-K、网站、新闻稿、路演材料)?
2. 对于每一项 AI 主张,你能否拿出证明系统确实做到你所说之事的技术文档?
3. 你是否使用第三方 AI API,并在你自己的材料中重复供应商的能力主张?
4. 你是否拥有一份追踪训练数据、模型版本和第三方依赖的 AI 物料清单(AIBOM)?
5. 你的 AI 是否生成分发给客户、投资者或公众的内容?
6. 你是否受《科罗拉多州 AI 法》、《得克萨斯州 RAIGA》或将于 2026 年生效的类似州 AI 法约束?
2026 年重点之下的 SEC 检查人员正在核查你的运营是否与披露相符。佐证需要三层证据。第一,一份技术文档包,将每一项公开 AI 主张映射到实现它的特定系统组件。如果你的 10-K 说你使用机器学习进行投资组合优化,该文档包必须展示证明该主张的模型架构、训练方法学、输入数据来源和性能指标。
第二,运营证据,证明 AI 确实影响决策。Presto Automation 的失败在于声称 AI 取消了人工接单,而实际上 70% 以上的订单需要人工介入。SEC 不仅仅问"你有没有 AI?"他们问"这个 AI 是否做到了你所说之事,而你能否证明?"
第三,一套持续监控框架。一份在提交时准确、但随后变得过时的佐证材料包,仍然是一项责任。我们构建持续验证管道,在系统行为偏离已记录的主张时发出标记。这包括每周针对你的 AI 系统运行的自动化测试套件,将实际性能指标与你披露中的具体主张进行比对。产出是一份可供审计的证据汇编,你的法务团队可以毫不手忙脚乱地将其交给检查人员。
AI 物料清单(AIBOM)是你 AI 系统中每个组件的机器可读清单:带沿袭文档的训练数据集、带版本历史的基础模型、第三方库及其许可证、基础设施规格,以及治理元数据。可以把它想象成 AI 的营养成分标签。
标准格局正趋同于两种格式:SPDX 3.0(于 2024 年 10 月增加了 AI 配置)和 CycloneDX 1.6(增加了 ML-BOM 支持)。OWASP 于 2025 年末启动了一个带工具的正式 AIBOM 项目。
如果你处于以下任一情形,你很可能需要它:你的 AI 系统涉及受监管的决策(放贷、招聘、医疗),你就 AI 能力做出监管方可能质疑的公开主张,你受《欧盟 AI 法》GPAI 透明度义务约束(一般条款于 2025 年 8 月生效),或者你正在为《科罗拉多州 AI 法》合规做准备(2026 年 6 月生效),该法要求进行影响评估,而 AIBOM 可直接为之提供支撑。如今大多数企业用电子表格追踪 AI 组件,或者根本不追踪。我们构建集成到你 CI/CD 管道中的 AIBOM,使其与生产环境保持同步。当你的模型版本变更或某个依赖更新时,AIBOM 会自动更新。其实用价值不仅在于法规辩护,还在于当事故发生时、当审计人员询问时,或当你需要将幻觉追溯到源头时,准确知道你的 AI 技术栈中有什么。
网络安全与新兴技术部门(CETU)于 2025 年 2 月专门设立,以处理 AI 相关执法。基于 Delphia、Global Predictions、Presto 和 Nate 等案件,其调查模式是一致的。CETU 从你的公开陈述入手:网站文案、SEC 申报文件、投资者演示、新闻稿和社交媒体。他们通过文件调取和检查,将这些主张与技术现实进行比对。
他们探查的具体方面包括:营销材料中描述的 AI 技术是否真实存在并部署于生产环境;AI 是否影响了你所声称它影响的决策或结果(Presto 说 AI 取消了人工介入,而事实并非如此);你所引用的性能指标是基于实际系统测量还是预测;以及第三方 AI 组件是否被恰当披露,而非被呈现为自有能力。
Nate 案尤其具有启发性。创始人声称 AI 自动化率超过 90%,而实际上几乎为零,有数百名菲律宾的人工承包商在处理交易。SEC 和 DOJ 提起了平行行动,刑事指控最高可判 20 年。CETU 无需新的 AI 专门立法即可推进这些案件。他们使用现有的反欺诈法规:《投资顾问法》第 206(2) 条、《营销规则》以及《证券法》第 17(a) 条。法律理论很直接:如果你说了而它不属实,那就是欺诈。
像 Credo AI、IBM watsonx.governance 和 OneTrust AI Governance 这样的平台是监控和政策管理工具。它们帮助你清点 AI 系统、分配风险等级、追踪政策合规并生成报告。它们对持续的治理运营很有价值。
它们不做的是构建底层的验证架构。治理平台可以告诉你,你的内容生成系统被标记为高风险并需要做公平性评估。它无法构建那一开始就防止该系统产生幻觉的知识图谱接地层。它无法产出证明你 10-K 主张准确的技术佐证材料包。它无法构建使你的组件清单与生产环境保持同步的 AIBOM 管道。
可以这样理解:治理平台是仪表盘,我们构建它所监控的引擎。实际上,大多数企业两者都需要。平台管理组合视图、政策和报告工作流。每个 AI 系统底层的定制验证架构,才是让主张经得起辩护的关键。我们与你现有的治理工具协同工作,而非取而代之。我们还承担平台无法自动化的量身定制工作:逐项主张的佐证审计、针对特定 AI 系统的定制验证管道,以及将你的 AI 架构连接到合规文档链的集成工作。
科罗拉多州 SB 205 于 2026 年 6 月 30 日生效,是迄今最具规定性的州 AI 法。如果你部署做出或实质性影响重大决策(就业、放贷、保险、住房、教育、医疗、法律服务)的高风险 AI 系统,你需要:一套风险管理政策和计划;对每个高风险系统在部署前及此后每年进行影响评估;当 AI 做出重大决策时通知消费者;一套供消费者更正数据并在人工审查下对决策提出申诉的机制;以及足以证明已尽合理注意义务的文档。
处罚为每次违规最高 $20,000,由科罗拉多州总检察长执法。如果你遵循 NIST AI RMF 或同等框架并主动发现/纠正违规,则存在积极抗辩。得克萨斯州不同但相似。《负责任 AI 治理法》(2026 年 1 月生效)赋予总检察长仅凭一项投诉即可发出广泛民事调查要求的权力。纽约州的 AI 法授权总检察长对某些 AI 应用按每次违规每日 $15,000 执法。
实际挑战在于,这些法律的要求相互重叠却并不完全一致。我们构建统一的合规架构,通过单一的文档与评估框架满足所有适用的州要求,而非为每个司法辖区维护独立的合规计划。这始于一份 AI 系统清单,将每个系统映射到适用的州要求,识别差距,并构建评估与监控基础设施,以便在你的 AI 系统和法规格局双双演变时维持合规。
这取决于你所说的验证是什么。如果你有一支成熟的合规团队、深入了解你 AI 系统的内部 ML 工程师,以及在 SEC 和 FTC AI 执法判例方面经验丰富的法律顾问,你就能在内部构建框架的大部分。NIST AI RMF 是免费的,提供了坚实的基础。OWASP 的 AIBOM 生成器是开源的。ISO 42001 有详尽的控制要求,你无需顾问即可实施。
内部团队通常会在哪些地方触及极限:第一,佐证缺口。你的工程团队构建了 AI 系统,他们可能不是客观记录其是否与营销主张相符的合适人选,因为往往正是他们当初向营销部门做了简报。独立评估在检查人员面前更有分量。第二,跨领域专长。AI 验证处于 ML 工程、证券法、合规运营和监管事务的交汇处。很少有内部团队在这四个方面都有深度。第三,架构难题。治理平台管理政策,但构建引用强制的检索系统、知识图谱验证层或持续的主张验证管道,需要专门的 AI 架构工作,这不同于你的核心产品工程。
第四,速度。如果执法风险迫在眉睫,比如 10-K 申报截止日、股东要求函或 SEC 检查通知,内部团队在维持正常运营的同时,极少有余力从零构建佐证材料包。诚实的答案是:从内部起步。清点你的 AI 主张。将它们映射到系统。识别文档缺失之处。仅这一项工作就能揭示这些差距是可在内部管理的,还是需要专门的构建工作。
本解决方案页面背后的研究。这些交互式白皮书提供了支撑我们 AI 验证与反 AI 洗白合规方法的技术深度。
SEC 执法分析、引用强制的 GraphRAG 架构、AIBOM 标准、NIST AI RMF 与 ISO 42001 治理框架对比,以及面向生成式系统的模型风险管理。
内容验证架构、知识图谱接地、多智能体事实核查系统,以及面向企业内容生产采用神经符号方法的论证。
一次佐证审计的成本只是其中的一小部分。从一份主张清单开始。
SEC 的 CETU 部门、FTC 的"AI 合规行动"以及拥有新执法工具的各州总检察长,都在问同一个问题:你能否证明你的 AI 做到了你所说之事?我们构建给出肯定回答的证据。