年次報告書のたった11語が、いまや証券詐欺になりうる

私が「AIウォッシング」を本当に理解した最初のとき、私はある企業の年次報告書のたった一段落を見つめていました。11語ほどの、たとえば「当社のAI駆動型プラットフォームはリアルタイムでリスクを分析します」といった一文。すっきりとした、自信に満ちた文章。マーケティングチームが5分で書き、CEOが瞬きもせず承認する類いの一行です。

そこで私は、その分析を生み出したのはどのモデルなのか、どのデータで動いたのか、意思決定フローのどこで実際に発火したのかをエンジニアたちに尋ねました。部屋は静まり返りました。何かを隠していたからではありません。誰一人として、その一文をシステムに結びつけたことがなかったからです。主張は提出書類の中に存在していた。システムは本番環境に存在していた。そして両者をつなぐものは何もなかった――文書も、対応表も、証拠も、何ひとつ間になかったのです。

そのギャップこそが物語のすべてです。 AIウォッシングは、粗悪なAIについての物語ではありません。それは、あなたが自社のAIについて語ったことと、あなたのAIが実際に行っていることとの間の距離についての物語であり――そして、その距離を要求されたときに埋められるかどうかについての物語です。 SEC、FTC、そして州の司法長官たちは、いずれもこのギャップこそが訴訟の生まれる場所だと見抜きました。私がVeriprajnaのAI検証・反AIウォッシング事業を立ち上げたのは、企業が検査官の書簡が届いて初めてこのギャップに気づく様子を、何度も見続けてきたからです。

「あなたのAIは機能するか」がもはや問いでなくなった日

私はこの分野に、証券法執行の実務――華やかさのない側面――から入りました。文書提出要求の書簡が届いたときに企業が検査官へ手渡すバインダーを組み立てる仕事です。だから私は、あらゆるAIウォッシング事案を、古い詐欺事件を読むのと同じように読みました。彼らは何と言い、何を行い、そしてその両者の間にどれだけの隔たりがあったのか、と。

そのパターンは残酷なほど一貫しています。2024年3月にさかのぼる最初の2件のAIウォッシング和解、DelphiaとGlobal Predictionsは、合わせて400,000ドルを支払いました。それはAIが粗悪だったからではなく、Delphiaが一度も実際には統合していなかった機械学習による投資を謳っていたからです。彼らがモデルに投入していると自慢していたデータ? それは決してモデルに届いていませんでした。

そして2025年1月のPresto Automation――上場企業に対する初のAIウォッシング事案です。Prestoのドライブスルー用音声AIは、人間による注文受付を不要にするものとして売り込まれていました。SECは、注文の70%超が依然として人間を必要とし、一部の店舗では100%だったと認定しました。システムは本物でした。ただ、マーケティングが言っていたことをやっていなかっただけです。

そしてNate。2025年4月、SECとDOJは、AI搭載ショッピングアプリという約束のもとで4,200万ドル超を調達したNate Inc.の創業者に対し、並行して訴訟を提起しました。SECの言葉を借りれば、実際の自動化率は事実上ゼロであり――フィリピンの数百人の請負業者が、AIが処理するはずだった購入手続きを手作業で完了させていたのです。DOJの起訴は最長20年に及びます。AIウォッシングはマーケティング開示の脚注に過ぎないと誰かが私に言うとき、私が思い浮かべるのはこの事案です。そこには創業者の名前を冠したプレスリリースがあり、その下に刑事詐欺罪の起訴があったのです。

これらの事案はどれも、同じ隔たりを軸にしています。提出書類が約束したことと、本番環境のシステムが実際に行ったこと、その隔たりです。

2025年2月、SECはこれを構造的なものにしました。執行部門の内部に、専門のサイバーセキュリティ・新興技術ユニットを設置したのです。そしてその2026年の検査重点項目は、はっきりとこう述べています――検査官は「登録者のAI能力に関する表明の正確性を審査する」と。その一文は、投函されるのを待っている文書提出要求の書簡です。

3つの当局、1つの動き

これを整理し始めて驚いたのは、法執行の理屈が当局間でほとんど変わらないことでした。彼らは皆、同じ戦法を実行します。主張を現実に照らし合わせて並べ、それから証拠を求めるのです。

FTCは、FTC法第5条――不公正または欺瞞的な行為――を通じてこれに切り込み、2024年9月に開始した「Operation AI Comply」と名付けた一斉取締りのもとで動きました。「世界初のロボット弁護士」を自称するDoNotPayは、裏付けられない主張をめぐって和解しました。WorkadoはAI検出ツールを精度98%と宣伝していましたが、FTC自身のテストでは実世界の精度は約53%でした。ほぼコイン投げに等しいものが、ほぼ確実であるかのように売られていたのです。あらゆる法務責任者を震え上がらせるはずの細部は、FTCの「道具（instrumentality）」理論です。責任は連鎖をたどって下り、基盤モデルの開発者から、それを展開する企業、そしてエンドユーザーへと及びます。ベンダーの精度の数字を自社の資料で繰り返せば、FTCはそれをベンダーの主張ではなく、あなたの主張として扱うのです。

この点はいくら強調してもし足りません。なぜなら、それは私が優秀な企業が陥るのを目にする罠だからです。あなたはサードパーティのモデルをライセンスし、ベンダーのベンチマークを自社の10-Kや投資家向け資料にコピーし、その数字はベンダーが責任を負うものだと思い込みます。そうではありません。それがあなたの提出書類に現れた瞬間、それはあなたの表明となり、「ベンダーがそう言った」は独立した裏付けにはならないのです。

州もそれぞれの手段で加勢しました。ニューヨーク州のAIコンパニオン法は、違反1件につき1日最大15,000ドルの制裁を科します。2026年6月30日に施行されるコロラド州のAI法は、高リスクシステムについて影響評価、消費者への通知、合理的な注意を義務づけ、違反1件につき20,000ドルを科します。2026年1月1日に発効したテキサス州の「Responsible AI Governance Act」は、たった1件の苦情から広範な民事調査要求権限を司法長官に与えます――消費者からの1通の書簡があれば、文書要求はあなたの机の上です。そして連邦政府が州のAI法を専占する案を持ち出したとき、36州の司法長官による超党派連合がそれに反対して並びました。最終的に裁判所が何を決めようとも、法執行者たちは待ってはいないのです。

民間の弁護士たちさえ加わりました。Stanford Securities Class Action Clearinghouseは、2025年上半期を通じて53件のAI関連証券集団訴訟を数え、和解額の中央値は1,150万ドルでした。そのうちの1件、2025年6月に提起されたTucker v. Appleは、Apple IntelligenceについてのAppleのWWDCでの約束が、訴状が機能するプロトタイプは存在しなかったと主張する機能に投資家を買いに走らせた、と申し立てています。基調講演のスライド1枚が、証拠物件Aになったのです。

なぜ「当社にはAIガバナンス方針があります」では救われないのか

ここは、私が早い段階で間違えて、誤ったものを作るのに数か月を費やした部分です。

これに向けて最初に設計を始めたとき、私は答えはガバナンスだと思い込んでいました――Credo AI、IBMのwatsonx.governance、Holistic AI、OneTrust、Fiddlerといったプラットフォームがすでに十分に提供しているカテゴリーです。私たちはガバナンス態勢に向けて構築しました。方針、AIインベントリ、ダッシュボード、監督ワークフロー。中堅企業のコンプライアンス担当者に初期版をデモして、それに手応えを感じていました。彼女は私に最後まで説明させ、それから唯一重要な質問をしました。検査官がある特定の主張が真実であるという証拠を要求したとき、彼女はどのボタンを押せばいいのか、と。

ボタンはありませんでした。文書もありませんでした。私が作ったものは、彼女に自分のシステムを文書化すべきだと告げるものでした。それは文書化そのものを含んではいなかったのです。私は、ギャップを埋める代わりにギャップを指し示すものを作っていました。それが、会社全体を私にとって捉え直させた失敗でした。

ガバナンスは、あなたがAIを文書化すべきだと告げます。裏付け（サブスタンシエーション）とは、その文書そのものです――テスト済みで、日付が付され、それを予備知識なしに読む検査官のために用意されたものです。

ガバナンス・プラットフォームは、その役割において優れています。監視し、インベントリを取り、方針を執行します。しかしその下には、ほとんど誰も作らない層があります。SECの検査官や州の司法長官が見せてほしいと求める、実際の証拠の連鎖です。それこそが、私が事業を作り直す基点としたギャップでした。

検査官は実際にあなたに何を提出するよう求めるのか

何を提供するかを定義するために腰を据えたとき、私は製品仕様書から始めませんでした。私は「提出してください」リスト――執行書簡に含まれる文字どおりの文書要求――から始め、そこから逆算して作業しました。私たちが今作っている、弁護に耐える裏付けパッケージには、いくつかの荷重を支える構成要素があります。

それは主張とシステムの対応表から始まります。すべての公開されたAI主張――10-K、ウェブサイト、プレスリリース、ピッチ資料から――が、それを実現する特定のモデル、データパイプライン、意思決定ポイントに結びつけられます。提出書類が「AI駆動型リスク分析」と述べるとき、その対応表はどのモデル、どのデータ、どの意思決定かを名指しします。これはDelphiaを救えたはずの成果物です。なぜなら、規制当局が尋ねる前に「この主張は実際にシステムに配線されているか?」という問いを迫るからです。

次に技術的証拠バインダー――アーキテクチャ、訓練手法、そしてあなたが主張したまさにその指標に照らして測定された性能ベンチマーク。理論ではなく、テスト済みのものです。あなたの資料が数字を挙げているなら、バインダーは、恣意的に選んだデモではなく実世界の手法のもとでその数字を生み出したテストを示します。Workadoが教訓の物語です。パンフレットでは98%、テストのもとでは53%でした。

次に運用の検証――ここでPrestoは倒れました。システムは存在していました。欠けていたのは、AIが、実際の仕事をした人間たちと並んで動いていたのではなく、マーケティングが説明した意思決定を本当に主導していたという証明でした。運用上の現実を証明することは、モデルが存在することを証明するより難しく、それこそがいま検査官が探りを入れることなのです。

そのすべての土台にはAIBOM――AI部品表（AI Bill of Materials）、すなわちあらゆる構成要素の機械可読なインベントリがあります。訓練データの系譜、モデルのバージョン、サードパーティの依存関係、インフラです。これを適切に行うための標準がついに存在します。SPDX 3.0は2024年10月にAIプロファイルを追加し、CycloneDX 1.6は機械学習部品表をサポートし、OWASP AIBOMプロジェクトがツール整備を前進させています。正直なところ、今日ほとんどの企業は、モデルが再訓練された瞬間に陳腐化するスプレッドシートでこれを管理しています。私は、2回の再訓練サイクル分だけ古いバージョン番号を持つモデルカードを開いたことがあります――もはや存在しないシステムを記述した文書です。パイプラインとともに更新されるAIBOMこそが、スナップショットと生きた記録との違いです。

そして最後に継続的モニタリングの証拠――ドリフト検出の結果、自動テストのログ、その主張がローンチ後も真実であり続けたという継続的な証明です。裏付けパッケージは、一度提出して忘れる一回限りのバインダーではありません。それは呼吸し続ける記録です。なぜなら、あなたのモデルは変わり続け、あなたの提出書類は変わらないからです。

誰も貸借対照表に載せていないハルシネーションの請求書

これにはもう一つの戦線があり、それは私を証券提出書類の先へ、コンテンツそのものへと引き込んだものです。

主張とは、開示の中であなたが自社のAIについて語ることだけではありません。それはまた、あなたのAIが生成し、あなたが自分の名前を冠して出すすべての出力でもあります――レポート、分析、顧客向けの要約です。そしてそれらの出力はハルシネーションを起こします。StanfordのRegLabは、大規模言語モデルが特定の法律クエリで69%から88%の割合でハルシネーションを起こすことを発見しました。いまや、AIのハルシネーションが裁判所の提出書類に現れた文書化された事例は600件を超え、100人を超える弁護士が関与し、裁判官は10,000ドルを超える制裁を科しています。

企業側のコストは膨大で、奇妙なほど見えにくいものです。ある分析は、AIハルシネーションによる世界的な損失を2024年に674億ドルと算定し、企業は緩和策だけで従業員1人あたり年間約14,200ドルを費やしている――人々が自分のツールのファクトチェックに燃やす時間です――としています。企業のAI利用者のほぼ半数が、ハルシネーションを起こしたコンテンツに基づいて重大な意思決定を下したことがあるとき、「AIが生成した」は弁明にはなりません。それは自白なのです。

だからこそコンテンツ検証は、主張の裏付けと同じ事業に属します。どちらも来歴（プロヴェナンス）に関わることだからです。2026年8月に施行されるEU AI法の第50条は、AIが生成したコンテンツを機械可読で、そうと検出可能なものにすることを求めており、それと並行してコンテンツ表示の行動規範が到来します。C2PA来歴標準――SamsungとGoogleのフラッグシップ端末がすでにネイティブに署名しているもの――は、コンテンツがどこから来たのかを証明するための配管になりつつあります。あなたのAIがレポートを生成し、後にそれが捏造を含んでいたと判明した場合、あなたと責任との間に立つ唯一のものは、出所までたどれる監査証跡です。ほとんどの企業はそれを持っていません。

来歴は逆方向にも働きます。65%の企業が2023年にディープフェイクの事案を報告し、検出市場は55億ドルから2026年までに予想される157億ドルへと猛スピードで進んでいます。自社のコンテンツが本物であると証明することは、他者のものが偽物であると証明することと同じくらい急務になりつつあります――そして、あなたのAIの出力を認証するのと同じC2PA署名が、あなたのブランドを装った偽造物を否認することを可能にするのです。

私が受ける質問と、受けられたらと願う質問

人々はいつも、ISO 42001認証がこれらすべてに対処してくれるのかと私に尋ねます。それは役立ちます――それは本物の、監査可能な標準であり、第三者認証は取締役会や調達においても重みを持ちます。しかしそれは初年度に90,000ドルから200,000ドル超のコストがかかり、立ち上げるのに1年近くを要し、そして認証するのはあなたがマネジメントシステムを持っていることであって、特定のマーケティング主張が真実であることではありません。認証と裏付けは別の仕事です。認証を受けていても、あなたの10-Kの一文についての検査官の質問に依然として答えられないことがあり得るのです。

もう一つの質問は、たいてい創業者からのもので、これは大企業だけの問題ではないのか、というものです。Nateは4,200万ドルを調達し、その創業者は刑事訴追に直面しています。Delphiaは誰もが知る名前ではありませんでした。テキサス州の司法長官は、たった1件の苦情から調査を開始できます。法執行リスクの大きさは、あなたの会社の規模ではなく、あなたが行った主張の大きさに連動するのです。

もはや問いは、あなたのAIが機能するかどうかではありません。問いは、あなたの提出書類が言うとおりのことをそれが行うと、あなたが証明できるかどうかです。

これを読むすべての法務責任者と最高コンプライアンス責任者に一つの考えを植えつけられるなら、それは、マーケティングとエンジニアリングの現実との間のギャップがいまや金額の付いた法的責任になっているということ――そしてそれを埋める唯一のものは、誰かが尋ねる前にあなたが築いた証拠だということです。それこそが私たちがVeriprajnaで作っているものの全前提です。あなたにAIを文書化せよと告げるもう一つのダッシュボードではなく、裏付けパッケージそのもの――主張とシステムの対応表、証拠バインダー、AIBOM、来歴の証跡――を、文書提出要求の書簡が届く前に組み立て、テストしておくのです。

私はあの年次報告書に何度も立ち返ります。11語、提出され、そして忘れられ、その背後には何もない――文をシステムにつなぐ対応表も、バインダーも、ログもない。その下のモデルはおそらく問題なく機能していたでしょう。ほとんどはそうです。欠けていたのは、SECの検査官、FTCの調査官、そして原告側弁護士が皆、同じ淡々とした一文で求める、ただ一つのものでした。見せてください、と。証明できる主張を書き、そして誰かが尋ねる前にその証明を築きなさい。