95%の企業が存在すら知らないAI法に違反している実態
1月初旬、フォーチュン500企業のCHRO（最高人事責任者）と通話していたとき、彼女の言葉に私は思わず話を止めてしまいました。
「法務チームから、単に遵守しないほうが安全だと言われたのです」
彼女は無謀だったわけではありません。合理的だったのです。彼女の会社はニューヨーク市での採用にAIを活用したスクリーニングツールを使用しており、雇用決定を支援する自動化ツールのバイアス監査結果の公開を企業に義務付ける規制である「地方法144号（Local Law 144）」の対象となっています。彼女の弁護士たちは計算を行いました。不遵守に対する罰則は違反1件あたり500ドルから1,500ドルの罰金です。一方で、遵守すること（実際にバイアス監査を公開すること）に対するペナルティは、原告側の弁護士に差別訴訟のための統計的なロードマップを手渡すことだったのです。
その会話によって、私が数か月間考え巡らせていたことが明確になりました。私たちにあるのはAI倫理の問題ではありません。私たちにあるのは、AIアーキテクチャの問題です。そして、2025年12月のニューヨーク州監査役による監査がそれを証明したばかりです。
幻想を打ち破った監査
2025年12月2日、ニューヨーク州監査役のトム・ディナポリ（Tom DiNapoli）は、ニューヨーク市消費者・労働者保護局（DCWP）が地方法144号をどのように執行してきたかについての監査結果を発表しました。その結果は壊滅的なものでした。
市の審査官は32社の雇用主を調査し、不遵守の可能性を正確に1件だけ特定しました。一方、州の監査官がより厳密な技術的手法を用いて同じ32社を調査したところ、17件の違反を発見したのです。
これは単なる四捨五入の誤差ではありません。市が捉えたものと実際に起きていたこととの間にある1,600%のギャップです。
午後11時にノートパソコンで監査報告書を読み、調査結果をスクロールしながら、正しさが証明されたという安堵と恐怖が入り混じった感情を抱いたのを覚えています。安堵したのは、これこそ私たちがクライアントに警告し続けてきた失敗、すなわち真の精査のもとで崩壊する表面的なAIコンプライアンスそのものだったからです。恐怖を覚えたのは、問題の規模が私の予想よりもはるかに深刻だったからです。
同じサンプルの中で市が1件の違反を発見し、州が17件を発見したとすれば、それは法執行のギャップなどではなく、法執行のフィクション（見せかけ）です。
この監査は、滑稽なほど破綻した事実を明らかにしました。テスト通話の75%（AI採用問題に関する市の311ホットライン宛て）が誤転送され、DCWPに届くことはありませんでした。同局は、企業が実際に自動意思決定ツールを使用しているかどうかを評価するための技術的専門知識が不足していたことを認めました。市自身のテクノロジー・イノベーション局に相談することすら一度もありませんでした。法執行組織全体が、機能的にはポチョムキン村（見せかけの張り子の虎）だったのです。
なぜ大半の企業が沈黙を選んだのか
さらに深刻な状況があります。コーネル大学、データ＆ソサエティ（Data & Society）、コンシューマー・レポートによる共同研究では、地方法144号の対象となる雇用主391社を調査しました。そのうち、わずか18社しか義務付けられたバイアス監査を公開していませんでした。また、わずか13社しか透明性通知を掲示していませんでした。
これは、対象となる雇用主のおよそ95%が単に法律を無視していたことを意味します。
私のチームと私は1週間かけてその研究論文を精読し、調査結果とこれらの企業が使用していたAIツールについて私たちが把握している情報とを照合しました。私たちのオフィスでは、これが集団的な過失なのか、それともより計算されたものなのかについて議論が続きました。私のCTOは単なる怠慢（企業が後回しにしていただけ）だと考えました。しかし、私は同意しませんでした。
これらの企業の多くは社内で監査を実施し、その数値を見てパニックに陥ったのだと私は考えています。
その理由は構造的なものです。地方法144号では「インパクト比率（impact ratios）」の公開が義務付けられています。これは実質的に、異なる人口統計グループの選考率を比較し、それらがEEOC（雇用機会均等委員会）の5分の4ルールを満たしているかを確認するものです。もしツールが男性を60%、女性を40%の割合で選考した場合、比率は0.67となり、潜在的な不当影響（disparate impact）を示す0.80の基準値を下回ります。
何が問題なのでしょうか。汎用言語モデル上に構築されたAI採用ツールの大部分は、このテストで不合格になります。悪意のあるバイアスを持っているからではなく、何十年もの社会的バイアスを反映したインターネット規模のデータで訓練されているためです。数値を正直に算出すれば、バイアスが浮き彫りになります。そしてそれらの数値を公開すれば、自ら法的な証拠書類を作成することになるのです。
私が話をしたあのCHROは皮肉を言っていたのではありません。監査を行った瞬間にツール自体が差別の証拠を生み出してしまうシステムに対する、合理的な反応を述べていたのです。
「雰囲気」でAIを構築すると何が起きるのか
今日の大半のエンタープライズAIが実際にどのように機能しているかについて説明する必要があります。なぜなら、それこそが今回の危機の根本原因だからです。
現在市場で支配的なモデルは、私が「ラッパー経済（Wrapper Economy）」と呼んでいるものです。コンサルティング会社が基盤モデル（GPT-4、Claude、Gemini）を採用し、その周囲にカスタムプロンプトとAPIコールの薄いレイヤーを被せて、ソリューションとして企業に販売します。履歴書のスクリーニング、保険金請求の処理、リスク評価など、ラッパーはインターフェースを処理しますが、思考そのものは企業内の誰も制御、監査、あるいは完全には理解していないモデルの内部で行われます。
これらのモデルは、シーケンス内で統計的に最も確率の高い次の単語を予測することによって動作します。それらが依拠しているのは、私が意味論的な妥当性（もっともらしく聞こえること）と呼ぶものであり、フォレンジックな現実性、すなわち何が実際に正しいかではありません。
私は身をもってこのことを学びました。Veriprajnaの初期、私たちが現在のアーキテクチャに完全にコミットする前に、主要なLLMに対して「性別を無視して」履歴書のセットを評価するよう求めるテストを実施しました。それでもモデルは差別を行いました。あからさまに「女性」を否定的に判定したわけではありません。しかし、モデルの訓練データの中で統計的に性別と相関していた特定の大学の記載、特定の言い回しパターン、特定の課外活動を記載した履歴書を一貫して優遇したのです。
LLMに「性別を無視せよ」と指示することは、誰かに「象のことを考えるな」と言うようなものです。相関関係は重みの中に焼き付けられています。プロンプトの工夫だけで構造的バイアスから逃れることはできません。
コロラド州やEUから、AIがなぜ不利益な決定を下したのかを説明するよう求められたとき、ラッパーシステムは事後的な作り話、すなわち、なぜそう判断したと考えているのかについてのもっともらしい物語しか提供できません。それは説明ではありません。自身の推論に関するハルシネーション（幻覚）です。私はこの問題について、私たちの研究のインタラクティブ版で詳しく解説しており、この「監査可能性のギャップ」がさまざまな規制体制の中でどのように現れるかを順を追って説明しています。
誰も語らないコンプライアンスのトリレンマ
私が夜も眠れないほど懸念しているのは、もはやニューヨークだけの問題ではないということです。
2026年中期までに、複数の州や欧州で事業を展開する企業は、少なくとも4つの重複し、かつ技術的に矛盾するAI規制に直面することになります。
ニューヨーク市の地方法144号は、人種と性別で分類された交差的バイアス統計の公開を要求します。コロラド州のSB 24-205（2026年6月施行）は、より広範な「合理的配慮」基準と、アルゴリズム差別を発見した場合の州司法長官への義務的開示を定めています。イリノイ州のHB 3773は、保護対象クラスの代替（プロキシ）として郵便番号を使用することを禁止しています（これは多くのバイアス緩和ツールが実際に依存している手法です）。そしてEU AI法は、訓練データの出所の詳細な文書化と、高リスクシステムに対する「適合性評価」を要求しています。
これらは単にルールが異なるだけではありません。部分的にアーキテクチャ上の互換性がないのです。
イリノイ州の郵便番号禁止に準拠するために使用するデータマスキング技術は、EUが要求するデータの代表性を損なう可能性があります。ニューヨークの人種・性別の枠組みを満たすバイアス監査であっても、年齢や障害を考慮していなければコロラド州の基準を満たさない可能性があります。そして、どの枠組みも「GPT-4を使用してガードレールを追加した」ことを適合性評価として認めてはいません。
昨年、ある投資家から「単にGPTを使ってその上にコンプライアンス層を追加すればいい」と言われました。私は彼に尋ねました。「どのコンプライアンス層ですか？どの法域のための？どの指標でテストされたものですか？」彼は答えられませんでした。なぜなら、そんなものは存在しないからです。そもそも監査可能に設計されていないシステムに、後からコンプライアンスをボルト締めすることはできません。
私たちが代わりに実際に構築しているもの
Veriprajnaにおいて、私たちは初期の段階である賭けに出ました。当時は孤独を感じたことも認める必要があります。私たちはラッパーモデルを完全に拒絶したのです。薄いAPIレイヤーは使わない。プロンプトエンジニアリングを製品にしない。代わりに、私たちが構築しているのは、私がDeep AIと呼ぶもの、すなわち決定性、追跡可能性、そして主権的制御のために根本から設計されたシステムです。
その中核となるコンセプトは、ニューロシンボリック・アーキテクチャ（「声」と「脳」を分離するシステム）です。ニューラルネットワークはパターン認識を担います。すなわち、履歴書の読解、文書の解析、関連する特徴の特定などです。しかし、すべての決定は、ユーザーに届く前にシンボリック論理層（実際の法律、業界オントロジー、ドメイン制約から導出されたハードコードされたルール）を通過します。
イリノイ州が人種の代替として郵便番号を使用してはならないと定めている場合、当社のシンボリック層はそれを回避しようと「試みる」のではありません。決定論的にそれを遮断し、どのルールがなぜトリガーされたかを正確にログに記録します。規制当局から説明を求められた際、私たちはもっともらしい物語を生成するのではなく、入力から出力までの追跡可能な論理チェーンを提供します。
ラッパーとDeep AIの違いは、「モデルがそう言ったから」という説明と、「これが正確なルール、正確な入力、そしてこの決定を生み出した正確な論理経路です」という説明の違いです。
私たちはまた、私たちがソブリン・インフラストラクチャ（主権的基盤）と呼ぶもの、すなわち機密データをパブリックAPI経由でルーティングするのではなく、クライアント自身のクラウド上にモデルを展開することにもこだわっています。従業員記録や候補者情報をサードパーティのAPIに送信すると、そのデータがログに記録されたり、将来の訓練実行に組み込まれたり、把握できないセキュリティ脆弱性を介して漏洩したりする可能性があります。GDPR、CCPA、そして今やこれらのAI特有の規制の対象となっている企業にとって、それは受け入れられないリスクです。
これらのアーキテクチャがどのように機能するかの完全な技術的詳細（グラフベースの追跡可能性、物理情報に基づく検証層、エッジネイティブな展開モデル）については、私たちの詳細な研究論文をご覧ください。エンジニアリングは深遠ですが、原則は単純です。すべての出力は「おそらく正しい」ではなく「証明可能に正しい」ものでなければならないということです。
「しかし、これはやり過ぎではないか？」
私は常にこの質問を受けます。通常、それはラッパーモデルに納得してしまい、私が物事を過度に複雑にしていると考えている人たちからです。
私の答えはこうです。ニューヨーク州監査役は、友好的な規制審査（市自身の機関によって実施された審査）でさえ、1,600%のエラー率で運用されていたことを示したばかりです。州レベルの監査官は、市が1件しか捉えられなかったところで17件の違反を発見しました。しかもそれは、わずか32社のサンプルでの話です。
コロラド州の司法長官が調査を開始したらどうなるでしょうか。EUが適合性評価を開始したらどうなるでしょうか。原告側の弁護士がモデルの決定ログを召喚令状で取得し、「バイアス緩和」が「公平にしてください」と書かれたシステムプロンプトに過ぎなかったことを突き止めたらどうなるでしょうか。
これは仮定の話ではありません。監査役の監査では、受動的で苦情主導の法執行から、能動的で調査主導の捜査へと移行することが明確に推奨されました。DCWPはこの推奨事項を採用することに合意しました。「誰もチェックしていない」時代は終わったのです。
私がよく耳にするもう一つの反論があります。「規制が落ち着くまで投資を待つ」というものです。その心理は理解できます。しかしコーネル大学の研究によると、待機していた企業（遵守しなかった95%の企業）は今や、それに対処するインフラがないまま増大する法的リスクを抱え込んでいます。法執行が強化されたとき、準拠したシステムを構築するために数か月もの猶予はありません。数週間しかないのです。
数字が私の考えを変えた夜
この問題に対する私の考え方を根本から変えた瞬間を共有したいと思います。
約8か月前、私たちは金融サービスのクライアント向けに概念実証（PoC）を実施していました。彼らは既存のAIスクリーニングツール（主要なLLM上に構築された有名ベンダーの製品）が、模擬的なLL144監査に合格できるかどうかをテストしたいと考えていました。私のチームはテストを設定してインパクト比率を算出し、午後9時頃に結果を私に送ってきました。
私は、わずかな不合格（0.75や0.78といった比率で、何らかの再調整で修正できる程度に近いもの）を予想していました。ところが実際には、特定の交差的カテゴリーにおいて0.58という極めて低いインパクト比率が検出されたのです。基準値に近いどころではありません。プロンプトの調整で修正できるようなものでもありませんでした。毎日そのツールを使っている人々には見えない形で、構造的かつ根本的にバイアスがかかっていたのです。
私は自宅のオフィスに座り、それらの数字を見つめながら、業界全体が直面しなければならないある事実に気づきました。現在大半の企業が使用しているツールは、自らのバイアス監査に不合格となるであろうということです。95%の不遵守率は、企業が単に法律を無視していることだけを意味しているのではありません。遵守すれば何が明らかになるかを見越し、「知りたくない」と判断した企業の実態を示しているのです。
これは規制の問題ではありません。エンジニアリングの失敗です。
この先どこへ向かうのか
2025年12月の監査は、AI規制の産みの苦しみの終わりではありません。その青年期の始まりに過ぎないのです。規制当局は自らの過ちから学んでいます。次世代の法執行は、311ホットラインや自己申告の開示に依存することはありません。コンプライアンスチームが主張する内容ではなく、貴社のAIが実際に何を行っているかを調査するためにフォレンジックツールが使用されることになるでしょう。
企業にとって、これはアーキテクチャ上の意思決定を下すための猶予期間が終わりつつあることを意味します。確率的システムに後から決定性をレトロフィットすることはできません。ブラックボックスに監査可能性を後付けでボルト締めすることはできません。単一のプロンプトテンプレートで4つの矛盾する法域に準拠することは不可能なのです。
2026年以降に繁栄する企業とは、今この困難な選択を下している企業です。すなわち、すべての決定が追跡可能で、監査可能で、法的に抗弁可能な論理チェーンを持つシステムを構築することです。それが容易だからではありません。安価だからでもありません。何を探すべきかを真に理解している規制当局と接触した際に生き残れる唯一のアーキテクチャだからです。
「雰囲気」で構築されたAIの時代は終わりました。それに代わるものは、業界の他の企業が確率に基づいて構築したシステムに、確実性をエンジニアリングする覚悟のある企業によって定義されるでしょう。
1月に話をしたあのCHROから先週、再び電話がありました。彼女の法務チームは監査役の監査報告書を読んでいました。彼らはもはや不遵守を勧めてはいませんでした。彼らが尋ねてきたのは、私たちがどれほど迅速に導入できるかということでした。
