誰かがキャンセルを押す前に、あなたのアルゴリズムは14億ドルを売却した。その理由を説明できるか?
ほとんどの規制検査を、本格的に始まる前に終わらせてしまう、たった一つの問いがある。それは「制御はあるか?」ではない。制御なら誰もが持っている。それはもっと静かで、もっとたちが悪い:
「8月5日の午前9時47分に、このアルゴリズムが正確に何をしたのか、順を追って説明してください。」
私は、優秀で資金も潤沢な企業がその問いで凍りつくのを見てきた。注文ログは取り出せる。取引も見せられる。だが彼らにできないのは、意思決定チェーンを再構築することだ——なぜモデルがそのようにポジションサイズを決めたのか、なぜリスク閾値がその水準にあったのか、なぜ3週間前のコード変更が誰のレーダーにも引っかからなかったのか。そして2026年において、そのギャップこそが勝負のすべてだ。アルゴリズム取引コンプライアンスは、ガードレールを備えていることの証明から、機械が下したあらゆる動きを事後に説明できることの証明へと、静かに軸足を移してきた。
私がなぜそう考えるに至ったのかを話したい。というのも、私は最初それを間違えたからだ——高くついた間違いを——そしてその間違え方は、業界の大半が今なお間違え続けているのとまったく同じやり方なのだ。
すり抜けた1,890億ドル
シティグループから始めよう。私の知る限り、最も明快な教訓だからだ。
2022年5月、シティのあるトレーダーは5,800万ドル相当の株式バスケットを売却するつもりだった。手作業のミスにより、彼らが作り出したのは4,440億ドル相当のバスケットだった。シティの取引前制御は——おおむね——その役割を果たした。2,550億ドルをブロックしたのだ。だが1,890億ドルが制御をすり抜けて取引アルゴリズムに到達し、アルゴリズムはそれを忠実に売り注文へと刻み、誰かがキャンセルを押す前に約14億ドルを欧州市場へ送り込んだ。これが欧州各取引所にまたがるフラッシュクラッシュを引き起こした。
ここがコンプライアンス責任者を夜も眠らせないはずの部分だ。BaFinと英国の規制当局が入ってきたとき、決定的な問いは「何が起きたか」ではなかった。シティはそれには答えられた。問われたのはなぜだった——なぜ制御は1,890億ドルを通過させたのか、そしてなぜ閾値はあの水準に較正されていたのか? シティは注文を示すことはできた。だがアルゴリズムの推論を十分に再構築することも、それを支配していたパラメータを弁護することもできなかった。
そのギャップは高くついた。BaFinはシティに1,297万5,000ユーロの制裁金を科し、その2日前には英国の規制当局が同じ事案で6,160万ポンドを上乗せしていた。合わせておよそ3つの法域にまたがる、たった一つのアルゴリズム障害に対する9,200万ドルだ。
失敗は制御にあったのではない。制御を説明できないことこそが失敗だったのだ。
私が何度もこの点に立ち返るのは、それがほとんどの企業の予算配分を逆さまにしているからだ。彼らはより多くの制御を構築することに費やし、それを宣誓の下で語る能力にはほとんど何も費やさない。
検査官は実際に何を尋ねるのか?
私が中堅の銀行や資産運用会社——バルジブラケット層より下の企業——のコンプライアンス責任者と話し始めたとき、私は彼らに検査のロールプレイを一緒にやってもらった。それはいつも同じ3つのステップで綻んでいった。
「アルゴリズムのインベントリを見せてください。」これは冒頭の一問だが、静かなキラーだ。英国の金融行為監督機構(FCA)は2025年8月、10社のプリンシパル取引会社を対象とした複数社レビューを実施し、大半が不完全または古い文書しか持っていないことを見出した——どのアルゴリズムを誰が所有し、どの市場で取引し、どのリスクパラメータが支配しているのかを示す整った目録がないのだ。一部の企業は自己評価からRTS 6の要素をまるごと省いていた。(RTS 6は、アルゴリズム取引会社のためのMiFID IIの規則集であり——ガバナンス、テスト、リスク制御を定める。)各戦略について責任を負う登録者を明記した、最新かつ完全なインベントリを提示できなければ、検査は事実上そこで止まる。FINRAの規則の下では、取引アルゴリズムを設計または大幅に変更する者はSecurities Trader(証券トレーダー)として登録されなければならない——だから「このアルゴリズムを誰が所有しているか」は雑学の問いではなく、名前が紐づいた規制上の問いなのだ。
「これがその朝に何をしたのか、順を追って説明してください。」これはシティグループの問いだ。ほとんどの企業は注文を示せる。だが意思決定を再構築できる企業はほとんどない。そしてもしあなたがブローカー・ディーラーではなく資産運用会社なら、この問いはトレーディングデスクに届くのではない——クオンツ・リサーチチームに届く。そこでは、モデルの中に埋もれた改ざんされた一つのパラメータが、何か月も検知されずに稼働し得る。(Two Sigmaはそれを痛い形で思い知った。詳しくは後述する。)
「あなたのコンプライアンス担当者は、これらのアルゴリズムを技術的にどのようにレビューしていますか?」FCAは、ここで見出したものについて実に外交的な表現を用いた——「コンプライアンスにおけるばらつきのある技術的知識」だ。噛み砕けば、コンプライアンスチームはアラートレポートは読めても、モデルのロジックを問い質したり、リスクパラメータに異議を唱えたり、前回のスプリントのコード変更が新たな規制の穴を静かに開けていないか検証したりはできない、ということだ。業界の答えは、クオンツに精通したコンプライアンス人材を採用することだった——ただし、CFTCのマーケットアクセス規則とグラフニューラルネットワークのアーキテクチャの両方を真に理解する人材は消え入るほど稀で、しかも彼らを同じく欲しがるヘッジファンド並みの報酬を得ている。
これら3つの問いの背後にある規制の方向性は、決して微妙なものではない。SECとCFTCは合わせて、記録的な253億ドルの法執行措置を2024年に講じた。EU AI法は、ハイリスクの金融AIシステムに対し、技術文書、リスク管理、そして人間による監督能力を備えることを、次の期日までに義務付けている——2026年8月2日。DORA——EUのオペレーショナル・レジリエンス制度——は2025年1月から施行されている。そしてインドでは、SEBIが現在、固有のAlgo-IDと取引所の承認を、すべての戦略に対し、稼働前に要求している。問われるのは、あなたのアルゴリズムが検査を受けるかどうかではなくなった。それが検査を生き延びられるかどうかだ。
誰も欲しがらなかった、私が作ったもの
そこで私は、より優れた検知器を作りに行った。
これが私の間違いであり、それがどれほど魅力的だったかについて正直でありたい。買い手が最も声高に訴える痛みはアラート疲れだ——銀行とブローカー・ディーラーを対象としたある調査では、70%が25%超の誤検知率を報告した、しかも彼らの取引監視においてだ。ノイズに溺れ、実体のないスプーフィングのアラートを追いかけるコンプライアンスチーム。そこで私たちは、誤検知の削減に本当に長けたものを作った——行動的コンテキスト、市場レジームの認識、適応的な閾値だ。テストではクリーンで高速だった。私はそれを誇りに思っていた。
それから私たちは、実際の中堅企業のコンプライアンス責任者の前でそれを走らせた。彼女はダッシュボードを見つめ、うなずきながら、3か月分の仕事を吹き飛ばす問いを投げかけた:
「これはいいですね。でも検査官が、なぜモデルが作動したのか——あるいはなぜ作動しなかったのか——と尋ねてきたら、私は何を見せればいいのでしょう?」
製品の中にその答えはなかった。私たちはアラートをより速く生成する方法を構築していた。だが、それらを説明する方法は構築していなかった。そしてそこに座りながら、私は気づいた——自分が、規制当局が罰しているまさにそのものを再現してしまっていたことに。再構築可能な推論チェーンを持たずに出力を生み出すブラックボックスだ。より優れたブラックボックスも、やはりブラックボックスなのだ。
それが転換点だった。検知は決して満たされていないニーズではなかった。満たされていなかったニーズは監査対応力だった——アルゴリズムの意思決定を、クオンツでないコンプライアンス責任者がレビューし、異議を唱え、検査室に持ち込める説明へと変えることだ。私たちはその枠組みを捨て、一から始めた。
アラートではなく、検査官のために作る
私たちが最終的に構築したシステム——アルゴリズム取引コンプライアンス・インテリジェンス層——今私たちが展開しているそれ——は、異なる第一原理から出発する。本番のアルゴリズムが下すすべての意思決定は、監査対応でタイムスタンプ付きの説明を残すべきだ。それは「なぜ」であって、単なる「何を」ではない。
それは、実際にやってみるまでは当たり前に聞こえる。最初の設計上の問題は、説明を必要とする人々がモデルを読めない、ということだった。だから説明は、アルゴリズムのロジック——その入力、重み付けした市場シグナル、照合した閾値、人間によるオーバーライド——を、コンプライアンス責任者がソースコードを読まずに問い質せる何かへと翻訳しなければならなかった。信頼度スコアではない。推論の説明だ。
第二の問題はインベントリそのものだった。私たちはアルゴリズムのインベントリを、エンジニアリングチームがコードを扱うのと同じように扱う。本番稼働中のすべての戦略は、承認された市場、ポジション上限、登録された所有者、そして完全な変更履歴を伴う。だから「インベントリを見せてください」という問いは、非常訓練ではなくクエリになる。同じ基盤が、各制御を一度に複数の規制フレームワーク——SEC規則15c3-5、MiFID IIのRTS 6、EU AI法、DORA、SEBIのAlgo-ID制度——へと対応付ける。なぜなら中堅企業は国境を越えて取引し、既存のどのベンダーもそれらすべてを一か所から対応付けてはくれないからだ。今日、複数法域にまたがるほとんどの企業は、規制当局ごとに別々のコンプライアンス・プロセスを寄せ集めている。その冗長性こそ、まさにソフトウェアが飲み込むべき種類の仕事だ。
第三の問題はキルスイッチだった。シティの制御は欠けていたわけではない——2,550億ドルを捕捉した。ただそれらは段階的ではなかった。ほとんどのサーキットブレーカーは二値だ——オンかオフか。そこで私たちはインテリジェントな多層サーキットブレーカーを構築した——単一のパニックボタンではなく、比例した対応を発動する行動異常検知だ。それは、2,550億ドルを捕捉することと、すり抜けた1,890億ドルを捕捉することの違いである。
なぜ誰もが単にプラットフォームを買わないのか?
これは私が最も多く耳にする反論であり、真剣な答えに値する。
取引監視市場は、2025年のおよそ13億〜30億ドルから、2033年までに42億〜93億ドルへと向かっており、上位5社のベンダーがそのうちの55〜59%を握っている。NICE Actimize、NasdaqのSurveillance AI、EventusのValidus——これらは真に高性能なプラットフォームだ。私はそれらが機能しないと言いに来たのではない。
私は、それらがいくらかかり、どこで止まるのかを伝えに来たのだ。NICE Actimizeの完全な導入は、年間100万〜500万ドル超に達し、ティア1機関向けに価格設定・設計されている。それらはクロスアセットの検知には卓越しているが、検査官が今まさに求めているもの——アルゴリズムの意思決定の説明可能性と、統合された複数規制へのマッピング——にはまさに弱い。Nasdaqのプラットフォームは取引所中心で、セルサイド向けに作られている。Eventusは検知優先だ。いずれも、コンプライアンス責任者の検査当日の問題を中心に設計されてはいなかった。
つまりティア2の銀行や中規模の資産運用会社は、JPMorganと同じ規制上のハードルに、わずかな予算と、社内クオンツ人材ゼロで立ち向かうことになる。彼らの選択肢はこうだった:合わない企業向けプラットフォームに過剰に払うか、自前で構築するか——200万〜1,000万ドル+保守に年間100万ドルを、人材をめぐってヘッジファンドの報酬と競いながら費やすか、あるいはビッグ4のファームを雇うか——私の経験では、彼らは何を作るべきかを助言し、PowerPointのターゲット・オペレーティング・モデルのスライド束を手渡し、その後けっきょく、最初から推奨していたであろう同じティア1ベンダーに手を伸ばすのだ。
この市場の真ん中には空白がある——バルジブラケット級の義務と中堅企業の予算を抱えながら、誰にも応えてもらえない企業たちだ。
その空白こそ、私たちが作る相手だ。企業向けの身代金のような価格ではない価格帯で、ベンダーロックインもない、カスタムのコンプライアンス・インテリジェンスを。
迫り来るより難しい問題:自律エージェント
説明可能性が今日の問題だとすれば、エージェント型AIは来年の問題であり、それに備えている者はほとんどいない。
およそ財務チームの44%が2026年にエージェント型AIを利用すると見込まれており——600%を超える急増だ——さらにある企業はすでに60体の自律エージェントを本番稼働させており、あと200体を追加する計画がある。これらのシステムは、手作業のコンプライアンス業務を最大70%まで自動化できる。同時に、自ら取引を発動し、リスクモデルを調整し、取引を承認することもできる。
検査を経験したことのある者を震え上がらせるのは、その次に来るものだ。業界全体が拠り所とするガバナンス枠組み——FRBとOCCのSR 11-7モデルリスク・ガイダンス——は、安定的で決定論的な挙動を持つモデルのために2011年に書かれた。GARPのリスクアナリストが2026年初頭に述べたように、SR 11-7は「モデルガバナンスにとって数少ない安定した参照点の一つであり続けている」——そしてエージェント型AIはその核心的な前提を打ち砕き、不透明性、ランダム性、そして自律性を持ち込み、しばしば予告なく変わり得るサードパーティのインフラの上で動く。毎回異なる判断を下し、あなたが制御できないベンダーのモデルに依存するシステムの意思決定を、あなたは再構築することはできない。
私たちが実際にどこにいるのかをはっきりさせておこう。FMSBの実務者レビューは、市場に面したAIはまだ自律的には動作していない——それは人間の監督の下で取引インフラに組み込まれている、と指摘する。結構。それこそが好機の窓だ。自律取引エージェントのためのガバナンスを構築する適切な時期は、それらが自律的に取引する前であって、事後検証のときではない。私たちはその説明可能性と監督のレイヤーを今のうちに設計する。そうすれば、規制当局が求める前に監査証跡が存在することになる。
ここには、本物の技術的なレバレッジも存在する。グラフベースのモデル——取引相手のエクスポージャーの網をマッピングするグラフニューラルネットワーク——は、研究環境においてリスク伝播の検知でAUC-ROCスコア0.891前後を達成しており、従来手法を大きく上回り、早期警戒のリードタイムを12日近く延ばしている。監視ベンダーで、グラフベースの伝播分析を標準機能として提供しているところはほとんどない。相互に絡み合った取引相手リスクを抱える企業にとって、それはカスケードの到来を目にすることと、法執行命令の中でそれについて読むことの違いだ。
「これは結局、ただのコンプライアンスソフトの増量ではないのか?」
人々は私にそういった趣旨のことを尋ねる。公平な答えはこうだ——正しく作られていれば、そうではない。
コンプライアンスが純粋なコストのように感じられる理由は——大手銀行は年間2億ドル超をそれに費やし、従業員がそれに費やす時間は10年で61%増えた——その大半が、本来システムが自動的に記録しておくべきだったものを手作業で再構築することだからだ。説明がアルゴリズムの実行と同時に生成されれば、検査は考古学的発掘であることをやめる。インベントリはクエリになる。意思決定チェーンはすでに書き留められている。法域横断のマッピングは、5つではなく1つのモデルになる。
人々が尋ねるもう一つのことは、説明可能性がアルゴリズムを遅くするのではないか——マイクロ秒を書類仕事と引き換えにしているのではないか、ということだ。そんなことはない。推論の記録は実行と並んで行われる。それはブレーキではなく記録だ。これを解決した企業は、コンプライアンスを速度への課税として扱うのをやめ、監査の前に後付けするのではなく、コードの最初の一行から存在する、システムの一つの性質として扱い始めた。
ここで私はTwo Sigmaの事案を思い起こす。あるシニア・リサーチャーが、ほぼ2年にわたって14の投資モデルを密かに改変し——たった一つのパラメータをそっと動かすことで——誰かが気づく前に1億6,500万ドルの顧客損失を生み出した。同社は和解のために9,000万ドルを支払った。それらのモデルは、名目上は監督されていないわけではなかった。実務上、説明不能だったのだ。推論が汚染されていたことを、誰もリアルタイムでは見ることができなかった。それは検知の失敗ではない。それは、検知の失敗の衣をまとった説明可能性の失敗なのだ。
シティのトレーダーの4,440億ドルのミスは、犯すのに数秒、争訟に数年を要した。恥ずかしい誤りを9,200万ドルの誤りに変えたのは、バスケットの規模ではなかった。それは、規制当局が身を乗り出してなぜと尋ねたとき、その答えが肩をすくめるだけだった、ということだ。
アルゴリズムを動かすあらゆる企業は、悪い朝が一度あればその問いに直面する。無事でいられるのは、最も多くの制御を持つ企業でも、最も高価なプラットフォームを持つ企業でもない。それは、検査官が午前9時47分を指し示したときに、その意思決定を呼び出して一行ずつ説明して見せられる企業——そしてその能力を、コンプライアンス・レイヤーに、必要になるずっと前から組み込んでいた企業だ。機械がまだ取引しているうちに、説明を作れ。誰かが尋ねてくる頃には、それを書き留め始めるのはもう手遅れなのだ。
