継続的モニタリング＆監査証跡

多くのAIシステムは本番環境でブラインド状態で稼働しています。稼働状況ダッシュボードが証明するのはサービスが 稼働していることであり、その判断が 正確であることではありません。私たちのアプローチは、不足しているレイヤーを構築することです——本番環境におけるモデル品質、判断の出所、規制コンプライアンスを追跡し、数か月後であっても任意のAI判断を再構成できる耐改ざん性の監査証跡へと接続された監視インフラを提供します。

ほとんどのAIシステムは本番環境でブラインド状態で稼働している

直視すべき厳しい現実があります: MLモデルの91%は時間とともに劣化します。6か月間更新されなかったモデルでは、新しいデータに対するエラー率が35%跳ね上がります。2025年だけでも世界中で362件のAIインシデントが記録され（前年の233件から増加）、2026年初頭には月間インシデント数が435件に達しました。昨年、AIを利用している組織の51%がAIの不正確さに起因する悪影響を経験しました。これらは例外的な事例ではありません——真に機能する監視インフラを持たずにモデルをリリースしたときに生じる必然的な結果です。

一般的な企業の対応は、レイテンシのパーセンタイルとエラー率を表示するGrafanaダッシュボードを設置することです。それはシステムが稼働していることを伝えているにすぎず、システムが正確であるかどうかは分かりません。私たちはそれを可能にするレイヤーを設計します。すなわち、本番環境におけるモデル品質、判断の出所、規制コンプライアンスを追跡し、発生から数か月後であってもあらゆるAI判断を再構成できる監査証跡システムに接続された監視インフラです。

従来の可観測性ツールがAI特有の障害を見逃す理由

従来のAPMツール（Datadog、New Relic、Splunkなど）は、CPU、メモリ、レイテンシ、エラー率といったインフラストラクチャを監視します。しかしAIシステムは、インフラ指標では検知できない形で障害を起こします。より高リスクな借り手を承認し始めた融資モデルは、完璧な稼働率と100ミリ秒未満のレイテンシを示しながら、水面下で規制違反リスクを蓄積させていきます。偽陰性（見逃し）に傾いてドリフトしたコンテンツモデレーションモデルは、スループットの数値を維持したまま、有害なコンテンツを通過させてしまいます。

AIシステムにおいて重要な障害は、運用面ではなく統計的な問題です:

• 入力特徴量の分布シフト。
• 予測信頼度のキャリブレーションの劣化。
• 保護対象グループ間における公平性指標の乖離。

これらには専用の検知メカニズムが必要です: Kolmogorov-Smirnov検定 による分布シフトの検知、 Population Stability Index による入力特徴量の追跡、キャリブレーションエラー監視、および公平性指標SLO（ 重大な意思決定におけるアルゴリズムの完全性に関する当社の研究で詳述）を、従来の可用性SLOと並行して導入する必要があります。私たちのアプローチでは、これらを第一級の本番シグナルとして実装します。公平性指標がSLOに違反した場合、そのアラートはP99レイテンシ違反と同等の重要度として扱われます。入力ドリフトが検知された場合、システムは単にダッシュボードの数値が上昇するだけでなく、特定のデータソースや特徴量パイプラインまで原因を遡って追跡します。

AI監視ベンダーを取り巻く状況は不安定——それに備えた計画を

AI監視に特化した7社のベンダーのうち3社が12か月の間に姿を消し、生き残った企業も大幅な事業転換（ピボット）を進めています。オープンソースライブラリは残っているものの、商用サポートや開発ロードマップは失われています。

導入企業にとってこれが意味するのは、単一ベンダーに依存することは移行リスクを孕むということです。私たちのアプローチは、オープンプラットフォーム（トレース用のOpenTelemetry、メトリクス用のPrometheus、オープンソース評価ライブラリ）に基づいて監視アーキテクチャを構築し、ベンダー固有の機能は真の付加価値をもたらす部分にのみ階層化して適用することです。ベンダーが買収されたり方針を転換したりしても、基盤が揺らぐことはありません。

規制当局の精査に耐えうる監査証跡

AI判断における監査証跡とは、単なるログファイルではありません。それはフォレンジックな再構成システムです。監査人、規制当局、あるいは訴訟担当者が「なぜこのシステムがこの日時にこの判断を下したのか」と問うたとき、その回答には以下が含まれていなければなりません:

• どのモデルバージョンが稼働していたか、
• どのような入力特徴量が使用されたか、
• どのような前処理が適用されたか、
• 信頼度スコアはいくつであったか、そして
• その時点でどのガバナンスポリシーが有効であったか。

当社では、これらを暗号学的検証を備えた追記専用ストレージ上に設計します。2025年7月にAmazon QLDBが廃止されて以降、私たちのアプローチでは immudb （台帳レベルの耐改ざん性を必要とするチーム向け）や、 カスタムMerkleツリー検証レイヤーを備えたPostgreSQL （専用データベースなしで監査の完全性を確保したいチーム向け）を推奨しています。すべてのレコードはコンテンツアドレス指定され、ハッシュチェーン化されているため、いずれかのエントリに対する改ざんはそれ以降のチェーン全体を無効化します。

マルチモデルパイプラインやエージェント型AIシステムでは、課題はさらに複雑化します。あるモデルの出力が別のモデルに入力される場合や、エージェントが外部APIをまたいでツール呼び出しを連鎖させる場合、監査証跡はオーケストレーショングラフ全体を捉える必要があります（この課題については、 MLライフサイクル全体におけるAIサプライチェーンの完全性確保に関する当社の研究で検証しています）。当社では各ステップをOpenTelemetryトレースのスパンとして実装し、モデル推論からツール呼び出し、最終出力までを単一の再構成可能なシーケンスとしてリンクします。ここに63%の組織がつまずく要因があります。Deloitteの調査によると、その割合の組織がAIエージェントに対する利用目的制限を徹底できておらず、その主な原因はエージェントが実際に何を行っているかに対する可観測性（オブザーバビリティ）が欠如していることにあります。

EU AI法第12条は今や法律問題ではなく、技術的課題である

高リスクAIシステムを対象とするEU AI法のロギング要件は、 2026年8月2日に完全施行されます。第12条は、システム自体に組み込まれた自動ロギング機能を義務付けています。ログは、リスク特定、市場投入後のモニタリング、および運用の追跡のためのイベントを記録しなければなりません。配備者（Deployer）は、エントリごとに最低6か月間ログを保持する必要があります。不遵守に対する制裁金は最大で 1,500万ユーロまたは全世界の年間売上高の3%に達します。

現実的な課題は、調和された技術標準規格がまだ存在しないことです:

• CEN/CENELECは2025年8月の期限に間に合いませんでした。最初の標準規格（ロギングに関する prEN 18229-1 を含む）の策定は、早くても2026年第4四半期と見込まれています。
• 世界中でISO 42001認証を保持している組織はわずか約30社にとどまります。
• EU加盟27カ国のうち、自国の管轄当局を指定している国すら8カ国にすぎません。

この標準規格の空白期間こそが、実際には最も危険な時期です。組織は、「準拠」を定義する規格が最終決定される前に、今すぐコンプライアンスに適合したロギングを構築しなければなりません。私たちのアプローチは、第12条の条文を技術的統制へと直接マッピングします。どのようなイベントを捕捉すべきか、どの保持アーキテクチャを採用すべきか、推論ごとにどのようなメタデータを付与すべきか、そして将来規格が策定された際にも準拠し続けられるようにログをどう構造化するか——これは当社の 税務コンプライアンスAIの実働デモを支えるニューロシンボリック・エンジニアリングと同じ思想です。これを行わない場合の選択肢は、施行期限までに示されないかもしれない明確化を待ち続けることだけです。

プロジェクトで構築される成果物

すべてのプロジェクトは、お客様の既存の監視およびロギングに関するアーキテクチャ監査から始まります。ほとんどのチームはすでに断片的な仕組みを持っています。アプリケーションログ、何らかのドリフト検知、あるいは実験トラッカーなどです。通常の問題は、これらのピースが連携していないことです。モデルレジストリが特徴量ストアと連携しておらず、それが監査ログとも連携していません。判断を再構成するには、3つのシステム間で手作業でタイムスタンプを照合しなければなりません。当社のプロジェクトは、その結合組織（コネクティブ・ティシュー）を構築します。代表的な成果物は以下のとおりです:

• 根本原因追跡機能を備えたドリフト検知。 単に「特徴量Xがドリフトした」だけでなく、「3月3日にデータソースYがスキーマを変更し、パイプラインZに影響を与えたため、特徴量Xがドリフトした」というレベルまで突き止めます。当社は階層型アラートを実装します。情報レベルの変化はダッシュボードへ、警告は週次レビューへ、重大な違反はオンコール担当者へ直接通知されます。これが、本番運用チーム91組を対象とした2025年の調査でML実践者の不満第1位に挙げられたアラート疲れを解消する方法です。
• モデル品質SLO。 可用性とレイテンシのSLOは前提条件にすぎません。当社では、キャリブレーションエラー、公平性指標の安定性、説明の一貫性、予測信頼区間のためのSLOを定義し、実装します。品質SLOの違反は、インフラ障害と同じエスカレーションパスをトリガーします。
• 耐改ざん性監査ストレージ。 暗号学的ハッシュチェーンを備えた追記専用レコードストアであり、判断ごとの完全な推論コンテキストを保存します。これは 耐障害性システムにおけるソフトウェアの完全性に関する当社の研究に基づいています。判断ID、時間範囲、モデルバージョン、または結果クラスによるクエリが可能です。監査人の質問に数週間ではなく数分で回答できるように設計されています。
• エージェント型システムの計装。 マルチエージェント・アーキテクチャに対して、オーケストレーショングラフ全体をトレースします。エージェントの呼び出し、ツール呼び出し、中間推論、そして最終出力までを追跡します。各ステップは分散トレース内のスパンとして扱われ、相関IDによって紐付けられます。
• 規制コンプライアンス・マッピング。 お客様の監視および監査インフラを具体的な要件（第12条の義務、NIST AI RMFの統制項目［ガバナンス、マッピング、測定、管理］、SOC 2 Type II基準、および業界固有の要件）にマッピングする生きた文書（リビングドキュメント）です。このドキュメントこそが、監査人に提出すべき証跡となります。

この投資が適切である場合（およびそうでない場合）

AIシステムが規制、財務、または安全性に関わる判断を下し、それらの判断が正しく行われたことを証明する必要がある場合（金融サービス、医療、保険、行政など、規制当局に対して「モデルは問題なく動作していた」という弁明では通用しないあらゆるセクター）において、カスタムの監視および監査インフラが必要となります。

AIがレコメンデーションエンジンやコンテンツ推薦システムなど、出力の誤りが軽微なユーザー体験の問題にとどまるアプリケーションである場合、これは必要ありません。Arize Phoenixの無料プランとPrometheusインスタンスで監視ニーズが満たせるのであれば、それらを利用してください——私たちは初回の対話で率直にその旨をお伝えします。

コストに関して言えば、企業は 年間200万〜500万ドル をリアルタイムAI監視インフラに支出しています。EU AI法への準拠には、高リスクシステム1件あたり5万ユーロ超の初期費用に加え、継続的な監視のために年間1万〜2万5,000ユーロを要します。公式なAIガバナンスフレームワークを持つ組織は、AIプロジェクトの成功率が2.1倍に達し、規制リスクを73%低減させています。ROIの論点は監視そのものではなく、監視によって未然に防がれるインシデント、制裁金、プロジェクトの失敗にあります。ガバナンスフレームワークを持たない企業は、2025年にインシデント1件あたり平均440万ドルの損失を出しました。