決定論的ワークフロー＆ツーリング

当社は、オーケストレーションが決定論的であり、モデル呼び出しのみが唯一の確率的コンポーネントであるAIパイプラインを設計します。すべてのルーティング決定、検証チェック、リトライポリシー、および状態遷移は、明示的で監査可能なコードとして実行されます。LLMはスキーマ検証済みの入力と出力を備えた境界付きノード内で動作し、障害が発生した場合は最初からではなく直前のチェックポイントから再生されます。これこそが、不公正取引監視、臨床データ抽出、規制当局への提出文書作成におけるエージェントの混乱を監査可能にするアーキテクチャです。

エージェントパイプラインを破綻させる確率の数学

各ステップが95%の精度で実行される10ステップのAIエージェントチェーンが、エンドツーエンドで正しい結果を出力する確率はわずか59.9%です。これは、10回の実行のうち4回が失敗することを意味します。チャットボットのデモであれば、リトライしてやり過ごすこともできるでしょう。しかし、不公正取引監視、臨床データ抽出、規制当局への提出文書作成において、40%の失敗率は致命的な業務停止事由となります。Gartnerは、2027年末までにエージェント型AIプロジェクトの40%以上が中止されると予測しており、この複合エラーの確率計算がその最大の要因です。

当社のソリューションは、確率的なモデル呼び出しを、スキーマ検証された入力と出力を備えた境界付きノード内に限定します。すべてのルーティング決定、検証チェック、リトライポリシー、および状態遷移は、明示的で監査可能なコードとして実行されます。そのため、障害が発生しても最初からではなく直前のチェックポイントから再生されます（ ディープAIにおけるアーキテクチャ、信頼性、戦略的分岐に関する当社の研究を参照）。

多くのエージェントフレームワークが本番環境で破綻する理由

コミュニティの声は明白であり、その障害パターンも明確です:

• LangChain ：エージェントが推論ループに陥り、誤ったツールを繰り返し呼び出し、例外をスローすることなく機能低下します。
• モデルが JSONの前に説明文を付加してしまい、パーサーは確信ありげに構造化された誤ったデータを返します。
• CrewAI ：並行タスクグラフにおいて委任ループが発散します。
• AutoGen ：1タスクあたり20回以上のLLM呼び出しを1回あたり0.45ドルで実行しますが、決定論的パイプラインならより少ない呼び出しにより0.08ドルで同じ結果を達成できます。

これらの障害は、共通の設計選択に起因しています。すなわち、モデルに実行フローを制御させている点です。LLMが呼び出すツール、分岐先、および停止時期を判断する場合、デモ品質の自律性と本番環境品質の混乱が生じることになります。その解決策はアーキテクチャの刷新です。実行制御を決定論的エンジンへと移行することであり、このアプローチは LLMラッパーを超えた堅牢なエンタープライズAIの設計に関する当社のホワイトペーパーで詳しく解説されています。そして、モデルには明確に定義された境界内でコンテンツを推論するという、モデル本来の得意分野のみを担当させます。

決定論的AIパイプラインの構築手法

当社のアプローチでは、お客様の既存インフラに基づいて選定された高耐久実行エンジン（Temporal、Prefect、またはInngest）をオーケストレーションのバックボーンとして使用します。すべてのステップは、明示的な入力、出力、リトライポリシー、およびタイムアウト予算を備えたアクティビティまたはタスクとなります。エンジンが状態を管理し、障害を処理し、デバッグを可能にするチェックポイント/再生機能を提供します。

LLMが出力を生成する各ノードにおいて、当社は用途に適したツールを用いて出力スキーマを強制する検証ハーネスで呼び出しをラップします。各アプローチには固有の障害モードが存在するため、各ノードのエラートレランスとレイテンシ予算に合わせて検証戦略を適合させます:

ツール呼び出しは、制約のないLLM生成ではなく、制約付きプランナーを経由して実行されます。50個のツールを提示してモデルが正しく選択することを期待するのではなく、現在のワークフローステータスに基づいてツールカタログをフィルタリングし、このステップで有効なツールのみをモデルに見せます。これにより、架空のツール名の幻覚（ハルシネーション）や無効な引数パターンという、本番環境で最も一般的な2大ツール呼び出し障害モードを排除します。

チェックポイント、再生、そしてコストの妥当性

デモ段階で5〜50ドルのコストだった3エージェントのワークフローが、本番環境では月額18,000〜90,000ドルの請求を生み出します。企業の96%が生成AIのコストが期待を超過したと報告しています。この無駄の大半は、下流工程で障害が発生した後に、すでに成功した上流ステップを再実行することに起因しています。

チェックポイント機能はこの経済性を一変させます。各ノードが完了するたびに、エンジンは完全な状態（入力、出力、メタデータ、保留中タスク）のスナップショットを取得します。全10ステップ中のステップ7で障害が発生した場合、問題を修正した上でステップ1からではなくステップ7から再生できます。 LangGraphはこのアプローチにより96%のエラーリカバリ率を達成します 。Temporalの高耐久実行モデルはさらに進んでおり、プロセスクラッシュを生き延び、実行中のLLM呼び出しを含めてワークフローが中断したまさにその地点から再開します。

当社は以下の要素を備えたチェックポイント戦略を設計します:

• 決定論的スレッドID ：融資申請、患者記録、取引確認などのビジネスエンティティに紐付けられます。
• 冪等な外部呼び出し ：ワークフローとステップの識別子にキー付けされます。
• 計画的な障害注入テスト。

チェックポイント機能単体でも、マルチステップワークフローにおける無駄な処理を 60%以上 削減します。

本番環境におけるツールガバナンス

MCPの普及はセキュリティに先行して進んでいます。インターネットに公開された約2,000台のMCPサーバーのスキャンでは、そのすべてで認証が皆無であることが判明し、推定200,000台のサーバーが危険にさらされています。また、コストの問題もあります。単一のGitHub MCPサーバーを初期化するだけで約50,000トークンを消費し、106個のツールを持つデータベースサーバーは1回のクエリを実行する前に54,600トークンを消費します。

当社は、ツールが使用するプロトコルに関わらず、統制されたツールインターフェースを設計します。すべてのツール呼び出しは、入力の型と範囲のチェック、レート制限とリソースクォータの強制、出力フォーマットの検証、および完全な呼び出しコンテキストの記録を行う検証レイヤーを通過します。ツール選択は状態駆動型です。ワークフローエンジンが、現在の状態とステップの宣言された機能に基づいて、各ステップで利用可能なツールを決定します。これはモデルへの推奨事項ではなく、インフラレベルで強制される厳格な制約です。

規制対象業界のための監査ファーストアーキテクチャ

SOX内部統制、SR 11-7モデルリスク管理、HIPAA、EU AI Act、およびFDA臨床意思決定支援ガイダンスはいずれも、再現性、追跡可能性、および説明可能性の組み合わせを要求します。デプロイ後にオブザーバビリティをエージェントフレームワークに後付けしても、これらの要件を満たすことはできません。アーキテクチャ自体が監査証跡を生成しなければならないのです。

当社が構築するパイプラインは、すべてのLLM呼び出しについて完全なプロンプト、応答、検証結果、リトライ回数、およびチェックポイントIDを記録するよう設計されています。すべての状態遷移は不変です。ワークフロー定義はバージョン管理され、特定のモデルバージョンに紐付けられているため、監査担当者は過去の出力を生成した正確なパイプラインを再構築できます。GxP環境向けには、正式な変更管理プロセスを通じてワークフローバージョンを検証済みモデルチェックポイントに固定するよう設計します——これは、当社の 臨床AI安全性実働デモで実証しているような決定論的臨床パイプラインです。