あなたのクラウドAIは工場の現場に遅すぎる

問題点

ある製造業者が、毎秒2メートルで動くコンベアベルト上の部品を検査するために、クラウドベースのAIを導入しました。このシステムは技術的には機能しました。欠陥を正しく特定できたのです。しかし、クラウドが答えを返すころには、800ミリ秒が経過していました。欠陥部品は、すでに排除ポイントを1.6メートルも通過していたのです。AIは正しかった。しかし物理法則はそれを気にしません。

これこそが、Veriprajnaが「レイテンシ・ギャップ」と呼ぶ核心的な失敗です。あなたのAIは画像を数百マイル離れたデータセンターに送ります。データセンターはそれを処理し、答えを送り返します。しかし、インターネットが仕事をしている間も、コンベアベルトは止まりません。部品は動き続け、イジェクタの作動が遅れます。そして誰も気が付かないうちに、欠陥品は梱包され、出荷されてサプライチェーンに入り込んでしまうのです。

これは研究室の中の仮説シナリオではありません。リアルタイム品質管理のために「クラウドファースト」の約束を信じた製造業者たちの、現実の経験です。クラウドは分析、ダッシュボード、バッチ処理には有効です。しかし、プロセスが500ミリ秒未満での意思決定を求める場合、クラウドはむしろ負債になります。あなたの工場は物理法則で動いています。インターネットはベストエフォート配送で動いています。この2つは決して相容れないのです。

なぜこれがビジネスにとって重要なのか

レイテンシ障害による財務的影響は深刻で、十分に記録されています。自動車業界では、計画外ダウンタイムのコストは平均1分あたり22,000ドルです。大手自動車工場では、Siemensの推定によるとその額は1時間あたり230万ドル——およそ1分あたり38,000ドルに達しています。これらの数値は2019年から倍増しました。

しかし、壊滅的な停止が起らなくても、お金は失われていきます。本当の損害は、ホワイトペーパーが「隠れた工場(Hidden Factory)」と呼ぶもの——誰も追跡していない小さな繰り返しの混乱から生まれるのです:

• ネットワークジッターによるマイクロストップ: クラウドAIシステムのせいでラインが30秒停止するのが1日わずか10回でも、1日5分を失います。1年では、30時間以上の生産ロスになります。
• こうした「些細な」不具合の年間コスト: 1分あたり22,000ドルとして、30時間のマイクロストップは御社に年間3,960万ドルのコストをもたらします。
• 見逃される欠陥品: AIの回答が遅すぎたために検査を通過した部品はすべて、サプライチェーンに入り込みます。それは保証請求、リコール、そして評判の損害を意味します。
• サプライチェーンのペナルティ: 自動車業界はジャストインタイム納入を採用しています。ラインが止まってOEMへの納品窓口を守れなかった場合、契約上のペナルティは1件あたり数百万ドルに達することもあります。

ダウンタイムのコストは、単一の勘定科目には現れない形で複合的に膨らみます。中断された工程からのスクラップ。失われた生産量を補うための1.5倍の残業代。高価なサードパーティベンダーへの緊急外注。こうした隠れたコストは瞬く間に積み上がります。

もしあなたの工場が今もリアルタイム制御の判断を公衆インターネット経由で回しているなら、あなたは毎日レイテンシ税を払っています。

内部で実際に何が起きているのか

クラウドAIが工場の現場で失敗する理由を理解するには、海外から911に電話するようなものだと考えてください。緊急事態を正確に伝えても、距離のせいで対応が遅れて届くのです。

カメラが部品の画像を捉えるとき、クラウドベースのシステムでは実際に次のようなことが起こります。画像は圧縮され、工場のローカルネットワークを通じてアップロードされます。他のトラフィックと帯域を争い、ファイアウォールを通り抜け、公衆インターネットを横断します。パケットは複数のルーターを経由します。モーターや溶接機からの電磁干渉が充満する工場ではよくあることですが、パケットが1つでも失われると、システムは待機して再送します。リクエストはやがてデータセンターのキューに入り、GPUを待ちます。ようやくAIが推論を実行します。そして結果は来た道をすべて戻るのです。

この往復にかかる時間は合計でおよそ800ミリ秒です。内訳はこうです。画像の取り込みとエンコードに20〜40ms。ISP経由のアップロードに100〜300ms。ネットワークルーティングとジッターで50〜200ms追加。クラウドのキューイングに50〜100ms。実際のAI推論に50〜150ms。帰りの経路にさらに100〜200msが加わります。

決定的な問題は速度だけではありません。予測不能性です。インターネットはTCPを使用しています。これは配達の保証のために設計されたプロトコルであり、即時性のためではありません。パケットが失われた場合、TCPは待って再試行します。メールにはそれで構いません。不良部品を排出するまでに500ミリ秒しかない制御ループでは、再試行は失敗を意味します。制御ループにおける遅延データは、多くの場合、データが全くないよりも有害です。なぜなら、システムの物理的状態はすでに変化しているからです。

あなたのコンベアはバッファリングしません。原子はビットを待ちません。

何が機能し、何が機能しないのか

まず、もっともらしく聞こえるのに問題を解決しない3つのアプローチから見ていきましょう:

「5Gを使えばいい」 マーケティングでは、5Gは1〜5msのレイテンシを実現すると言われます。しかしそれはエアインターフェースのみの話です。鉄骨梁、金属外装、溶接機やモーターからの電磁ノイズが満ちた工場では、5Gミリ波の信号は急速に劣化します。視界を横切るフォークリフト1台で、レイテンシは瞬時にスパイクし得ます。

「より大きなモデルをクラウドで実行する」 どれほど強力なクラウドGPUでも、距離の問題は解決できません。データは依然として数百マイルを往復しなければなりません。ボトルネックはモデルではなく、ネットワークなのです。

「分析のためにすべてをクラウドへストリーミングする」 4台の4Kカメラを備えた品質検査ステーション1つが生成する圧縮動画は、約80Mbpsに上ります。これが数百のステーションに及べば、莫大な帯域幅コスト、クラウドの下り(エグレス)料金、ストレージ費用が発生します。すべては、ローカルデバイスがリアルタイムで処理して廃棄できたはずのデータのための支出です。

実際に機能するのはこちらです。エッジネイティブAI。つまりAIをマシンそのものに直接搭載するのです:

1. 入力: カメラが画像を捉え、コンベアに搭載されたNVIDIA Jetsonのような組み込みAIプロセッサに直接送信します。データは決定論的なハードウェア接続を通じて1メートル未満しか移動しません。公衆インターネットではありません。

2. 処理: AIモデルは標準の32ビット精度から8ビット整数精度に変換されています。量子化と呼ばれるこの工程により、モデルはサイズ4分の1となり、精度低下は1%未満で劇的に高速化します。さらに最適化ソフトウェアでコンパイルされ、複数の処理ステップが1つに融合されます。推論時間の合計は約3〜5ミリ秒に短縮されます。

3. 出力: システムは合計12ミリ秒で判定を下します。毎秒2メートルの速さでは、部品が動いたのはわずか2.4センチメートルです。排出ポイントまで97.6センチメートルの安全マージンが残っています。システムは絶対的な確信をもって排除機構を作動させます。

コンプライアンスと監査のチームにとって、このアーキテクチャは重要な利点をもたらします。データ主権です。元の画像はデバイスの外に出ません。ダッシュボードに送られるのはメタデータ——「部品 #1234: 合格」——だけです。独自の設計、生産レート、組立技術はすべて施設内にとどまります。クラウドプロバイダーは一切触れません。共有された公開サーバー上への機密データの保存を禁止するITAR、航空宇宙、製薬の規制対象にある製造業者にとって、これは極めて重要です。

同じ原則は音響監視にも当てはまります。Veriprajnaは高周波マイクロフォンを展開し、従来の振動センサーが検知する数週間も前に、故障しかけのベアリングが発する超音波の「悲鳴」を検出します。マイクロコントローラ上で動く軽量AIモデルは、5ミリ秒で非常停止を作動させることができます。ある事例では、これにより45,000ドルに上った可能性のあるスピンドル交換が、800ドルのベアリング交換で済みました。エッジデバイスはマシンを動かし続け、データを非公開に保ち、インターネット接続が失われても稼働し続けます。

損益分岐の計算はほとんど馬鹿げているほどです。コンピュートモジュールとセンサーを含む7,000ドルのエッジシステムは、自動車業界のレートで年間たった19秒のダウンタイムを防げば、元が取れます。