ChatGPT禁止は失敗した――今、あなたのデータが漏洩している

問題点

2023年5月、サムスンの半導体部門のエンジニアたちが、独自のソースコードをデバッグするためにChatGPTに貼り付けました。彼らはチップの歩留まりデータ――半導体業界で最も厳重に守られる機密情報のひとつ――をアップロードしました。別の従業員は社内会議の録音をこのツールに入力して議事録を作成させました。誰一人悪意を持っていたわけではありません。彼らは「仕事をデバッグ」し、「従業員の生産性と効率を高める」ことを目指していた優秀なエンジニアでした。彼らはChatGPTを電卓のように扱いました――入力し、答えを受け取り、次へ進む。OpenAIの利用規約が、プロバイダーによる入力内容のモデル学習向け保持を許可しているとは気づいていませんでした。

サムスンは生成AIの全社禁止と解雇の警告で対応しました。しかし損害はすでに起こっていたのです。独自の製造ロジック、エラー検出コード、そして機密的な戦略協議のすべてが、第三者のサーバー上に流れ着いていました。

この話はサムスン固有のものではありません。安全な代替手段を与えずに従業員に「ノー」とだけ告げる方針が招く、予測可能な帰結です。あなたの労働力も同じ圧力に直面しています。人々がセキュリティ方針を業務の妨げと見なすとき、彼らはその裏をかきます。問いは、従業員がAIツールを使うかどうかではありません。彼らが何を送信しているのかを、あなたが見届けられるかどうかです。

なぜこれがあなたのビジネスにとって重要なのか

この数字が語る物語は、リスク、コンプライアンス、財務パフォーマンスに責任を負うすべての経営幹部を警戒させるはずのものです。

• **ナレッジワーカーの50%**が現在、職場でAIツールを使用しています。労働力の半数が、審査を受けていないツールでITガバナンスの外側で動いているのです。
• **従業員の46%**は、たとえ組織が禁止してもAIを使い続けると答えています。あなたの方針は強制できないのです。
• **従業員の38%**が、知的財産、個人を特定できる情報、財務データといった機密業務データを、雇用主に告げずにAIツールと共有したことを認めています。
• **エンタープライズAI利用の72%**は個人アカウントを通じて行われています。あなたの組織には、それらの従業員が同意したデータ保持条件を把握する手段が一切ありません。
• **生成AIアプリに送信されるデータの量は前年比で30倍に増加しました。**これらのツールに貼り付けられたソースコードは485%急増しています。

これが貸借対照表に何を意味するのか考えてみてください。営業秘密を含むデータ侵害はたった一件で、長年かけて築いた競争優位を消し去りかねません。GDPRや業種別規則による規制罰金は数千万規模に達することもあります。さらに、あなたのデータが米国サーバー上にあれば――API経由であっても――米国CLOUD法により、サーバーの物理的な所在地にかかわらず、米国の法執行機関がそのデータへのアクセスを強制できます。欧州で事業を行うあらゆる組織にとって、これはGDPRとの直接的な衝突を生みます。

見えないリスクは管理できません。シャドウAI――従業員が認可されていないAIツールを使うこと――は新たなデータ侵害です。ただしこの場合、データを自発的に差し出しているのは、あなた自身の人々なのです。

内部で実際に起きていること

ほとんどの組織は、AIリスクに二つのやり方のどちらかで対応します。全面ブロックするか、「AIラッパー」――OpenAIのAPIのような公開AIサービスの上に載る薄いソフトウェア層――を購入するかです。どちらも核心的な問題は解決しません。

ブロックが失敗するのは、従業員が独立した5G接続を持つ個人スマートフォンを持ち歩いているからです。企業ネットワークのフィルターは、従業員の机の上にある個人の端末には届きません。会社支給のノートPCと個人電話の間の「エアギャップ」は、誰かがデータを打ち込んだり撮影したりして公開AIツールに貼り付けるたびに橋渡しされます。しかも、ブロックすべきAIアプリは3つや4つではありません。セキュリティ企業Netskopeは、企業利用されている317を超える多種多様な生成AIアプリを追跡しています。大手をブロックすれば、人々は単により小さく、安全性の低い、データプライバシー方針の劣るスタートアップに乗り換えるだけです。

ラッパーが失敗する理由は別にあります。AIラッパーを海外の銀行にあるブランド付きATMの画面だと考えてください。画面は違って見えますが、あなたの現金は依然として他人のシステムの中を流れます。AIラッパーは従業員のプロンプトを受け取り、隠れた指示（「あなたは役立つ法律アシスタントです」など）を加えて、APIプロバイダーのサーバーへ直接送信します。あなたのデータは依然としてネットワークの外へ出ていくのです。主権の問題――誰がデータを管理し、どの法的管轄下に置かれるのか――は完全に未解決のままです。あなたは同じリスクの、少しだけ見た目の良いバージョンにお金を払っているにすぎません。

根本的な失敗はアーキテクチャにあります。データがあなたの境界を出てサードパーティのクラウドに入った瞬間、技術的な管理権を失います。ゼロデータ保持を謳う「エンタープライズ」APIティアでさえ、不正利用監視のために最大30日間データを保持することがよくあります。あなたの最も機密性の高い情報が他人のストレージの上に置かれる、30日間の窓があるのです。

何が機能し、何が機能しないか

失敗する三つの一般的なアプローチ：

AIの全面禁止： 従業員は禁止を無視します。46%がそれを公言しています。利用は地下に潜り、リスクは減るどころか増えていきます。

ファイアウォールでのドメイン遮断： 従業員は個人デバイスやモバイルホットスポットでこれを回避します。317を超えるAIアプリが存在し、すべてをブロックすることはできません。

APIラッパーの購入： データは処理のために依然としてサードパーティのクラウドへ移動します。手に入るのはより良いインターフェースで、データ露出は同じままです。米国CLOUD法も引き続き適用されます。

実際に機能するのは、Private Enterprise LLM――完全に自社インフラストラクチャ内で動作する大規模言語モデル――の展開です。このアーキテクチャがどう機能するか、三つのステップで示します：

1. 入力は自社の壁の中にとどまる。 開発者が独自コードを含むプロンプトを送ると、そのコードはノートPCから、自社のVirtual Private Cloud（VPC）――クラウド内のあなたの保護されたプライベート区画――内のGPUサーバーへ移動します。公共インターネットを横断することは決してなく、サードパーティのサーバーに触れることもありません。

2. 処理はあなたが管理するハードウェア上で行われる。 MetaのLlama 3のようなオープンウェイトモデルは、自社のGPUインフラストラクチャ上で実行できます。700億パラメータ版はGPT-4に匹敵する推論品質を提供します。モデルの重みを一度ダウンロードし、ローカルで実行します。APIを通じて知能を借り受けているのではありません。その能力をあなたが所有するのです。

3. 出力はベンダーの規則ではなくあなたの規則に支配される。 モデルをguardrails――要するにAIプロンプト用のファイアウォール――で包みます。NVIDIA NeMo Guardrailsのようなツールは、モデルに届く前にすべての入力から個人を特定できる情報を走査します。無関係な要求はブロックし、ジェイルブレイクの試みを検出します。そして重要なことに、このシステムは既存のアクセス制御を尊重します。従業員がSharePoint上の文書を見る権限を持たなければ、AIはその質問に答えるために当該文書を取得しません。

監査証跡の優位性こそが、これをあなたのコンプライアンス部門と法務部門にとって現実のものにします。すべてのログをあなたが管理します。誰が、いつ、何を質問し、AIが何を返したのかを正確に把握できます。すべての対話に対して データの由来とトレーサビリティ の検証を実行できます。あなたの一般弁護士は、機密データが環境の外に出なかったことを、ベンダーとの契約上の約束ではなく、検証可能な技術的アーキテクチャによって規制当局に証明できるのです。

経済性もまた、規模が大きくなるほど有利に傾きます。月間10億トークンを処理する中堅企業は、GPT-4クラスのAPIに月額5,000〜15,000ドルを支払うかもしれません。同じワークロードを2枚のA100 GPU上で動くセルフホストのLlama 3で実行すれば、月額およそ2,000〜4,000ドル――50〜70%のコスト削減です。しかもプライバシーは追加料金なしで付いてきます。

AI時代のセキュリティは、もはや「ノー」と言う能力の話ではありません。「はい、安全に」と言うためのアーキテクチャ上の能力の話です。従業員はすでにAIを欲しがっているとあなたに伝えています。問題は、あなたが彼らに 安全で主権のあるデプロイメント を与えるのか、それとも彼らに機密情報を他人のシステムへ送り込み続けさせるのか、という点です。

勝ち残る組織は、AIを最も厳しく禁止した組織ではありません。勝ち残るのは、 インフラストラクチャを所有し データを制御した組織です。