封殺 ChatGPT 失敗了——現在您的資料正在外洩

問題所在

2023 年 5 月,三星半導體部門的工程師把專有原始碼貼進 ChatGPT 除錯。他們上傳了晶片良率資料——半導體業界守護最嚴密的機密之一。另一位員工則把一場內部會議的錄音餵進該工具以產生會議紀錄。沒有人心存惡意。他們都是績效卓越的工程師,只想「除錯自己的工作」、「提升員工的生產力與效率」。他們把 ChatGPT 當成計算機——輸入問題、取得答案、繼續做事。他們並不知道,OpenAI 的服務條款允許供應商保留他們的輸入內容作為模型訓練之用。

三星的回應是全公司禁用生成式 AI,並揚言解僱違規者。但傷害已經造成。他們的專有製造邏輯、錯誤偵測程式碼,以及機密策略討論,全都落在了第三方的伺服器上。

這類故事並非三星獨有。它是一道政策的可預期結果——只對員工說「不」,卻不給他們安全的替代方案。您的員工正面臨同樣的壓力。當人們把資安政策視為工作的絆腳石,就會想辦法繞過它。問題不在於您的員工是否在使用 AI 工具,而在於您能否看見他們送出了什麼。

為什麼這對您的業務至關重要

這些數字述說著一個故事,任何肩負風險、法遵或財務績效責任的高階主管都應當關切。

• 50% 的知識工作者已經在工作中使用 AI 工具。您有一半人力在 IT 治理之外,使用未經審核的工具作業。
• 46% 的員工表示,即使組織下令禁用,他們仍會繼續使用 AI。您的政策根本無法執行。
• 38% 的員工承認曾在未告知雇主的情況下,把敏感的工作資料——智慧財產、個人識別資訊、財務資料——交給 AI 工具。
• 72% 的企業 AI 使用是透過個人帳號進行的。對於那些員工同意了哪些資料保留條款,您的組織毫無能見度。
• **送往生成式 AI 應用程式的資料量年增 30 倍。**貼進這些工具的原始碼暴增 485%。

想想這對您的資產負債表意味著什麼。一起涉及營業秘密的資料外洩事件,就可能摧毀多年累積的競爭優勢。依據 GDPR 或特定產業法規的罰鍰可能高達數千萬。而如果您的資料存放在美國伺服器上——即使是透過 API——《美國 CLOUD 法案》允許美國執法機關強制調閱這些資料,無論伺服器的實際位置在哪裡。對任何在歐洲有營運的組織而言,這與 GDPR 直接衝突。

您無法管理看不見的風險。影子 AI——員工私自使用未經核准的 AI 工具——就是新形態的資料外洩,只不過這一次,是您自己的員工自願把資料交出去。

底層究竟發生了什麼

大多數組織面對 AI 風險只有兩種反應:不是全面封鎖,就是買一個「AI 套殼」(wrapper)——架在 OpenAI API 這類公共 AI 服務之上的一層薄薄軟體。兩種做法都沒有解決核心問題。

封鎖之所以失效,是因為您的員工身上就帶著具獨立 5G 連線的個人智慧型手機。企業網路過濾器管不到放在員工桌上的個人裝置。公司筆記型電腦與個人手機之間的「氣隙」(air gap),只要有人把資料打下來或拍下來、再貼進公共 AI 工具,就被打通一次。而且需要封鎖的 AI 應用程式不只三四個。資安公司 Netskope 追蹒到企業環境中使用中的生成式 AI 應用程式超過 317 個。封掉大牌,您的員工只會轉向更小、更不安全的新創服務,而它們的資料隱私政策還更糟。

套殼則因另一個原因失效。把 AI 套殼想像成外國銀行掛著自有品牌的 ATM 介面:螢幕看起來不同,但您的現金仍然流經別人的系統。AI 套殼接收員工的提示詞,或許再加上一條隱藏指令(「你是一位樂於助人的法律助理」),然後直接送往 API 供應商的伺服器。您的資料依然離開了您的網路。主權問題——誰控制資料、受哪個司法管轄區約束——完全沒有解決。您只是花錢買到同一種風險的漂亮版本。

根本的失敗出在架構。當您的資料離開您的防線、進入第三方雲端,您就失去了技術上的控制權。連承諾零資料保留的「企業版」API 方案,也常為了濫用監控而把資料保留最長 30 天。在這 30 天的窗口裡,您最敏感的資訊就躺在別人的儲存空間上。

什麼有效(什麼無效)

三種常見但終將失敗的做法:

**全面禁用 AI:**您的員工無視禁令。46% 的人公開這麼說。使用轉入地下,製造更多而非更少的風險。

**用防火牆封鎖網域:**員工會用個人裝置和行動熱點繞過。AI 應用程式超過 317 個——您不可能全部封掉。

**購買 API 套殼:**您的資料仍然要送去第三方雲端處理。您得到較漂亮的介面,卻承受同樣的資料暴露。《美國 CLOUD 法案》依然適用。

真正有效的是部署私有企業級 LLM——一個完全在自己的基礎架構內運行的大型語言模型。這套架構分三步運作:

1. **輸入留在您的圍牆之內。**當開發者送出含專有程式碼的提示詞,這段程式碼會從他的筆記型電腦傳到您自己虛擬私有雲(VPC)內的 GPU 伺服器——也就是雲端中您專屬的安全私人區段。它永遠不會跨越公共網際網路,也永遠不會碰觸第三方伺服器。

2. **處理發生在您掌控的硬體上。**Meta 的 Llama 3 這類開放權重模型可以在您自己的 GPU 基礎架構上運行。700 億參數版本的推理品質足以媲美 GPT-4。模型權重只需下載一次,即可在本機執行。您不是透過 API 租用智慧,而是自己擁有這項能力。

3. **輸出由您的規則治理,而非供應商的。**您為模型加上 guardrails——本質上就是 AI 提示詞的防火牆。NVIDIA NeMo Guardrails 這類工具會在輸入抵達模型之前掃描其中是否含個人識別資訊;它們攔截離題請求,偵測越獄攻擊嘗試。更重要的是,系統尊重您既有的存取控制。如果某位員工無權查看 SharePoint 裡的文件,AI 就不會為了回答他的問題而去擷取那份文件。

稽核軌跡的優勢,讓這一切對您的法遵與法務團隊變得真實可及。每一份日誌都由您掌控。您可以確切看到誰在何時問了什麼、AI 回答了什麼。您可以針對每一次互動執行 資料溯源與可追溯性 檢查。您的法務長可以向監管機關證明敏感資料從未離開您的環境——不是憑供應商的一紙合約承諾,而是憑一套他們可以親自驗證的技術架構。

在規模化時,經濟效益也轉向對您有利。一家每月處理 10 億個 token 的中型公司,使用 GPT-4 等級的 API 可能每月要付 5,000 至 15,000 美元。同樣的工作量改由兩張 A100 GPU 上自行託管的 Llama 3 執行,每月成本約 2,000 至 4,000 美元——降幅達 50% 至 70%。而隱私保護免費附贈,不加價。

AI 時代的資訊安全,不再關乎您能否說「不」,而是關乎您是否有架構上的能力說出「可以,而且安全」。您的員工早已告訴您:他們想要 AI。問題在於,您要給他們的是 安全且主權自主的部署 還是任由他們繼續把您的機密餵進別人的系統。

未來蓬勃發展的組織,不會是把 AI 禁得最凶的那些,而是那些 掌握了基礎架構 並掌控了資料的組織。