فشل حظر ChatGPT — والآن بياناتك تتسرّب

المشكلة

في مايو 2023، لصق مهندسو قسم أشباه الموصلات في سامسونج شيفرة مصدرية خاصة بهم في ChatGPT لتصحيح أخطائها. وقد رفعوا بيانات إنتاجية الرقائق — وهي من أكثر الأسرار حراسةً في صناعة أشباه الموصلات. وقد أدخل موظف ثالث تسجيلًا لاجتماع داخلي إلى الأداة لتحويله إلى محضر اجتماع. ولم يقصد أيٌّ منهم أي ضرر؛ فقد كانوا مهندسين عاليي الأداء يحاولون «تصحيح أخطاء عملهم» و«تعزيز إنتاجية الموظفين وكفاءتهم». لقد تعاملوا مع ChatGPT باعتباره آلة حاسبة — تُدخل شيئًا، فتحصل على إجابة، ثم تمضي. ولم يدركوا أن شروط خدمة OpenAI تسمح للمزوّد بالاحتفاظ بمُدخلاتهم لأغراض تدريب النموذج.

ردّت سامسونج بحظر شامل على مستوى الشركة للذكاء الاصطناعي التوليدي مع تهديدات بالفصل من العمل. لكن الضرر كان قد وقع بالفعل؛ فقد هبطت منطق التصنيع الخاص بها وشيفرة كشف الأخطاء ومناقشاتها الاستراتيجية السرية كلها على خوادم طرف ثالث.

هذه القصة ليست حكرًا على سامسونج؛ إنها النتيجة المتوقعة لسياسة تقول لموظفيها «لا» دون أن تقدم لهم بديلًا آمنًا. تواجه قوتك العاملة الضغط نفسه. وحين ينظر الناس إلى سياسات الأمن بوصفها عقبات أمام أداء عملهم، يلتفّون عليها. والسؤال ليس هل يستخدم موظفوك أدوات الذكاء الاصطناعي، بل هل يمكنك أن ترى ما يرسلونه.

لماذا يهم هذا أعمالك

الأرقام تحكي قصة ينبغي أن تقلق كل مسؤول تنفيذي معني بالمخاطر أو الامتثال أو الأداء المالي.

• 50% من موظفي المعرفة يستخدمون الآن أدوات الذكاء الاصطناعي في العمل. نصف قوتك العاملة يعمل خارج حوكمة تقنية المعلومات بأدوات لم تخضع للتدقيق.
• 46% من الموظفين يقولون إنهم سيواصلون استخدام الذكاء الاصطناعي حتى لو حظرتهم مؤسستهم. سياسة أمانك غير قابلة للإنفاذ.
• 38% من الموظفين يعترفون بمشاركة بيانات عمل حساسة — ملكية فكرية ومعلومات شخصية قابلة للتعريف وبيانات مالية — مع أدوات الذكاء الاصطناعي دون إخبار صاحب العمل.
• 72% من استخدام الذكاء الاصطناعي في المؤسسات يتم عبر حسابات شخصية. مؤسستك لا تملك أي رؤية لشروط الاحتفاظ بالبيانات التي وافق عليها أولئك الموظفون.
• ارتفع حجم البيانات المرسلة إلى تطبيقات الذكاء الاصطناعي التوليدي 30 ضعفًا على أساس سنوي. أما الشيفرة المصدرية الملصوقة في هذه الأدوات فقد قفزت بنسبة 485%.

فكّر في ما يعنيه هذا لميزانيتك العمومية. فاختراق واحد للبيانات يتضمن أسرارًا تجارية قد يمحو مزايا تنافسية استغرق بناؤها سنوات. ويمكن أن تبلغ الغرامات التنظيمية بموجب اللائحة العامة لحماية البيانات (GDPR) أو قواعد خاصة بقطاعات معينة عشرات الملايين. وإذا كانت بياناتك مستضافة على خوادم أمريكية — حتى عبر واجهة برمجة تطبيقات (API) — فإن قانون CLOUD الأمريكي يسمح لجهات إنفاذ القانون الأمريكية بإجبار مقدّم الخدمة على منح الوصول إلى تلك البيانات، أينما كان الخادم موجودًا ماديًا. وبالنسبة لأي مؤسسة لديها عمليات في أوروبا، يخلق هذا تعارضًا مباشرًا مع GDPR.

لا يمكنك إدارة خطر لا تراه. «الذكاء الاصطناعي الظل» — أي استخدام الموظفين لأدوات ذكاء اصطناعي غير مصرح بها — هو الاختراق الجديد للبيانات، إلا أنه في هذه الحالة موظفوك أنفسهم هم من يسلمون البيانات طوعًا.

ما الذي يحدث فعلًا تحت الغطاء

تستجيب معظم المؤسسات لمخاطر الذكاء الاصطناعي بإحدى طريقتين: إما حظره تمامًا، أو شراء «غلاف ذكاء اصطناعي» — طبقة برمجية رقيقة توضع فوق خدمة ذكاء اصطناعي عامة مثل واجهة برمجة تطبيقات OpenAI. ولا تحل أيٌّ من المقاربتين المشكلة الجوهرية.

يفشل الحظر لأن موظفيك يحملون هواتف ذكية شخصية باتصالات 5G مستقلة. فلتر شبكة الشركة لا يصل إلى جهاز شخصي موضوع على مكتب موظفك. وتُعبر «الفجوة الهوائية» بين حاسوب الشركة المحمول والهاتف الشخصي في كل مرة يكتب فيها أحدهم بيانات أو يصوّرها ويلصقها في أداة ذكاء اصطناعي عامة. والأمر لا يتعلق بحظر ثلاثة أو أربعة تطبيقات ذكاء اصطناعي فحسب؛ فشركة الأمن السيبراني Netskope تتتبع أكثر من 317 تطبيق ذكاء اصطناعي توليدي مختلفًا قيد الاستخدام داخل المؤسسات. احظر الأسماء الكبرى، وسينتقل موظفوك ببساطة إلى شركات ناشئة أصغر وأقل أمنًا وذات سياسات خصوصية بيانات أسوأ.

تفشل الأغلفة لسبب مختلف. تخيَّل غلاف الذكاء الاصطناعي كواجهة صراف آلي تحمل علامة تجارية في بنك أجنبي؛ تبدو الشاشة مختلفة، لكن أموالك ما زالت تمر عبر نظام جهة أخرى. يأخذ غلاف الذكاء الاصطناعي موجّه موظفك، وربما يضيف تعليمات مخفية («أنت مساعد قانوني مفيد»)، ثم يرسله مباشرة إلى خوادم مزوّد الواجهة البرمجية. بياناتك لا تزال تغادر شبكتك. ومشكلة السيادة — من يتحكم في البيانات وتحت أي ولاية قضائية — تظل دون حل على الإطلاق. أنت تدفع فقط ثمن نسخة أجمل من المخاطرة نفسها.

الفشل الجذري معماريٌّ في جوهره. فحين تغادر بياناتك محيطك المؤمَّن وتدخل سحابة طرف ثالث، تفقد السيطرة التقنية عليها. وحتى خطط الـAPI «المؤسسية» التي تَعِد بصفر احتفاظ بالبيانات كثيرًا ما تحتفظ بها حتى 30 يومًا لمراقبة حالات سوء الاستخدام. تلك نافذة مدتها 30 يومًا تجلس خلالها أكثر معلوماتك حساسية على وحدات تخزين جهة أخرى.

ما الذي ينجح (وما الذي لا ينجح)

ثلاث مقاربات شائعة تفشل:

الحظر الكامل للذكاء الاصطناعي: يتجاهل موظفوك الحظر؛ 46% منهم يقولون ذلك صراحةً. فينتقل الاستخدام إلى الخفاء، مما يخلق مخاطر أكثر لا أقل.

حجب النطاقات بجدران الحماية: يتفادى الموظفون ذلك بأجهزتهم الشخصية ونقاط الاتصال المحمولة. هناك أكثر من 317 تطبيق ذكاء اصطناعي — لا يمكنك حجبها جميعًا.

شراء غلاف API: تستمر بياناتك في السفر إلى سحابة طرف ثالث لأغراض المعالجة. تحصل على واجهة أجمل، لكن التعرض نفسه للبيانات. ويظل قانون CLOUD الأمريكي ساريًا.

ما ينجح فعلًا هو نشر نموذج لغوي مؤسسي خاص (Private Enterprise LLM) — نموذج لغوي كبير يعمل بالكامل داخل بنيتك التحتية الخاصة. وإليك كيف تعمل هذه البنية في ثلاث خطوات:

1. المدخلات تبقى داخل جدرانك. عندما يرسل مطوِّر موجّهًا يتضمن شيفرة خاصة، تسافر تلك الشيفرة من حاسوبه المحمول إلى خادم GPU داخل السحابة الافتراضية الخاصة (VPC) الخاصة بك — قسمك الخاص المؤمَّن من السحابة. فهي لا تعبر الإنترنت العام أبدًا، ولا تلامس خادم طرف ثالث أبدًا.

2. تجري المعالجة على عتاد تتحكم فيه. يمكن لنماذج الأوزان المفتوحة مثل Llama 3 من Meta أن تعمل على بنيتك التحتية الخاصة بوحدات المعالجة الرسومية. وتقدم النسخة ذات الـ70 مليار معامل جودة استدلال تقارب GPT-4. تنزّل أوزان النموذج مرة واحدة وتشغّلها محليًا. أنت لا تستأجر الذكاء عبر واجهة برمجية؛ أنت تمتلك القدرة.

3. تخضع المخرجات لقواعدك أنت، لا لقواعد المورّد. تلتفّ النموذج بطبقات guardrails — وهي في جوهرها جدار حماية لموجّهات الذكاء الاصطناعي. وتفحص أدوات مثل NVIDIA NeMo Guardrails كل مدخل بحثًا عن معلومات شخصية قابلة للتعريف قبل وصوله إلى النموذج. تحجب الطلبات الخارجة عن الموضوع، وتكشف محاولات تجاوز قيود النموذج. والأهم من ذلك أن النظام يحترم ضوابط الوصول القائمة لديك؛ فإذا لم يكن لدى موظف صلاحية رؤية مستند في SharePoint، فلن يستعيده الذكاء الاصطناعي للإجابة عن سؤاله.

ميزة سجل التدقيق هي ما يجعل هذا واقعيًا بالنسبة لفرق الامتثال والشؤون القانونية لديك. أنت تتحكم في كل سجل. يمكنك أن ترى بدقة من سأل عمّا، ومتى، وماذا أعاد الذكاء الاصطناعي. يمكنك إجراء فحوصات تتبّع مصدر البيانات وقابلية التتبع على كل تفاعل. ويمكن لمستشارك القانوني أن يُثبت للجهات التنظيمية أن البيانات الحساسة لم تغادر بيئتك قط — لا عبر وعد تعاقدي من مورّد، بل عبر بنية تقنية يمكنهم التحقق منها.

كما أن الاقتصاديات تنحاز لمصلحتك عند التوسع. فشركة متوسطة الحجم تعالج مليار رمز (token) شهريًا قد تدفع ما بين 5,000 و15,000 دولار شهريًا مقابل واجهة API بفئة GPT-4. بينما يكلف حمل العمل نفسه على Llama 3 مستضاف ذاتيًا يعمل على وحدتي معالجة رسومية A100 نحو 2,000 إلى 4,000 دولار شهريًا — أي انخفاض بنسبة 50 إلى 70 بالمئة. والخصوصية مشمولة دون أي رسوم إضافية.

الأمن في عصر الذكاء الاصطناعي لم يعد يتعلق بقدرتك على قول «لا»، بل بالقدرة المعمارية على قول «نعم، بأمان». موظفوك أخبروك بالفعل بأنهم يريدون الذكاء الاصطناعي. والسؤال هو ما إذا كنت ستمنحهم نشرًا آمنًا سياديًا أم ستتركهم يواصلون ضخّ أسرارك في نظام جهة أخرى.

لن تكون المؤسسات التي ستزدهر هي تلك التي حظرت الذكاء الاصطناعي بأشد أشكاله، بل ستكون المؤسسات التي امتلكت البنية التحتية وتحكمت في البيانات.