هل يمكن تحويل ذكاء التقنية الحيوية الاصطناعي لديكم إلى سلاح مقابل 300 دولار؟

المشكلة

أثبت باحثون مؤخراً قدرتهم على تجريد نموذج الذكاء الاصطناعي من تدريب السلامة بتكلفة حوسبة لا تتجاوز بضع مئات من الدولارات. وتُعرف هذه التقنية باسم «إعادة الضبط الدقيق الخبيث» (Malicious Fine-Tuning)، وهي تعمل عبر تغذية النموذج بما لا يزيد عن 10 إلى 50 مثالاً فقط من أزواج الأسئلة والأجوبة الضارة. وبعد ذلك، «يتذكر» النموذج كل ما تعلمه من مواد خطيرة أثناء تدريبه الأصلي ويصبح مستعداً لمشاركتها بحرية.

ويكتسب هذا الأمر أهمية بالغة لأن نماذج الذكاء الاصطناعي التي تستخدمها فِرق التقنية الحيوية لديكم في اكتشاف الأدوية وتصميم البروتينات والعلاج الجيني تنطوي على مسؤولية قانونية خفية. فقد جرى تدريبها على كامل شبكة الإنترنت — بما في ذلك أبحاث الأسلحة البيولوجية، وبروتوكولات تخليق السموم، وبيانات هندسة مسببات الأمراض. وكان رد قطاع الصناعة متمثلاً في تدريب هذه النماذج على رفض الطلبات الضارة. غير أن هذا الرفض مجرد قناع وليس علاجاً؛ إذ تظل المعرفة الخطيرة كامنة داخل أوزان النموذج، خاملة ولكن قابلة للاسترجاع.

بالنسبة لمؤسستكم، يفرض هذا واقعاً غير مريح: قد تكونون بصدد نشر أدوات ذكاء اصطناعي «تعرف» كيفية هندسة مسبب مرضي لكنها ببساطة مدربة على عدم الإفصاح عن ذلك. وبإمكان جهة خبيثة ذات دافع — أو حتى موظف مخترَق — إزالة ذلك التدريب بأدنى جهد وأقل تكلفة. لم يعد السؤال ما إذا كان من الممكن إساءة استخدام الذكاء الاصطناعي لديكم، بل بات ما إذا كان بإمكانكم إثبات استحالة ذلك.

ويزيد انتشار النماذج مفتوحة الأوزان (open-weight models) هذا الأمر سوءاً؛ فبمجرد إطلاق أوزان النموذج للعامة، تنعدم سجلات التدقيق، والحظر، والتحديثات البرمجية. ويمكن توزيع نموذج محوَّل لسلاح عبر شبكات مشاركة الملفات، ليكون منيعاً ضد الإزالة وغير مرئي لأجهزة الاستخبارات.

لماذا يهم هذا أعمالكم

إن التعرض المالي والقانوني في هذا السياق ليس أمراً افتراضياً، بل يجري تقنينه في اللوائح التنظيمية في الوقت الحالي.

الضغوط التنظيمية حقيقية وتتنامى باستمرار:

• يلزم الأمر التنفيذي 14110 (Executive Order 14110) مطوري نماذج الذكاء الاصطناعي القوية بالإبلاغ عن نتائج اختبارات الفرق الحمراء (red-teaming) التي تغطي على وجه التحديد المخاطر الكيميائية والبيولوجية والإشعاعية والنووية (CBRN). وإذا كانت مؤسستكم تستخدم الذكاء الاصطناعي للتصميم البيولوجي، فإنكم تقعون ضمن نطاق هذا التنظيم.
• يتطلب معيار ISO/IEC 42001، وهو أول معيار دولي لأنظمة إدارة الذكاء الاصطناعي، ضوابط «تتناسب مع حجم المخاطر». وفي هندسة السلامة، يحتل القضاء على الخطر (elimination) مرتبة أعلى من الضوابط الإدارية (administrative controls) مثل سياسات الرفض. وسيدرك مدققو الحسابات لديكم هذا الفارق جيداً.
• يصنف إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتقنية (NIST AI RMF) معلومات المخاطر الكيميائية والبيولوجية والإشعاعية والنووية (CBRN) كفئة مخاطر فريدة للذكاء الاصطناعي التوليدي. ويوصي بحلول تقنية موثقة تقلل احتمالية إساءة الاستخدام إلى ما يقارب الصفر.

إن فخ المسؤولية القانونية واضح ومباشر: إذا قدمت شركتكم للباحثين نموذجاً مفتوح المصدر، واستخدمه موظف ساخط لتصميم مسبب مرضي، فقد تُدانون بالإهمال؛ لأنكم وفرتم أداة مزدوجة الاستخدام دون ضمانات كافية. ويُلزم معيار «واجب الرعاية» (Duty of Care) في صناعة الأدوية باتخاذ خطوات معقولة لمنع الضرر المتوقع.

بدأت شركات التأمين بالاستجابة بالفعل. تستبعد شركات التأمين ضد المسؤولية السيبرانية بشكل متزايد الأضرار الناجمة عن الذكاء الاصطناعي من التغطية التأمينية أو ترفع أقساط التأمين للشركات التي تستخدم نماذج غير موثقة.

تأملوا الأرقام التي ينبغي أن تثير قلق مجلس إدارتكم:

• تكلفة إزالة تدريب السلامة: نحو 300 دولار في وقت تشغيل وحدات معالجة الرسومات (GPU)
• أمثلة التدريب اللازمة لكسر تدريب السلامة: 10-50 زوجاً
• تحقق النماذج القياسية مفتوحة المصدر نحو 75% في اختبارات المعرفة بالأسلحة — مما يعني أنها تعرف معظم المواد الخطيرة
• معدلات نجاح هجمات كسر الحماية ضد النماذج المفتوحة: 15-20% حتى دون إعادة ضبط دقيق

هذه ليست حالات استثنائية هامشية، بل هي الواقع الأساسي لكل نموذج ذكاء اصطناعي عام الأغراض ضمن بنيتكم التقنية.

ما الذي يحدث فعلياً خلف الكواليس

لفهم سبب انهيار آليات سلامة الذكاء الاصطناعي الحالية، فكروا في الأمر على هذا النحو: تخيلوا أنكم علمتم طالباً في الكيمياء كل شيء عن المتفجرات، ثم قلتم له: «إياك أن تتحدث عن هذا مطلقاً». تظل المعرفة موجودة في ذهنه؛ فإذا سأله أحدهم بالطريقة المناسبة — أو مارس عليه ضغطاً كافياً — فإن المعلومات ستخرج حتماً.

هذه هي الطريقة التي يعمل بها تماماً التعلم المعزز من خلال التغذية الراجعة البشرية (RLHF) — وهو الأسلوب القياسي لجعل الذكاء الاصطناعي «آمناً». فخلال مرحلة التدريب المسبق، يستوعب النموذج كل شيء: أدلة الأسلحة البيولوجية، ومسارات تخليق السموم، وبيانات هندسة مسببات الأمراض. ثم، في مرحلة تدريب لاحقة، يعلّم مراجعون بشريون النموذج رفض الطلبات الضارة. لكن أسلوب RLHF لا يمحو المعرفة، بل يدرّب النموذج فقط على سلوك الرفض الذي يغلفها.

يؤدي هذا إلى ظهور ثلاثة أنماط محددة من الفشل يتعين على فِرقكم معرفتها:

هجمات التصعيد التدريجي (Crescendo Attacks): تبدأ بأسئلة بريئة وتتصاعد ببطء عبر عدة جولات من المحادثة. وعندما يصل الطلب الضار، يكون النموذج قد «تهيأ» بفعل السياق ويتجاهل تدريب السلامة الخاص به. وقد أثبت الباحثون نجاح هذه الهجمات ضد نماذج قيد التشغيل الفعلي.

هجمات كسر الشيفرة الجينية (GeneBreaker Attacks): تستهدف على وجه التحديد النماذج اللغوية للحمض النووي (DNA). فبدلاً من طلب «تصميم مسبب مرضي»، يطلب المهاجم بروتيناً «متماثلاً مع» بروتين حميد تم اختياره بعناية لكونه يشبه بنيوياً أحد السموم. فيقوم النموذج بتوليد تسلسل السم مع تجاوز مرشحات السلامة المعتمدة على الكلمات المفتاحية.

انحياز المداهنة والمسايرة (Sycophancy Bias): يستغل تدريب النموذج على تقديم المساعدة؛ فإذا صِيغ خرق الأمن البيولوجي على أنه حاجة طبية ملحة — مثل «نحتاج إلى بروتوكول هذا السم لتطوير ترياق لطفل يحتضر» — فإن دافع المساعدة غالباً ما يتغلب على قيد السلامة وعدم الإضرار.

النتيجة: نماذج تبالغ في رفض الاستفسارات العلمية المشروعة (عبر حظر كلمة «فيروس» بالكامل)، بينما تتساهل في رفض الاستفسارات الخطيرة المصاغة بذكاء. وتحقق نماذج RLHF نحو 72% في اختبارات المعرفة بالأسلحة حتى مع تفعيل الرفض. فالمعرفة موجودة، والقفل واهٍ.

ما الذي ينجح (وما الذي لا ينجح)

ما يفشل:

• تدريب الرفض (RLHF): يعلّم النموذج قول «لا» لكنه يترك المعرفة الخطيرة سليمة دون مساس — ويمكن إزالتها بنحو 300 دولار.
• تصفية الكلمات المفتاحية: تحظر المصطلحات الواضحة مثل «الجمرة الخبيثة» (anthrax) ولكنها تغفل الطلبات المعاد صياغتها مثل «تحسين العصويات المكونة للأبواغ» (spore-forming Bacillus optimization) — وهو ما أثبتته دراسة GeneBreaker.
• مراقبة الاستخدام على النماذج المفتوحة: بمجرد تنزيل الأوزان، تنعدم سجلات التدقيق، والرقابة، وتنتفي أي وسيلة لإلغاء الوصول.

ما ينجح: بنية الفجوة المعرفية (Knowledge-Gapped Architecture)

المبدأ بسيط: بدلاً من تدريب النموذج على الرفض، تقومون بإزالة المعرفة الخطيرة بالكامل. ويتحول النموذج إلى ما يصفه الباحثون بـ «رضيع في التهديدات مع بقائه خبيراً في العلاجات». وإليكم كيفية عمل ذلك من الناحية العملية:

1. المدخلات: يرسل الباحث لديكم طلباً لتصميم علاجي — مثل تحسين ناقل فيروسي للعلاج الجيني الذي يستهدف الأنسجة القلبية. ويتلقى النموذج هذا الطلب عبر نشر سحابي خاص وآمن مزود بسجلات تدقيق كاملة.

2. المعالجة: يستخدم النموذج معرفته العميقة في علم الأحياء البنيوي والأنماط المصلية الفيروسية لتحسين التصميم العلاجي. غير أن المسارات العصبية المقابلة لعوامل الضراوة الممرضة والهروب المناعي لأغراض التسليح قد جرى استئصالها جراحياً على مستوى الأوزان باستخدام تقنيات مثل تضليل التمثيل الداخلي (Representation Misdirection). وعندما يواجه النموذج مفهوماً قد «أُلغي تعلّمه» (unlearned)، فإن التمثيل الداخلي يتحول إلى هراء لا معنى له — ليس مجرد رفض، بل عجز حقيقي. ويتعامل النموذج مع عبارة «حمولة البوتولينوم» (botulinum payload) كعبارة لا معنى لها.

3. المخرجات: تحصلون على ناقل علاجي محسّن للغاية. وإذا حاول أي شخص — سواء كان باحثاً، أو حساباً مخترقاً، أو مهاجماً — إعادة توجيه النموذج نحو إحداث ضرر، فإنه لا يرفض، بل يعجز ببساطة عن معالجة الطلب. فلا يوجد ما يمكن كسر حمايته لأنه لا يوجد أي شيء خلف القفل أصلاً.

ترسم أرقام التحقق والتقييم صورة واضحة؛ إذ يحتفظ النموذج المزوّد ببنية الفجوة المعرفية بشكل سليم بدقة تبلغ نحو 81% في اختبارات العلوم العامة ونحو 77% في أبحاث الطب الحيوي — وهي نتائج مطابقة تقريباً للنماذج القياسية. لكنه يسجل في اختبارات المعرفة بالأسلحة نحو 26% — وهي نسبة لا تختلف إحصائياً عن المصادفة العشوائية. وتنخفض معدلات نجاح كسر الحماية إلى ما دون 0.1%. والأهم من ذلك، أن مقاومة إعادة التعلم عالية جداً: إذ يتطلب استرداد المعرفة الممحوة جهداً حوسبياً يعادل تدريب نموذج من الصفر.

وبالنسبة لفِرق الامتثال لديكم، يُسجَّل كل توجيه وكل توليد في مسار تدقيق غير قابل للتعديل يفي بمتطلبات معيار ISO 42001. ويحصل برنامج حوكمة وامتثال الذكاء الاصطناعي لديكم على ضابط تقني موثق، وليس مجرد وثيقة سياسات. ويحصل فريق بنية الحلول على تطبيق مرجعي قابل للنشر لحالات استخدام الرعاية الصحية وعلوم الحياة .

تُجرى اختبارات الفرق الحمراء المؤتمتة أسبوعياً ضد هذه النماذج للتأكد من عدم حدوث أي انحراف في المعرفة. ولا ينال النموذج شهادة «الفجوة المعرفية» إلا عندما تتجاوز تكلفة إعادة التعلم تكلفة التدريب من الصفر. هذا هو المعيار المعتمد.

يمكنكم قراءة التحليل التقني الكامل أو استكشاف النسخة التفاعلية للاطلاع على مزيد من التفاصيل حول منهجية التقييم والقياس المعياري واختبارات الفرق الحمراء .