السلامة الهيكلية للذكاء الاصطناعي: الضرورة الحتمية لـ حوكمة الفضاء الكامن في التصميم الحيوي التوليدي عالي المخاطر

الملخص التنفيذي

لقد دشّن العصر المتنامي للذكاء الاصطناعي التوليدي (AI) تحولاً نموذجياً في الاكتشاف العلمي، لا سيما داخل قطاعي الأدوية والتكنولوجيا الحيوية. إن قدرة نماذج التعلّم العميق على استكشاف مناطق شاسعة من الفضاء الكيميائي واقتراح مرشحين علاجيين جدد قد ضغطت جداول اكتشاف الأدوية من سنوات إلى أسابيع. غير أن هذه القدرة التحويلية تحمل ظلاً أصيلاً: معضلة «الاستخدام المزدوج». فالبنيات الخوارزمية نفسها المصممة لتحديد علاجات منقذة للحياة يمكن، بتعديل طفيف، إعادة توجيهها لتصميم عوامل كيميائية حيوية فتاكة للغاية. وتجربة «المفتاح المعكوس» الرائدة التي أجرتها Collaborations Pharmaceuticals، حيث أنتج نموذج توليدي مُحسَّن للسمية 40,000 من المواد الكيميائية المحتملة أسلحة—بما في ذلك عامل الأعصاب VX ونظائر جديدة—في أقل من ست ساعات، تقف شهادة قاطعة على هذا الخطر. ¹

تجادل هذه الورقة البيضاء، المعدّة لصالح Veriprajna، بأن المعيار الصناعي الحالي للذكاء الاصطناعي—الذي كثيراً ما يُوصف بـ«أغلفة نماذج اللغة الكبيرة» التي تعتمد على هندسة الأوامر والتصفية النصية اللاحقة—غير كافٍ جوهرياً للمجالات عالية المخاطر. فحواجز الحماية هذه على مستوى السطح تفشل في معالجة الواقع الهندسي لفضاء النموذج الكامن، حيث توجد قدرات سامة وعلاجية على متشعب متصل ومتشابك في كثير من الأحيان. والمرشحات النصية عمياء عن الدلالات البنيوية للكيمياء وعرضة للاضطرابات العدائية، مما يترك المؤسسات مكشوفة لمخاطر تنظيمية وسمعية ووجودية كارثية.

تقدّم Veriprajna معياراً جديداً للذكاء الاصطناعي المؤسسي: حوكمة الفضاء الكامن . ومن خلال نقل موضع التحكم من طبقة المخرجات إلى البنى الكامنة عالية الأبعاد للنموذج نفسه، نُمكّن شكلاً من «السلامة الهيكلية للذكاء الاصطناعي». ويستفيد هذا النهج من القيود الطوبولوجية، ورسم خرائط المتشعب، والتعلّم المعزز المقيّد ليستبعد رياضياً توليد المخرجات الضارة. وتقدّم هذه الوثيقة تحليلاً مستفيضاً لـ أوجه القصور التقنية في المنهجيات الحالية، وتستكشف طوبولوجيا السمية، و تفصّل المبادئ المعمارية لحلول الذكاء الاصطناعي العميق التي تضمن الامتثال للمعايير الصارمة الناشئة مثل إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST وISO 42001.

1. أفق الاستخدام المزدوج: «المفتاح المعكوس» و دمقرطة الفتك

لطالما وعد تقاطع الذكاء الاصطناعي وعلم الأحياء الجزيئي بـ ثورة في اكتشاف الأدوية. غير أن الثنائية الأصيلة لهذه التقنية—حيث إن القدرة على الشفاء مجاورة رياضياً للقدرة على الإيذاء—انتقلت من خطر نظري يُناقش في الأوساط الأكاديمية إلى واقع تشغيلي مُثبَت. وقد خُفِّض حاجز الدخول لتصميم أسلحة كيميائية متطورة بشكل درامي، لا عبر انتشار المواد المادية، بل عبر دمقرطة الذكاء الحاسوبي المطلوب لتصميمها.

1.1 تجربة MegaSyn: دراسة حالة في الاستخدام المزدوج الخوارزمي

استعداداً لمؤتمر Spiez Convergence، وهو حدث دوري يُعقد كل سنتين لمراقبة الأسلحة تنظّمه المكتب الفدرالي السويسري للحماية المدنية، شرع باحثون في Collaborations Pharmaceuticals في تجربة لإثبات المفهوم لتقييم إمكان إساءة استخدام الذكاء الاصطناعي. ² قام الفريق باستخدام نموذج توليدي تجاري، MegaSyn، صُمّم أصلاً للتنبؤ بالنشاط الحيوي وتوليد مرشحين علاجيين جدد للأمراض النادرة والمهمَلة.

كانت المنهجية المستخدمة بسيطة على نحو مقلق، مما يبرز سهولة الوصول إلى متجه التهديد هذا. كان النموذج التوليدي يُقاد بدالة تسجيل تعاقب السمية وتكافئ الفعالية العلاجية. ولـ«قلب المفتاح»، عكس الباحثون دالة المكافأة. فبدلاً من معاقبة السمية، أُمر النموذج بتعظيمها، مستهدفاً تحديداً ملف فتك VX، أحد أقوى عوامل الأعصاب المعروفة للإنسان. ¹

أُنتجت النتائج في أقل من ست ساعات على خادم بمواصفات استهلاكية قياسية، باستخدام مجموعة بيانات وبنية شائعة الفهم في مجتمع المعلوماتية الكيميائية:

الجدول 1: نتائج تجربة «المفتاح المعكوس»

المقياس	النتيجة	السياق
زمن التوليد	< 6 ساعات	أُجري على عتاد قياسي (Mac/Linux خادم)، مما يُظهر انخفاض حاجز الحوسبة.
حجم المخرجات	40,000 جزيء	مكتبة هائلة من المرشحين المحتملين أُنتجت بسرعة لا يستطيع الكيميائيون البشر مجاراتها.
الملف المستهدف	VX (عامل أعصاب)	نجح النموذج في إعادة اكتشاف VX و

Col1	Col2	عوامل أعصاب معروفة من السلسلة G و السلسلة V.
الفتك	> فعالية VX	مجموعة فرعية معتبرة من الجزيئات تُنبّأ بأنها ستكون_أكثر_ سمية من VX.
الجدة	عالية	آلاف المركبات كانت جديدة، غير ظاهرة في أي قاعدة بيانات عامة أو قائمة مراقبة حكومية.

لم تتطلّب هذه التجربة حاسوباً فائقاً ولا فاعلاً دولياً مارقاً بتمويل يبلغ الملايين. بل استخدمت مجموعات بيانات مفتوحة المصدر (مثل ChEMBL)، وبنيات توليدية قياسية (نماذج RNN وLSTM)، وفهماً متاحاً تجارياً لـ التنبؤ بالسمية. ⁵ والتداعيات عميقة: فقد خُفِّض حاجز الدخول لتصميم عوامل كيميائية حيوية عالية الفتك إلى تكلفة وحدة معالجة رسومية استهلاكية و فهم أساسي لـ Python. فالنموذج الذكي، المدرَّب على فهم «قواعد» السمية لكي يتجنبها، امتلك بطبيعته المعرفة لاستغلالها. ³

1.2 معمارية قابلية الاختراق

لفهم لماذا كان هذا «القلب» سلساً إلى هذا الحد، يجب فحص المعمارية الأساسية لنماذج مثل MegaSyn. استخدم النموذج بنية شبكة عصبية متكررة (RNN) مدرَّبة على سلاسل SMILES (Simplified Molecular Input Line Entry System). وعمل النظام على خوارزمية «تسلق التل»، مصقلاً المرشحين الجزيئيين تكرارياً لتعظيم دالة هدف محددة. ⁵

تتضمن دورة التوليد ثلاثة مكونات حاسمة:

1.​ المولّد: شبكة قائمة على LSTM تتنبأ بالرمز التالي في سلسلة SMILES (مثل 'C' و'N' و'=' و'O') لتشكيل بنى صحيحة كيميائياً. وتتعلّم «قواعد الكيمياء من مجموعات بيانات ضخمة مثل ChEMBL 28. ⁵

2.​ المتنبئ: نموذج تمييزي (أو مجموعة نماذج) يقدّر خصائص محددة للجزيء المولَّد، مثل الذوبانية والنشاط الحيوي ضد هدف، و السمية (مثل LD50 وتثبيط hERG).

3.​ المحسِّن: حلقة تعلّم معزز أو تسلق تل تُعيد درجة المتنبئ إلى المولّد، موجّهة توزيع احتمالات الرموز المستقبلية نحو مناطق أعلى درجة.

في الوضع العلاجي، تُعرَّف دالة مكافأة المحسِّن ($R$) كما يلي:

$$R(x) = \text{Bioactivity}(x) - \lambda \cdot \text{Toxicity}(x)$$

حيث $\lambda$ عامل ترجيح يعاقب النتائج السامة. وفي الوضع العدائي «المعكوس»، اكتفى الباحثون بنفي العقوبة:

$$R(x) = \text{Bioactivity}(x) + \lambda \cdot \text{Toxicity}(x)$$ أما المولّد نفسه—محرك الخلق—فبقي دون مساس. لقد اتبع فحسب تدرج دالة المكافأة الجديدة. وهذا يُظهر أن القدرة على توليد الأسلحة ليست «خللاً» ولا وحدة مستقلة يمكن إزالتها؛ بل هي أصيلة في فهم النموذج للفضاء الكيميائي. فإذا فهم النموذج ما يجعل الجزيء آمناً، فإنه بحكم التعريف يفهم ما يجعله غير آمن، فهذه مناطق متكاملة من المتشعب عالي الأبعاد نفسه. ⁹

1.3 الخطر الشامل: ما وراء الكيمياء

رغم أن تجربة Urbina ركّزت على الأسلحة الكيميائية، فإن المبدأ ينطبق عالمياً على الذكاء الاصطناعي التوليدي في البيئات المؤسسية. فثنائية «التحسين» تعني أن أي نظام مصمَّم لتعظيم مقياس يمكن عكسه لتقليله، أو لتعظيم متغير ضار مرتبط.

●​ الأمن السيبراني: نموذج مدرَّب على تحديد ثغرات اليوم صفر وترقيعها (الدفاعي الترميز) يجب أن يفهم ميكانيكا الاستغلال. ومعكوساً، يصبح محركاً آلياً لاكتشاف ثغرات اليوم صفر وتسليحها. ¹⁰

●​ الأنظمة المالية: نموذج محسَّن لكشف الاحتيال عبر تعلّم أنماط المعاملات غير المشروعة يمكن عكسه لتوليد معاملات تحاكي تماماً السلوك المشروع، بما يُعد فعلياً «تحسين» غسل الأموال. ¹¹

●​ التخطيط الاستراتيجي: ذكاء اصطناعي مصمَّم لتحسين استراتيجية السوق لشركة يمكن، إذا وُجّه بدالة هدف لا ترحم، أن يقترح استراتيجيات تعظّم تقنياً قيمة المساهمين لكنها تنتهك قوانين مكافحة الاحتكار أو المعايير الأخلاقية.

ويبرز الأمر التنفيذي بشأن التطوير والاستخدام الآمن والمأمون والجدير بالثقة للذكاء الاصطناعي هذه القدرة تحديداً—خفض حاجز الدخول لتطوير تهديدات بيولوجية وكيميائية وسيبرانية—بوصفها شاغلاً أساسياً للأمن القومي. ¹⁰ الحالية استجابات قطاع التقنية كثيراً ما تشمل «مرشحات السلامة» أو «تدريب المواءمة»، لكن كما سنستكشف، فإن هذه التدخلات السطحية هشة رياضياً أمام قدرات التحسين الهيكلي العميق للذكاء الاصطناعي الحديث.

2. مغالطة غلاف نموذج اللغة الكبير: لماذا تفشل حواجز الحماية السطحية

الاتجاه السائد في «حمى ذهب الذكاء الاصطناعي» الحالية هو نشر «غلاف

نموذج اللغة الكبير»—تطبيق يعمل واجهة رقيقة بين مستخدم ونموذج أساسي (مثل GPT-4 أو Claude أو Llama). وتستخدم هذه الأغلفة هندسة الأوامر (أوامر النظام) وتصفية محتوى أساسية لتوجيه سلوك النموذج. وبالنسبة للتطبيقات الصناعية عالية المخاطر، لا سيما تلك التي تشمل السلامة المادية والأمن الحيوي، فإن هذا النهج غير كافٍ على نحو خطير.

2.1 قيد «المستشار غير المتجسّد»

نماذج اللغة الكبيرة (LLMs) محركات احتمالية غير متجسّدة في جوهرها. فهي تتنبأ بالرمز التالي استناداً إلى ارتباطات إحصائية في بيانات التدريب، لا إلى فهم مؤسس للواقع الفيزيائي أو البيولوجي. وكما ورد في أبحاث نماذج اللغة الكبيرة في الاكتشاف العلمي، يعمل نموذج اللغة الكبير «مستشاراً غير متجسّد» لا مساعد بحث في المختبر. ¹³

وفي سياق الأمن الحيوي، يفتقر غلاف نموذج اللغة الكبير إلى حلقات التغذية الراجعة المتكاملة المطلوبة لـ التحقق من السلامة. إنه يعمل على اللغة، لا على قوانين الفيزياء أو الكيمياء. وعندما يُطلب من غلاف تصميم جزيء، قد «يهلوس» بنى تبدو معقولة لكنها غير صحيحة كيميائياً. والأخطر، إذا كان فعلاً يولّد بنية صحيحة، فإنه يفتقر إلى القدرة الأصيلة على التحقق من سميتها بما يتجاوز عمليات بحث بسيطة في قواعد البيانات. وإذا كان الجزيء جديداً—كما كانت آلاف نظائر VX المولَّدة في تجربة MegaSyn—فلا يملك نموذج اللغة الكبير مرجعاً نصياً ليصنّفه خطيراً. ¹³

«معرفة» نموذج اللغة الكبير ثابتة، مجمَّدة عند زمن التدريب. ولا يمكنه تشغيل محاكاة ليحدد ما إذا كان طي بروتين جديد ممرِضاً. بل يستطيع فقط أن يتذكر أن «الجمرة الخبيثة سيئة.» وهذا الاعتماد على الحفظ الآلي لمفاهيم «سيئة» خلل قاتل عند التعامل مع أنظمة توليدية مصمَّمة لاستكشاف فضاءات مفاهيمية جديدة.

2.2 هشاشة التصفية اللاحقة

تعتمد معظم حلول الذكاء الاصطناعي المؤسسي على «حواجز حماية» تعمل مرشحات لاحقة. وهذه الأنظمة تعترض أمر المستخدم (تصفية المدخلات) أو استجابة النموذج (تصفية المخرجات) وتتحقق منها مقابل قائمة مصطلحات محظورة أو تعبيرات نمطية (Regex) أو نموذج تصنيف ثانوي (مثل نقطة نهاية الإشراف لدى OpenAI). ¹⁵

الجدول 2: حدود التصفية اللاحقة في المجالات عالية المخاطر

نوع القيد	الوصف	العاقبة في الأمن الحيوي
العمى السياقي	تبحث المرشحات عن كلمات مفتاحية محددة (مثل «VX» و «Sarin» و«Bomb»).	تفشل في حجب مركبات أو سلائف جديدة تفتقر إلى أسماء شائعة

Col1	Col2	(مثل «Compound X-293»).
تمويه SMILES	السمية مُرمَّزة في البنية، لا في الاسم.	مرشّح يحجب كلمة «Sarin» لكنه يمرّر سلسلة SMILES O=P(C)(F)O، التي يفهمها النموذج على أنها Sarin.
منحدرات النشاط	تغييرات بنيوية طفيفة تسبب تحولات هائلة في السمية.	غلاف يرى جزيئاً مشابهاً بنسبة 99% لدواء آمن فيوافق عليه، مفتقداً الذرة الواحدة التي تمنح الفتك.17
الطبيعة الارتجاعية	يحجب المحتوى_بعد_ التوليد.	لقد نفّذ النموذج أصلاً أداء الحوسبة. وفي نظام فوري يسمح الكمون بتسريب محتمل أو هجمات قناة جانبية.

مشكلة «منحدر النشاط» مُدانة بشكل خاص للأغلفة النصية. في الكيمياء الطبية، يحدث منحدر نشاط عندما يؤدي تغيير بنيوي صغير جداً إلى تغير كبير غير متناسب في الخاصية البيولوجية. ¹⁸ وقد يوافق غلاف يستخدم مرشحًا قائماً على التشابه على جزيء لأنه يبدو «شبيهاً في معظمه» بالأسبرين أو بمثبط كيناز آمن، دون أن يدرك أن استبدال مجموعة هيدروكسيل بذرة فلور قد غيّر جذرياً ملف سميته. والنماذج النصية، التي تعمل على مسافة الرموز الدلالية لا على متشعبات النشاط الحيوي ثلاثية الأبعاد، سيئة السمعة في التنبؤ بهذه المنحدرات. ¹⁴

2.3 القابلية العدائية: هجوم «SMILES»

أقوى دليل ضد نهج الغلاف هو انتشار «كسر القيود»—هجمات عدائية مصممة لتجاوز تدريب السلامة. وبينما يركّز «الفريق الأحمر» غالباً على الهندسة الاجتماعية (مثل «وصفة النابالم لجدتي»)، فإن المخاطر التقنية في الأمن الحيوي أكثر تعقيداً بكثير.

هجوم التوجيه بـ SMILES: أظهرت أبحاث حديثة تقنية كسر قيود جديدة تُعرف بـ«التوجيه بـ SMILES». يتجاوز المهاجمون مرشحات السلامة بإدخال تمثيل السلسلة ASCII (SMILES) لـ جزيء محظور بدل اسمه. ومرشحات المحتوى المدرَّبة على اللغة الطبيعية كثيراً ما تفشل في التعرّف على دلالات السمية المخفية داخل التركيب الكيميائي.20

●​ الآلية: يطلب المهاجم تعليمات تخليق لـ [O-]S(=O)(=O)[O-].. (كبريتات الثاليوم، سم جرذان) بدل أن يطلب «سماً.»

●​ النتيجة: نموذج اللغة الكبير، إذ يتعرف التركيب الكيميائي دون تشغيل مرشح كلمات «المحتوى الضار»، يقدّم بروتوكول التخليق بطواعية.

●​ النطاق: تُظهر الدراسات أن هذه الطريقة يمكنها تجاوز آليات السلامة في نماذج رائدة مثل GPT-4 وClaude 3 بمعدلات نجاح مقلقة، تتجاوز أحياناً 90% لمواد محددة. ¹¹

علاوة على ذلك، تستخدم أطر هجوم آلية مثل ToxicTrap خوارزميات تطورية لـ إيجاد اضطرابات صغيرة على مستوى الكلمة تخدع مصنّفات السمية لتوسيم النص السام بأنه حميد. ²² إذا أمكن هزيمة نظام سلامة بمرادف، فهو ليس نظام سلامة—إنه مطبّ سرعة.

بالنسبة لشركة استشارات مؤسسية مثل Veriprajna، فإن بناء حل فوق غلاف سهل التزييف مسؤولية. فالأمن الحقيقي بمستوى المؤسسات يتطلّب إعادة هندسة جوهرية لكيفية إبحار النموذج في فضائه الكامن.

3. هندسة السمية: فهم المخاطر الكامنة

لفهم لماذا تفشل الأغلفة وكيف تنجح Veriprajna، يجب فهم البيئة الرياضية التي تعمل فيها النماذج التوليدية: الفضاء الكامن . فالنماذج التوليدية العميقة (VAEs وGANs ونماذج الانتشار) لا تخزّن البيانات؛ بل تتعلّم ربط بيانات عالية الأبعاد (مثل البنى الجزيئية) بتمثيل مضغوط أدنى أبعاداً يُسمى فضاءً كامناً ($Z$). وفي هذا الفضاء تتجمّع نقاط البيانات المتشابهة معاً، والتوليد هو فعل المعاينة من هذا المتشعب.

3.1 متشعب السمية المتصل

«مشهد السمية» منطقة داخل هذا الفضاء الكامن. وهو ليس قائمة متقطعة من الجزيئات السيئة، بل متشعب متصل—شكل تحدده الخصائص الفيزيائية الكيميائية التي تمنح الفتك.

●​ خطر متصل: السمية ليست ثنائية؛ إنها تدرج. والانتقال من دواء علاجي إلى عامل سام يمكن أن يكون مساراً ناعماً في الفضاء الكامن. والنموذج فعلياً «يستكمل» بين جزيئات معروفة. فإذا استكمل بين جزيئين آمنين يحصران منطقة سامة، قد يعبر المسار «وادي الموت». ²³

●​ فرضية المتشعب: الفرضية الجوهرية للتعلّم العميق هي أن بيانات العالم الحقيقي تقع على متشعب أدنى أبعاداً مضمَّن في فضاء عالي الأبعاد. والهجمات العدائية كثيراً ما تستغل المناطق خارج هذا المتشعب، أو «ثقوباً» في التوزيع حيث يكون سلوك النموذج غير معرَّف وغير قابل للتنبؤ. ²⁵

عندما «قلب» باحثو Collaborations Pharmaceuticals المفتاح، فإنهم في الجوهر أمروا النموذج بأداء صعود تدرجي على طول «متجه السمية» في هذا الفضاء الكامن. ولأن الفضاء متصل، أمكن للنموذج الانزلاق بسهولة من مركبات آمنة إلى منطقة السمية العالية.

3.2 مشكلة التشابك

من الناحية المثالية، يفصل نموذج توليدي «السمية» عن «النشاط الحيوي» في محاور متعامدة منفصلة في الفضاء الكامن. ولو صح ذلك، لكانت السلامة ببساطة قفل محور «السمية» عند الصفر. غير أن هذه السمات في النماذج البيولوجية العميقة متشابكة .

فخاصية فيزيائية كيميائية تسمح لدواء باختراق الحاجز الدموي الدماغي (سمة مرغوبة جداً لعلاج ألزهايمر أو باركنسون) هي في كثير من الأحيان السمة نفسها التي تسمح لعامل أعصاب ببلوغ هدفه والتسبب في الشلل. ¹ وبالمثل، فإن الارتباط العالي—القدرة على الالتصاق بإحكام ببروتين—جيد لدواء لكنه قاتل إذا كان البروتين هو أسيتيل كولين إستراز (هدف VX).

وبسبب هذا التشابك، فإن آليات «الرفض» البسيطة (كتلك في الأغلفة) تستأصل فعلياً قدرات النموذج. فإذا حجبت كل السمات المرتبطة بالسمية (مثل «احجب كل اختراق للحاجز الدموي الدماغي»)، دمّرت المنفعة العلاجية للنموذج. والتحدي هو الإبحار في متشعب التشغيل الآمن —مجموعة جزئية من الفضاء الكامن حيث تُحفظ الفعالية وتُستبعد السمية طوبولوجياً.

3.3 انهيار التمثيل ومنحدرات النشاط

أحد الإخفاقات الحرجة لنماذج «الصندوق الأسود» القياسية هو انهيار التمثيل . ويحدث هذا عندما يربط النموذج جزيئين متميزين بالنقطة نفسها أو بنقاط شبه متطابقة في الفضاء الكامن لأنه يفشل في التقاط الفرق البنيوي الدقيق الذي يميز بينهما.

●​ قيود قائمة على الرسوم: تستخدم نماذج جزيئية كثيرة شبكات عصبية بيانية (GNNs). ورغم قوتها، قد تصعب على GNNs التمييز بين المتماكبات الفراغية أو الاستبدالات الذرية الطفيفة إذا كان عمق تمرير الرسائل غير كافٍ. وهذا يؤدي إلى انهيار التمثيل، حيث يتشارك سم ودواء آمن التضمين الكامن نفسه. ¹⁷

●​ العاقبة: إذا لم يستطع النموذج تمييز النقطة «الآمنة» من النقطة «السامة» في هندسته الداخلية، فلن ينقذه أي قدر من التصفية الخارجية. فالنموذج يعتقد أنهما الشيء نفسه.

●​ حلول قائمة على الصور: تشير أبحاث ناشئة، مثل إطار MaskMol، إلى أن التمثيلات القائمة على الصور (التعلّم من صور جزيئية) أو النهج متعددة الوسائط قد تلتقط هذه الفوارق الدقيقة بشكل أفضل، محافظة على «المنحدرات» في المشهد الكامن. ¹⁷

يستخدم نهج Veriprajna نماذج توليدية واعية بالطوبولوجيا ترسم الطوبولوجيا الوظيفية (النشاط) لا مجرد الطوبولوجيا البنيوية (التركيب). وهذا يضمن احترام منحدرات النشاط كـ«حدود صلبة» في عملية التوليد الآمن، مانعاً النموذج من الانزلاق عبر منحدر إلى السمية. ²⁶

4. منهجية Veriprajna: حوكمة الفضاء الكامن

تميّز Veriprajna نفسها بالانتقال إلى ما وراء نموذج «الغلاف» لتنفيذ حوكمة الفضاء الكامن . ويتضمن ذلك التدخل في عملية التوليد قبل فك تشفير البيانات، بتطبيق قيود هيكلية تجعل توليد المحتوى السام مستحيلاً رياضياً (أو ضئيلاً إحصائياً) لا مجرد «تصفيته».

4.1 القيود الهيكلية: الدرع الرياضي

التصفية اللاحقة ارتجاعية: يولّد النموذج مرشحاً، ويرفضه حكم. أما التوليد المقيّد فاستباقي: يُمنَع النموذج من النظر في مرشحين غير آمنين.

الجدول 3: مقارنة نماذج السلامة

الميزة	التصفية اللاحقة (غلاف)	قيود هيكلية/كامنة (Veriprajna)
الآلية	توليد $\rightarrow$ مراجعة $\rightarrow$ قبول/رفض	تقييد المعاينة الكامنة $\rightarrow$ توليد
موضع التحكم	المخرجات (نص/بكسل/SMILES)	متجه كامن ($z$) / هندسة المتشعب
التكلفة الحاسوبية	عالية (دورات توليد مهدورة على مخرجات مرفوضة)	منخفضة (تُطبَّق القيود أثناء المعاينة/الاستدلال)
المتانة	منخفضة (عرضة لـ كسر القيود/التمويه)	عالية (القيود أصيلة في الرياضيات)
معالجة الجدة	تفشل (لا تستطيع تصفية ما لا تعرفه)	نجاح (تقيّد استناداً إلى متشعبات الخصائص)
الامتثال	أثر تدقيق للرفض (ضجيج)	برهان رياضي على سلوك محدود

4.2 التعلّم اللاحق للقيود الكامنة

توظّف Veriprajna تقنيات لتعلّم القيود لاحقاً على نماذج غير مشروطة مسبقة التدريب. وهذا يتجنب التكلفة الباهظة لإعادة تدريب نماذج أساس ضخمة مع ضمان تحكم متين.

سير العمل:

1.​ التدريب المسبق غير المشرف: نبدأ بنموذج توليدي قوي غير مشروط (VAE أو GAN) يتعلّم توزيع البنى الكيميائية الصحيحة ($p(x)$). وهذا النموذج يتعلّم «كيف يُصنع الجزيئات» لا «أي جزيئات يُصنع». ²³

2.​ تدريب دالة القيد: ندرّب «دالة قيمة» منفصلة ($v(z)$) أو «دالة قيد» ($c(z)$) تعمل مباشرة على الفضاء الكامن. وهذه الدالة تربط متجهاً كامناً $z$ بدرجة سلامة.

○​ تُدرَّب هذه الدالة على بيانات موسومة (سام مقابل آمن) لتحديد «مناطق» الفضاء الكامن التي تقابل سمية عالية.

○​ والأهم، بخلاف تجربة MegaSyn التي حسَّنت لهذه المنطقة، نعرّف هذه المنطقة بأنها منطقة محظورة (أو متشعب سالب).

3.​ المعاينة المقيّدة (توجيه التدرج): خلال مرحلة التوليد، نستخدم تحسيناً قائماً على التدرج (مثل ديناميكا لانجفان) لإزاحة توزيع المعاينة.

○​ إذا سقط متجه معاين $z$ داخل منطقة سامة أو قربها، فإن تدرج دالة القيد $\nabla c(z)$ يدفع المتجه عائداً إلى المتشعب الآمن قبل أن يُفك تشفيره إلى جزيء.

○​ وهذا مناظر رياضياً لـ«توجيه» التوليد بعيداً عن حافة المنحدر. فالنموذج «يتخيّل» جزيئاً ساماً لكنه يُجبَر على حله إلى نظير آمن. ²³

4.3 تحليل البيانات الطوبولوجي (TDA) ودفاع المتشعب

لمعالجة خطر السموم الجديدة التي تقع خارج توزيع التدريب (خارج التوزيع أو OOD)، توظّف Veriprajna تحليل البيانات الطوبولوجي (TDA).

●​ مخططات الاستمرار: نحسب مخططات الاستمرار لبيانات التدريب «الآمنة». تحلل هذه التقنية الرياضية شكل سحابة البيانات (ثقوبها وحلقاتها وفراغاتها) عند مقاييس مختلفة. وتعطينا بصمة طوبولوجية لما تبدو عليه «السلامة» عليه. ²⁶

●​ مسافة المتشعب: عندما يقترح النموذج متجهاً $z$، نحسب مسافته من متشعب البيانات الآمنة باستخدام تفكيك مدفوع بالمتشعب.

●​ كشف الفراغ: إذا وقع متجه بعيداً جداً عن المتشعب—عائماً في «فراغ» الفضاء الكامن—يُعلَّم عالي المخاطر، حتى لو كانت متنبئات السمية المحددة غير مؤكدة. وتحاول الهجمات العدائية في كثير من الأحيان إخفاء السموم في هذه المناطق منخفضة الكثافة («ثقوب» معرفة النموذج). ويتيح TDA كشف هذه الشذوذات ورفضها استناداً إلى الهندسة، لا مجرد الاحتمال. ²⁵

4.4 التعلّم المعزز المقيّد (CRL) مع الحوافز

التكيفية

للنماذج التي تتطلّب تحسيناً (مثل تعظيم فعالية الدواء)، نستخدم التعلّم المعزز المقيّد (CRL) بدل تعظيم المكافأة البسيط.

●​ التعلّم المعزز القياسي: عظّم المكافأة $R$. (الخطر: سيناريو «المفتاح المعكوس» حيث $R$ تصبح سمية).

●​ CRL لدى Veriprajna: عظّم المكافأة $R$ رهناً بالتكلفة $C < Limit$.

●​ آلية الحافز التكيفي: يمكن أن يكون التعلّم المعزز المقيّد التقليدي غير مستقر، متذبذباً حول حد القيد. وتنفّذ Veriprajna آلية حافز تكيفية تكافئ الوكيل على البقاء داخل الحدود بوضوح، لا لمجرد عدم تجاوزها.

○​ نُدخل «منطقة عازلة» في الفضاء الكامن. وكلما اقترب النموذج من قيد السمية، تدفعه عقوبة متزايدة (دالة حاجز) إلى الوراء، ضامنة تقارباً ناعماً مستقراً نحو حلول آمنة. ²⁹

5. تعمق تقني: معالجة ثغرة «MegaSyn»

لتأمين الكيمياء التوليدية حقاً، يجب تشريح الثغرات المعمارية المحددة التي كشفتها تجربة MegaSyn ومعالجتها بحواجز الحماية الهيكلية المقترحة.

5.1 تفكيك MegaSyn

يستخدم نموذج MegaSyn المشار إليه في ورقة Nature Machine Intelligence نهجاً تجميعياً محدداً ⁵ :

●​ المولّد الأساسي: شبكة عصبية متكررة قائمة على LSTM (RNN).

●​ تمثيل المدخلات: سلاسل SMILES مرمَّزة إلى محارف (مثل "C" و"N" و"=" و"1").

●​ طريقة التدريب: «إجبار المعلّم»، حيث يُغذَّى النموذج بالرمز السابق الصحيح أثناء التدريب لتسريع التقارب.

●​ التهيئة: ينشئ النموذج «نماذج مهيأة» عبر الضبط الدقيق على بنى فرعية محددة لجزيء هدف باستخدام قواعد RECAP.

●​ ثغرة التحسين: خوارزمية «تسلق التل» طريقة تحسين جشعة. عندما عُكست دالة التسجيل إلى Score = Toxicity، تسلق النموذج بكفاءة التدرج نحو أقصى فتك لأن «تركيب» عامل الأعصاب (روابط فوسفور-أكسجين وسلاسل ألكيل جانبية محددة) صحيح كيميائياً وكان حاضراً في بيانات التدريب (ChEMBL)، حتى إن لم يُوسَم «سلاحاً.»

5.2 منع «القلب»: بروتوكول Veriprajna

كيف تمنع حوكمة الفضاء الكامن لدى Veriprajna قلباً على نمط MegaSyn؟

1.​ قيود مضمَّنة صلباً: بدل دالة مكافأة قابلة للتغيير يستطيع مستخدم ببساطة عكسها ($-1$ إلى $+1$)، تُضمّن Veriprajna قيد السمية في لاحقة المعاينة . والقيد ليس رقماً في سكربت Python؛ إنه شرط حد في محرك الاستدلال. ولـ«قلبه»، سيتعيّن إعادة هندسة البرمجيات جوهرياً، لا مجرد تغيير ملف إعداد.

2.​ تقييد المتشعب: سيُرسَم «متشعب CWA» (فضاء عوامل الحرب الكيميائية) باستخدام TDA. وتُعيَّن هذه المنطقة «فضاءً صفرياً.» وأي تحديث تدرج يحاول نقل المتجه الكامن إلى هذا الفضاء سيُصفَّر أو يُعكس.

3.​ كشف منحدر النشاط: سيستخدم نموذجنا تمثيلات قائمة على الصور (مثل MaskMol) إلى جانب تمثيلات بيانية لكشف الزخارف البنيوية الدقيقة لعوامل الأعصاب (مثل رابطة P-F في Sarin/Soman) التي قد تفوت النماذج البسيطة القائمة على الواصفات. وستطلق هذه الزخارف «عقوبة منحدر» تتجاوز مكافأة تسلق التل. ¹⁷

6. المشهد التنظيمي والامتثال

الانتقال من «الغلاف» إلى «حواجز الحماية الهيكلية» ليس مجرد ترقية تقنية؛ إنه ضرورة استراتيجية يدفعها بيئة تنظيمية تتشدد بسرعة. فالحكومات والهيئات الدولية تنتقل من «إرشادات طوعية» إلى أطر امتثال صارمة تطالب بقابلية التفسير والتحكم وسلامة مُثبَتة.

6.1 الأمر التنفيذي للبيت الأبيض ومهمة Genesis

الأمر التنفيذي بشأن التطوير والاستخدام الآمن والمأمون والجدير بالثقة للذكاء الاصطناعي (أكتوبر 2023) ومهمة «Genesis Mission» اللاحقة (نوفمبر 2025) يمثّلان تحولاً زلزالياً في سياسة الذكاء الاصطناعي الفدرالية. ¹⁰

●​ الولاية: يحدد الأمر التنفيذي صراحة خطر خفض الذكاء الاصطناعي لحواجز تطوير أسلحة CBRN (كيميائية وبيولوجية وإشعاعية ونووية) بوصفه تهديداً للأمن القومي من المستوى الأول.

●​ مهمة Genesis: توجّه هذه المبادرة الجديدة وزارة الطاقة (DOE) إلى بناء منصة ذكاء اصطناعي متكاملة للاكتشاف العلمي. والأهم أنها تُلزم بـ«تدابير أمن سيبراني مناسبة قائمة على المخاطر» وبيئات آمنة للتجريب الموجَّه بالذكاء الاصطناعي. ³²

●​ فجوة الامتثال: لا يستطيع غلاف نموذج لغة كبير قياسي أن يُظهر أنه يمنع خلق التهديدات البيولوجية؛ بل يستطيع فقط أن يُظهر أنه يحاول تصفيتها. ومن المرجح أن يفشل نهج «أفضل جهد» هذا في تلبية معايير «الآمن والجدير بالثقة» المطلوبة لـ العقود الفدرالية أو التكامل مع منصة Genesis.

●​ ميزة Veriprajna: توفّر قيودنا الهيكلية برهان الاستحالة (ضمن حدود إحصائية). ونستطيع أن نُظهر للجهات التنظيمية أن «متشعب CBRN» متعذر الوصول لنماذجنا، بما يتوافق تماماً مع مطلب الأمر التنفيذي لاختبار سلامة صارم و«فريق أحمر». ³³

6.2 إطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF 1.0)

إطار NIST AI RMF هو المعيار الذهبي لحوكمة الذكاء الاصطناعي المدني في الولايات المتحدة. ويؤكد أربع وظائف: ارسم، قِس، أدِر، واحكُم . ³⁴

●​ ملف الذكاء الاصطناعي التوليدي (NIST.AI.600-1): يحدّد هذا الملف المحدد «معلومات CBRN» بوصفها خطراً فريداً يتفاقم بفعل GenAI. ³⁶ ويحذّر من أن «أدوات التصميم الكيميائي و البيولوجي (BDTs)» قد تتنبأ ببنى جديدة ليست في بيانات التدريب.

●​ مواءمة Veriprajna:

○​ قِس: يوفّر استخدامنا لتحليل البيانات الطوبولوجي (TDA) مقاييس كمية لـ عدم اليقين المعرفي —قياساً لمدى «بُعد» مخرج مولَّد عن بيانات آمنة معروفة. وهذا يلبّي مطلب NIST للقياس الصارم لموثوقية النظام.

○​ أدِر: توفّر القيود الكامنة آلية تقنية لإدارة المخاطر تتفوق على المحاولات القائمة على السياسات. ننتقل من «السياسة كوثائق» إلى «السياسة كشيفرة» (أو بالأحرى «السياسة كهندسة»).

6.3 ISO/IEC 42001:2023

ISO 42001 هو أول معيار دولي لنظام إدارة الذكاء الاصطناعي في العالم، موفّراً إطاراً قابلاً للتصديق لحوكمة الذكاء الاصطناعي. ³⁸

●​ المتطلب الجوهري: يُلزم المعيار بـ«الاستخدام الآمن والأخلاقي» و«المتانة والصمود» أمام الهجمات العدائية. ويتطلّب من المنظمات إجراء تقييمات أثر للذكاء الاصطناعي وتنفيذ ضوابط لتخفيف المخاطر المحددة.

●​ المتانة العدائية: يبرز ISO 42001 تحديداً الحاجة إلى الدفاع ضد مدخلات مصممة للتلاعب بسلوك النموذج (مثل التوجيه بـ SMILES). لدى Veriprajna دفاع المتشعب يعالج هذا صراحة برفض مدخلات تنتج متجهات كامنة خارج متشعب البيانات الصالح، محيّداً محاولات «كسر القيود» التي تعتمد على أوامر خارج التوزيع. ⁴⁰

●​ التصديق: يتيح نهج Veriprajna المنظَّم مسارات تدقيق واضحة. ويمكننا تسجيل ليس المخرجات فحسب، بل انتهاكات القيود التي حاولها النموذج خلال عملية التوليد، موفّرين للمدققين بيانات دقيقة عن أداء سلامة النظام. ⁴¹

7. استراتيجية التنفيذ: بروتوكول «الحل العميق»

تضع Veriprajna نفسها لا كبائع روبوتات محادثة، بل كمهندس لبنية تحتية آمنة للذكاء الاصطناعي خاصة بالمجال. وتتبع استراتيجية تنفيذنا للعملاء بروتوكول «الحل العميق» رباعي المراحل المصمم لتحويل ذكائهم الاصطناعي من غلاف محفوف بالمخاطر إلى محرك اكتشاف محكوم.

المرحلة 1: رسم خرائط المتشعب والتدقيق الطوبولوجي

قبل نشر أي نموذج توليدي، نجري تدقيقاً طوبولوجياً لبيانات العميل المملوكة والبيانات العامة ذات الصلة (مثل ChEMBL وTox21).

●​ الهدف: تعريف «متشعب التشغيل الآمن.»

●​ التقنية: استخدام التماثل المستمر لتحديد السمات الطوبولوجية (حلقات، فراغات) لـ المناطق الآمنة مقابل السامة.

●​ المُسلَّم: «خريطة طوبولوجيا السلامة» تصوّر حدود الفضاء الكامن و تحدد «ثقوباً» محتملة قد يهلوس فيها النموذج أو يُهاجَم.

المرحلة 2: تدريب القيود الكامنة («النقّاد»)

لا نكتفي بضبط النموذج الأساس (مما يخاطر بالنسيان الكارثي). بل ندرّب شبكات مساعدة خفيفة تُسمى نقّاد القيود .

●​ التقنية: تعلّم لاحق لدوال القيمة ($v(z)$) تتنبأ بدرجات المخاطر من تضمينات كامنة. ²³

●​ المعمارية: هؤلاء النقّاد مفصولون عن المولّد. وهذه ميزة معمارية حاسمة: كلما حُددت تهديدات جديدة (مثل فئة جديدة من الأسلحة الكيميائية)، يمكننا تحديث الناقد دون إعادة تدريب نموذج الأساس الضخم، ضامنين الرشاقة وأمناً محدَّثًا.

المرحلة 3: دمج المعاينة المقيّدة والتوجيه

ندمج نقّاد القيود مباشرة في أنبوب استدلال العميل.

●​ الآلية: أثناء التوليد، نستخدم ديناميكا لانجفان أو توجيه التدرج .

●​ العملية: بينما يعاين النموذج الفضاء الكامن لتوليد جزيء، يحسب الناقد تدرج سطح السمية. وإذا اتجه المسار نحو منطقة سامة، يطبّق آلية التوجيه تدرجاً معاكساً، «دافعاً بلطف» المسار عائداً إلى المتشعب الآمن.

●​ النتيجة: «يفكّر» النموذج فعلياً في جزيء سام لكنه يُجبَر رياضياً على «حل» الفكرة إلى نظير آمن قبل توليد أي مخرج.

المرحلة 4: الفريق الأحمر الجزيئي ودعم تصديق ISO

نُخضع النظام المنشور لـ«فريق أحمر جزيئي.»

●​ الطريقة: نستخدم وكلاء عدائيين آليين (مثل ToxicTrap وبوتات توجيه بـ SMILES مخصّصة) لقصف النموذج بمدخلات حدية، محاولة إجباره على عبور منحدرات النشاط. ²¹

●​ التحقق: نقدّم شهادة سلامة استناداً إلى الاحتمال الإحصائي لـ انتهاك القيد (مثل "Probability of toxic generation < $10^{-6}$"), موفّرين الأساس الثبوتي لتصديق ISO 42001.

8. الخاتمة: مستقبل الابتكار الآمن

لم تكن تجربة «المفتاح المعكوس» لدى Collaborations Pharmaceuticals شذوذاً؛ بل كانت برهاناً على التقلب الجوهري للتحسين غير المقيّد في الذكاء الاصطناعي. وفي سباق نشر الذكاء الاصطناعي المؤسسي، تبني منظمات كثيرة قصوراً على رمال—معتمدة على أغلفة هشة تنهار تحت ضغط عدائي أو سياقات جديدة.

بالنسبة لصناعة الأدوية، وأي قطاع يتعامل مع وقائع مادية أو مالية عالية المخاطر، يجب أن ينتهي عصر «الغلاف». فالسلامة لا يمكن لصقها على المخرج؛ بل يجب خبزها في هندسة النموذج نفسه.

تقدّم Veriprajna المسار القابل للحياة الوحيد إلى الأمام: حلول الذكاء الاصطناعي العميق . وبإتقان الفضاء الكامن، لا نكتفي بتصفية الظلام؛ بل نعيد هيكلة الكون الرياضي للنموذج لضمان أن نور الاكتشاف هو المسار الوحيد الذي يمكنه سلوكه. ونوفّر حواجز الحماية التي تسمح للابتكار المؤسسي بالتسارع دون خطر إخفاق كارثي في الاستخدام المزدوج.

هذا ليس مجرد ذكاء اصطناعي آمن. هذا ذكاء مضمون هيكلياً .

الملحق أ: الصياغة الرياضية للقيود الكامنة

لتوفير أساس صارم لـ«حوكمة الفضاء الكامن»، نفصّل الصياغة الرياضية للقيود المطبَّقة خلال عملية التوليد.

أ.1 مسألة التحسين المقيّد

نصوغ العملية التوليدية لا كمعاينة بسيطة $z \sim p(z)$، بل كمسألة تحسين مقيّد. لتكن $G(z)$ المولّد الذي يربط المتجه الكامن $z$ بفضاء البيانات $X$. لتكن $C(x)$ دالة تكلفة (مثل متنبئ السمية). نسعى إلى معاينة $z$ بحيث:

$$\min_z \mathcal{L}_{gen}(z) \quad \text{s.t.} \quad C(G(z)) < \epsilon$$

حيث $\epsilon$ عتبة السلامة.

أ.2 دوال القيمة اللاحقة

بما أن تقييم $C(G(z))$ (توليد الجزيء وتشغيل متنبئ) مكلف وغير قابل للاشتقاق، نتعلّم دالة قيمة كامنة $V(z)$ تقارب التكلفة مباشرة في الفضاء الكامن:

$$V(z) \approx C(G(z))$$

تُدرَّب هذه الدالة لتقليل متوسط مربع الخطأ على مجموعة بيانات من العينات المولَّدة $\{(z_i, y_i)\}$، حيث $y_i$ السمية الحقيقية المرجعية.

أ.3 توجيه التدرج (ديناميكا لانجفان)

أثناء الاستدلال، نعاين $z_0$ أولياً من السابق $p(z)$. ثم نحدّث تكرارياً $z$ باستخدام تدرج دالة القيمة لنقله إلى المنطقة الآمنة:

$$z_{t+1} = z_t - \alpha \nabla_z V(z_t) + \sqrt{2\alpha} \xi_t$$

حيث:

●​ $\alpha$ حجم الخطوة (معدل التعلّم).

●​ $\nabla_z V(z_t)$ تدرج دالة قيمة السمية (توجيه بعيداً عن السمية).

●​ $\xi_t \sim \mathcal{N}(0, I)$ ضجيج غاوسي يُضاف للحفاظ على التنوع (ضجيج لانجفان). ²³

تضمن هذه العملية أن العينة النهائية $z$ تقع داخل المتشعب الآمن المعرَّف بـ $V(z) < \epsilon$ قبل أن يُستدعى المولّد $G(z)$ أصلاً لإنتاج الجزيء النهائي.

الملحق ب: تحليل تفصيلي للأطر التنظيمية

ب.1 NIST AI RMF 1.0 وملف GenAI

البند ذو الصلة: NIST.AI.600-1 (ملف الذكاء الاصطناعي التوليدي)

●​ الخطر 2.1: معلومات أو قدرات CBRN. «حُفِّضت حواجز الدخول... الوصول إلى معلومات خبيثة مادياً... قد تتنبأ أدوات التصميم (BDTs) ببنى جديدة.»

●​ إجراء Veriprajna: نعالج صراحة خطر «البنية الجديدة» عبر TDA. وبتعريف السلامة طوبولوجياً، لا نعتمد على قائمة «سيئات معروفة» (تفشل مع البنى الجديدة) بل على «شكل الحسنات المعروفة.»

ب.2 ISO/IEC 42001:2023

البند ذو الصلة: A.9.2 (سلامة نظام الذكاء الاصطناعي)

●​ المتطلب: «على المنظمة أن تنفّذ ضوابط لضمان أن أنظمة الذكاء الاصطناعي تعمل بأمان... مع مراعاة الحاجة إلى خطط احتياطية.»

●​ إجراء Veriprajna: تعمل آلية الحافز التكيفي لدينا كخطة احتياطية. فإذا فشل توجيه التدرج الأساسي (مثل تلاشي التدرج)، يعود النظام إلى «مركز ثقل» آمن في الفضاء الكامن بدل إخراج العينة الخام.

البند ذو الصلة: A.10.3 (الهجمات العدائية)

●​ المتطلب: «على المنظمة أن تقيّم قابلية التعرّض... للهجمات العدائية.»

●​ إجراء Veriprajna: نقدّم «تقرير فريق أحمر» كمُسلَّم قياسي، مكمّين مقاومة النظام لهجمات ToxicTrap والتوجيه بـ SMILES. ²¹

الأعمال المستشهد بها

1. AI Can Create Deadly Weapons? Scientists Sound Alarm! | WION Podcast YouTube, تم الوصول إليه في 11 ديسمبر 2025, https://www.youtube.com/watch?v=oedheh87lnI

2. Artificial intelligence finds 40,000 toxic molecules - Digitec, تم الوصول إليه في 11 ديسمبر 2025, https://www.digitec.ch/en/page/artificial-intelligence-finds-40000-toxic-molecules-23192

3. Artificial intelligence could be repurposed to create new biochemical weapons | King's College London, تم الوصول إليه في 11 ديسمبر 2025, https://www.kcl.ac.uk/news/artificial-intelligence-could-be-repurposed-to-create-new-biochemical-weapons

4. Meet the harmful side of AI, as lethal as chemical weapons - IndiaAI, تم الوصول إليه في 11 ديسمبر 2025, https://indiaai.gov.in/article/meet-the-harmful-side-of-ai-as-lethal-as-chemical-weapons

5. (PDF) MegaSyn: Integrating Generative Molecular Design ..., تم الوصول إليه في 11 ديسمبر 2025, https://www.researchgate.net/publication/360904282_MegaSyn_Integrating_Generative_Molecular_Design_Automated_Analog_Designer_and_Synthetic_Viability_Prediction

6. MegaSyn: Integrating Generative Molecular Design, Automated Analog Designer, and Synthetic Viability Prediction | ACS Omega - ACS Publications, تم الوصول إليه في 11 ديسمبر 2025, https://pubs.acs.org/doi/10.1021/acsomega.2c01404

7. Well, I never: AI is very proficient at designing nerve agents | John Naughton | The Guardian, تم الوصول إليه في 11 ديسمبر 2025, https://www.theguardian.com/commentisfree/2023/feb/11/ai-drug-discover-nerve-agents-machine-learning-halicin

8. MegaSyn: Integrating Generative Molecular Design, Automated Analog Designer, and Synthetic Viability Prediction - PMC - PubMed Central, تم الوصول إليه في 11 ديسمبر 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC9178760/

9. Dual Use of Artificial Intelligence-powered Drug Discovery - PMC - NIH, تم الوصول إليه في 11 ديسمبر 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC9544280/

10. Chemical & Biological Weapons and Artificial Intelligence: Problem Analysis and US Policy Recommendations, تم الوصول إليه في 11 ديسمبر 2025, https://futureoflife.org/document/chemical-biological-weapons-and-artificial-intelligence-problem-analysis-and-us-policy-recommendations/

11. Involuntary Jailbreak - arXiv, تم الوصول إليه في 11 ديسمبر 2025, https://arxiv.org/html/2508.13246v1

12. Mitigating Risks at the Intersection of Artificial Intelligence and Chemical and Biological Weapons | RAND, تم الوصول إليه في 11 ديسمبر 2025, https://www.rand.org/pubs/research_reports/RRA2990-1.html

13. LLMs in Research: the Good, the Bad, and the Future | Enable Medicine, تم الوصول إليه في 11 ديسمبر 2025, https://www.enablemedicine.com/blog/llms-in-research-the-good-the-bad-and-the-future

14. Are large language models right for scientific research? - CAS.org, تم الوصول إليه في 11 ديسمبر 2025, https://www.cas.org/resources/cas-insights/are-large-language-models-right-scientific-research

15. How do you implement LLM guardrails to prevent toxic outputs? - Zilliz Vector Database, تم الوصول إليه في 11 ديسمبر 2025, https://zilliz.com/ai-faq/how-do-you-implement-llm-guardrails-to-prevent-toxic-outputs

16. How do you implement LLM guardrails to prevent toxic outputs? - Milvus, تم الوصول إليه في 11 ديسمبر 2025, https://milvus.io/ai-quick-reference/how-do-you-implement-llm-guardrails-to-prevent-toxic-outputs

17. MaskMol: knowledge-guided molecular image pre-training framework for activity cliffs with pixel masking - NIH, تم الوصول إليه في 11 ديسمبر 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC12462177/

18. Recent Progress in Understanding Activity Cliffs and Their Utility in Medicinal Chemistry, تم الوصول إليه في 11 ديسمبر 2025, https://www.researchgate.net/publication/256187970_Recent_Progress_in_Understanding_Activity_Clifs_and_Their_Utility_in_Medicinal_Chemistry f

19. DeepAC – conditional transformer-based chemical language model for the prediction of activity cliffs formed by bioactive compounds - RSC Publishing, تم الوصول إليه في 11 ديسمبر 2025, https://pubs.rsc.org/en/content/articlehtml/2022/dd/d2dd00077f

20. Breaking the Rules with Chemistry: Understanding SMILES-Prompting LLM Jailbreak Attack, تم الوصول إليه في 11 ديسمبر 2025, https://www.keysight.com/blogs/en/tech/nwvs/2025/06/12/smiles-prompting-jailbreak-attack

21. SMILES-Prompting: A Novel Approach to LLM Jailbreak Attacks in Chemical Synthesis, تم الوصول إليه في 11 ديسمبر 2025, https://arxiv.org/html/2410.15641v1

22. Towards Building a Robust Toxicity Predictor - arXiv, تم الوصول إليه في 11 ديسمبر 2025, https://arxiv.org/html/2404.08690v1

23. LATENT CONSTRAINTS: LEARNING TO GENERATE CONDITIONALLY FROM UNCONDITIONAL GENERATIVE MODELS - IA, تم الوصول إليه في 11 ديسمبر 2025, https://webia.lip6.fr/~briot/cours/unirio3/Projects/Papers/Latent%20Constraints%20Learning%20to%20Generate%20Conditionally%20from%20Unconditional%20Generative%20Models.pdf

24. Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models - Google Research, تم الوصول إليه في 11 ديسمبر 2025, https://research.google/pubs/latent-constraints-learning-to-generate-conditionally-from-unconditional-generative-models/

25. Manifold-driven decomposition for adversarial robustness - NSF Public Access Repository, تم الوصول إليه في 11 ديسمبر 2025, https://par.nsf.gov/biblio/10568356-manifold-driven-decomposition-adversarial-robustness

26. On the Need for Topology-Aware Generative Models for Manifold-Based Defenses - Liner, تم الوصول إليه في 11 ديسمبر 2025, https://liner.com/review/on-the-need-for-topologyaware-generative-models-for-manifoldbased-defenses

27. Activity cliff-aware reinforcement learning for de novo drug design - PMC PubMed Central, تم الوصول إليه في 11 ديسمبر 2025, https://pmc.ncbi.nlm.nih.gov/articles/PMC12013064/

28. [1711.05772] Latent Constraints: Learning to Generate Conditionally from Unconditional Generative Models - arXiv, تم الوصول إليه في 11 ديسمبر 2025, https://arxiv.org/abs/1711.05772

29. Incentivizing Safer Actions in Policy Optimization for Constrained Reinforcement Learning, تم الوصول إليه في 11 ديسمبر 2025, https://arxiv.org/html/2509.09208v1

30. Incentivizing Safer Actions in Policy Optimization for Constrained Reinforcement Learning - IJCAI, تم الوصول إليه في 11 ديسمبر 2025, https://www.ijcai.org/proceedings/2025/0592.pdf

31. Fact Sheet: President Donald J. Trump Unveils the Genesis Mission to Accelerate AI for Scientific Discovery - The White House, تم الوصول إليه في 11 ديسمبر 2025, https://www.whitehouse.gov/fact-sheets/2025/11/fact-sheet-president-donald-j-trump-unveils-the-genesis-missionto-accelerate-ai-for-scientific-discovery/

32. Launching the Genesis Mission - The White House, تم الوصول إليه في 11 ديسمبر 2025, https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/

33. White House Launches 'Genesis Mission' to Accelerate AI-Enabled Scientific Discovery, تم الوصول إليه في 11 ديسمبر 2025, https://www.morganlewis.com/pubs/2025/12/white-house-launches-genesis-mission-to-accelerate-ai-enabled-scientific-discovery

34. NIST AI RMF - ModelOp, تم الوصول إليه في 11 ديسمبر 2025, https://www.modelop.com/ai-governance/ai-regulations-standards/nist-ai-rmf

35. Navigating the NIST AI Risk Management Framework - Hyperproof, تم الوصول إليه في 11 ديسمبر 2025, https://hyperproof.io/navigating-the-nist-ai-risk-management-framework/

36. NIST AI 6001, Artificial Intelligence Risk Management Framework - Johns Hopkins Center for Health Security, تم الوصول إليه في 11 ديسمبر 2025, https://centerforhealthsecurity.org/sites/default/files/2024-06/2024-06-02-jhchs-nist-ai-6001-rfc.pdf

37. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile - NIST Technical Series Publications, تم الوصول إليه في 11 ديسمبر 2025, https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

38. Understanding ISO 42001 and Demonstrating Compliance - ISMS.online, تم الوصول إليه في 11 ديسمبر 2025, https://www.isms.online/iso-42001/

39. ISO/IEC 42001 Certification: AI Management System - DNV, تم الوصول إليه في 11 ديسمبر 2025, https://www.dnv.com/services/iso-iec-42001-artificial-intelligence-ai--250876/

40. ISO 42001 - Promptfoo, تم الوصول إليه في 11 ديسمبر 2025, https://www.promptoo.dev/docs/red-team/iso-42001/ f

41. ISO 42001: paving the way for ethical AI | EY - US, تم الوصول إليه في 11 ديسمبر 2025, https://www.ey.com/en_us/insights/ai/iso-42001-paving-the-way-for-ethical-ai