من النماذج العشوائية إلى الضمان الحتمي: إطار استراتيجي للذكاء الاصطناعي الحرج للسلامة
ينقسم المشهد المعاصر للذكاء الاصطناعي حاليًا بسوء فهم جوهري للعمق التقني. فعلى أحد جانبي هذا الانقسام يقع الانتشار السريع لطبقات الواجهة التوليدية—التي توصف غالبًا بأنها «أغلفة» لنماذج اللغة الكبيرة (LLM)—والتي تعطي الأولوية للنشر السريع والطلاقة الحوارية. وعلى الجانب المقابل يقف الانضباط الصارم لهندسة الذكاء الاصطناعي العميق، وهو مجال يُعرَّف بتكامل التحقق الرسمي ومرونة دمج المستشعرات ومعماريات السلامة الحتمية. وبالنسبة لقادة المؤسسات الذين يتنقلون في هذا الانتقال، لم يعد التمييز أكاديميًا فحسب. فمع انتقال الأنظمة المستقلة من البيئات الرقمية إلى عمليات النشر المادية عالية المخاطر، كشفت سلسلة من الإخفاقات البارزة عن حدود المقاربات الاحتمالية القائمة على «الأغلفة».
تشكّل الحوادث التي شملت Uber Advanced Technologies Group (ATG) وGM Cruise وTesla وWaymo بيانات تجريبية حاسمة لهذا التحليل. فهذه الأحداث تتجاوز كونها حوادث معزولة؛ إنها مؤشرات نسقية على الهشاشة المعمارية. إن تسوية الـ $8.5 مليون التي شملت Uber ATG بعد حادثة Tempe المميتة عام 2018، وإلغاء تصريح تشغيل GM Cruise في كاليفورنيا عام 2023، وتحقيقات الإدارة الوطنية لسلامة المرور على الطرق السريعة (NHTSA) الجارية في نظام القيادة الذاتية الكاملة (FSD) لدى Tesla، كلها أعراض لـ«فجوة الإدراك-المنطق».1 يحلّل هذا التقرير هذه الإخفاقات لتأسيس نموذج جديد للذكاء الاصطناعي الحرج للسلامة—نموذج يضع Veriprajna لا بوصفها ميسّرًا للواجهات العشوائية، بل بوصفها مزوّدًا لاستقلالية عميقة قابلة للتحقق.
الهشاشة المعمارية للإدراك العشوائي: دروس من Uber ATG
لا تزال حادثة تصادم مارس 2018 في Tempe بولاية أريزونا، الذي شمل مركبة اختبار لـ Uber ATG، دراسة الحالة التأسيسية في هشاشة التصنيف. فبينما ركّز السرد آنذاك بقوة على تشتت انتباه مشغّل السلامة البشري، كشفت نتائج المجلس الوطني لسلامة النقل (NTSB) عن إخفاق أعمق بكثير في قدرة البرمجيات على الحفاظ على تمثيل مستقر للعالم المادي.3
تذبذب التصنيف وإخفاق ديمومة الكائن
سجّل نظام Uber ATG المشاة Elaine Herzberg لأول مرة قبل حوالي 5.6 ثانية من الاصطدام.5 عند سرعة 43 mph، كانت المركبة على بعد نحو 378 قدمًا تقريبًا، مما وفّر نافذة كافية لنظام كبح تلقائي في الطوارئ (AEB) قياسي للتدخل.7 غير أن منطق الإدراك في النظام اتسم بـ«تذبذب التصنيف». ففي الثواني التي سبقت التصادم، أعاد البرنامج تصنيف المشاة مرارًا—أولًا كـ«جسم مجهول»، ثم كـ«مركبة»، وأخيرًا كـ«دراجة».6
لم يكن كل إعادة تصنيف مجرد تغيير في التسمية؛ بل كان إعادة ضبط لمسار الجسم المتنبَّأ به. ففي الأنظمة الاحتمالية التي تفتقر إلى الاتساق الزمني، يعامل الذكاء الاصطناعي كل إطار أو مجموعة إطارات كحدث شبه مستقل. ولأن النظام لم يستطع الاستقرار على هوية دائمة للجسم، لم يستطع حساب تنبؤ موثوق للمسار إلا بعد فوات الأوان. وقرر النظام أن الكبح الطارئ لازم قبل 1.3 ثانية فقط من الاصطدام—وهي نقطة جعلت فيها قوانين الفيزياء التصادم حتميًا.3
الدَّين التقني وإزالة فائض السلامة
كان التعطيل المتعمَّد لأنظمة السلامة الأصلية في المركبة عنصرًا حاسمًا في إخفاق Uber ATG. ولمنع «سلوك المركبة المتقطع» وتوفير قيادة أكثر سلاسة للنظام المستقل، عطّلت Uber ميزات تجنب التصادم والكبح التلقائي في الطوارئ (AEB) المثبَّتة في المصنع على Volvo XC90.4 اختار فريق الهندسة الاعتماد بالكامل على نظام تطويري مملوك لم يكن قد تحقَّق بعد للتدخل عالي الثقة.
| مكوّن الإخفاق | الآلية التقنية | الدلالة الاستراتيجية |
|---|---|---|
| خط أنابيب الإدراك | تذبذب التصنيف (مجهول -> مركبة -> دراجة) | فقدان ديمومة الكائن يعطّل تنبؤ المسار.6 |
| قمع المنطق | تعطيل يدوي لنظام AEB المصنعي في Volvo | إزالة طبقات السلامة المرمَّزة صلبًا لصالح شيفرة تجريبية.4 |
| واجهة الإنسان-الآلة (HMI) | اعتماد مفرط على مراقب بشري مشتَّت | إخفاق في مراعاة «التواكل على الأتمتة».3 |
| محرك التنبؤ | افتراض مسار ثابت للفاعلين الديناميكيين | عجز عن نمذجة عبور المشاة غير القياسي.5 |
توضّح عملية اتخاذ القرار هذه اتجاهًا خطيرًا في تطوير الذكاء الاصطناعي: التضحية بطبقات السلامة الحتمية من أجل أداء «سلس» في نموذج عشوائي. ولا تعكس تسوية الـ $8.5 مليون عن تصادم 2018 مسؤولية قانونية فحسب، بل إخفاقًا في إدارة «القيود الوظيفية» لنظام القيادة الآلية.4 وتجادل هندسة الذكاء الاصطناعي العميق، كما تتبناها Veriprajna، ضد هذا التراتب، داعيةً إلى معمارية «السلامة أولًا» تُقيَّد فيها طبقة الإدراك بقيود رسمية لا يمكن تجاوزها بسياسة تجريبية.
التشخيص الخاطئ وإخفاق المنطق بعد الاصطدام: أزمة Cruise عام 2023
في أكتوبر 2023، صدمت سيارة أجرة روبوتية تابعة لـ GM Cruise في سان فرانسيسكو مشاةً وجرّتها مسافة 20 قدمًا، مما أدى إلى تعليق كامل لعمليات الشركة بدون سائق في كاليفورنيا.9 انتقل هذا الحادث إلى ما وراء مشكلة تجنب الاصطدام الأولي إلى مجال «الاستدلال بعد الاصطدام»—وهو مجال تفشل فيه أغلفة LLM النمطية وواجهات برمجة الإدراك البسيطة تمامًا.
مغالطة الدهس الأمامي مقابل الاصطدام الجانبي
بدأ حادث Cruise بطرف ثالث: سيارة Nissan يقودها إنسان صدمت مشاةً، قاذفةً إياها في مسار مركبة Cruise.9 صدمت سيارة Cruise المشاة وتوقفت في البداية. غير أنه بسبب أن منطق «كشف الاصطدام» في النظام لم يكن دقيق التجزئة بما يكفي، شخّص التصادم تشخيصًا خاطئًا. ورغم أن المشاة كانت محصورة تحت المركبة، أخفقت مستشعرات النظام في التعرّف على دهس أمامي وصنّفت الحدث بدلًا من ذلك كاصطدام جانبي.1
أطلق هذا التشخيص الخاطئ مناورة «حالة المخاطر الدنيا» (MRC) مبرمجة مسبقًا. وكان النظام مصممًا للانسحاب إلى جانب الطريق بعد اصطدام جانبي لتفادي عرقلة المرور.11 ولأن طبقة الإدراك كانت قد «نسيت» المشاة بعد الاصطدام، بدأت المركبة بالانسحاب، جارّةً الضحية مسافة 20 قدمًا بسرعة تقارب 7 mph.9 وتوقف الجرّ فقط عندما كشفت المركبة «انزلاق عجلات مفرطًا»، ففسّرته كعطل ميكانيكي لا كعائق بشري.11
الشفافية بوصفها متطلبًا تقنيًا
كان إخفاق Cruise إخفاقًا تنظيميًا بقدر ما كان تقنيًا. وكشفت التحقيقات أن القيادة العليا كانت «متركّزة على تصحيح السرد الإعلامي غير الدقيق» وأخفقت في الشفافية مع المنظّمين بشأن الجرّ.9 اعترف موظفو Cruise بـ«ترك الفيديو يتحدث عن نفسه» خلال اجتماعات مع إدارة المركبات (DMV)، عالمين أن مشكلات الاتصال بالإنترنت غالبًا ما حالت دون تشغيل جزء «الجرّ» من الفيديو.9
ويبرز هذا درسًا حاسمًا لاستشارات الذكاء الاصطناعي العميق: سلامة النظام المستقل لا تنفصل عن شفافيته. ويؤكّد نهج Veriprajna تطوير «تدقيقات السلامة القابلة للتفسير»، حيث يُسجَّل كل قرار يتخذه الذكاء الاصطناعي، لا سيما بعد الاصطدام، بصيغة حتمية مقاومة للتلاعب يمكن للمنظّمين تدقيقها في الزمن الحقيقي. وتؤكّد الغرامة الجنائية اللاحقة البالغة $500,000 لتقديم تقارير كاذبة إلى NHTSA الكلفة العالية لمعاملة سلامة الذكاء الاصطناعي كمشكلة تسويقية لا كمشكلة هندسية.1
معضلة «الرؤية فقط» وحدود الاستشعار الاحتمالي: Tesla FSD
أصبح نظام القيادة الذاتية الكاملة (FSD) لدى Tesla محور تحقيق تنظيمي واسع، إذ فتحت NHTSA أكثر من 40 تحقيقًا في تصادمات بين عامي 2024 و2025.2 وتركّز هذه التحقيقات، لا سيما تلك المعرَّفة بـ PE24-031 وPE25-012، على إخفاق النظام في «مسرح القدرات»—أداء أمثل في ظروف صافية ينهار أمام «حالات حدّية» بيئية.13
الحساسية البيئية وعدم الامتثال للإشارات
حدّدت تحقيقات NHTSA أنماطًا محددة يفشل فيها نظام Tesla المعتمد على الرؤية فقط في الامتثال لقوانين السلامة المرورية الأساسية:
- إخفاق إشارة المرور: في 18 شكوى منفصلة، أخفقت مركبات مزوَّدة بـ FSD في البقاء متوقفة عند الإشارات الحمراء أو أخفقت في كشف حالة الإشارة تمامًا.12
- مناورات الاتجاه الخاطئ: لوحظ أن النظام يدخل مسارات المرور المعاكسة أو ينفّذ منعطفات من مسارات مخصصة للسير المستقيم فقط، متجاهلًا علامات الطريق واللافتات الواضحة.2
- تشبّع الرؤية المنخفضة: وقع تصادم مميت بارز عام 2023 خلال حالة «وهج شمسي على أسفلت رطب»، حيث أخفق النظام في كشف مشاة.14
يخلق اعتماد Tesla على معمارية «الرؤية فقط»—متخليةً عن LiDAR والرادار—ثغرة جوهرية أمام «تشبّع المستشعر». ففي ظروف الضباب أو الغبار أو الحطام المحمول جوًا، تنخفض نسبة الإشارة إلى الضوضاء البصرية دون العتبة المطلوبة للملاحة الآمنة.13 ورغم أن Tesla تستخدم «شبكات الإشغال» للتنبؤ بالهندسة ثلاثية الأبعاد للعالم من صور ثنائية الأبعاد، تشير تقارير NHTSA إلى أن هذه التنبؤات لا تزال احتمالية أكثر مما ينبغي لاستخدامها كطبقة سلامة أولية.15
إضفاء الطابع الرسمي على بيئة القيادة
لتجاوز نموذج إخفاق Tesla، تستخدم هندسة الذكاء الاصطناعي العميق «نطاقات إحاطة مدفوعة بالمخاطر». فبدلًا من «ميزات» مبهمة، يجب أن يعرّف النظام نطاقات تصميم تشغيلي (ODD) صريحة. وإذا تجاوزت «نسبة تشبّع الوهج» أو «مؤشر تبعثر الضباب الخلفي» عتبة متحقَّق منها، يجب أن يبدأ النظام انتقالًا آمن الفشل.14
| نمط الإخفاق قيد التحقيق | التكرار/الأثر | السبب التقني |
|---|---|---|
| عدم الامتثال للإشارة الحمراء | 18+ شكوى | إخفاق كشف حالة الإشارة في مكدس الرؤية.12 |
| انتهاك علامات المسار | 4+ تقارير SGO | عجز عن التمييز بين مسارات الانعطاف فقط ومسارات السير المستقيم.12 |
| تصادم الرؤية المنخفضة | وفيات (2023-2024) | تشبّع المستشعر البصري (وهج/ضباب/غبار).13 |
| دخول المسار المعاكس | 2 تقارير SGO | إخفاق في إعادة البناء ثلاثي الأبعاد لهندسة المسار.12 |
فلسفة Veriprajna هي أن الاستقلالية لا يمكن أن تُبنى على برمجيات «أفضل جهد». إن 2.9 مليون مركبة المتأثرة بتحقيق NHTSA عام 2025 تمثّل مخاطر على مستوى الأسطول لا يمكن تخفيفها إلا عبر تنفيذ «بوابات الضمان»—أقفال برمجية تمنع الذكاء الاصطناعي من اتخاذ قرارات عالية المخاطر عندما ينخفض مستوى ثقة نظام إدراكه دون نقطة حتمية.2
الجمود متعدد الوكلاء والمرونة الاجتماعية-التقنية: تجربة Waymo
غالبًا ما تُعدّ Waymo المعيار المرجعي للسلامة، وقد قطعت أكثر من 56 مليون ميل بمعدلات إصابة أقل بكثير من السائقين البشر.17 غير أنه مع توسّع النظام، واجه فئة جديدة من الإخفاق: «الاحتكاك الاجتماعي-التقني». وهذا لا يتعلق فقط بكيفية قيادة الذكاء الاصطناعي، بل بكيفية تفاعله مع البيئة الاجتماعية البشرية المعقّدة، والعدائية غالبًا.
انسداد التقاطعات وإخفاقات الاتصال
خلال انقطاع كهرباء عام 2025 في لوس أنجلوس، علقت عشرات سيارات الأجرة الروبوتية لـ Waymo عند سلسلة من التقاطعات المظلمة. وأُرهق «Waymo Driver»، المبرمج لمعاملة الإشارات المظلمة كتوقفات رباعية الاتجاه، بذروة مركَّزة في طلبات «المساعدة عن بُعد».18 ولأن المركبات عجزت عن التواصل فيما بينها بفعالية، دخلت حالة «جمود متعدد الوكلاء»، حيث كانت سيارات الأجرة الروبوتية تعرقل سيارات أجرة روبوتية أخرى، منشئةً تراكمًا لم يستطع مركز القيادة المركزي حلّه.18
ويبرز هذا الإخفاق «فخ الاستقلال»—افتراض أن مركبة مستقلة يمكن أن تعمل بأمان كوكيل منفرد دون نظام أوسع منسَّق.18 يجب أن تحسب هندسة الذكاء الاصطناعي العميق فقدان الاتصال اللاسلكي وضرورة بروتوكولات «V2V» (مركبة-إلى-مركبة) و«V2I» (مركبة-إلى-بنية تحتية) التي تسمح للأسطول بحلّ الجمود ذاتيًا.20
ضرورة «وضع الهروب من الخطر»
ربما يكون التهديد الناشئ الأهم للعمليات المستقلة هو العدوان العام. ففي أوائل 2025، هوجمت عدة مركبات Waymo من حشود خلال اضطرابات مدنية في لوس أنجلوس، حيث مزّق محتجون الإطارات وأشعلوا النار في المركبات.21 والمركبات، المبرمجة لـ«السلامة السلبية»، توقفت ببساطة عندما أحاط بها الناس.
وقد أدى هذا إلى اقتراح تطوير «وضع الهروب من الخطر». ومن شأن هذا النظام أن يستخدم مجموعة المستشعرات بزاوية 360 درجة لكشف «العدوان البشري الخبيث» ونقل توجيه المركبة من «الامتثال السلبي» إلى «الهروب النشط».21 ورغم أنه يجب ألا تُبرمج المركبة أبدًا لإلحاق الأذى، يجادل مزوّدو الذكاء الاصطناعي العميق بأنها ينبغي أن تكون قادرة على ارتكاب مخالفات مرورية طفيفة (مثل القيادة على رصيف أو عبور إشارة حمراء) لحماية ركابها والهروب من وضع متقلّب.21 وهذا يتطلّب إعادة تفكير جذرية في «محرك الأخلاقيات» للذكاء الاصطناعي—مهمة تتجاوز بكثير قدرات غلاف LLM.
الحل التقني: منظور عين الطائر (BEV) وشبكات الإشغال
لمعالجة إخفاقات التتبع المرصودة في حالتي Uber وCruise، تنتقل الصناعة نحو إدراك منظور عين الطائر (BEV). وتعالج الأنظمة القياسية لكل كاميرا صورًا فردية، مما يؤدي إلى فقدان بيانات أثناء «الالتحام». وبالمقابل، يحوّل إدراك BEV بيانات الكاميرات متعددة الزوايا وLiDAR إلى شبكة ثلاثية الأبعاد موحَّدة من الأعلى إلى الأسفل.22
شبكات الإشغال مقابل دمج المستشعرات القياسي
يحاول دمج المستشعرات التقليدي «مطابقة» البكسلات ثنائية الأبعاد بنقاط ثلاثية الأبعاد، وهي عملية مكلفة حسابيًا وعرضة لأخطاء الإسقاط. وتدعو Veriprajna إلى «شبكات الإشغال»—معمارية تتنبأ بـ«احتمال الإشغال» لكل فوكسل في حجم ثلاثي الأبعاد.16
- ديمومة الكائن: لأن شبكات الإشغال تتتبع الحجم لا مجرد «التسميات»، يعرف النظام أن حيزًا مشغول حتى إن لم يستطع أن يقرر ما إذا كان الجسم مشاةً أم دراجة. وكان هذا سيمنع انقلاب تصنيف Uber ATG.16
- الوفاء الهندسي: تلتقط شبكات الإشغال البنى العمودية وحطام الطريق التي غالبًا ما تتجاهلها خرائط BEV ثنائية الأبعاد. وكان هذا سيسمح لمركبة Cruise أن «ترى» المشاة تحت هيكلها أثناء المناورة بعد الاصطدام.16
- الاتساق المكاني-الزمني: باستخدام معماريات «BEVFormer»، يستطيع النظام استخدام «الانتباه الذاتي الزمني» ليتذكر أين كان جسم حتى أثناء حجب مؤقت (مثل مشاة يسير خلف شاحنة متوقفة).24
في هذا النموذج، لا تخدم معمارية Transformer كأداة حوارية، بل كمحرك استدلال مكاني يدمج بيانات متغايرة في «لوحة مشتركة» واحدة.23 هذه هي هندسة الذكاء الاصطناعي العميق: استخدام المعماريات الرائدة لحل مشكلات فيزيائية جوهرية في الملاحة.
التحقق الرسمي: معيار Veriprajna للذكاء الاصطناعي عالي الضمان
أكثر ما يميّز بين «غلاف» و«حل» هو تطبيق الطرق الرسمية. ويعتمد اختبار البرمجيات التقليدي على سيناريوهات «الصندوق الأسود»؛ فإذا اجتاز النظام N اختبارات، يُفترض أنه آمن. أما في الأنظمة الحرجة للسلامة، فنحن نطلب برهانًا رياضيًا على الصحة.
حلالات SMT والاستدلال على مستوى الشبكة
تتيح أدوات مثل Marabou وα,β-CROWN للمهندسين التحقق من خصائص الشبكات العصبية العميقة. وبتمثيل الشبكة كمجموعة من القيود الخطية المتقطعة، يمكننا تحديد ما إذا كان يوجد أي دخل يمكن أن يؤدي إلى خرج غير آمن.25
قد تُعرَّف «خاصية سلامة» كما يلي:
بالنسبة لجميع المدخلات x ضمن نطاق «الرؤية المنخفضة»، يجب ألا يكون الخرج y (أمر الكبح) أقل من k أبدًا.
إذا أعاد حلال SMT مثل Marabou «مثالًا مضادًا»، فقد حدّد اضطرابًا محددًا، وغالبًا غير محسوس، من شأنه أن يسبب إخفاق الذكاء الاصطناعي. وهذا يتيح لـ Veriprajna «تحصين» النموذج خلال مرحلة التدريب، وهي عملية تُعرف بـ«التدريب الواعي بالتحقق».28
التقليم من أجل قابلية التحقق
تحدٍّ رئيس في التحقق الرسمي هو «لعنة الأبعاد». فالشبكات الكبيرة أعقد من أن تحلّلها الحلالات الحالية بشكل شامل. وتعالج Veriprajna هذا عبر «تقليم العصبونات». وبإزالة العصبونات الزائدة واللاخطيات التي لا تسهم في دقة النموذج، ننتج «نموذجًا مقلَّمًا» أسهل رياضيًا للتحقق دون التضحية بالأداء.29
| تقنية التحقق | المنهجية | الفائدة |
|---|---|---|
| تضييق الحدود | تحليل رمزي لنطاقات تفعيل العصبونات | يقلّص فضاء البحث لحلالات SMT.25 |
| تحليل قابلية الوصول | حساب مجموعة جميع المخرجات القابلة للوصول لمجموعة دخل | يضمن بقاء الذكاء الاصطناعي ضمن «متعدد الوجوه الآمن».28 |
| التقريب الخطي المتقطع | استبدال التفعيلات المعقّدة بقطع قائمة على ReLU | يمكّن براهين تحقق سليمة وتامة.27 |
| مرشح السلامة الرسمي | مراقبة زمن التشغيل لأوامر الذكاء الاصطناعي مقابل خط أساس متحقَّق | يوفر «استعادة آمنة» إذا تصرّف الذكاء الاصطناعي الرئيس بلا عقلانية.31 |
الأفق التنظيمي: SOTIF وISO/PAS 8800
بالنسبة للمؤسسات، لم يعد الامتثال للمعايير الدولية الناشئة اختياريًا. فقد انتقل المشهد من «التقييم الذاتي الطوعي» إلى الالتزام الإلزامي بإطار سلامة متدرج.5
ISO 26262 مقابل ISO 21448 (SOTIF)
فبينما تعالج ISO 26262 «السلامة الوظيفية» (مثل إخفاق مستشعر أو قصر دائرة في رقاقة)، فإنها لا تستطيع أن تحسب القيود المتأصلة في الذكاء الاصطناعي.34 وتُملأ هذه الفجوة بمعيار ISO 21448، معيار «سلامة الوظيفة المقصودة» (SOTIF). وصُمِّم SOTIF تحديدًا لمعالجة المخاطر التي تحدث عندما يعمل النظام تمامًا كما بُرمج لكنه يواجه بيئة «مجهولة/غير آمنة».34
هدف ارتباط Veriprajna هو تعظيم ربع «معروف/آمن» في نظام الذكاء الاصطناعي لدى العميل. ويتضمن ذلك:
- تحليل المخاطر والأخطار (HARA): تحديد مخاطر غير إخفاقية مثل سوء تفسير المستشعر في المطر الغزير.36
- تحديد شروط التفعيل: رسم منهجي للحالات البيئية التي تؤدي إلى أخطاء الإدراك.36
- التحقق والإثبات (V&V): استخدام محاكاة عالية الوفاء لـ«حقن» حالات حدّية سيكون اختبارها على الطرق العامة أخطر مما ينبغي.36
ISO/PAS 8800: مستقبل تكامل الذكاء الاصطناعي
اعتبارًا من أواخر 2024، أصبحت ISO/PAS 8800 المعيار الأساس لـ«السلامة الوظيفية للذكاء الاصطناعي في مركبات الطرق».37 وتوفّر أول إرشادات عالمية لإدارة دورة حياة الذكاء الاصطناعي، من «اكتساب البيانات» إلى «المراقبة بعد النشر».33 وتضمن Veriprajna أن معماريات عملائنا ليست متوافقة فحسب، بل «محصَّنة للمستقبل» أمام الصرامة المتزايدة لمعايير حوكمة الذكاء الاصطناعي العالمية مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي وإطار إدارة مخاطر الذكاء الاصطناعي لدى NIST.33
المسار الاستراتيجي إلى الأمام: ولاية الذكاء الاصطناعي العميق لدى Veriprajna
الانتقال من ثقافة «الغلاف» إلى ثقافة «الذكاء الاصطناعي العميق» رحلة من الأمل الاحتمالي إلى الضمان الحتمي. إن تسوية Uber البالغة $8.5 مليون، وتعليق Cruise، وتحقيقات Tesla التي تجاوزت 40، ليست أسبابًا للتخلي عن الذكاء الاصطناعي؛ بل أسبابًا لهندسته على النحو الصحيح.
نموذج الاستشارات لدى Veriprajna مبني على ثلاث ركائز تعالج أنماط الإخفاق المحددة في هذا التقرير:
- مرونة الإدراك: نقل العملاء من الإدراك ثنائي الأبعاد لكل كاميرا إلى شبكات إشغال BEV القائمة على Transformer لضمان ديمومة الكائن واستقرار التتبع.16
- اتخاذ القرار المُتحقَّق: تنفيذ تحقق رسمي قائم على SMT لإثبات أن معماريات التحكم المدفوعة بالذكاء الاصطناعي لن تنتهك أبدًا خصائص السلامة الجوهرية.25
- التحصين الاجتماعي-التقني: تطوير «أوضاع هروب» متطورة وأطر اتصال V2X لإدارة واقع الاضطرابات المدنية والجمود متعدد الوكلاء.18
ومع بلوغ الكلفة العالمية لاختراق بيانات واحد $4.44 مليون وبلوغ كلفة وفاة في نظام مستقل عشرات الملايين في الأضرار القانونية والتشغيلية، يصبح الغلاف «الرخيص» أغلى خطأ يمكن أن ترتكبه مؤسسة.14 توفّر Veriprajna خبرة الهندسة العميقة المطلوبة لبناء ذكاء اصطناعي لا يعمل في المختبر فحسب—بل يصمد في العالم.
الخيار أمام المؤسسة الحديثة واضح: مواصلة تغليف الصناديق السوداء الاحتمالية وإدارة التداعيات الحتمية، أو الشراكة مع Veriprajna لهندسة مستقبل من استقلالية عالية الضمان قابلة للتحقق. فعصر الذكاء الاصطناعي العشوائي ينتهي؛ وقد بدأ عصر هندسة الذكاء الاصطناعي العميق.
الأعمال المستشهد بها
- Cruise Admits To Submitting A False Report To Influence A Federal Investigation And Agrees To Pay $500000 - Department of Justice, تم الوصول إليه في 9 فبراير 2026, https://www.justice.gov/usao-ndca/pr/cruise-admits-submitting-false-report-influence-federal-investigation-and-agrees-pay
- NHTSA Opens Probe into 2.9M Teslas Over FSD Violations - Autobody News, تم الوصول إليه في 9 فبراير 2026, https://www.autobodynews.com/news/nhtsa-opens-probe-into-2-9m-teslas-over-fsd-violations
- HWY18MH010.aspx - NTSB, تم الوصول إليه في 9 فبراير 2026, https://www.ntsb.gov/investigations/Pages/HWY18MH010.aspx
- NTSB Shares Investigation Findings and Recommendations Regarding March 2018 Uber ATG Fatality | Eckert Seamans, تم الوصول إليه في 9 فبراير 2026, https://www.eckertseamans.com/legal-updates/ntsb-shares-investigation-findings-and-recommendations-regarding-march-2018-uber-atg-fatality
- H-19-047 - Accident Data - NTSB, تم الوصول إليه في 9 فبراير 2026, https://data.ntsb.gov/carol-main-public/sr-details/H-19-047
- NTSB releases preliminary report on fatal Uber self-driving car crash - Metro Magazine, تم الوصول إليه في 9 فبراير 2026, https://www.metro-magazine.com/news/ntsb-releases-preliminary-report-on-fatal-uber-self-driving-car-crash
- Death of Elaine Herzberg - Wikipedia, تم الوصول إليه في 9 فبراير 2026, https://en.wikipedia.org/wiki/Death_of_Elaine_Herzberg
- New Details Emerge Regarding Uber Self-Driving Vehicle Accident in Tempe, Arizona, تم الوصول إليه في 9 فبراير 2026, https://schwedlawfirm.com/blog/new-details-emerge-regarding-uber-self-driving-vehicle-accident/
- A Root Cause Analysis of a Self-Driving Car Dragging a Pedestrian, تم الوصول إليه في 9 فبراير 2026, https://www.computer.org/csdl/magazine/co/2024/11/10720344/215PD0vqgTe
- Notes on Cruise's pedestrian accident - Dan Luu, تم الوصول إليه في 9 فبراير 2026, https://danluu.com/cruise-report/
- Lessons from the Cruise Robotaxi Pedestrian Dragging Mishap, تم الوصول إليه في 9 فبراير 2026, http://users.ece.cmu.edu/~koopman/pubs/Koopman2024_CruiseMishap_IEEEReliabilityMagazine.pdf
- Office of Defects Investigation (ODI) Resume - nhtsa, تم الوصول إليه في 9 فبراير 2026, https://static.nhtsa.gov/odi/inv/2025/INOA-PE25012-19171.pdf
- US regulators launch investigation into self-driving Teslas after series of crashes, تم الوصول إليه في 9 فبراير 2026, https://www.theguardian.com/technology/2025/oct/09/tesla-cars-self-driving-us-regulators-investigation
- Tesla FSD Safety Issues: NHTSA Probes & AI Driving Future (Part 6) - PRIZ Guru, تم الوصول إليه في 9 فبراير 2026, https://www.priz.guru/tesla-fsd-safety-issues-nhtsa-probes-ai-driving-future-part-6/
- AI & Robotics | Tesla, تم الوصول إليه في 9 فبراير 2026, https://www.tesla.com/AI
- A Survey on Occupancy Perception for Autonomous Driving: The Information Fusion Perspective - arXiv, تم الوصول إليه في 9 فبراير 2026, https://arxiv.org/html/2405.05173v2
- New Study: Waymo is reducing serious crashes and making streets safer for those most at risk, تم الوصول إليه في 9 فبراير 2026, https://waymo.com/blog/2025/05/waymo-making-streets-safer-for-vru
- On Waymo's Traffic Jams - Stanford Center for Internet and Society, تم الوصول إليه في 9 فبراير 2026, https://cyberlaw.stanford.edu/blog/2025/12/on-waymos-traffic-jams/
- Self-driving cars may create more traffic congestion than they solve, expert says - KJZZ, تم الوصول إليه في 9 فبراير 2026, https://www.kjzz.org/the-show/2026-01-07/self-driving-cars-may-create-more-traffic-congestion-than-they-solve-expert-says
- A Systematic Literature Review on Vehicular Collaborative Perception – A Computer Vision Perspective - arXiv, تم الوصول إليه في 9 فبراير 2026, https://arxiv.org/html/2504.04631v2
- When Robotaxis Get Attacked: Do Waymo Cars Need a 'Danger Escape Mode'?, تم الوصول إليه في 9 فبراير 2026, https://aragonresearch.com/robotaxis-attack-waymo-cars-danger-escape-mode/
- MIC-BEV: Multi-Infrastructure Camera Bird's-Eye-View Transformer with Relation-Aware Fusion for 3D Object Detection - arXiv, تم الوصول إليه في 9 فبراير 2026, https://arxiv.org/html/2510.24688v1
- [AV Vol.3] BEVFusion: Unifying Vision in Autonomous Driving Systems - Medium, تم الوصول إليه في 9 فبراير 2026, https://medium.com/demistify/av-vol-3-bevfusion-unifying-vision-in-autonomous-driving-systems-b2190f877c9b
- A Transformer-based Temporal Feature Fusion Approach for Autonomous Driving BEV Perception | Request PDF - ResearchGate, تم الوصول إليه في 9 فبراير 2026, https://www.researchgate.net/publication/395804054_A_Transformer-based_Temporal_Feature_Fusion_Approach_for_Autonomous_Driving_BEV_Perception
- The Marabou Framework for Verification and Analysis of Deep Neural Networks - Stanford Center for AI Safety, تم الوصول إليه في 9 فبراير 2026, https://aisafety.stanford.edu/marabou/MarabouCAV2019.pdf
- Marabou 2.0: A Versatile Formal Analyzer of Neural Networks - arXiv, تم الوصول إليه في 9 فبراير 2026, https://arxiv.org/html/2401.14461v1
- Marabou 2.0: A Versatile Formal Analyzer of Neural Networks - Stanford CS Theory, تم الوصول إليه في 9 فبراير 2026, https://theory.stanford.edu/~barrett/pubs/WIZ+24.pdf
- Creating a Formally Verified Neural Network for Autonomous Navigation: An Experience Report - CSE CGI Server, تم الوصول إليه في 9 فبراير 2026, https://cgi.cse.unsw.edu.au/~eptcs/paper.cgi?FMAS2024.12.pdf
- Verification of Neural Networks for Safety and Security-critical Domains - CEUR-WS.org, تم الوصول إليه في 9 فبراير 2026, https://ceur-ws.org/Vol-3345/paper10_RiCeRCa3.pdf
- Formal Verification of Neural Networks for Safety-Critical Tasks in Deep Reinforcement Learning, تم الوصول إليه في 9 فبراير 2026, https://proceedings.mlr.press/v161/corsi21a/corsi21a.pdf
- Formal Methods for Trustworthy AI-based Autonomous Systems - NII Shonan Meeting, تم الوصول إليه في 9 فبراير 2026, https://shonan.nii.ac.jp/docs/No.178.pdf
- Formal Verification of Neural Networks-Based Control Architecture for Safety-Critical Autonomous Systems - Frontiers, تم الوصول إليه في 9 فبراير 2026, https://www.frontiersin.org/research-topics/74336/formal-verification-of-neural-networks-based-control-architecture-for-safety-critical-autonomous-systems
- Implementing Responsible AI for Automotive Vehicle Safety - LHP Engineering Solutions, تم الوصول إليه في 9 فبراير 2026, https://www.lhpes.com/blog/implementing-responsible-ai-for-automotive-vehicle-safety
- Functional Safety vs. SOTIF: What Is the Difference and Where Do They Overlap? - MES, تم الوصول إليه في 9 فبراير 2026, https://model-engineers.com/en/blog/functional-safety-vs-sotif-differences-overlaps/
- The Necessity of a Holistic Safety Evaluation Framework for AI-Based Automation Features, تم الوصول إليه في 9 فبراير 2026, https://arxiv.org/html/2602.05157v1
- What is SOTIF? (ISO 21448) - Visure Solutions, تم الوصول إليه في 9 فبراير 2026, https://visuresolutions.com/automotive/iso-21448/
- Safety-Related Systems in Road Vehicles with Artificial Intelligence Are Addressed in ISO/PAS 8800:2024 | UL Solutions, تم الوصول إليه في 9 فبراير 2026, https://www.ul.com/sis/blog/safety-related-systems-road-vehicles-artificial-intelligence-are-addressed-isopas-88002024
- ISO 26262, SOTIF and simulation | Applied Intuition, تم الوصول إليه في 9 فبراير 2026, https://www.appliedintuition.com/blog/iso26262-sotif-simulation
- Introducing ISO/PAS 8800 – Functional Safety for AI in Road Vehicles | SGS Georgia, تم الوصول إليه في 9 فبراير 2026, https://www.sgs.com/en-ge/news/2025/04/safeguards-04625-introducing-iso-pas-8800-functional-safety-for-ai-in-road-vehicles
- NIST vs ISO - Compare AI Frameworks - ModelOp, تم الوصول إليه في 9 فبراير 2026, https://www.modelop.com/ai-governance/ai-regulations-standards/nist-vs-iso
- AI Safety vs AI Security in LLM Applications: What Teams Must Know - Promptfoo, تم الوصول إليه في 9 فبراير 2026, https://www.promptfoo.dev/blog/ai-safety-vs-security/
هل تفضّل تجربة مرئية وتفاعلية؟
استكشف أبرز النتائج والإحصاءات وبنية هذه الورقة بتنسيق تفاعلي يتضمّن أقسامًا قابلة للتصفح وتصوّرات بيانية.
الأسئلة المتكرّرة
ما الذي تسبب في وفاة مركبة Uber ATG المستقلة من منظور تقني؟
كشف نظام Uber ATG المشاة قبل 5.6 ثانية و378 قدمًا من الاصطدام لكنه عانى تذبذب التصنيف، فأعاد تصنيف المشاة مرارًا كجسم مجهول ومركبة ودراجة. وأعاد كل إعادة تصنيف ضبط المسار المتنبَّأ به، ولم يقرر النظام أن الكبح الطارئ لازم إلا قبل 1.3 ثانية من الاصطدام. إضافة إلى ذلك، كانت Uber قد عطّلت أنظمة تجنب التصادم والكبح التلقائي في الطوارئ (AEB) المصنعية في Volvo XC90.
كيف تتحقق حلالات SMT رسميًا من خصائص سلامة الشبكات العصبية؟
تمثّل حلالات SMT مثل Marabou الشبكات العصبية كقيود خطية متقطعة وتحدد ما إذا كان يوجد أي دخل يمكن أن ينتج خرجًا غير آمن. فعلى سبيل المثال، قد تتطلّب خاصية سلامة أن يتجاوز أمر الكبح عتبة دنيا لجميع المدخلات ضمن نطاق رؤية منخفضة. وإذا وجد الحلال مثالًا مضادًا، يستطيع المهندسون تحصين النموذج عبر التدريب الواعي بالتحقق وتقليم العصبونات.
ما شبكات إشغال BEV وكيف تمنع إخفاقات المركبات المستقلة؟
تتنبأ شبكات إشغال منظور عين الطائر باحتمال إشغال كل فوكسل في حجم ثلاثي الأبعاد بدلًا من تتبع أجسام موسومة. وهذا يضمن ديمومة الكائن حتى عندما يعجز النظام عن تصنيف الجسم، مانعًا انقلاب تصنيف Uber ATG. وتلتقط بنى عمودية تفوّتها الخرائط ثنائية الأبعاد، وتستخدم معماريات BEVFormer الانتباه الذاتي الزمني للاتساق المكاني-الزمني أثناء الحجب.
منشور أيضًا على
ابنِ ذكاءك الاصطناعي بثقة.
تعاون مع فريق يمتلك خبرة عميقة في بناء الجيل القادم من الذكاء الاصطناعي للمؤسسات. دعنا نساعدك على تصميم استراتيجية ذكاء اصطناعي جديرة بثقتك وبنائها وتطبيقها.
Veriprajna استشارات التقنيات العميقة متخصصة في بناء أنظمة الذكاء الاصطناعي الحرجة للسلامة في مجالات الرعاية الصحية والتمويل والقطاعات التنظيمية. تُقيَّم بنياتنا المعمارية وفق البروتوكولات المعتمدة مع توثيق شامل للامتثال.