60 مليون شخص فقد الكهرباء في 5 ثوانٍ — وقطاع الذكاء الاصطناعي لم يتعلّم شيئًا

كنت في مكالمة مع شريك محتمل عندما وصل الخبر. 28 أبريل 2025. أسقط أحد الحاضرين في الاجتماع رابطًا في المحادثة: إسبانيا والبرتغال غرقتا في الظلام التام. ستون مليون شخص بلا كهرباء. إشارات المرور معطّلة. المستشفيات تعمل على مولّدات احتياطية. القطارات متوقفة داخل الأنفاق.

كان أول ما خطر لي — ولستُ فخورًا بهذا — شعورًا بالارتياح. ليس لأن الأمر وقع، بالطبع. بل لأن ما كنا نحذّر منه منذ عامين أصبح أخيرًا مستحيل التجاهل. لقد كنا نبني أنظمة ذكاء اصطناعي حتمية في Veriprajna تحديدًا لأننا كنا نؤمن بأن النماذج الاحتمالية — من النوع الذي تبيعه معظم شركات الذكاء الاصطناعي — ستفشل في نهاية المطاف فشلًا كارثيًا في البنية التحتية الحرجة. وها هو ذا: 15 جيجاواط من قدرة التوليد اختفت في خمس ثوانٍ. لم يكن هجومًا سيبرانيًا. ولا كارثة طبيعية. بل سلسلة متتالية من إخفاقات التحكّم كان بإمكان ذكاء اصطناعي أفضل أن يمنعها.

أما ثاني ما خطر لي فكان الغضب. لأن الرواية تجمّدت خلال ساعات: «الطاقة المتجددة هي سبب الانقطاع». كانت في كل مكان. وكانت خاطئة.

ما الذي قتل الشبكة فعليًا في 28 أبريل؟

دعوني أكون دقيقًا بشأن ما حدث، لأن التفاصيل أهم من العناوين.

في ذلك الصباح، كانت مصادر الطاقة المتجددة تولّد 78% من كهرباء إسبانيا. كانت الطاقة الشمسية وطاقة الرياح تؤديان عملهما ببراعة. لكن إليكم ما لا يفهمه معظم الناس عن شبكة الكهرباء: توليد الكهرباء ليس سوى نصف المشكلة. أما النصف الآخر فهو إدارة القدرة التفاعلية — القوة غير المرئية التي تُبقي الجهد مستقرًا عبر آلاف الكيلومترات من خطوط النقل.

تخيّلها كضغط الماء في شبكة أنابيب. قد يتوفر لديك ماء كثير (القدرة الفعّالة)، لكن إذا انخفض الضغط (الجهد) أو ارتفع فجأة في المواضع الخاطئة، تنفجر الأنابيب. والقدرة التفاعلية هي ما ينظّم ذلك الضغط. وتُلزم اللوائح الإسبانية — وتحديدًا ما يُعرف بإجراء التشغيل 7.4 — كل محطة توليد بامتصاص القدرة التفاعلية أو حقنها ديناميكيًا للحفاظ على استقرار الجهد. ويجب أن تكون كل محطة قادرة على توفير 30% على الأقل من قدرتها القصوى كدعم تفاعلي.

في 28 أبريل، بدأت الشبكة تشهد تذبذبات غريبة قرب الظهيرة — اهتزازات دون تزامنية عند 0.21 هرتز و0.63 هرتز. حاول مشغّلو نظام النقل تخميدها عبر ربط مزيد من الخطوط في شبكة متشابكة وتحويل وصلات التيار المستمر عالي الجهد (HVDC) إلى وضع القدرة الثابتة. خطوات معقولة. لكن كانت لها نتيجة غير مقصودة: بدأت مستويات الجهد بالارتفاع.

ثم جاء الإخفاق الحاسم: لم تمتص عدة منشآت توليد القدرة التفاعلية كما هو مطلوب. فقد استجابت ببطء شديد، أو لم تستجب إطلاقًا. بل إن إحدى المنشآت الكبرى قامت فعليًا بعملية حقن القدرة التفاعلية داخل شبكة تعاني أصلًا من فرط الجهد — وهو النقيض التام لما تفرضه الفيزياء. كان الأمر أشبه بصبّ البنزين على حريق يُفترض بك إخماده.

عند الساعة 12:33 بتوقيت وسط أوروبا الصيفي، اكتملت السلسلة المتتالية. خمسة عشر جيجاواط اختفت في خمس ثوانٍ. انقطاع تام للتيار في شبه الجزيرة الإيبيرية استمر حتى عشر ساعات. وقد لقي عدة أشخاص حتفهم.

الفجوة غير المرئية التي لم يكن أحد يراقبها

إليكم التفصيل الوارد في التحقيق اللاحق للحادثة والذي أرّقني ليلًا.

كان مشغّلو نظام النقل يراقبون شاشاتهم طوال الوقت. عند مستوى 400 كيلوفولت — العمود الفقري عالي الجهد — بدا كل شيء على ما يرام. كانت قراءات الجهد 418 كيلوفولت، أي ضمن الحدود بأريحية. لكن في محطات التحويل على مستوى المجمّعات، حيث تتصل مزارع الطاقة الشمسية والرياح فعليًا بالشبكة عند 220 كيلوفولت، كان الجهد قد بلغ بالفعل 242 كيلوفولت — متجاوزًا عتبات الحماية التي تُطلق عمليات الفصل التلقائي.

لم تتمكن مغيّرات مآخذ المحوّلات بين مستويي الجهد هذين من التعديل بالسرعة الكافية. لذا كانت لوحة المراقبة لدى مشغّل نظام النقل تعرض اللون الأخضر بينما كانت الشبكة الفعلية في أزمة بالفعل. بدأت أسمّي هذا فجوة القابلية للرصد: المسافة بين ما يستطيع المشغّلون رؤيته وما تفعله الشبكة فعليًا.

لم يكن الانقطاع الإيبيري إخفاقًا في التوليد. كان إخفاقًا في الذكاء — الفجوة بين ما كانت غرفة التحكم تراه وما كانت الشبكة تفعله فعليًا.

عندما عرضتُ هذا التحليل على فريقنا، قالت إحدى مهندساتنا — بريا — شيئًا علق في ذهني: «الأمر أشبه بطبيب يراقب معدل نبضات قلبك بينما ضغط دمك هو ما يقتلك. إنهم يراقبون العلامة الحيوية الخاطئة». هذا صحيح تمامًا. وهو بالضبط نوع الإخفاق الذي ينبغي لذكاء اصطناعي أفضل أن يمنعه.

لماذا لم يمنع الذكاء الاصطناعي هذا؟

هنا تحديدًا أشعر بإحباط حقيقي تجاه قطاعي أنا.

لقد شهدنا انفجارًا في عدد شركات الذكاء الاصطناعي التي تبيع حلول «الشبكة الذكية». ومعظمها ما نسمّيه تطبيقات الغلاف — واجهات رقيقة مبنية فوق نماذج لغوية كبيرة مثل GPT-4 أو Claude. تُدخِل بيانات الشبكة، فيعالجها النموذج، ثم تحصل على تحليل. يبدو الأمر متطورًا. لكنه قاصر بشكل خطير عن معالجة هذه المشكلة.

قال لي أحد المستثمرين، قبل الانقطاع بنحو عام، إن علينا أن «نكتفي باستخدام GPT مع طبقة مضبوطة بدقة» في عملنا على مراقبة الشبكة. حاولت أن أشرح لماذا لن ينجح ذلك، فنظر إليّ وكأنني أتعنّت. قال: «الجميع يستخدم النماذج اللغوية الكبيرة. لماذا تعقّد الأمر أكثر من اللازم؟»

وإليكم السبب. للنماذج الاحتمالية للذكاء الاصطناعي ثلاث نقاط ضعف قاتلة عند تطبيقها على البنية التحتية الحرجة:

إنها تهلوس بحالات فيزيائية. فالنموذج اللغوي الكبير يُحسِّن مخرجاته لتبدو الأكثر معقولية. وأثناء أزمة في الشبكة، قد يفيد بأن «مستويات الجهد آخذة في الاستقرار» لأن هذا ما يحدث عادةً في أحداث التذبذب ضمن بيانات تدريبه. ولا يملك أي آلية للتحقق من ذلك مقابل الفيزياء الفعلية. فـ«المرجّح» و«الصحيح» يُعامَلان على أنهما الشيء نفسه.

إنها بطيئة أكثر من اللازم. فالذكاء الاصطناعي القائم على الأغلفة يمرّر البيانات عبر واجهات برمجية سحابية. زمن الذهاب والإياب: من 500 ميلي ثانية إلى عدة ثوانٍ. أما السلسلة المتتالية الإيبيرية فقد اكتملت في خمس ثوانٍ. وبحلول الوقت الذي ينهي فيه نموذج سحابي استدلاله، يكون الانقطاع قد أصبح لا رجعة فيه. أما الأنظمة الأصيلة على الحافة التي نبنيها في Veriprajna فتحقق الاستدلال في أقل من 0.7 ميلي ثانية — بسرعة تكفي للتدخل قبل أن تكتمل السلسلة المتتالية.

لا يمكن التحقق منها. لا يمكنك أن تُثبت رسميًا أن نموذجًا لغويًا كبيرًا سيلتزم بقانون كيرشوف للجهد أو بمعادلة التأرجح. ولا يمكنك تدقيق استدلاله. ولا يمكنك ضمان أنه لن يقترح حقن القدرة التفاعلية أثناء حدث فرط الجهد — وهو الخطأ نفسه الذي ارتكبه مشغّل بشري في 28 أبريل. وللاطلاع على تحليل تقني أعمق لأنماط الإخفاق هذه، كتبت عن ذلك بإسهاب في ورقتنا البحثية عن المناعة الحتمية للشبكة.

في البنية التحتية الحرجة، الفرق بين «صحيح على الأرجح» و«صحيح بشكل قابل للإثبات» يُقاس بأرواح البشر.

ما المقصود فعليًا بـ«المناعة الحتمية»؟

بعد الانقطاع، أمضى فريقي أسابيع في تشريح كل تقرير منشور — من ENTSO-E، ومن Red Eléctrica، ومن باحثين مستقلين. رسمنا سلسلة الإخفاق بأكملها. وظللنا نعود إلى سؤال واحد: أي بنية للذكاء الاصطناعي كانت ستجعل هذه السلسلة المتتالية مستحيلة فيزيائيًا؟

ليست غير مرجّحة. وليست بعيدة الاحتمال. مستحيلة.

هذا ما نعنيه بالمناعة الحتمية. وبناؤها يتطلب التخلي عن فكرة أن نوعًا واحدًا من الذكاء الاصطناعي يمكنه فعل كل شيء.

البنية التي طوّرناها تتألف من طبقات متعددة، تحلّ كل منها جزءًا مختلفًا من المشكلة. لن أتعمق في الرياضيات هنا — يمكنك استكشاف النسخة التفاعلية من ورقتنا البيضاء للاطلاع على الإطار التقني الكامل — لكن الأفكار الجوهرية بديهية إلى حد مدهش.

تعليم الشبكات العصبية أن تطيع الفيزياء

تتعلم الشبكات العصبية القياسية الأنماط من البيانات. أعطها أمثلة كافية على سلوك الشبكة، وستتعلم التنبؤ بما سيأتي لاحقًا. لكنها لا تدرك لماذا تحدث الأمور. فهي لا تعرف أن الجهد والقدرة التفاعلية مرتبطان بقوانين كهرومغناطيسية أساسية. كل ما تعرفه هو أنه عندما يظهر نمط الإدخال A، يتبعه عادةً نمط الإخراج B.

الشبكات العصبية المستنيرة بالفيزياء — أو PINNs — مختلفة. فنحن نضمّن المعادلات التفاضلية الفعلية التي تحكم ديناميكيات أنظمة الطاقة مباشرةً في عملية التدريب. الشبكة العصبية لا تتعلم من البيانات التاريخية فحسب؛ بل تتعلم مقيَّدةً بشرط أن تفي مخرجاتها بقوانين الفيزياء.

وإليكم ما يعنيه ذلك عمليًا. أثناء الحدث الإيبيري، كانت التذبذبات دون التزامنية عند 0.63 هرتز علامة إنذار فسّرتها وحدات التحكم التقليدية على أنها ضجيج. أما وحدة تحكم قائمة على PINN فكانت ستتعرّف على هذه التذبذبات باعتبارها انتهاكًا ديناميكيًا لمعادلات الاستقرار وتوفّر تخميدًا نشطًا — إذ تُظهر محاكاتنا أزمنة استجابة أسرع بما يصل إلى 87 ضعفًا مقارنةً بطرق التحسين التقليدية. ليس لأن الشبكة العصبية أسرع في الرياضيات، بل لأنها بالفعل تعرف الرياضيات. فالفيزياء مدمجة في صميم بنيتها.

أتذكر بعد ظهر اليوم الذي نجح فيه هذا لأول مرة في المحاكاة. كنا نصارع منذ أسابيع مسألة استقرار التدريب — إذ ظلت قيود الفيزياء تتصارع مع التعلّم المدفوع بالبيانات. وكان مسؤول التعلّم الآلي لدينا، القادم من خلفية تعلّم عميق خالص، متشككًا في أن تساعد القيود بدل أن تضرّ. ثم أدخلنا السيناريو الإيبيري في النموذج المدرَّب. التقط الـPINN نمط التذبذب عند الساعة 12:00 ظهرًا — أي قبل السلسلة المتتالية الفعلية بثلاث وثلاثين دقيقة. حدّق في الشاشة وقال: «حسنًا. فهمتُ الآن».

الشطيرة التي تحجب القرارات الغبية

الاستدلال المستنير بالفيزياء هو الطبقة الأولى. أما الثانية فهي ما نسمّيه الشطيرة العصبية-الرمزية — وهي القطعة التي كانت ستمنع مباشرةً أفدح إخفاقات 28 أبريل.

أتذكرون محطة الطاقة التي حقنت القدرة التفاعلية أثناء حدث فرط الجهد؟ حدث ذلك لأن نظام التحكم في المحطة — سواء كان آليًا أو موجَّهًا بشريًا — أصدر أمرًا ينتهك إجراء التشغيل 7.4. كان تنفيذ الأمر ممكنًا فيزيائيًا، فنُفِّذ. لم يكن لدى الشبكة جهاز مناعة يرفضه.

في بنيتنا، تحيط طبقة منطق رمزي بالشبكة العصبية كسياج دستوري. نحن نرمّز لائحة إجراء التشغيل 7.4 بأكملها — وأي كود شبكة آخر واجب التطبيق — في لغة صورية مخصصة للمجال. تقترح الشبكة العصبية الإجراءات. وتفحص الطبقة الرمزية كل إجراء مقترح مقابل القواعد الصارمة قبل أن يصل إلى المعدات الفيزيائية.

إذا كان الجهد أعلى من العتبة القصوى وفي ارتفاع، واقترحت الطبقة العصبية حقن القدرة التفاعلية — لأي سبب كان، ومهما بلغت ثقة تنبؤها — فإن الطبقة الرمزية تحجبه. ليس بتحذير. ولا بدرجة احتمالية. بل يستحيل فيزيائيًا أن يمرّ. يتعامل النظام مع الامتثال التنظيمي كما يتعامل الجسر مع الجاذبية: ليس كإرشاد، بل كقيد لا يمكن انتهاكه.

وحدة التحكم العصبية-الرمزية في الشبكة لا تحذّرك من القرارات السيئة. بل تجعل تنفيذ القرارات السيئة مستحيلًا فيزيائيًا.

هذا ما أعنيه حين أتحدث عن تجاوز «مغالطة الحرية اللانهائية» — أي افتراض أن الذكاء الاصطناعي الأكثر مرونة هو دائمًا الأفضل. في البنية التحتية الحرجة، أنت تريد حرية أقل، لا أكثر. تريد ذكاءً اصطناعيًا بارع التكيّف داخل حدود صارمة، وصلبًا تمامًا عند تلك الحدود.

لماذا يجب أن يعيش الذكاء عند الحافة؟

ثمة سؤال عملي يتكرر في كل مرة أعرض فيها هذا العمل: أين تجري العمليات الحسابية؟

نشأت فجوة القابلية للرصد التي أهلكت الشبكة الإيبيرية لأن الذكاء كان مركزيًا. كانت غرفة التحكم لدى مشغّل نظام النقل تراقب العمود الفقري عند 400 كيلوفولت. أما محطات التحويل على مستوى المجمّعات عند 220 كيلوفولت — حيث كانت الأزمة الفعلية تتكشّف — فكانت عمياء فعليًا. كانت البيانات من تلك المحطات تُجمَّع وتُحسب متوسطاتها ويُبلَّغ عنها بدورات أبطأ من أن تلتقط سلسلة متتالية تستغرق خمس ثوانٍ.

وحدات التحكم العصبية للشبكة لدينا هي أجهزة حوسبة طرفية توضع عند محوّل جانب المجمّع نفسه. تُجري قياسات موجية متزامنة عالية الدقة، وتشغّل حلقات تحسين مستمرة كل 100 ميلي ثانية، وتنفّذ أوامر العاكسات للحفاظ على استقرار الجهد المحلي ضمن ±0.02 بالوحدة النسبية. إنها لا تنتظر أن تلاحظ غرفة التحكم مشكلة. ولا ترسل البيانات إلى واجهة برمجية سحابية وتنتظر الرد. بل تتصرف محليًا، بالسرعة التي تفرضها الفيزياء.

كانت هناك لحظة أثناء اختبار عتادنا الطرفي — في وقت متأخر من يوم خميس، من تلك الجلسات التي تبدأ عند الساعة 2 ظهرًا وتنتهي عند منتصف الليل — أدركنا فيها أن نموذجنا الأولي كان يكتشف شذوذات الجهد المحاكاة أسرع مما يستطيع نظام المراقبة حتى عرضها. فقد صُحِّح الشذوذ قبل أن تُحدَّث لوحة المراقبة. ضحك أحد مهندسي العتاد لدينا وقال: «لقد جعلنا غرفة التحكم شيئًا عفا عليه الزمن للتو». كان يمزح. في الغالب.

ماذا يحدث حين تغرق الشبكة في الظلام رغم كل شيء؟

حتى مع الوقاية، تحتاج إلى التعافي. استغرقت الشبكة الإيبيرية ما يصل إلى 24 ساعة لاستعادة خدمتها بالكامل — عملية يدوية مُضنية من إعادة تشغيل وحدات التوليد، وإعادة توصيل جزر الأحمال بحذر، ومزامنة التردد عبر المناطق.

نستخدم التعلّم المعزّز متعدد الوكلاء للاستعادة الآلية للشبكة. تخيّله فريقًا من وكلاء الذكاء الاصطناعي، يدير كل منهم جزيرة طاقة محلية، وينسّق بينهم وكلاء أعلى مستوى يشرفون على المزامنة. خلال تعافي 2025، وفّر المغرب 900 ميجاواط وأسهمت فرنسا بـ2 جيجاواط من طاقة الدعم. لكن توجيه تلك الطاقة إلى الأماكن الصحيحة، بالتسلسل الصحيح، دون التسبب في انهيارات ثانوية، تطلّب من المشغّلين البشريين اتخاذ مئات القرارات المتتابعة تحت ضغط هائل.

تشير محاكاتنا إلى أن وكلاء ذاتيي التشغيل يعملون ضمن الإطار الحتمي نفسه — مستنيرين بالفيزياء ومقيَّدين رمزيًا — يمكنهم اختصار استعادة تستغرق 24 ساعة إلى نحو أربع ساعات. ليس لأنهم أذكى من المشغّلين البشريين، بل لأنهم أسرع وأكثر تنسيقًا وغير قابلين للوقوع في أخطاء الذعر التي تتراكم أثناء الأزمة.

كيف يصمد هذا أمام التدقيق التنظيمي؟

يسألني الناس هذا باستمرار، وهو سؤال وجيه. يصنّف قانون الذكاء الاصطناعي الأوروبي التحكم في الشبكة ضمن البنية التحتية الحرجة، ما يعني أن أي نظام ذكاء اصطناعي يعمل في هذا المجال يواجه متطلبات صارمة للشفافية والقابلية للتفسير. وهنا تواجه النماذج اللغوية الكبيرة القائمة على الأغلفة مشكلتها الأكثر جوهرية: إنها حرفيًا لا تستطيع تفسير سبب توصّلها إلى تنبؤ بعينه. فالرياضيات لا تعمل بهذه الطريقة.

تُنتج بنيتنا العصبية-الرمزية مسار تدقيق كاملًا لكل تدخّل. ليس تبريرًا لاحقًا — بل أثرًا فعليًا للقرار:

اكتشفت الطبقة العصبية تذبذبًا دون تزامني عند 0.63 هرتز. حدّدت الطبقة الرمزية انتهاكًا لإجراء التشغيل 7.4: تجاوز حد الجهد الديناميكي البالغ 435 كيلوفولت. فرضت الطبقة الرمزية امتصاصًا إلزاميًا للقدرة التفاعلية بنسبة 30% من القدرة القصوى. استقر الجهد عند 418 كيلوفولت. وحيل دون فصل الحماية على جانب المجمّع.

كل حلقة في السلسلة قابلة للفحص والتدقيق والدفاع عنها قانونيًا. هذه ليست ميزة كمالية. فبعد الانقطاع الإيبيري، يعيد المنظّمون في أنحاء أوروبا كتابة أكواد الشبكة. والأنظمة التي ستنجو من العقد المقبل من التشديد التنظيمي هي تلك القادرة على أن تُثبت — لا أن تدّعي فحسب — أن ذكاءها الاصطناعي يتّبع القواعد.

السؤال الذي لا يريد أحد طرحه

إليكم ما يزعجني أكثر من غيره في استجابة القطاع للانقطاع الإيبيري.

في غضون أسابيع، انتقل الحديث إلى غيره. عادت شركات الذكاء الاصطناعي إلى بيع منتجات الأغلفة. رقّع مشغّلو الشبكات أكثر ثغراتهم وضوحًا. التهم جدل «المتجددة مقابل الوقود الأحفوري» كل الأكسجين. المشكلة المعمارية الجوهرية — أننا ندير أنظمة طاقة من القرن الحادي والعشرين بنماذج تحكّم عاجزة عن الرؤية أو التفكير أو التصرف بالسرعة الكافية — بقيت دون معالجة.

ستون مليون شخص فقد الكهرباء. لقي عدة أشخاص حتفهم. بلغت الأضرار الاقتصادية المليارات. ولم يكن السبب الجذري حدثًا شاذًا. بل كان نتيجة متوقَّعة لنقاط ضعف معمارية معروفة. فقد سبق رصد التذبذبات دون التزامنية. وسبق توثيق ثغرات الامتثال في القدرة التفاعلية. وكانت فجوة القابلية للرصد بين مراقبة النقل ومراقبة مستوى المجمّعات مفهومة جيدًا في الأدبيات الأكاديمية.

لم يكن الانقطاع الإيبيري بجعة سوداء. بل كان وحيد قرن رماديًا — تهديدًا عالي الاحتمال وشديد الأثر رآه الجميع قادمًا ولم يوقفه أحد.

كنا نعلم. والقطاع كان يعلم. ومع ذلك بنينا أنظمة عاجزة عن التعامل معه.

هذه ليست مشكلة الطاقة المتجددة

أريد أن أكون واضحًا تمامًا بشأن هذا، لأن المعلومات المضللة ما زالت تنتشر.

لم تتسبب الطاقة المتجددة في الانقطاع الإيبيري. فحصة المتجددة البالغة 78% في 28 أبريل قلّلت من عطالة النظام، ما جعل الشبكة أكثر حساسية للاضطرابات — وهذا صحيح. لكن الحساسية ليست سببية. إن السبب كان إخفاق منشآت التوليد في توفير دعم القدرة التفاعلية الذي كانت ملزَمة قانونًا بتوفيره. السبب كان أنظمة تحكّم أبطأ وأغبى من أن تدير ديناميكيات الجهد في الزمن الحقيقي. السبب كان بنية القابلية للرصد التي تركت المشغّلين عميانًا عن الأزمة المتكشّفة عند مستوى المجمّعات.

إلقاء اللوم على الطاقة المتجددة في هذا الانقطاع يشبه إلقاء اللوم على مواد البناء خفيفة الوزن في انهيار ناجم عن زلزال، بينما المشكلة الحقيقية أن أحدًا لم يلتزم بكود البناء. فهذه المواد تتطلب هندسة مختلفة. والهندسة لم تُنفَّذ. هذا إخفاق بشري ومؤسسي، لا إخفاق فيزيائي.

وهو بالضبط نوع الإخفاق الذي صُمم الذكاء الاصطناعي الحتمي للقضاء عليه — ليس باستبدال الحكم البشري، بل بضمان أنه حين يفشل الحكم البشري، أو حين تفشل وحدات التحكم القديمة، أو حين يتخذ مشغّل محطة طاقة القرار الخاطئ في اللحظة الخاطئة، يفرض النظام نفسه القوانين التي تُبقي الأضواء مضاءة.

ستبقى الأضواء مضاءة لأننا هندسناها لتكون كذلك

أسّست Veriprajna لأنني كنت أؤمن بأن أهم أنظمة الذكاء الاصطناعي في العالم لن تكون روبوتات الدردشة أو مولّدات الصور أو محركات التوصية. بل ستكون تلك الأنظمة غير المرئية التي تحكم البنية التحتية التي تعتمد عليها الحضارة — شبكات الكهرباء، ومعالجة المياه، وشبكات النقل، وأنظمة المقاصة المالية. أماكن يكون فيها «صحيح على الأرجح» حكمًا بالإعدام.

أثبت الانقطاع الإيبيري صحة ذلك الاعتقاد بأسوأ طريقة ممكنة. خمسة عشر جيجاواط في خمس ثوانٍ. شبه جزيرة بأكملها في الظلام. وكانت استجابة قطاع الذكاء الاصطناعي أن يواصل بيع أغلفة احتمالية لمشكلات تتطلب يقينًا حتميًا.

شبكة المستقبل لن تبقى مستقرة لأننا نأمل ذلك. لن تبقى مستقرة لأن نموذجًا لغويًا كبيرًا يظن أنها على الأرجح ينبغي أن تكون كذلك. ستبقى مستقرة لأننا ضمّنّا قوانين الفيزياء في البنية العصبية، ورمّزنا اللوائح في منطق رمزي، ودفعنا الذكاء إلى الحافة حيث تهمّ الميلي ثانية، وبنينا نظامًا عاجزًا فيزيائيًا عن اتخاذ القرارات التي أسقطت الشبكة الإيبيرية. هذا ليس تفاؤلًا. هذه هندسة.