المدير المالي المزيف بتقنية التزييف العميق سرق 25 مليون دولار في مكالمة فيديو. هل أنت التالي؟

المشكلة

في فبراير 2024، انضم موظف في شركة الهندسة العالمية Arup إلى مكالمة فيديو مع المدير المالي للشركة والعديد من كبار المسؤولين التنفيذيين. بدا كل وجه حقيقياً تماماً، وبدا كل صوت طبيعياً وصحيحاً. أمر المدير المالي بإجراء 15 تحويلاً مصرفياً إلى خمسة حسابات بنكية مختلفة. امتثل الموظف للأمر. إجمالي الخسارة: 25.6 مليون دولار.

وإليك الجزء المرعب: لم يكن أيٌّ من أولئك الأشخاص حقيقياً. كان كل مسؤول تنفيذي في تلك المكالمة عبارة عن تزييف عميق مُولَّد بالذكاء الاصطناعي — نسخة اصطناعية أُنشئت من مقاطع فيديو متاحة للجمهور على YouTube وتسجيلات مؤتمرات. أمضى المهاجمون شهوراً في جمع تسجيلات الفيديو والصوت لقادة Arup الحقيقيين. ودربوا نماذج الذكاء الاصطناعي ليس فقط على استنساخ الوجوه، بل أيضاً على محاكاة أنماط كلام محددة وتعبيرات وجهية دقيقة. وكانت النتيجة طاقماً من "التوائم الاصطناعية عالية الدقة" مقنعاً بما يكفي لخداع متخصص مالي مُدرَّب في اجتماع حي ومباشر.

لم تُستخدم أي برمجيات خبيثة. ولم تُسرق أي كلمات مرور. ولم يتم اختراق أي قاعدة بيانات. وظلت البنية التحتية الرقمية لشركة Arup سليمة تماماً طوال الحادث بأكمله. لم يخترق المهاجمون أنظمة الشركة — بل اخترقوا ثقة الموظف بما رآه وسمعه. ولم يُكتشف الاحتيال إلا عندما تواصل الموظف لاحقاً مع مكتب المدير المالي الحقيقي في لندن؛ حيث تبين أنه لم يُعقد أي اجتماع من هذا القبيل على الإطلاق.

لم يكن هذا فشلاً في جدران الحماية لديك، بل كان فشلاً في الافتراض القائل بأن الرؤية تعني التصديق.

لماذا يهمّ هذا لأعمالك

تُعدّ خسارة 25.6 مليون دولار في Arup أمراً مأساوياً، لكن التهديد الحقيقي هو تهديد بنيوي. فمن المرجح أن مؤسستك تعتمد على مكالمات الفيديو لتأكيد الهوية وتفويض القرارات ذات القيمة العالية كل يوم. وهذا الافتراض أصبح الآن ساقطاً.

تروي الأرقام قصة تهديد يتصاعد بسرعة فائقة:

• هجمات الحقن — حيث يغذّي المهاجمون مقاطع فيديو مزيفة مباشرة في برامج عقد المؤتمرات مثل Zoom أو Teams — زادت بنسبة 255% في عام 2023.
• هجمات تبديل الوجه — حيث يتم استبدال بث كاميرا الويب المباشر للمهاجم إطاراً تلو الآخر بتزييف عميق — ارتفعت بنسبة 704% في الفترة نفسها.
• انخفضت تكلفة إنشاء تزييف عميق مقنع إلى ما يقرب من 15 دولاراً و45 دقيقة من الجهد.

وإلى جانب الضربة المالية المباشرة، تواجه قيادتك تعرّضاً شخصياً متزايداً للمخاطر. يواجه الرؤساء التنفيذيون للمعلومات (CIOs) والرؤساء التنفيذيون للتكنولوجيا (CTOs) الآن معياراً أعلى من واجب الأمانة والحرص الائتماني فيما يتعلق بالضوابط الواعية بمخاطر التزييف العميق. وقد يؤدي الإخفاق في تطبيق إجراءات أمنية معقولة إلى مسؤولية شخصية إذا رفع المساهمون أو العملاء دعاوى قضائية بدعوى الإهمال. وتتبع المحاكم بشكل متزايد "قاعدة المحتال" (Impostor Rule)، التي تُلقي بالخسائر على عاتق الطرف الذي كان في أفضل موقع لمنع الاحتيال.

تتوسع التزامات الامتثال لديك أيضاً؛ إذ يتوقع قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act)، وإطار عمل إدارة مخاطر الذكاء الاصطناعي التابع لـ NIST، ومعايير مثل ISO/IEC 30107-3 لكشف الهجمات البيومترية، من المؤسسات الآن الدفاع ضد تهديدات الوسائط الاصطناعية. وإذا كانت عمليات التحقق لديك لا تزال تعامل مكالمة الفيديو كدليل على الهوية، فلديك ثغرة سيكتشفها المنظمون ومحامو الادعاء.

هذه ليست مشكلة تكنولوجية تخص فريق تكنولوجيا المعلومات لديك، بل هي مشكلة ضوابط مالية تخص مجلس إدارتك.

ما الذي يحدث فعلاً وراء الكواليس

لفهم سبب نجاح هذا الهجوم، فكّر فيه مثل ورقة نقدية مزيفة بإتقان. لا يحتاج المزوّر إلى سرقة دار سك العملة — بل يحتاج فقط إلى إنتاج ورقة نقدية جيدة بما يكفي ليقبلها الصرّاف. وقد فعل مهاجمو Arup الشيء نفسه بالوجوه والأصوات البشرية.

استخدم المهاجمون نوعين من نماذج الذكاء الاصطناعي يعملان معاً. تولت شبكات الخصومة التوليدية (GANs) — وهي أنظمة يتنافس فيها نموذجان من الذكاء الاصطناعي لإنشاء التزييف واكتشافه — عملية تبديل الوجوه في الوقت الفعلي. يقوم أحد النموذجين بتوليد وجه مزيف، بينما يحاول الآخر اكتشافه. وبعد ملايين الجولات، ينتج المولد وجوهاً لا يستطيع حتى نموذج الاكتشاف تمييزها عن الوجوه الحقيقية. أما نماذج الانتشار (Diffusion models) — وهي ذكاء اصطناعي يتعلم بناء صور واضحة من التشويش العشوائي — فضمنت ألا يومض وجه التزييف العميق أو يتشوه أثناء الحركة. وهذا "الاتساق الزمني" حاسم للغاية لأن العين البشرية حساسة للغاية للعيوب البصرية.

التفصيل التقني الأكثر أهمية هو كيفية وصول الفيديو المزيف إلى المكالمة. لم يحمل المهاجمون شاشة أمام الكاميرا، بل استخدموا "هجوم حقن الفيديو" (video injection attack)، حيث قاموا بتغذية حزم الفيديو الاصطناعية مباشرة في تدفق بيانات برمجيات عقد المؤتمرات. وتعامل التطبيق مع هذا البث الرقمي كما لو كان قادماً من كاميرا حقيقية. ولا تستطيع فحوصات الحيوية القياسية (liveness checks) — من النوع الذي يبحث عن العمق والحواف المادية — اكتشاف هذه الطريقة لعدم وجود أي أثر فيزيائي لتحليله.

هذا هو نمط الفشل المحدد: تثق أدوات المؤتمرات لديك في أي تدفق فيديو تستقبله، وليس لديها أي وسيلة للتحقق مما إذا كان هذا البث قادماً من كاميرا حقيقية موجهة إلى شخص حقيقي.

ما الذي ينجح (وما الذي لا ينجح)

لنبدأ بثلاثة أساليب لا تحل هذه المشكلة:

المصادقة متعددة العوامل القياسية. تجاوز مهاجمو Arup المصادقة متعددة العوامل (MFA) بالكامل لأن الهجوم لم يستهدف بيانات اعتماد تسجيل الدخول، بل استهدف التقدير والحكم البشري في مكالمة حية. إن المصادقة متعددة العوامل تحمي حساباتك، لكنها لا تحمي عينيك.

روبوتات الدردشة العامة بالذكاء الاصطناعي المبنية على واجهات برمجة التطبيقات العامة. هذه الأدوات القائمة على "أغلفة النماذج اللغوية الكبيرة" (LLM wrappers) — وهي طبقات برمجية رقيقة ترسل بياناتك إلى سحابة طرف ثالث لمعالجتها — هي احتمالية بحتة. فهي تتنبأ بالكلمة التالية الأكثر احتمالاً بدلاً من التحقق من الحقائق مقابل سجلاتك الفعلية. ولا يمكنها كشف التزييف العميق، كما أنها تفرض مخاطر جديدة بإرسال بياناتك المالية الحساسة خارج شبكتك.

التدريب التقليدي على التصيد الاحتيالي. تُعِدّ معظم البرامج التدريبية الموظفين للتعامل مع رسائل البريد الإلكتروني المشبوهة، وليس لمكالمات فيديو حية تضم نسخاً مقنعة لرئيسهم في العمل وخمسة من زملائهم. كان موظف Arup متشككاً في البداية في رسالة البريد الإلكتروني الاحتيالية، وصُممت مكالمة الفيديو خصيصاً للتغلب على ذلك الشك.

إليك ما ينجح فعلياً — دفاع متعدد الطبقات يتحقق من الهوية من خلال إشارات لا يستطيع الذكاء الاصطناعي تزييفها حتى الآن:

1. التحقق من المدخلات — القياسات الحيوية السلوكية كحارس صامت. قبل أي معاملة ذات قيمة عالية، يجب أن يحلل نظامك باستمرار كيفية تفاعل الشخص مع أجهزته التكنولوجية. تُنشئ سرعة الضغط على المفاتيح، وأنماط حركة الفأرة، وضغط شاشة اللمس ملفاً سلوكياً فريداً لكل مسؤول تنفيذي. وتكاد هذه الأنماط العصبية البيولوجية تكون مستحيلة التزوير. فإذا كان "المدير المالي" في مكالمتك يطلب تحويلاً بقيمة 25 مليون دولار بينما ينحرف سلوك كتابته عن ملفه التاريخي، فيجب على نظامك وضع علامة تحذير على هذا التفاعل تلقائياً.

2. المعالجة — التأكيد خارج النطاق عبر قناة منفصلة. لم يعد بإمكان مكالمات الفيديو أن تكون القول الفصل في إثبات الهوية للمعاملات المالية. يجب أن تتطلب كل تعليمات ذات قيمة عالية تحققاً مستقلاً من خلال رقم هاتف تم التحقق منه مسبقاً، أو منصة مراسلة مشفرة مثل Signal، أو رمز تحقق متفق عليه مسبقاً جرت مشاركته عبر قناة غير رقمية. واشترط وجود موافق ثانٍ لم يكن حاضراً في مكالمة الفيديو الأصلية.

3. المخرجات — المصدر المشفر والتحقق الفسيولوجي. يُدرج معيار C2PA بيانات وصفية مشفرة في لحظة التقاط الفيديو، مما ينشئ تسلسل عهدة واضح الدلالة على التلاعب لكل إطار. وإذا كان بث الفيديو في مكالمة Teams أو Zoom يفتقر إلى بيانات الاعتماد هذه، فعامله بنفس الريبة التي تعامل بها عقداً غير موقّع. اربط ذلك بتحليل الإشارات الفسيولوجية — وهي تقنية تراقب التغيرات في لون الوجه الناتجة عن نبضات القلب والتي تكون غير مرئية للعين البشرية. وتفتقر مقاطع الفيديو الاصطناعية إلى هذه الإشارات البيولوجية.

الميزة الحاسمة لفرق الامتثال والتدقيق لديك: تُنشئ هذه البنية متعددة الطبقات مساراً قابلاً للتحقق في كل خطوة. ويمكن لـ ممارسة التقييم الأمني والتحصين أن تربط هذه الضوابط مباشرة بالعملية المكوّنة من أربع خطوات في إطار عمل إدارة مخاطر الذكاء الاصطناعي التابع لـ NIST — الحوكمة، ورسم الخرائط، والقياس، والإدارة — ومتطلبات شهادة ISO/IEC 30107-3 لكشف الهجمات البيومترية.

بالنسبة للمؤسسات العاملة في الخدمات المالية، ترتبط هذه البنية أيضاً ارتباطاً مباشراً بالتزامات المخاطر التنظيمية والجاهزية للتقاضي الحالية لديك. كل حدث تحقق يجري تسجيله. كل تجاوز يجري توثيقه. وعندما يسأل المدققون أو الجهات التنظيمية عن كيفية حمايتك ضد الاحتيال بالوسائط الاصطناعية، يمكنك أن تعرض عليهم مسار المنطق بدلاً من الإشارة إلى عرض تقديمي تدريبي.

يمكنك قراءة التحليل التقني الكامل للاطلاع على المواصفات المعمارية الكاملة، أو استكشاف النسخة التفاعلية للحصول على شرح مرئي تفاعلي لإطار عمل الدفاع.