تزييف عميق لمدير مالي سرق 25 مليون دولار في مكالمة Zoom. وإليك لماذا قد تكون شركتك التالية.

كنت في مكالمة مع عميل محتمل — مدير مالي في شركة تصنيع متوسطة الحجم — عندما قال شيئاً جمّدني في مكاني.

"نحن نتحقق من الهوية بالفعل في مكالمات الفيديو. يمكننا رؤية وجوه بعضنا البعض."

سألته إن كان قد سمع بما حدث لشركة Arup. لم يكن قد سمع. فأخبرته: في فبراير 2024، انضم موظف في القسم المالي لدى Arup — الشركة الهندسية العالمية التي تقف خلف دار أوبرا سيدني — إلى مؤتمر فيديو مع مديره المالي وعدد من كبار التنفيذيين. ناقشوا صفقة سرية. وأصدر المدير المالي تعليماته إليه بتحويل الأموال. فأجرى 15 تحويلاً بإجمالي 25.6 مليون دولار موزعة على خمسة حسابات مصرفية. كل وجه في تلك المكالمة كان مزيفاً. كل صوت كان اصطناعياً. المدير المالي كان تزييفاً عميقاً من صنع الذكاء الاصطناعي. وكذلك بقية التنفيذيين. كان الموظف هو الإنسان الحقيقي الوحيد في الغرفة.

ساد الصمت على الخط نحو عشر ثوانٍ. ثم قال: "هذا لا يمكن أن يكون حقيقياً."

بل هو حقيقي. وهو السبب الذي جعلني أمضي الفترة الأخيرة في إعادة التفكير في كل ما نبنيه في Veriprajna — لأن اختراق Arup لم يكشف فجوة في الأمن السيبراني فحسب. لقد كشف عن مشكلة في بنية الثقة لم تبدأ معظم الشركات حتى في مواجهتها بعد.

الليلة التي أدركت فيها أن "الرؤية تعني التصديق" قد ماتت

قرأت التحليل الجنائي لاختراق Arup لأول مرة في وقت متأخر من إحدى الأمسيات، جالساً في مكتبي المنزلي مع كوب شاي بَرَد قبل أن أُنهي الصفحة الثانية. ما صدمني لم يكن المبلغ — رغم أن 25.6 مليون دولار رقم مذهل. بل أناقة الهجوم. لم تكن هناك برمجيات خبيثة. ولا سرقة بيانات اعتماد. ولا وصول غير مصرّح به إلى قاعدة بيانات. لم تُخترق البنية الرقمية لـ Arup على الإطلاق.

لم يخترق المهاجمون النظام. لقد اخترقوا الإنسان.

عندما يمكن تزوير وجه المدير المالي وصوته بإتقان تام، تنكسر إشارات الثقة التقليدية. لا تضعف — بل تنكسر.

أمضوا شهوراً في جمع مقاطع فيديو متاحة للعموم لتنفيذيي Arup من YouTube ومحاضرات المؤتمرات والتسجيلات المؤسسية. ودرّبوا شبكات خصومة توليدية — شبكتان عصبيتان تتنافسان إحداهما ضد الأخرى، واحدة تولّد محتوى مزيفاً والأخرى تحاول كشفه، وتتكرر العملية ملايين المرات حتى تصبح المزيّفات غير قابلة للتمييز عن الواقع — لإنشاء ما يسميه خبراء الأدلة الجنائية "توائم اصطناعية عالية الدقة". ليست الوجوه فقط. بل أنماط الكلام. ونبرات الصوت. وطريقة توقف الشخص لحظةً قبل الإجابة عن سؤال.

ثم أرسلوا رسالة تصيّد موجّهة من "المدير المالي" يطلب فيها المساعدة في صفقة سرية. كان الموظف متشككاً. حدس سليم. لكن كان لدى المهاجمين خطوة ثانية: دعوه إلى مكالمة فيديو مباشرة أكدت فيها عدة وجوه مألوفة الطلب في الوقت الفعلي.

تبدد تشككه. وبالطبع تبدد. فأي شخص عاقل يشك في شهادة عينيه حين ينظر إليه أربعة من زملائه عبر الشاشة؟

كيف تُزيّف غرفة اجتماعات كاملة تزييفاً عميقاً؟

هذا هو السؤال الذي ظل فريقي يعود إليه. كنا قد رأينا تزييفاً عميقاً لشخص واحد من قبل — صوت مستنسخ هنا، فيديو مُبدَّل الوجه هناك. لكن مؤتمر فيديو مباشر متعدد المشاركين؟ بدا ذلك قفزة.

اتضح أن الحواجز التقنية انهارت أسرع مما تدرك معظم فرق الأمن.

استخدم المهاجمون تقنية تُسمى حقن الفيديو بدلاً من "هجوم العرض" الأبسط (حيث يمسك أحدهم شاشة أمام الكاميرا). تُغذّي هجمات الحقن الفيديو الاصطناعي مباشرة في تدفق بيانات برنامج المؤتمرات باستخدام برمجيات كاميرا افتراضية. Zoom وTeams — يتعامل التطبيق مع البث المولَّد بالذكاء الاصطناعي كأنه قادم من كاميرا ويب مادية. لا يوجد إطار شاشة يمكن كشفه، ولا شذوذ في العمق يمكن الإبلاغ عنه. تُظهر الأبحاث أن هجمات الحقن التي تستهدف مزوّدي التحقق من الهوية ارتفعت بنسبة 255% في 2023، بينما ارتفعت هجمات تبديل الوجوه بنسبة 704%.

أذكر أنني كنت جالساً في اجتماع للفريق حين عرض أحد مهندسينا تبديلاً للوجه في الوقت الفعلي باستخدام أدوات مفتوحة المصدر. استغرق إعداده نحو أربعين دقيقة. لم تكن النتيجة مثالية — كان هناك ارتجاف طفيف حول خط الفك — لكن على بث Zoom مضغوط؟ لن تلاحظه. وكان ذلك ببرمجيات مجانية ومن دون بيانات تدريب. أما مهاجمو Arup فقد كانت لديهم شهور من التحضير، وعلى الأرجح موارد وفيرة.

نظر إليّ مدير التقنية عبر الطاولة وقال: "علينا أن نتوقف عن التفكير في هذا باعتباره مشكلة أمن سيبراني. هذه مشكلة نظرية معرفة. كيف يعرف أي شخص ما هو حقيقي؟"

كان محقاً. وقد أعاد ذلك الإدراك تشكيل طريقة تفكيري في كل ما نبنيه.

لماذا تزيد "استراتيجية الذكاء الاصطناعي" لديك الأمر سوءاً؟

إليك الجزء الذي يغفله معظم ما كُتب عن اختراق Arup تماماً: إن الطريقة التي تبنّت بها معظم الشركات الذكاء الاصطناعي تزيد في الواقع من قابليتها للتعرض لهذا النوع من الهجمات.

أتحدث عن "غلاف النموذج اللغوي الكبير" — البنية المعمارية السائدة للذكاء الاصطناعي في المؤسسات حالياً. تأخذ واجهة برمجة تطبيقات عامة من OpenAI أو Anthropic، وتلف حولها طبقة برمجية رقيقة، وتربطها ببعض عمليات الأعمال، ثم تسميها استراتيجيتك للذكاء الاصطناعي. سريعة النشر. رخيصة. وغير كافية جوهرياً لأي شيء ذي أهمية.

ثلاثة أسباب.

أولاً، خروج البيانات. في النشر القائم على الأغلفة، تغادر أكثر بياناتك حساسية — الجداول المالية، والمذكرات الداخلية، ومراسلات التنفيذيين — محيط شركتك لتُعالَج في سحابة تابعة لطرف ثالث. وحتى إن وعد المزوّد بعدم التدريب عليها، فإن البيانات توجد في بيئة خارجية خاضعة لقانون CLOUD الأمريكي، ولعلاقات معالجة فرعية غامضة، ولاحتمال التسريب عبر النموذج. أنت ترسل بالضبط نوع المعلومات التي يحتاجها المهاجم لبناء تزييف عميق مقنع لتنفيذييك خارج أسوارك.

ثانياً، فجوة الموثوقية. النماذج اللغوية الكبيرة احتمالية. فهي تتنبأ بالكلمة التالية الأرجح استناداً إلى أنماط إحصائية، لا إلى فهم راسخ لواقع شركتك. فحين يُبلّغ وكيل ذكاء اصطناعي عن سعر، أو يوافق على خصم، أو يفسّر سياسة، فإنه يولّد إجابة معقولة — لا يسترجع حقيقة موثقة. وفي البيئات عالية المخاطر، تعيش عمليات الاحتيال في تلك الفجوة بين "المعقول" و"الصحيح".

ثالثاً — وهذا ما يقض مضجعي — مشكلة "المستشار غير المتجسد". بالنسبة لشركات هندسية مثل Arup، يولّد غلاف النموذج اللغوي النصي نصائح من دون أي حلقات تغذية راجعة متكاملة للتحقق من السلامة الفيزيائية أو البيولوجية. ففي الهندسة الإنشائية أو الكيمياء، قد يؤدي تغيير طفيف في حساب ما إلى نتيجة مختلفة على نحو كارثي. والغلاف الذي يعمل على أساس المسافة الدلالية بدلاً من قوانين الفيزياء لا يستطيع تحديد هذه الانحرافات الحرجة. إنه لا يعرف ما لا يعرفه.

لقد كتبت عن هذه الثغرة المعمارية بتعمق في النسخة التفاعلية من بحثنا — والحجة الجوهرية هي أن الأغلفة تخلق وهم الذكاء بينما تترك المؤسسة مكشوفة بنيوياً.

ما الذي كان سيوقف هجوم Arup فعلاً؟

هذا هو السؤال الذي ظللت أطرحه على نفسي. ليس "ما الذي كان ينبغي لـ Arup فعله بشكل مختلف" — فذلك تحليل بأثر رجعي بعد وقوع الحدث. بل: أي بنية معمارية من شأنها أن تجعل هذا النوع من الهجمات يفشل؟

الجواب ليس تقنية واحدة. بل حزمة كاملة. وهي تبدأ بالتخلي عن فكرة أن التأكيد البصري يعادل التحقق من الهوية.

نبض القلب الذي لا يمكنك تزييفه

من أكثر مقاربات الكشف إثارة للاهتمام التي صادفتها واحدة تحلل ما يُسمى بالتغيرات "المستحثة بنبض القلب" في لون الوجه. تراقب تقنيات مثل FakeCatcher من Intel التغيرات الدقيقة في لون البشرة — غير المرئية للعين المجردة — والتي تتوافق مع النشاط القلبي الوعائي. فوجه الإنسان الحي يتغير لونه بشكل طفيف مع كل نبضة قلب. أما التزييف العميق فلا. وإن فعل، فالتوقيت يكون خاطئاً.

حين سمعت بهذا لأول مرة، ظننته ضرباً من الخيال العلمي. ثم شاهدت عرضاً حياً حدّد فيه النظام بشكل صحيح تزييفاً عميقاً عالي الجودة خدع كل شخص في الغرفة. كان للوجه الاصطناعي ملمس بشرة مثالي، ومزامنة شفاه مثالية، وحركة عين مثالية. لكن بلا نبض.

يستطيع التزييف العميق أن ينسخ وجهك وصوتك وسلوكياتك. لكنه لا يستطيع أن ينسخ نبض قلبك.

طريقتك في الكتابة هي توقيعك

القياسات الحيوية السلوكية هي الطبقة التي تثير حماسي أكثر من غيرها، لأن تزويرها شبه مستحيل. فديناميكيات ضغطات المفاتيح لديك — سرعة كتابتك وإيقاعها وضغطها — تخلق نمطاً مميزاً خاصاً بك وحدك. وكذلك حركات الفأرة، وسرعة السحب على الهاتف، وحتى طريقة تنقلك بين التطبيقات.

تخيّل بناء خط أساس سلوكي لكل تنفيذي كبير. أثناء مكالمة فيديو، يراقب النظام باستمرار ما إذا كان "المدير المالي" الذي يكتب في الدردشة يتصرف مثل المدير المالي الحقيقي. فإذا انحرف إيقاع الكتابة عن الملف التاريخي أثناء تقديم طلب مالي غير معتاد، يرفع النظام إشارة تحذير تلقائياً. من دون حاجة إلى حكم بشري.

هذا هو شكل المصادقة المستمرة — لا كلمة مرور لمرة واحدة عند تسجيل الدخول، بل تحقق مستمر وغير مرئي من أن الشخص الذي تتحدث إليه هو من يدّعي أنه هو.

إثبات تشفيري بأن الفيديو حقيقي

بدلاً من الاكتفاء بمحاولة كشف المزيّفات، علينا أن نبدأ في التحقق من الأصالة عند المصدر. يُضمّن معيار C2PA — تحالف إثبات منشأ المحتوى وأصالته — بيانات وصفية تشفيرية في لحظة التقاط الفيديو: الجهاز، والوقت، والموقع، وسلسلة حيازة تكشف أي عبث. وإذا افتقر بث فيديو في مكالمة Teams أو Zoom إلى هذه الاعتمادات، فينبغي التعامل معه بالقدر نفسه من الريبة التي تُعامل بها حزمة برمجية غير موقّعة.

هذا تحوّل في العقلية. لقد أمضينا سنوات نسأل "هل هذا مزيف؟" والسؤال الأفضل هو: "هل يستطيع هذا أن يثبت أنه حقيقي؟"

البنية المعمارية التي نبنيها فعلاً

في Veriprajna، نُطلق على نهجنا اسم Deep AI — ليس لأنه مصطلح تسويقي، بل لأنه يصف علاقة مختلفة جوهرياً بين المؤسسة والبنية التحتية للذكاء الاصطناعي لديها. فبدلاً من "الذكاء الاصطناعي كخدمة" عبر واجهات برمجة تطبيقات عامة، نبني "الذكاء الاصطناعي كبنية تحتية" داخل البيئة الآمنة الخاصة بالمؤسسة.

ثلاث ركائز.

الأولى هي ملكية البنية التحتية. ننشر حزم استدلال كاملة — نماذج لغوية كبيرة خاصة بالمؤسسة — مباشرة داخل السحابة الافتراضية الخاصة للعميل أو عناقيد Kubernetes المحلية. فالبيانات الحساسة لا تغادر المحيط أبداً. وهذا ليس مجرد إجراء أمني؛ بل يخلق أصول نماذج مصممة خصيصاً تعود ملكيتها إلى العميل. ذكاؤهم يبقى سيادياً.

الثانية هي ما نسميه Private RAG 2.0 — التوليد المعزّز بالاسترجاع المدمج أصلاً مع الأمن الداخلي. فإذا لم يكن لدى موظف صلاحية الاطلاع على مستند في SharePoint، فلن يسترجعه الذكاء الاصطناعي للإجابة عن سؤاله. يبدو هذا بديهياً، لكن معظم تطبيقات التوليد المعزّز بالاسترجاع تعامل قاعدة المعرفة كبِركة مسطحة. أما نظامنا فيحترم ضوابط الوصول نفسها التي تحكم بقية المؤسسة.

الثالثة — وهي التي أفخر بها أكثر — هي الشطيرة العصبية-الرمزية. نحن نُغلّف الشبكة العصبية (النموذج اللغوي الكبير، بقدراته اللغوية الإبداعية) بين طبقتين من المنطق الرمزي الحتمي. الطبقة السفلى تنقّي المدخلات لمنع حقن الأوامر قبل وصولها إلى النموذج. والطبقة العليا تعترض مخرجات النموذج وتنفّذها عبر دوال صارمة محددة مسبقاً — استعلام قاعدة بيانات SQL، أو التحقق من نظام ERP، أو استرجاع سعر موثّق. فحين يُبلّغ الذكاء الاصطناعي عن رقم، فإنه يستخرج حقيقة، لا يتنبأ بها.

تضمن الشطيرة العصبية-الرمزية أنه عندما يُبلّغ الذكاء الاصطناعي عن سعر أو حالة تفويض، فإنه يسترجع قيمة حتمية من قاعدة بيانات — لا يتنبأ بها بناءً على احتمالية الرموز.

قال لي بعض الناس إن هذا هندسة مفرطة. "استخدم GPT مع أوامر جيدة فحسب"، قال لي أحد المستثمرين ذات مرة، بثقة شخص لم يتحمل يوماً مسؤولية تحويل مصرفي. أفكّر في موظف Arup — محترف كفؤ فعل كل ما بدا معقولاً — وأعرف أن الأوامر "الجيدة بما يكفي" ليست جيدة بما يكفي حين تُقاس المخاطر بالملايين.

للاطلاع على التفصيل التقني الكامل لهذه البنية، بما في ذلك أنماط التصميم العصبية-الرمزية والاسترجاع الواعي بضوابط الوصول المستند إلى الأدوار، راجع ورقتنا البحثية المفصّلة.

ماذا يحدث حين يصبح مدير المعلومات مسؤولاً شخصياً؟

هناك بُعد قانوني لاختراق Arup لا يتابعه معظم التقنيين، وينبغي أن يرعب كل مدير معلومات ومدير تقنية يقرأ هذا.

تتبع المحاكم بشكل متزايد "قاعدة المنتحل" في احتيال التحويلات المصرفية: ينبغي أن يتحمل الخسائر الطرف الذي كان في أفضل موقع لمنع الاحتيال. وفي قضية Arup، ورغم أن الموظف قد خُدع، فإن إخفاق الشركة في تطبيق تحقق متعدد القنوات للمعاملات عالية القيمة قد يُنظر إليه باعتباره نقطة الفشل الأساسية.

مديرو المعلومات ومديرو التقنية هم مسؤولون في الشركة تقع عليهم واجبات ائتمانية. ومع تحوّل الاحتيال المدعوم بالتزييف العميق إلى خطر معروف وموثّق — وبعد Arup، بات معروفاً بشكل قاطع — فإن الإخفاق في تطبيق ضوابط واعية بالتزييف العميق قد يؤدي إلى مسؤولية شخصية إذا رفع المساهمون دعوى على الشركة بتهمة الإهمال. وهذا ليس افتراضياً. فقانون خصوصية المستهلك في كاليفورنيا، وقانون الذكاء الاصطناعي الأوروبي، وأطر مثل إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST، تتقارب جميعها نحو توقّع أن تمتلك المؤسسات دفاعات محددة وموثّقة ضد هجمات الوسائط الاصطناعية.

بدأت أطرح على مديري المعلومات سؤالاً بسيطاً في كل اجتماع: "لو زيّف مهاجم رئيسك التنفيذي تزييفاً عميقاً في مكالمة فيديو غداً وحوّل أحدهم 10 ملايين دولار، أيمكنك أن تثبت أمام محكمة أنك وضعت ضمانات معقولة؟"

الصمت الذي يعقب ذلك يخبرني بكل شيء.

ألا يمكننا ببساطة تدريب الناس على اكتشاف التزييف العميق؟

يسألني الناس هذا باستمرار، وأنا أتفهم الدافع. إنه الحل الأرخص. علّم الجميع فحسب ما ينبغي البحث عنه — ارتجاف خط الفك، والأذن الغريبة، والإضاءة المائلة قليلاً.

المشكلة هي: الكشف بالعين البشرية سباق تسلح خسرته سلفاً. فالآثار التي كان يمكن كشفها في تزييفات 2023 العميقة غائبة إلى حد كبير في تزييفات 2025. تتحسن التقنية أسرع مما يتكيف الإدراك البشري. وفي مكالمة فيديو مضغوطة بإضاءة متواضعة ونطاق ترددي متقطع — وهو وصف معظم مكالمات Zoom المؤسسية — تكون حتى تزييفات الجيل الحالي غير مرئية عملياً.

التدريب يساعد، لكن ليس بالطريقة التي يظنها معظم الناس. الهدف ليس تحويل الموظفين إلى كاشفي تزييف عميق. بل بناء ما أسميه ثقافة الشك المُمكَّن — أي مكافأة من يعترضون على الطلبات المشبوهة، حتى حين تبدو صادرة عن الرئيس التنفيذي. كان الحدس الأول لموظف Arup هو التشكك في رسالة التصيّد. وكان ذلك الحدس صحيحاً. لكن ألغاه الدليل الاجتماعي لمكالمة فيديو بوجوه مألوفة.

الحل إجرائي، لا إدراكي. فالمعاملات عالية القيمة تتطلب تحققاً خارج القناة: اتصال مباشر برقم هاتف مُتحقق منه مسبقاً، أو رمز مصادقة متفق عليه مسبقاً يُتبادل عبر قناة منفصلة، أو تفويض مزدوج من شخص لم يكن على المكالمة الأصلية. لم يعد مؤتمر الفيديو قادراً على أن يكون المعيار الذهبي للمصادقة على الهوية في المعاملات المالية. انتهى النقاش.

مخطط الـ 25 مليون دولار

ما زلت أعود إلى شيء يزعجني في الطريقة التي تُروى بها قصة Arup عادةً. فهي تُصاغ كحكاية تحذيرية — "انظروا كم أصبح الأشرار متطورين". وهذا صحيح، لكنه ناقص.

الدرس الأعمق معماري. فأنظمة Arup الرقمية كانت سليمة. وجدرانها النارية صمدت. وتشفيرها عمل. نجح الهجوم لأن بنية الثقة لدى المؤسسة — أي مجموعة الافتراضات حول كيفية التحقق من الهوية وتفويض القرارات — لم تتطور لتأخذ في الحسبان عالماً تكون فيه الوسائط الاصطناعية رخيصة ومقنعة وفورية.

معظم المؤسسات التي أتحدث إليها في الموقف نفسه. فقد استثمرت بكثافة في دفاع المحيط بينما تركت الطبقة البشرية — الطبقة التي تفوّض فعلاً التحويلات المصرفية، وتوافق على العقود، وتعتمد المواصفات الهندسية — محمية بلا شيء سوى افتراض أن الوجوه والأصوات يصعب تزييفها.

ذلك الافتراض مات في قاعة اجتماعات في هونغ كونغ في فبراير 2024. والسؤال هو ما إذا كانت مؤسستك ستحدّث بنية الثقة لديها قبل أن تدفع رسوم تعليمها الخاصة البالغة 25 مليون دولار أم بعدها.

لم يكن اختراق Arup إخفاقاً في الأمن السيبراني. بل كان إخفاقاً في بنية الثقة — ومعظم المؤسسات لم تحدّث بنيتها منذ الحقبة التي كان يستحيل فيها تزييف الوجوه.

أنا لا أتحفظ في هذا. فالمؤسسات التي تتحرك الآن — بنشر بنية تحتية سيادية للذكاء الاصطناعي، وتطبيق القياسات الحيوية السلوكية، والمطالبة بإثبات منشأ تشفيري لبثوث الفيديو، وبناء قواطع دوائر إجرائية في كل قرار عالي القيمة — هي التي ستحدد الحقبة القادمة لأمن المؤسسات. أما التي تنتظر فستصبح دراسات حالة.

تكلفة تزييف عميق قادر على خداع فريقك المالي تتجه نحو الصفر. أما تكلفة أن تُخدَع فلا.