غرامة الـ400,000 دولار التي ينبغي أن تُرعب كل شركة ذكاء اصطناعي — وما الذي أبنيه بدلًا من ذلك

كنت في مكالمة مع عميل مصرفي محتمل حين أصدرت هيئة الأوراق المالية والبورصات (SEC) إجراءَي الإنفاذ ضد Delphia و Global Predictions. 18 مارس 2024. قاطعت مسؤولة الامتثال لدى العميل حديثنا حرفيًا لتقرأ البيان الصحفي بصوت عالٍ. وحين انتهت، ساد صمت طويل. ثم قالت: "إذن، ببساطة، أخبرتنا هيئة الأوراق المالية والبورصات للتو بأن كل ما وعدنا به مورّد الذكاء الاصطناعي الحالي لدينا هو دعوى قضائية تنتظر أن تُرفع."

لم تكن مخطئة. فقد فرضت هيئة الأوراق المالية والبورصات لتوّها على شركتَي استشارات استثمارية غرامات بلغ مجموعها 400,000 دولار بسبب ما وصفته الجهات التنظيمية رسميًا بأنه: الغسل بالذكاء الاصطناعي — أي تقديم ادعاءات كاذبة ومضلِّلة بشأن استخدامها للذكاء الاصطناعي. فإحدى الشركتين، Delphia، ظلت تخبر عملاءها منذ عام 2019 بأنها تستخدم التعلّم الآلي لتحليل أنماط إنفاقهم ونشاطهم على وسائل التواصل الاجتماعي بهدف "التنبؤ بالشركات والاتجاهات التي توشك أن تحقق نجاحًا كبيرًا". أما الحقيقة؟ لم تدمج قط أيًّا من تلك البيانات في عملية الاستثمار لديها. ولا مرة واحدة. كانت تسوّق قدرة غير موجودة حرفيًا.

تلك المكالمة الهاتفية غيّرت مسار شركتي. ليس لأن إجراءات الإنفاذ فاجأتني — فقد كنت أراقب هذا التصادم بين الضجيج المحيط بالذكاء الاصطناعي وواقع التنظيم منذ أشهر. ما تغيّر كان الإلحاح. فجأة، لم يعد أي بنك أو نظام رعاية صحية أو مكتب محاماة أتحدث إليه يسأل "كيف نتبنّى الذكاء الاصطناعي؟" بل صاروا يسألون "كيف نثبت أن ذكاءنا الاصطناعي يفعل فعلًا ما نقول إنه يفعله؟"

ذلك السؤال — كيف تهندس ما هو قابل للإثبات من الحقيقة داخل نظام ذكاء اصطناعي — هو ما أمضيت الوقت منذ ذلك الحين في محاولة الإجابة عنه بهوس.

ما هو الغسل بالذكاء الاصطناعي بالضبط، ولماذا ينبغي أن يعنيك؟

تخيّل الغسل الأخضر، لكن على الخوارزميات. تلصق شركة عبارة "مدعوم بالذكاء الاصطناعي" على موادها التسويقية، وتراقب سعر السهم وهو يرتفع أو خط العملاء المحتملين وهو يمتلئ، ولا يسأل أحد ما إذا كانت التقنية الكامنة تحتها تعمل فعلًا كما هو معلن. وقد استعارت هيئة الأوراق المالية والبورصات المصطلح عن قصد — فآليات الخداع متطابقة.

ادّعت Delphia أنها تستخدم "نموذجًا خوارزميًا تنبؤيًا" مدعومًا بالتعلّم الآلي. فحصتها الهيئة، وأمرتها بالتوقف عن الكذب في عام 2021، لكنها واصلت فعل ذلك لعامين إضافيين. وقد كلّفها ذلك غرامة قدرها 225,000 دولار مع توبيخ رسمي. أما Global Predictions فقد وصفت نفسها بأنها "أول مستشار مالي منظَّم يعمل بالذكاء الاصطناعي" ووعدت بـ"توقعات خبيرة مدفوعة بالذكاء الاصطناعي". وحين طلبت الجهات التنظيمية الوثائق التقنية التي تدعم تلك الادعاءات، عجزت الشركة عن تقديمها. و175,000 دولار أخرى تبخّرت.

لم تحتج هيئة الأوراق المالية والبورصات إلى تشريع جديد خاص بالذكاء الاصطناعي لملاحقة هاتين القضيتين. فقد استخدمت قوانين مكافحة الاحتيال نفسها الموجودة منذ عقود. إن كذبت بشأن ما تفعله تقنيتك، فأنت ترتكب احتيالًا. أما جزء "الذكاء الاصطناعي" فلا صلة له بالأمر.

وإليك ما يجعل هذا مختلفًا عن ضربة تنظيمية اعتيادية على الأصابع: أوضح رئيس هيئة الأوراق المالية والبورصات، غاري غينسلر، أن هذه هي البداية، وليست حادثة منفردة. والهيئة ليست وحدها. فقد أطلقت لجنة التجارة الفيدرالية (FTC) "عملية الامتثال للذكاء الاصطناعي" (Operation AI Comply) ولاحقت شركة DoNotPay — التي سوّقت نفسها بوصفها "أول محامٍ آلي في العالم" — لأنها عجزت عن إثبات ادعاءاتها بأن ذكاءها الاصطناعي قادر على أن يحل محل محامٍ بشري. وأعلنت وزارة العدل أنها ستقيّم إدارة مخاطر الذكاء الاصطناعي كجزء من تقييمات الامتثال المؤسسي، وأنها ستسعى إلى عقوبات أشد على الجرائم التي تسهّلها إساءة استخدام الذكاء الاصطناعي.

ثلاث وكالات فيدرالية، تتقارب جميعها على الرسالة نفسها: أثبت ذلك أو ادفع ثمنه.

الليلة التي أدركت فيها أن معظم الذكاء الاصطناعي المؤسسي مبني على الرمال

أتذكر مساءً بعينه — كنت وفريقي نختبر أداء "أداة بحث قانوني مدعومة بالذكاء الاصطناعي" لأحد المنافسين كان عميل يفكر فيها. طرحنا عليها سؤالًا مباشرًا عن حكم حديث لمحكمة استئناف اتحادية. أعادت الأداة إجابة منسّقة بشكل جميل مع ثلاثة استشهادات بقضايا. نبرة واثقة. لغة احترافية. مشكلة واحدة فقط: أحد الاستشهادات كان ملفّقًا بالكامل. القضية لم تكن موجودة. أما الاثنتان الأخريان فكانتا موجودتين لكنهما قالتا عكس ما ادّعته الأداة.

نظر إليّ شريكي المؤسِّس وقال: "هذا الشيء يكتب كمحامٍ ويستدل كببغاء."

تلك هي المشكلة التقنية الجوهرية، وهي ليست خللًا — بل هي المعمارية نفسها. فمعظم النماذج اللغوية الكبيرة تعمل عبر التنبؤ بالرمز التالي. تحسب احتمال الكلمة التي ينبغي أن تأتي تاليًا بناءً على كل ما سبقها. الرياضيات أنيقة: دالة softmax على درجات مخرجات النموذج، تختار الاستكمال الأرجح. لكن "الأرجح" و"الصحيح" شيئان مختلفان جوهريًا. النموذج لا يملك أي مفهوم داخلي للحقيقة. لم يقرأ قط نصًا تشريعيًا ثم فَهِمَ ذلك. لقد عالج مليارات الرموز وتعلّم أي الكلمات تميل إلى الظهور قرب كلمات أخرى.

ولتوليد نصوص تسويقية أو تلخيص محاضر اجتماعات، هذا جيد. أما لإخبار بنك بما إذا كانت معاملة ما تمتثل للوائح مكافحة غسل الأموال، أو لإخبار طبيب بما إذا كان تفاعل دوائي خطيرًا، فإن "المعقول إحصائيًا" مطابق قانونيًا لـ"الخاطئ".

في البيئات المنظَّمة، "صحيح في معظمه" ليس درجة جودة — بل فئة مسؤولية قانونية.

ومع ذلك فإن الغالبية العظمى من "حلول الذكاء الاصطناعي" التي تُباع للمؤسسات الآن هي ما يسميه القطاع تلطّفًا "أغلفة" (wrappers). يأخذون واجهة برمجة تطبيقات عامة من OpenAI أو Anthropic، ويضيفون بعض هندسة التوجيهات وواجهة مستخدم أنيقة، ثم يشحنون المنتج. الغلاف لا يملك أي وسيلة للتحقق من استدلاله. لا يستطيع إثبات مصدر إجاباته. إنه ببساطة ينقل ما يولّده النموذج الأساسي، بهلوساته وكل شيء.

لقد كتبت عن هذه المشكلة بالتفصيل في النسخة التفاعلية من بحثنا — والفجوة بين ما تدّعيه هذه الأنظمة وما، من الناحية المعمارية، تستطيع فعله مذهلة.

لماذا يفشل RAG في القرارات عالية المخاطر؟

حين أشرح هذه المشكلة لجمهور تقني، يقول أحدهم حتمًا: "لكن ماذا عن RAG؟" التوليد المعزَّز بالاسترجاع (Retrieval-Augmented Generation) — النهج الذي تمنح فيه النموذج وصولًا إلى قاعدة بيانات من المستندات ليبحث عن المعلومات بدلًا من اختلاقها. إنه الضمادة المفضلة لدى القطاع.

وهنا تكمن المشكلة. يعمل Vector RAG القياسي بتحويل سؤالك ومستنداتك إلى تمثيلات رياضية (متجهات)، ثم إيجاد المستندات "الأقرب" إلى سؤالك في ذلك الفضاء المجرد. إنه بحث بالتشابه الدلالي. ولكثير من التطبيقات، يعمل بشكل معقول.

لكن "المعقول" ينهار في المجالات التي تكون فيها العلاقات بين أجزاء المعلومات مهمة بقدر أهمية المعلومات نفسها. خذ البحث القانوني مثالًا. فقضية المحكمة لا توجد فحسب — بل تستشهد بقضايا أخرى، وتنقض بعضها، وتؤيد أخرى، وتعمل داخل تسلسل هرمي قضائي محدد. وحين تسأل ذكاءً اصطناعيًا قانونيًا: "هل ما زالت هذه السابقة قانونًا ساريًا؟"، قد يُظهر البحث المتجهي القضية لأن الكلمات متطابقة. لكنه لا يملك وسيلة ليخبرك بأن محكمة أعلى نقضت تلك القضية بعد ستة أشهر. إنه لا يستطيع التمييز بين الاستشهاد والنقض.

تجادل فريقي حول هذا لأسابيع. أراد أحد المهندسين مواصلة تحسين استرجاعنا المتجهي — تضمينات أفضل، واستراتيجيات تقطيع أفضل، وإعادة ترتيب أكثر تطورًا. وظلت مهندسة أخرى تصرّ على أن المشكلة ليست في جودة الاسترجاع، بل كانت مشكلة معمارية في الاسترجاع. وأن النموذج الفكري بأكمله القائم على "إيجاد أقرب مستند" كان خاطئًا في المجالات التي تحمل فيها العلاقات بين المستندات المعنى.

كانت محقة. وذلك الجدال هو ما دفعنا نحو GraphRAG.

ماذا يحدث حين تبني ذكاءً اصطناعيًا قادرًا على إثبات استدلاله؟

GraphRAG — وتحديدًا ما نسميه Citation-Enforced GraphRAG — يستبدل بالبحث الدلالي الضبابي رسمًا بيانيًا معرفيًا مُهيكلًا. فبدلًا من متجهات تسبح في فضاء مجرد، تبني خريطة صريحة لكيفية ارتباط المعلومات ببعضها. في رسم بياني معرفي قانوني، يكون الرأي القضائي عقدة. وعلاقته بالآراء الأخرى حافة — يستشهد، ينقض، يؤيد، يفسّر. وترتبط النصوص التشريعية بالقضايا التي تفسّرها. والتسلسلات الهرمية القضائية مُرمَّزة مباشرة.

وحين يولّد الذكاء الاصطناعي استجابة، فإنه لا يكتفي بإيجاد نص "مشابه". بل يجتاز مسارات مُتحقَّقًا منها داخل الرسم البياني. فإن ادّعى أن القضية أ تدعم الطرح ب، فلا بد من وجود رابط فعلي قابل للتدقيق في الرسم البياني يصل بينهما. نحن نستخدم فك التشفير المقيَّد بالرسم البياني (graph-constrained decoding) لنمنع النموذج فيزيائيًا من إخراج استشهاد لا يستطيع التحقق منه. النموذج حرفيًا لا يستطيع هلوسة استشهاد لأن المعمارية لن تسمح له بذلك.

هذا ما أعنيه بكلمة حتمي عند الحديث عن الذكاء الاصطناعي. ليس "صحيحًا على الأرجح"، بل مؤسَّسًا على نحو قابل للإثبات.

الفرق بين Vector RAG و GraphRAG ليس تحسينًا تدريجيًا — إنه الفرق بين تخمين أي كتاب هو المناسب وبين قراءة الحواشي فعليًا.

ونحن نقرن هذا بتنسيق متعدد الوكلاء. فبدلًا من نموذج واحد يفعل كل شيء — البحث والتحقق والكتابة — نستخدم وكلاء متخصصين. وكيل البحث يسترجع المعلومات الخام. ووكيل التحقق يقابلها مع الرسم البياني المعرفي. ووكيل الكتابة ينتج المخرجات مستخدمًا الحقائق المُتحقَّق منها فقط. ويمرّ هؤلاء الوكلاء عبر ما نسميه نمط التأمل الدوري (Cyclic Reflection Pattern)، إذ يراجعون المسودات تكرارًا بحثًا عن الهلوسات قبل أن يرى أي إنسان النتيجة.

إنه أبطأ من غلاف. وتكلفة بنائه أعلى. وهو المعمارية الوحيدة التي أثق بها في قرار قد ينتهي أمام جهة تنظيمية.

مشكلة سيادة البيانات التي لا يريد أحد الحديث عنها

هناك بُعد آخر لهذا الأمر يتجاهله الحديث عن الغسل بالذكاء الاصطناعي في معظمه: أين تقيم البيانات.

سألني عميل في قطاع الرعاية الصحية ذات مرة بصراحة تامة: "إن استخدمنا نظامك، فإلى أين تذهب بيانات مرضانا؟" وحين أخبرته بأنها لا تغادر بنيته التحتية أبدًا، بدا مرتاحًا. ثم أخبرني أن المورّد السابق لديه — وهي شركة ذكاء اصطناعي معروفة — لم يستطع الإجابة عن ذلك السؤال بوضوح. كانت البيانات تذهب إلى سحابة المورّد، وتُعالَج على بنية تحتية مشتركة، وكانت شروط خدمة المورّد تسمح تقنيًا باستخدامها لتحسين نماذجه.

وبالنسبة لشركة تتعامل مع بيانات يحكمها HIPAA أو GDPR أو CCPA، فتلك ليست منطقة رمادية. تلك مخالفة.

نحن ننشر على بنية تحتية سيادية — مستضافة ذاتيًا بالكامل في مقر العميل، أو داخل سحابته الخاصة (VPC) حيث تكون نسخ الذكاء الاصطناعي معزولة عن الإنترنت العام. وهذا يتطلب استثمارًا أوليًا أكبر. فالعميل يحتاج إلى وحدات معالجة رسومية وبنية تحتية متخصصة. لكنه يحصل على شيء لا تستطيع أي واجهة برمجة تطبيقات عامة تقديمه: انعدام تام لتسرّب البيانات وقابلية تدقيق كاملة. كل استعلام، وكل استجابة، وكل إصدار من النموذج — كله داخل إطار حوكمته.

وللاطلاع على المعمارية التقنية الكاملة لكيفية بنائنا لهذا — بما في ذلك مخطط الرسم البياني المعرفي، وإطار تنسيق الوكلاء المتعددين، ونهجنا في النشر السيادي — انظر تحليلنا التقني المعمّق.

كيف تحوكم الذكاء الاصطناعي فعليًا دون أن تغرق في الامتثال؟

لقد جلست في قاعات مجالس إدارة يعامل فيها التنفيذيون حوكمة الذكاء الاصطناعي كأنها تمرين على وضع علامات في مربعات. اختر إطارًا، املأ النماذج، وامضِ قدمًا. هذا النهج سيوقع بك غرامة.

برز إطاران بوصفهما معيارَي القطاع، وهما يخدمان أغراضًا مختلفة. إطار NIST لإدارة مخاطر الذكاء الاصطناعي هو دليل تكتيكي طوعي — يساعدك على تحديد المخاطر وقياسها وبناء عمليات داخلية. سريع التنفيذ، وممتاز لبناء ما أسميه "عضلات مخاطر الذكاء الاصطناعي" داخل مؤسستك. لكنه ذاتي الإقرار. لا أحد يتحقق من أنك فعلت فعلًا ما قلت إنك فعلته.

ISO/IEC 42001 هو المعيار الدولي القابل للاعتماد. يفحص مدقّق خارجي نظام إدارة الذكاء الاصطناعي لديك، فإما أن يمنحك الشهادة أو لا. وتلك الشهادة مهمة حين تسألك جهة تنظيمية أو عميل أو مستحوذ: "أثبت أن حوكمة الذكاء الاصطناعي لديك حقيقية."

والخطوة الذكية هي التسلسل بينهما: استخدم NIST لبناء ضوابط داخلية رشيقة بسرعة، ثم اربط تلك الضوابط بمتطلبات ISO 42001 للحصول على الاعتماد الرسمي. أحدهما يمنحك السرعة، والآخر يمنحك الإثبات.

وتحت كلا الإطارين، ثمة متطلب ناشئ لم تسمع به معظم الشركات بعد: قائمة مكوّنات الذكاء الاصطناعي (AIBOM). تخيّلها كملصق القيمة الغذائية لنظام الذكاء الاصطناعي لديك. إنها سجل قابل للقراءة آليًا لكل ما دخل في بنائه — مجموعات بيانات التدريب، والنماذج الأساسية، والمكتبات الخارجية، وتبعيات البنية التحتية. وحين يسأل مدقّق: "ما البيانات التي درّبت هذا النموذج؟" أو "ما إصدار PyTorch الذي كان يعمل حين اتُّخذ هذا القرار؟"، تجيب AIBOM فورًا.

نحن نولّد قوائم AIBOM تلقائيًا كجزء من خط النشر لدينا. كل إصدار من النموذج يتتبَّع رجوعًا إلى إصدارات محددة بدقة من الكود ومجموعات البيانات. ليس عملًا براقًا. لكنه الفرق بين اجتياز التدقيق وبين التخبط لإعادة بناء وثائق كان ينبغي أن تكون موجودة منذ اليوم الأول.

المستثمر الذي قال لي "استخدم GPT فحسب"

لا بد أن أروي هذه القصة لأنها تلتقط بالضبط العقلية التي صُمم إنفاذ قوانين الغسل بالذكاء الاصطناعي لمعاقبتها.

في وقت مبكر من حياة VeriPrajna، كنت أقدّم عرضًا لمستثمر. شرحت معماريتنا — الرسوم البيانية المعرفية، والتحقق متعدد الوكلاء، ونموذج النشر السيادي. أصغى بأدب، ثم قال: "لماذا لا تغلّف GPT-4 فحسب، وتتقاضى أقل، وتتوسع أسرع؟ لن يدقق أحد في الواجهة الخلفية."

أخبرته بأن هيئة الأوراق المالية والبورصات فرضت لتوّها غرامات على شركتين بسبب هذا المنطق تحديدًا. فهزّ كتفيه.

وبعد ستة أشهر، تلقّت إحدى شركات محفظته — وهي شركة تقنية مالية "مدعومة بالذكاء الاصطناعي" — استفسارًا تنظيميًا حول ادعاءاتها التسويقية. لم تستطع تقديم وثائق تُظهر أن ذكاءها الاصطناعي يفعل فعلًا ما قال عرضها التقديمي إنه يفعله. وآخر ما سمعته أنهم كانوا يتخبطون لتوظيف مستشاري امتثال بأسعار طارئة.

يسألني الناس دائمًا عمّا إذا كانت بيئة الإنفاذ ستلين — وعمّا إذا كانت إدارة جديدة أو أولويات متغيرة قد تجعل الغسل بالذكاء الاصطناعي أقل خطورة. جوابي الصادق: لا يهم. فقد استخدمت هيئة الأوراق المالية والبورصات ما هو قائم بالفعل من قوانين مكافحة الاحتيال. واستخدمت لجنة التجارة الفيدرالية المادة 5 من قانون لجنة التجارة الفيدرالية، الموجودة في السجلات منذ عام 1914. ولدى المدّعين العامين في الولايات قوانينهم الخاصة لحماية المستهلك. وحتى لو تغيّرت أولويات الإنفاذ الفيدرالية، فإن البنية القانونية لملاحقة الخداع بالذكاء الاصطناعي دائمة ومتعددة الطبقات.

الغسل بالذكاء الاصطناعي ليس موضة تنظيمية عابرة. إنه احتيال يرتدي معطف مختبر، وكل مستوى من مستويات الحكومة يملك الآن الأدوات والرغبة لملاحقته.

والسؤال الأهم هو ما سيحدث للسوق. فحين تنجح شركات بناءً على قدرات ذكاء اصطناعي ملفَّقة، فإنها تشوّه المنافسة وتقوّض الثقة التي تحتاجها شركات الذكاء الاصطناعي المشروعة كي تعمل. وكل غلاف يُباع بوصفه "ذكاءً اصطناعيًا متقدمًا" يجعل من الأصعب على الشركات التي تمارس هندسة حقيقية أن تشرح لماذا تكلّف حلولها أكثر وتستغرق وقتًا أطول في البناء.

كيف يبدو نظام الذكاء الاصطناعي الجدير بالثقة فعليًا؟

إن نزعت الأطر والاختصارات جانبًا، فإن بناء ذكاء اصطناعي قادر على الصمود أمام التدقيق التنظيمي يتلخّص في أربعة أمور.

هندس الحتمية. تجاوز المخرجات الاحتمالية إلى معماريات — أنظمة عصبية-رمزية، ورسوم بيانية معرفية، وفك تشفير مقيَّد بالرسم البياني — قادرة على إثبات استدلالها. فإن كان ذكاؤك الاصطناعي عاجزًا عن إظهار خطوات عمله، فهو غير جاهز للبيئات المنظَّمة.

صمّم السيادة معماريًا. انشر داخل بنية تحتية تتحكم بها. فإن لامست بيانات عميلك الحساسة بنية تحتية عامة مشتركة، فقد أنشأت مسؤولية امتثال لا يمكن لأي قدر من هندسة التوجيهات إصلاحها.

وحّد معايير الحوكمة. تبنَّ أطرًا قابلة للاعتماد. احتفظ بقوائم مكوّنات الذكاء الاصطناعي. اجعل التوثيق عملية مستمرة ومؤتمتة، لا تخبطًا سنويًا.

تحقّق باستمرار. طبّق اختبارات الفريق الأحمر العدائية، وتتبّع معدلات الهلوسة ومعدلات التأسيس بوصفها مؤشرات أداء رئيسية، وأبقِ البشر ضمن الحلقة في القرارات عالية المخاطر. فالنموذج الذي كان دقيقًا عند النشر سينحرف. راقبه كما تراقب خوارزمية تداول — لأن عواقب الفشل متقاربة.

كانت غرامات هيئة الأوراق المالية والبورصات البالغة 400,000 دولار خطأ تقريب بالنسبة للقطاع المالي. أما الرسالة وراء تلك الغرامات فلم تكن كذلك. لقد خرجنا من العصر الذي كان بوسعك فيه أن تسوّق قدرات ذكاء اصطناعي لا تملكها، وأن تنشر صناديق سوداء في سير عمل منظَّم، وأن تفترض أن أحدًا لن يتحقق. فكل نظام ذكاء اصطناعي مؤسسي يعمل الآن تحت عبء إثبات ضمني: هل يمكنك أن تُثبت أن هذا يفعل ما تدّعيه؟

لقد بنيت VeriPrajna — والاسم يجمع بين "Veri" (الحقيقة) و"Prajna" (الحكمة) — لأنني أؤمن بأن أزمة المصداقية في قطاع الذكاء الاصطناعي هي في جوهرها أزمة في المعمارية نفسها. لا يمكنك حل مشكلة تتعلق بالحقيقة بنظام لم يُصمَّم قط ليكترث للحقيقة. عليك أن تهندسها فيه، بدءًا من الرسم البياني المعرفي وصعودًا، عبر كل وكيل، وكل حلقة تحقق، وكل قرار نشر.

الشركات التي تفهم هذا ستبني ذكاءً اصطناعيًا يعمل فعلًا. أما التي لا تفهم فستواصل تغليف واجهات برمجة التطبيقات، وكتابة عروض تقديمية مبهرة، وتأمل ألا ينظر أحد تحت الغطاء. الجهات التنظيمية تنظر الآن. ولن تتوقف.