لقد أخطأ ذكاؤك الاصطناعي في رياضيات أساسية. وهنا لماذا يكون ذلك خطيرًا.

المشكلة

أخبر مدرِّسٌ ذكاء اصطناعي طالبًا أن حاصل ضرب 3,750 في 7 يساوي 21,690. والإجابة الصحيحة هي 26,250. لم يخطئ الذكاء الاصطناعي فحسب — بل احتفل بالخطأ. فقد ردّ قائلًا: "عمل رائع في الضرب! لقد حللت المسألة وأظهرت تفكيرًا رائعًا!" وذلك المدرِّس، Khanmigo، يعمل بواسطة GPT-4، أحد أكثر نماذج الذكاء الاصطناعي تقدمًا المتاحة اليوم.

لم يكن هذا خللًا عرضيًا. فقد وثّق الباحثون حالات يصل فيها الطلاب إلى الإجابة الصحيحة، فيحاول الذكاء الاصطناعي إقناعهم بخلافها. ويصرّ النظام على أن منطقهم الصحيح معيب، فيمارس على الطلاب غسلًا ذهنيًا فعليًا يدفعهم إلى تقبّل حلول خاطئة. وقد أظهرت تطبيقات تعلّم اللغات مثل Duolingo Max مشكلات مماثلة. يبلّغ المستخدمون أن الذكاء الاصطناعي يختلق قواعد نحوية ومبررات رياضية ليبرر أخطاءه هو. يخلق الذكاء الاصطناعي حلقة يتغذى فيها الهراء الذي يبدو واثقًا على نفسه.

والآن انقل هذا إلى مجلس إدارتك. إذا كان الذكاء الاصطناعي عاجزًا عن ضرب رقمين بموثوقية، فلماذا تثق به في احتسابات الضرائب، أو الموافقة على القروض، أو تقارير الامتثال؟ التقنية نفسها التي تشغّل ذلك المدرِّس هي التي تشغّل أدوات الذكاء الاصطناعي التي يبيعها الموردون الآن لفرق المالية والشؤون القانونية لديك. البنية التي مدحت إجابة رياضية خاطئة هي البنية ذاتها التي يُطلب منها التعامل مع سير عملك الخاضعة للتنظيم.

لماذا يهمّ هذا عملك

التعرّض المالي والتنظيمي هنا ملموس، لا نظري.

النظام الذي يعطي إجابات صحيحة بنسبة 99% من الوقت يبدو مثيرًا للإعجاب. لكن تأمل ما تسميه الورقة البيضاء "جدول بيانات عشوائيًا" — جدولًا يحسب إيراداتك بشكل صحيح 99% من الوقت لكنه يختلق رقمًا 1% من الوقت. تلك ليست أداة إنتاجية. إنها مولِّد للتزامات. في تقرير مالي ربع سنوي يضم مئات البنود، يعني معدل خطأ 1% أرقامًا خاطئة متعددة في كل دورة على حدة.

وهذا ما يعنيه ذلك لمؤسستك:

• إخفاقات الامتثال. في سيناريو موثّق، وافقت أنظمة ذكاء اصطناعي خالصة على قروض استنادًا إلى اللغة العاطفية في البيانات الشخصية مع تجاهل حدود نسبة الدين إلى الدخل. ولن يقبل جهات التنظيم لديك "شعر الذكاء الاصطناعي بالإقناع" كتفسير.
• التعرّض القانوني. استشهدت الأدوات القانونية المدعومة بالذكاء الاصطناعي بسوابق قضائية مهلوسة — قضايا محاكم غير موجودة أصلًا. إذا قدّم محاميك الخارجي مذكرة تستشهد بمراجع مفبركة، فإن سمعة شركتك على المحك.
• دقة حسابية دون 40%. في المهام المعقدة، تحقق نماذج الذكاء الاصطناعي القياسية دون أي توجيه أقل من 40% في الدقة الحسابية. وحتى مع تقنيات التوجيه خطوة بخطوة، تتتالى الأخطاء في الخطوات المبكرة عبر الحساب بأكمله.
• خطر سيادة البيانات. إذا مرّرت سجلاتك المالية الحساسة أو شفرتك المملوكة أو ملفات موظفيك عبر واجهة شركة ناشئة إلى نموذج ذكاء اصطناعي عام، فقد تكون قد أوجدت سطح تعرّض غير مقبول لتسرب البيانات.

يريد مجلس إدارتك أن يعرف أن القرارات المدفوعة بالذكاء الاصطناعي قابلة للتدقيق. ويحتاج مستشارك القانوني العام إلى إثبات الامتثال. ويحتاج المدير المالي إلى أرقام يمكن الوثوق بها. وفي الوقت الحالي، لا تستطيع أشهر بنى الذكاء الاصطناعي ضمان أيٍّ من ذلك.

ما يحدث فعلًا خلف الكواليس

إليك سبب فشل أنظمة الذكاء الاصطناعي في مهام تبدو بسيطة. فالنماذج اللغوية الكبيرة — التقنية الكامنة وراء ChatGPT وGPT-4 ومعظم أدوات الذكاء الاصطناعي للمؤسسات — لا تحسب شيئًا في الواقع. إنها تتنبأ بالكلمة التالية.

فكّر في الأمر هكذا. عندما تسأل آلة حاسبة كم يساوي 3,750 في 7، فهي تُنفّذ العملية على شريحة مصممة للرياضيات. وعندما تسأل الذكاء الاصطناعي السؤال نفسه، فهو يفعل شيئًا مختلفًا تمامًا. إنه يسأل: "بناءً على كل النصوص التي قرأتها، ما الكلمات التي تأتي عادة بعد '3,750 في 7 يساوي'؟" إنه مطابقة أنماط، لا حساب. يولّد نصًا يشبه إجابة رياضية دون أن يؤدي الرياضيات قط.

تسمي الورقة البيضاء هذا الانفصال بين الشكل والوظيفة. يستطيع الذكاء الاصطناعي استخدام كلمات مثل "لذلك" و"وبالتالي" دون تنفيذ أي استدلال منطقي فعلي. إنه يقلّد تراكيب التفكير دون أن يؤدي عمل التفكير. وصف الحائز على جائزة نوبل دانيال كانمان نمطين من الفكر البشري: النظام 1 (سريع، حدسي) والنظام 2 (بطيء، منطقي). نماذج الذكاء الاصطناعي الحالية هي نظام 1 خالص. تعمل بالحدس والتعرف على الأنماط. لكن عملك يحتاج إلى النظام 2 — الاستدلال المتأنّي خطوة بخطوة الذي يكتشف الأخطاء قبل أن تبلغ عملاءك.

ولهذا السبب أيضًا لا يمكن حل المشكلة بجعل النماذج أكبر. تصف الورقة البيضاء "مفارقة عيد الميلاد" بالنسبة للذكاء الاصطناعي: إذا ظهرت نقطة بيانات معينة مرة واحدة فقط في بيانات تدريب الذكاء الاصطناعي، يتعامل معها النموذج بوصفها ضجيجًا. تكبير النموذج لا يحل هذا. بياناتك التجارية النادرة لكن الحرجة — حد الامتثال الدقيق، بند العقد المحدد — هي بالضبط نوع الحقائق تخطئ فيها هذه الأنظمة.

ما ينجح (وما لا ينجح)

لنبدأ بما لا يحل هذه المشكلة.

هندسة المطالبات — صياغة تعليمات بارعة للذكاء الاصطناعي — تشبه الهمس في النرد والأمل برقم معين. تحاول تجاوز الطبيعة التخمينية للنظام بأوامر سطحية. ولا تغيّر كيفية عمل النظام.

منتجات "الغلاف" — تطبيقات تضع واجهة أجمل فوق نموذج ذكاء اصطناعي لجهة أخرى — لا تضيف ذكاءً حقيقيًا. إنهم يعيدون بيع قدرةٍ لا يملكونها. وعندما يضيف مزود النموذج الميزة نفسها أصليًا، تصبح شركة الغلاف متقادمة. ويتبخر استثمارك.

النماذج الأكبر — التوسع لا يزيل المشكلة الجوهرية. محرك مطابقة أنماط أكبر يظل محرك مطابقة أنماط. وهو ما زال لا يحسب. وما زال يخمّن.

ما ينجح فعليًا هو فصل القدرة اللغوية للذكاء الاصطناعي عن المنطق الذي يتطلبه عملك. تسمي Veriprajna هذا منهج "الصوت" و"الدماغ" — أي بنية عصبية-رمزية تفرض القيود والقواعد إلى جانب القدرة الحوارية للذكاء الاصطناعي.

إليك كيف يعمل ذلك في ثلاث خطوات:

1. الترجمة. يطرح مستخدمك سؤالًا بلغة بسيطة. يحوِّل الذكاء الاصطناعي ذلك السؤال إلى شيفرة قابلة للتنفيذ فعليًا — لا إجابة نصية. فمثلًا، يتحول سؤال عن فائدة قرض إلى صيغة رياضية حقيقية: principal * (1 + rate) ** years.
2. التنفيذ. تُشغَّل تلك الشيفرة على محرك حتمي — نظام يحسب بالطريقة التي تحسب بها الآلة الحاسبة. في مثال القرض ($50,000 بفائدة مركبة سنوية 5% على مدى 3 سنوات)، يُعيد المحرك بالضبط $57,881.25. في كل مرة. بلا تخمين.
3. الاستجابة. يأخذ الذكاء الاصطناعي تلك النتيجة الموثوقة ويكتب إجابة واضحة مقروءة للبشر لمستخدمك.

أما الصناعات المنظَّمة مثل الخدمات المالية، فهناك طبقة إضافية. القواعد الصارمة — مثل "إذا كان عمر مقدم الطلب أقل من 21 عامًا في نيويورك، لا يمكنك الموافقة على قرض تجاري" — تُشفَّر كقيود منطقية. وإذا خالفت الاستجابة المقترحة من الذكاء الاصطناعي قاعدة ما، يستخدم النظام حق النقض ضد المخرجات قبل أن تبلغ أي شخص. يصبح النظام عاجزًا ماديًا عن الموافقة على قرار غير ملتزم، مهما كان المدخل مقنعًا.

الميزة الحاسمة لفريق الامتثال لديك: كل خطوة مسجلة. الشيفرة التي ولّدها الذكاء الاصطناعي، ومخرجات الأداة، ومسار المنطق تخلق سجل تدقيق غير قابل للتغيير. يستطيع مسؤولو الامتثال لديك أن يروا بالضبط لماذا اتخذ الذكاء الاصطناعي قرارًا معينًا. وهذا هو الفرق بين نظام مصمَّم للمراقبة المستمرة وسجلات التدقيق وصندوق أسود يُطلب منك الوثوق به ثقة عمياء.

حقق هذا النهج التزامًا بنسبة 100% بمعايير الإقراض التنظيمية في تطبيق لمعالجة القروض. وفي البحث القانوني، أنتج صفر اقتباسات مهلوسة في مسودات الإنتاج. هذه النتائج ليست سحرًا. إنها تأتي من توجيه كل ادعاء واقعي عبر نظام تحقق لا يخمّن.

يمكنك استبدال نموذج الذكاء الاصطناعي الأساسي — الانتقال من مزود إلى آخر — دون إعادة بناء طبقة المنطق لديك. يبقى استثمارك في القواعد وسير العمل والمعرفة المجالية سليمًا. هذا ما يجعل هذا النهج متينًا حيث تكون منتجات الغلاف هشة.

اقرأ التحليل الفني الكامل للاطلاع على البنية التفصيلية، أو استكشف النسخة التفاعلية للحصول على جولة إرشادية.