مؤلفون مزيّفون بالذكاء الاصطناعي أسقطوا Sports Illustrated. هل محتواك هو التالي؟

المشكلة

نشرت مجلة Sports Illustrated مراجعات للمنتجات كتبها أشخاص لم يوجدوا قط. فقد كان «Drew Ortiz» — الذي وُصف بأنه عاشق للطبيعة ومحب للأنشطة الخارجية — مختلقًا بالكامل. وكذلك «Sora Tanaka»، المدعية بخبرة في اللياقة البدنية مع قصة من وحي الخيال عن حبها للطعام والشراب. وجاء كلاهما بصور شخصية مولدة بالذكاء الاصطناعي اشتُريت من أسواق رقمية. وكان المحتوى الذي «كتباه»، وفقًا لمصادر داخلية، «مولدًا بالذكاء الاصطناعي تمامًا». وقد تضمنت مقالة عن الكرات الطائرة الملاحظة البديهية المؤلمة التي مفادها أن «الدخول إلى رياضة الكرة الطائرة قد يكون صعبًا بعض الشيء، خاصة بدون كرة فعلية للتدريب بها».

وعندما كشفت مجلة التقنية Futurism هذا الأمر في نوفمبر 2023، لم يعترف ناشر Sports Illustrated بالحقيقة. بل حذف الحسابات المزيفة بهدوء دون تفسير. ووصف أساتذة أخلاقيات الصحافة ذلك بأنه «شكل من أشكال الكذب». وألقى الناشر اللوم على مزوّد خارجي اسمه AdVon Commerce. زعمت AdVon أن جميع المقالات «كتبها وحرّرها بشر». لكن موظفي AdVon السابقين رووا قصة مختلفة. أكدوا أن الشركة استخدمت أداة ذكاء اصطناعي داخلية اسمها «MEL» لتوليد المحتوى على نطاق واسع. وكان «الكتاب البشر» في الغالب مجرد لصّاقين لمخرجات الذكاء الاصطناعي في أنظمة إدارة المحتوى.

إذا كانت شركتك تستخدم الذكاء الاصطناعي لإنتاج أي محتوى موجّه للعملاء، فهذه القصة هي إنذارك المبكر. لم تكن المشكلة في استخدامهم للذكاء الاصطناعي، بل كانت المشكلة في كيفية استخدامهم له — دون تحقق، ودون شفافية، ودون ضمانات.

لماذا يهم هذا عملك التجاري

لم تكن كارثة Sports Illustrated محرجة فحسب، بل كانت مأساة مالية قابلة للقياس محت قيمة المساهمين وقتلت علامة تجارية عريقة.

وهذا ما حدث بالأرقام الصلبة:

• انهيار سهمي بنسبة 27% في يوم واحد. انخفضت أسهم The Arena Group بنسبة 27% في اليوم التالي لنشر تقرير Futurism. وكان السهم قد خسر بالفعل أكثر من 80% من قيمته في تلك السنة. رأى المستثمرون في شركة لا تستطيع التحقق ممن كتب مقالاتها شركة بلا قيمة يمكن الدفاع عنها.
• دفعة فائتة بمبلغ 3.75 مليون دولار، وسحب الترخيص. قامت Authentic Brands Group، التي تمتلك اسم Sports Illustrated، بسحب ترخيص النشر. كان السبب الرسمي تفويت دفعة ربع سنوية بقيمة 3.75 مليون دولار. لكن التوقيت أوضح الأمر: الضرر الذي لحق بالسمعة جراء فضيحة الذكاء الاصطناعي جعل الشراكة سامة.
• تسريحات جماعية. أفاد نقابة SI بأن «عددًا كبيرًا، وربما جميع» الموظفين قد سُرِّحوا. لقد أُفرغت غرفة تحرير عمرها 70 عامًا من مضمونها. والصحفيون البشر — الذين «ناضلوا معًا كنقابة للحفاظ على مستوى هذه المطبوعة العريقة» — دفعوا ثمن اختصارات الإدارة.
• معدلات هلوسة تتراوح بين 1.5% و6.4%. حتى أفضل نماذج الذكاء الاصطناعي تنتج ادعاءات خاطئة بهذه المعدلات. إذا كانت عمليتك تنشر 10,000 مقالة سنويًا، فإن معدل خطأ قدره 4% يعني 400 مادة تحتوي على ادعاءات كاذبة جوهرية — كل واحدة منها دعوى قضائية أو تراجع عن نشر أو ضربة للسمعة تنتظر حدوثها.

هذه ليست مشكلة تخص وسائل الإعلام وحدها. إذا كانت شركتك تولّد تقارير أو مستندات امتثال أو اتصالات عملاء أو محتوى تسويقيًا بالذكاء الاصطناعي، فأنت تحمل المخاطر نفسها. لن يقبل مجلس إدارتك ولا جهات التنظيم لديك ولا عملاؤك اعتبار «الذكاء الاصطناعي هو من اخترع ذلك» دفاعًا مقبولًا.

ما الذي يحدث فعلًا تحت الغطاء

لفهم سبب تكرار حدوث ذلك، عليك أن تدرك أمرًا واحدًا عن الكيفية التي تعمل بها النماذج اللغوية الكبيرة (LLMs) — محركات الذكاء الاصطناعي الكامنة وراء أدوات مثل ChatGPT — فعليًا. فهي لا تبحث عن الحقائق، بل تتنبأ بالكلمة التالية الأكثر احتمالًا استنادًا إلى الأنماط في بيانات تدريبها.

تخيّل الأمر كخاصية الإكمال التلقائي في هاتفك، ولكن بمقياس مليارات المعاملات. هاتفك لا يعرف ما تنوي كتابته؛ إنه يخمّن بناءً على ما يكتبه الناس عادة بعد ذلك. تفعل النماذج اللغوية الكبيرة الشيء نفسه مع الجمل والفقرات والمقالات بأكملها. عندما يتضمن نمط «مراجعة منتج» عادة سيرة ذاتية للمؤلف، يولّد النموذج نصًا يشبه السيرة الذاتية. ويملأ الفراغات — الاسم والهوايات والموقع — بتفاصيل مرجحة إحصائيًا. بالنسبة إلى النموذج، فإن «Drew Ortiz» ليس كذبة، بل هو إتمام ناجح لنمط.

يسمى هذا الهلوسة، وليس خللًا برمجيًا يمكن ترقيعه؛ إنه مدمج في كيفية عمل هذه التقنية. فالنموذج مُحسَّن للمصداقية الظاهرة لا للحقيقة، وسيصرّ بثقة على أشياء تبدو صحيحة لكنها مختلقة تمامًا.

كانت منظومة Sports Illustrated ما يسميه الخبراء «غلاف LLM» (LLM Wrapper) — طبقة برمجية رقيقة فوق نموذج ذكاء اصطناعي أساسي بلا تحقق من الحقائق، وبلا قاعدة بيانات للتحقق، وبلا مسار تدقيق. كانت أداة AdVon الداخلية «MEL» تتلقى الكلمات المفتاحية ومواصفات المنتجات، وتُمررها عبر نموذج ذكاء اصطناعي، ثم تُخرج مراجعات مهيكلة. لم يكن هناك أي نظام يتحقق من وجود المؤلف، أو من دقة ادعاءات المنتج، أو مما إذا كان المحتوى يناقض حقائق معروفة.

قد يخبرك فريق تقنية المعلومات لديك بأن إضافة خطوة مراجعة بشرية تحل المشكلة. لكن عند المقياس والسرعة اللذين تعمل بهما هذه الأنظمة، يتحول المراجعون البشريون إلى «وسيط بشري» — يختمون مخرجات الذكاء الاصطناعي بالموافقة بدلًا من تحريرها فعليًا. وهذا بالضبط ما حدث في AdVon.

ما ينجح (وما لا ينجح)

قبل الاستثمار في حل، ينبغي أن تعرف أي الأساليب الشائعة لن تحميك.

«سنضيف ببساطة إخلاء مسؤولية». إخبار القراء بأن «الذكاء الاصطناعي ربما ساعد» لا يمنع الادعاءات الكاذبة من الوصول إلى عملائك أو جهات التنظيم لديك؛ فهو ينقل اللوم دون أن يقلل الخطر.

«سنوظف محررين لمراجعة مخرجات الذكاء الاصطناعي». عند الأحجام الكبيرة ينهار هذا الحل. فالمراجعون البشريون لا يستطيعون التحقق بشكل مستقل من كل ادعاء واقعي في كل مادة يولدها الذكاء الاصطناعي. ويتحولون إلى «وسيط بشري» يلصق ويوافق كما فعلت AdVon.

«سنستخدم أوامر أفضل». هندسة الأوامر (Prompt Engineering) — أي كتابة تعليمات أكثر تفصيلًا للذكاء الاصطناعي — لا تغيّر معمارية النموذج. فالنموذج اللغوي ذو الأوامر الجيدة يهلوس أيضًا، لكنه يهلوس بأسلوب أكثر تهذيبًا.

ما ينجح فعلًا هو تغيير المعمارية. وإليك كيف يعمل نظام يضع التحقق أولًا:

1. المدخلات: حقائق مهيكلة، لا تخمينات. بدلًا من مطالبة الذكاء الاصطناعي بالكتابة انطلاقًا من «ذاكرته» الداخلية، تبني رسمًا بيانيًا معرفيًا (Knowledge Graph) — قاعدة بيانات موثقة يُخزَّن فيها كل حقيقة كعلاقة واضحة (مثلًا: «Wilson AVP» → «معتمد من» → «AVP Official»). يستعلم وكيل بحث مخصص هذا الرسم البياني والمصادر الخارجية الموثوقة. لا يجمع إلا الحقائق الموثقة. ويُنتج بيانات خامًا لا قصصًا.

2. المعالجة: افصل الكاتب عن المدقق. يحوّل وكيل كتابة تلك الحقائق الموثقة إلى نثر مقروء. والأهم أن هذا الوكيل الكاتب لا يمتلك أي وصول إلى الويب المفتوح؛ فلا يستطيع ابتداع حقائق أو سِيَر جديدة. ثم يراجع وكيل نقد منفصل كل ادعاء مقابل الرسم البياني المعرفي. إذا ذكر الوكيل الكاتب أن «كرة Wilson AVP هي الكرة الرسمية لدورة الألعاب الأولمبية 2024» بينما لا يعيد الرسم البياني المعرفي أي تطابق، يرفض الوكيل الناقد المسودة ويعيدها للتصحيح. تُظهر الدراسات أن هذا النهج يقلل الهلوسة بنسبة 6% ويخفض استخدام الرموز (Tokens) بنسبة 80% مقارنة بالطرق القياسية. وفي المجالات الطبية، حققت هذه الأنظمة دقة 100% في استخراج البيانات السريرية، مقابل 63-95% للذكاء الاصطناعي المنفرد.

3. المخرجات: كل ادعاء قابل للتتبع. ترتبط كل جملة في المخرجات النهائية بعقدة محددة في الرسم البياني المعرفي أو بمستند مصدر. يستطيع القارئ — أو المدقق — النقر على أي ادعاء ورؤية مصدره بدقة. هذا يخلق مسار التدقيق الذي كان غائبًا تمامًا عن مقالات Sports Illustrated.

هذه القابلية للتتبع هي الأهم لفرق الامتثال والشؤون القانونية لديك. عندما تسألجهة تنظيمية «كيف وصل ذكاؤك الاصطناعي إلى هذه النتيجة»، يمكنك أن توضح لها مسار المنطق الدقيق. أما مع «غلاف LLM» القياسي فلا يمكنك ذلك؛ فالاستدلال مدفون في مليارات المعاملات بلا سبيل لاستخراجه.

ينبغي أن يتوافق إطار الحوكمة لديك مع ISO 42001 وإطار إدارة مخاطر الذكاء الاصطناعي من NIST. هذا يعني تضمين القيود برمجيًا في النظام — لا الاعتماد على تعليمات للأوامر مثل «كن دقيقًا من فضلك». إذا كانت مهمة وكيل ذكاء اصطناعي هي استرجاع البيانات، فلا ينبغي أن يمتلك أي صلاحية لكتابة الروايات. ينبغي أن تُفرض القيود بمعمارية النظام، لا بالأمل.

وأخيرًا، ينبغي أن تجري بانتظام تمارين الفريق الأحمر (Red Teaming) — أي محاولة كسر نظام الذكاء الاصطناعي لديك عمدًا بمدخلات عدائية قبل أن يفعل ذلك المهاجمون أو الصحفيون نيابة عنك.