بنينا أداة لاكتشاف المراجعات المزيفة عملت على أكمل وجه — حتى مرّرها أحدهم عبر BypassGPT
أول شيء زعزع ثقتي لم يكن مراجعةً مزيفة، بل كان قائمة أسعار.
كان أحد الوسطاء على قناة Telegram — واحدة من القنوات المفتوحة، أكثر من 13,000 عضو، بلا كلمة مرور، بلا تكلّف — قد نشر قائمة خدمات. خمسون سنتاً مقابل تصويت مؤيِّد. خمسة دولارات مقابل مراجعة من حساب يحمل شارة «عملية شراء موثّقة». خصومات على الكميات. لم تكن الحسابات المعروضة ملفاتٍ حديثة الصنع يمكن لمرشّح البريد المزعج أن يمسك بها وهو نائم؛ بل كانت بعمر سنتين أو ثلاث أو أربع سنوات، بسجلّات شراء حقيقية ونوع النشاط غير المنتظم الذي يخلّفه إنسانٌ وراءه. كنت قد أمضيتُ أسابيع أفترض أن اكتشاف المراجعات المزيفة كان مشكلةً صعبة في تعلّم الآلة. وبينما كنت أحدّق في تلك القائمة، أدركتُ أنها مشكلةٌ صعبة في تعلّم الآلة يموّلها الطرف الآخر تمويلاً أفضل من معظم العلامات التجارية التي يستهدفها.
تلك كانت اللحظة التي توقّفتُ فيها عن التفكير في المراجعات المزيفة بوصفها نصاً رديئاً وبدأتُ أفكّر فيها بوصفها اقتصاداً منسّقاً. وكل ما بنيناه في نهاية المطاف في Veriprajna — وكل ما أخطأتُ فيه أولاً — نبع من ذلك التحوّل.
توقّف الاحتيال عن كونه مشكلة جودة يوم صار سلعةً مسعّرة. لا يمكنك أن تتغلّب على سوقٍ بالفلترة.
هجومٌ من 47 مراجعة يتجاوز كل أداة تملكها
دعني أصف كيف يبدو الهجوم الحديث فعلاً، لأن الفجوة بين تصوّر الناس للمراجعات المزيفة وطريقة عملها الحقيقية هي السبب الأكبر في فشل الأدوات القائمة.
منافسٌ يريد أن يدفن منتجك. يستأجر وسيطاً عبر إحدى مجموعات Telegram تلك. يتحكّم الوسيط في مجموعة من الحسابات القديمة المخترَقة وينشرها ضد قائمة منتجٍ واحدة. وعلى مدى 72 ساعة، تهبط 47 مراجعة بخمس نجوم على المنتج المنافس — يبقى منتجك نظيفاً بينما يتسلّق منتجهم. كُتب نص المراجعات بواسطة GPT-4، ثم مُرّر عبر أداة مثل BypassGPT لهزيمة أدوات الاكتشاف القائمة على الحيرة (perplexity) التي تبحث عن الكتابة الآلية «السلسة أكثر من اللازم». وكل مراجعة تذكر ميزة محدّدة من المنتج مُقتطعة من قسم الأسئلة والأجوبة الخاص بالقائمة نفسها. وأوقات النشر موزّعة على ثلاث مناطق زمنية كي لا يتجمّع أي شيء.
كل مراجعة على حدة تبدو مشروعة. فهي تجتاز مرشّحات المحتوى على منصّات المراجعة الكبرى. وتجتاز GPTZero. والحسابات قديمة بما يكفي للتملّص من أي قاعدة استدلالية لـ«الحساب الجديد». ولا يلاحظ فريق حماية علامتك التجارية شيئاً — حتى تتحرّك أرقامك، وهي تتحرّك فعلاً: فنجمةٌ احتيالية إضافية قد ترفع طلب المنافس بنسبة 38%، والمراجعات السلبية المزيفة قد تقتطع من إيرادات الهدف ما يصل إلى الرُبع، وكل ذلك بينما يمتصّ متوسّط تقييمك الضرر بهدوء.
هذه ليست تجربة فكرية. فقد رفعت Amazon أول دعوى قضائية مشتركة لها مع Better Business Bureau ضد وسيط المراجعات ReviewServiceUSA.com في يوليو 2024. وأزالت Trustpilot 4.5 مليون مراجعة مزيفة في 2024 — أي 7.4% من كل ما قُدّم، ارتفاعاً من 6.1% في العام السابق. واعترضت Tripadvisor 2.7 مليون طلبٍ احتيالي، بعضها صور عقارات مولّدة بالذكاء الاصطناعي تنشئ «فنادق شبحية» حجزها مسافرون فعلاً ووصلوا إليها ليجدوا أرضاً خالية. النطاق ليس هامشياً. ويقدّر الباحثون أن نحو 30% من المراجعات على الإنترنت مزيفة، ما يكلّف الشركات الأمريكية قرابة 152 مليار دولار سنوياً، وفقاً لـWorld Economic Forum.
إذاً تلك هي المشكلة التي ظننتُ أنني أفهمها. وإليك موضع خطئي.
أداة الاكتشاف التي عملت على أكمل وجه، ثم لم تفعل
كانت نسختنا الأولى مصنِّفاً نصياً. يقرأ نص المراجعة ويقيّم مدى احتمال كونها مولّدة آلياً. هذا هو الشيء البديهي الذي تبنيه، وأريد أن أكون صادقاً: لقد أيّدتُه. كان أداؤه في العرض التوضيحي رائعاً. فعلى مجموعة الاختبار لدينا أمسك بالمراجعات المكتوبة بالذكاء الاصطناعي بدقّةٍ من النوع الذي يجعلك تبدأ في صياغة منشور الإطلاق في رأسك.
ثم شغّلناه ضد مراجعات مرّت عبر أداة «أنسنة» (humanizer).
يوجد الآن أكثر من 30 أداة من هذا النوع — BypassGPT وUndetectable.ai وStealthWriter وHumanize AI وعشرات غيرها. تأخذ النص المولّد آلياً وتخشّنه بما يكفي تماماً لكسر أداة الاكتشاف: بإزالة الفواصل الدالّة، وحشر كلمات ربط، واستبدال المفردات التي تتعلّم المصنِّفات ربطها بمخرجات GPT. لم تتدهور دقّتنا بلطف. بل سقطت من فوق جرف. فالمراجعات التي كنا نمسك بها بثقة عالية صارت الآن تعبر بسلاسة تحت وصف «تبدو بشرية».
أتذكّر النقاش الذي تلا ذلك. أراد نصف الفريق مواصلة الضبط — مزيد من بيانات التدريب، وأمثلة عدائية، وملاحقة أدوات الأنسنة. إنه حدسٌ منطقي وهو فخ. كنت قد اطّلعتُ على البحث: من بين أكثر من 30 أداة أنسنة اختبرها أحدهم، أنتجت 13 فقط بشكل موثوق نصاً يخدع أفضل أدوات الاكتشاف. وما زال أفضل مصنِّف نصي في فئته، Originality.ai، يمسك بمعظمها. لكن «معظم» هو المعيار الخاطئ حين يستطيع المهاجم تمرير مراجعة عبر خمس أدوات أنسنة وتقديم النسخة التي تحصل على أنظف نتيجة. أداة اكتشاف نصية فقط تخوض سباقاً خسِرته بنيوياً بالفعل.
أداة الاكتشاف ذات الإشارة الواحدة ليست أداة ضعيفة. إنها أداة أخبرتَ المهاجم بالضبط كيف يهزمها.
المشكلة الأعمق كانت واحدة كان ينبغي أن أراها يوم قرأتُ قائمة أسعار Telegram تلك. فبعض أشدّ أنواع الاحتيال ضرراً ليس مكتوباً بالذكاء الاصطناعي على الإطلاق. فحين يدفع وسيطٌ لشبكة من أشخاص حقيقيين لينشروا — بشرٌ محفَّزون، النسخة الحديثة من مزرعة Mechanical Turk القديمة — فإن النص يكون بشرياً حقاً. لا يوجد أي أثر لغوي يمكن العثور عليه، لأنه لا آلة في الحلقة. فالمصنِّف النصي حين ينظر إلى مراجعة مدفوعة من شخص حقيقي لا يرى فيها خطأً، لأنه على مستوى اللغة لا خطأ فيها. واللاتماثل يتّسع من الطرفين معاً — فبحلول أوائل 2026، اعترف 23% من كتّاب المراجعات باستخدام الذكاء الاصطناعي أحياناً على الأقل، بينما كان 31% فقط من المستهلكين واثقين من قدرتهم على رصد مراجعة مكتوبة بالذكاء الاصطناعي.
عندها ألقينا بالنموذج النصي خارجاً كمحور رئيسي. ليس خارجاً بالكامل — فهو لا يزال إشارة — لكنه توقّف عن أن يكون تلك الإشارةَ.
ما الذي يمسك فعلاً بحملة منسّقة؟
إعادة التأطير التي أنقذت المشروع: من المستحيل تقريباً الإمساك بمراجعة مزيفة منفردة، لكنّ الحملةَ تترك بصمات لا تتركها المراجعات المنفردة.
تلك الـ47 مراجعة تشترك في شيء حتى حين تكون كل واحدة منها نظيفة. فهي تصل دفعةً واحدة. وتشير إلى الميزة نفسها المقتطعة. والحسابات التي نشرتها، حين ترسم العلاقات بين البائعين والمراجِعين والمنتجات، تتوهّج كعنقودٍ لا يحدث طبيعياً — المجموعة نفسها من الحسابات تراجع المجموعة الضيّقة نفسها من المنتجات في النافذة الزمنية نفسها. ولهذا انتقلت المنصّات التي تأخذ الاحتيال على محمل الجدّ إلى أساليب الرسم البياني: فمنظومة Amazon تشغّل شبكات عصبية رسومية عميقة على شبكة البائع–المراجِع–المنتج تحديداً لأن بنية الشبكة تفضح التنسيق الذي لن يفضحه النص أبداً. وقد بنينا في الاتجاه نفسه — بدمج الإشارات السلوكية (كيف يتصرّف الحساب عبر الزمن)، والإشارات الزمنية (متى تصل المراجعات بعضها بالنسبة إلى بعض)، والإشارات العلائقية (من المتّصل بمن) فوق الطبقة اللغوية.
لا تكفي أيٌّ من تلك بمفردها. فالدفعة قد تكون لحظة انتشار حقيقية. والعنقود قد يكون مجتمع معجبين حقيقياً. لكن التركيبة — دفعة، من نصٍّ يقتطع الميزات، من عنقود مشبوه علائقياً، بتوقيتٍ متدرّج مصمَّم كي يبدو غير متدرّج — هي بصمة الحملة المدفوعة، وهي تنجو من أداة الأنسنة لأن أداة الأنسنة لا تعيد سوى كتابة الكلمات.
المنطق نفسه يمتدّ إلى الصور، وهي الحدود التي لم يحلّها أحد حلاً نظيفاً. فالفنادق الشبحية ولقطات المنتجات المفبركة تنتشر لأن توليد الصور بالذكاء الاصطناعي صار رخيصاً — وبالنسبة لعلامة تجارية في قطاع الضيافة فإن المخاطر ليست مجرّدة: قدّرت McAfee خسائر احتيال السفر المدفوع بالذكاء الاصطناعي بنحو 13 مليار دولار في 2025، أي قرابة ألف دولار لكل ضحية، جرى توجيه الكثير منها عبر قوائم بدت حقيقية حتى لحظة تسجيل الوصول. وثمّة معيار لإثبات مصدر المحتوى، C2PA، يوقّع الصورة تشفيرياً لحظة التقاطها — وقد صار هاتف Samsung Galaxy S25 أول هاتف استهلاكي يوقّع الصور أصلياً، و2026 نقطة تحوّل حقيقية لتلك المنظومة. لكن إليك المأزق التشغيلي الذي أحذّر منه أي علامة تجارية: المنصّات تجرّد البيانات الوصفية أثناء معالجة الصورة. فالاعتماد الذي يثبت أن الصورة حقيقية يُمحى في اللحظة التي تُرفع فيها إلى السوق حيث يكون الأمر أهمّ ما يكون. إثبات المصدر أداة حقيقية بها ثقب حقيقي في التجارة الإلكترونية، والتظاهر بغير ذلك يبيع العلامة التجارية طمأنينة زائفة.
لماذا لم تحلّ أدوات المنصّات هذا الأمر بالفعل؟
هذا هو السؤال الأكثر تكراراً الذي يُطرح عليّ، وهو سؤال وجيه. تنفق Amazon أكثر من 500 مليون دولار سنوياً ولديها 8,000 شخص يعملون على المراجعات المزيفة. وقد حجبت أكثر من 275 مليون منها في 2024. فلماذا قد يحتاج أحد إلى بناء أي شيء؟
لأن المنصّات تخوض حربها هي، لا حربك أنت. Amazon تحمي Amazon — وحتى مع هذا الإنفاق، يقول 49% من المستهلكين الأمريكيين إنهم واثقون من أنهم رأوا مراجعات مزيفة هناك. ومنصّات إدارة المراجعات لديها الحدّ نفسه مرسوماً في الاتجاه المعاكس. تشغّل Bazaarvoice أكثر من 1,000 قاعدة لاكتشاف الاحتيال عبر 2.3 مليار جلسة تسوّق شهرياً، وهي بارعة في ذلك حقاً — داخل شبكتها هي. أما مراجعة مزيفة عن منتجك قابعة على Amazon فهي ببساطة غير مرئية لـBazaarvoice. والأسوأ أن التوزيع المتزامن سيفٌ ذو حدّين: فمراجعة مزيفة تجتاز استيعاب Bazaarvoice قد تنتشر عبر أكثر من 50 موقع بيع بالتجزئة خلال 48 ساعة، ما يعني أن المعالجة يجب أن تحدث عند العقدة المصدر، لا في مطاردة كلٍّ من القوائم اللاحقة كلعبة الضرب على الخُلد.
أدوات الاكتشاف النصية لها سقفها الخاص — فهي إشارة واحدة، كما تعلّمتُ بالطريقة الصعبة. وخدمات التدقيق مثل The Transparency Company تجري مسوحاً يومية وتقدّم اعتراضات، لكنها مضبوطة على أنماط معروفة وتكافح أمام تكتيكات الوسطاء المخصّصة التي تتكيّف تحديداً للتملّص منها. والأداة الوحيدة التي وثق بها المستهلكون فعلاً لتفحص هذا نيابةً عنهم، Fakespot، أُغلقت في يوليو 2025 بعد تسع سنوات — إذ لم تستطع Mozilla إيجاد نموذج مستدام. لقد تقلّصت شبكة الأمان في اللحظة نفسها التي تحسّنت فيها الهجمات.
لا يوجد مورّد يراقب الميدان بأكمله حيث تعيش علامتك التجارية. كلٌّ منهم يحرس فناءه هو، والاحتيال يعيش في الشارع الذي بينهم.
تلك الفجوة — عبر المنصّات، من جانب العلامة التجارية، مدمجة الإشارات — هي ما شرعنا في احتلاله. لا لنحلّ محلّ المنصّات، بل لنمنح العلامة التجارية رؤيةً واحدة تشمل Amazon وGoogle وYelp وTrustpilot وTripadvisor دفعةً واحدة، مع اكتشافٍ مبنيٍّ حول ما لها من فئة المنتج بدلاً من مجموعة قواعد عامة. وهذا ما نظام نزاهة المراجعات واكتشاف المحتوى الاصطناعي الذي بنيناه موجودٌ من أجله.
الزبون الذي لم يُرِد صفحة مراجعات أنظف
كنت أروّج لدقّة الاكتشاف — الاستدعاء والدقّة وكم عدد المزيّفات التي سنمسك بها. ثم أجريتُ مكالمة مع مسؤولة حماية علامة تجارية أعادت تأطير المنتج بأكمله أمامي في دقيقتين تقريباً.
لم تبدأ بالدقّة. بل سألت عمّا يمكننا تسليمه إلى لجنة التجارة الفيدرالية (FTC).
في أكتوبر 2024 دخلت قاعدة FTC بشأن مراجعات المستهلكين وشهاداتهم حيّز التنفيذ، وقد فعلت شيئاً أدقّ من «المراجعات المزيفة محظورة». لقد أنشأت «كان ينبغي أن تعرف» معياراً. فإذا كانت مراجعات مزيفة قابعة على قوائمك ولم تكن لديك عملية معقولة لاكتشافها والاستجابة لها، فإنّ غيابَ نظام اكتشافٍ هو بحدّ ذاته المخالفة. العقوبة هي 53,088 دولاراً عن كل مخالفة، معدّلةً حسب التضخّم اعتباراً من يناير 2025، وكل يوم تستمرّ فيه المخالفة يُحتسب على حدة. فحملة منسّقة من 100 مراجعة مزيفة، إن تُركت دون معالجة، تعني تعرّضاً بقيمة 5.3 مليون دولار. وقد أرسلت FTC أولى رسائل التحذير بموجب القاعدة إلى 10 شركات في ديسمبر 2025، فلم يعد هذا نظرياً منذ نحو عام.
وليست العلامات التجارية الأمريكية وحدها. فقد فتحت هيئة المنافسة والأسواق البريطانية (Competition and Markets Authority) خمسة تحقيقات في مارس 2026 بموجب قانون الأسواق الرقمية والمنافسة والمستهلكين (Digital Markets, Competition and Consumers Act) الجديد، بعقوبات تصل إلى 10% من الإيرادات العالمية. والمادة 50 من قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، التي تشترط إفصاحاً مقروءاً آلياً عن المحتوى المولّد بالذكاء الاصطناعي، تدخل حيّز التنفيذ في أغسطس 2026. وأضاف قانون SB 942 في كاليفورنيا متطلبات إفصاح عن محتوى الذكاء الاصطناعي في يناير 2026. لقد تحرّكت الأرضية التنظيمية تحت كل علامة تجارية دفعةً واحدة.
ما علّمتني إياه تلك المسؤولة هو أن الاكتشاف ضروري لكنه غير كافٍ. فالمُخرَج الذي تحتاجه فعلاً علامةٌ تجارية خاضعة للتنظيم هو دليلٌ على بذل العناية الواجبة — سجلّ تدقيق يُظهر أن عملية اكتشاف واستجابة معقولة كانت موجودة وعملت، أياً كانت المراجعة المزيفة المنفردة التي تسلّلت. لا يمكنك شراء ذلك جاهزاً من الرفّ اليوم؛ فالمنصّات لن تعطيك بيانات اكتشافها، والحلول النقطية لا تولّد سجلّات بمستوى الامتثال. لذا بنينا النظام لينتج ذلك الأثر كمُخرَج من الدرجة الأولى، لا كفكرةٍ لاحقة. فالأثر القابل للدفاع عنه بموجب قاعدة «كان ينبغي أن تعرف» ليس صفحة مراجعات خالية من العيوب — بل هو الدليل الموثّق على أنك كنت تبحث.
هل ينبغي لعلامة تجارية أن تبني هذا، أم تشتريه، أم تنتظر المنصّات؟
يسألني الناس عمّا إذا كان بوسعهم الانتظار فحسب حتى تلحق المنصّات بالركب. جوابي الصادق: المنصّات تجري بأقصى سرعتها على مشكلة عرّفتها بأنها حماية نفسها، وساعة التنظيم تدقّ الآن عليك أنت، على نحوٍ منفصل. الانتظار موقفٌ، وبعد أكتوبر 2024 صار موقفاً بمبلغ مالي مرفق به.
السؤال الثاني عادةً هو ما إذا كان بوسعهم بناء هذا داخلياً. بوسعك ذلك — لكن انظر إلى تكلفة البرامج الداخلية الجادّة. فعملية Amazon البالغة نصف مليار دولار وبثمانية آلاف شخص هي المعيار المرجعي لما يتطلّبه فعل هذا على نطاق واسع، ومعظم العلامات التجارية لا تُنشئ ذلك لتراقب قوائمها الخاصة عبر خمسة أسواق. والخياران الواقعيان هما نظام مخصّص مضبوط على فئتك، أو كومة من الأدوات الجزئية تخيطها معاً وتأمل أن تتداخل. وستبيعك شركات الاستشارات الكبرى الخيار الثاني ملفوفاً في إطار عمل، قبل ستة إلى اثني عشر شهراً من تشغيل أي تقنية فعلاً.
الأمر الثالث الذي يثيرونه هو سباق التسلّح — إن واصلت أدوات الأنسنة التحسّن، أليست أي أداة اكتشاف مؤقتة؟ إنه القلق الصحيح، وهو بالضبط سبب أن الجواب لا يمكن أن يكون مصنِّفاً نصياً. فالنظام متعدّد الإشارات يتدهور ببطء حين تُهاجَم إشارة واحدة، لأن على المهاجم أن يهزم السلوك والتوقيت وبنية الشبكة في آنٍ واحد، لا أن يعيد كتابة الكلمات فقط. أنت لا تربح سباق تسلّح بامتلاك بندقية أفضل. بل تربحه بجعل تكلفة الهجوم أكبر من العائد. وحين يُسعّر الاحتيال بخمسين سنتاً مقابل التصويت المؤيّد، فإن رفع تكلفة نجاح الحملة هو اللعبة كلها.
علّمتني قائمة أسعار Telegram شيئاً قبل أن يعلّمني إياه أي نموذج، وهو الشيء الذي أعود إليه باستمرار. فالطرف الآخر يتعامل مع هذا بوصفه عملاً تجارياً له حساب أرباح وخسائر. ولسنوات تعاملت العلامات التجارية معه بوصفه إزعاجاً يُفلتَر. والعلامات التجارية التي ستخرج من هذا العقد وتقييماتها سليمة ستكون تلك التي بدأت تعامل منظومة مراجعاتها بالطريقة التي يتعامل بها المهاجمون بالفعل — بوصفها بنية تحتية متنازعاً عليها تستحقّ الدفاع عنها عن قصد. ذلك هو التحوّل الذي سأبدأ به، وهو ما يفترضه النظام الذي بنيناه من أول سطر برمجي.
المراجعة المزيفة التي لا تمسك بها أبداً تكلّفك عملية بيع. أما نظام الاكتشاف الذي لم تبنِه قط، بعد أكتوبر 2024، فيكلّفك 53,088 دولاراً في اليوم. وهاتان ليستا المشكلة نفسها، والثانية هي التي لم تسعّرها معظم العلامات التجارية بعد.
