وكيل السفر بالذكاء الاصطناعي لديكم يحجز فنادق غير موجودة

المشكلة

طلبت عائلةٌ من مخطِّط الذكاء الاصطناعي الجديد في وكالة السفر الخاصة بها نُزُلًا بيئيًا فاخرًا في كوستاريكا بأقل من 200 دولار لليلة واحدة. قدَّم الذكاء الاصطناعي نتيجةً رائعة — أوصافًا مفصلة، وأسعارًا جاذبة، ومنشأةً تبدو مثالية. حجزت العائلة رحلاتها الجوية ووصلت إلى كوستاريكا. لكن الفندق لم يكن موجودًا أصلًا. كان الذكاء الاصطناعي قد مزج سماتٍ من مراجعات فندقية حقيقية متعددة في بياناته التدريبية لتكوين منشأة خيالية واحدة. اخترع اسمًا يبدو معقولًا، وألحق به وسائل راحة من منتجعات لا صلة لها، وولّد وصفًا يُقرأ كإدراج فندقي بخمس نجوم. كل شيء في هذه التوصية كان متماسكًا ومقنعًا ومختلقًا تمامًا.

هذه ليست حالة نادرة. إنها النتيجة المتوقعة للطريقة التي تعمل بها نماذج اللغة الكبيرة (LLMs) فعليًا — وهي محركات الذكاء الاصطناعي الكامنة وراء أدوات مثل ChatGPT. فهي لا تبحث عن غرف فندقية حقيقية، بل تتنبأ بالكلمة التالية الأكثر ترجيحًا إحصائيًا في الجملة. وعندما يحسّن نظامكم المعقولية بدلًا من الحقيقة، يكون الخيال هو الناتج الطبيعي. وعملاؤكم هم من يدفعون الثمن — أحيانًا حرفيًا، وأحيانًا بعطلةٍ مدمَّرة، وأحيانًا بدعوى قضائية ضد شركتكم.

لقد أثبتت قضية روبوت الدردشة الخاص بشركة طيران كندا (Air Canada) بالفعل أن هذا الخطر حقيقي. فقد حكمت محكمة بأن شركة طيران كندا مسؤولة عن سياسة استرداد الأموال التي اختلقها روبوت الدردشة الخاص بها، ورفضت المحكمة حجة أن روبوت الدردشة أداة «تجريبية» منفصلة. وإذا نشرت شركتكم وكيل ذكاء اصطناعي يقدّم وعودًا للعملاء، فإن شركتكم تتحمل مسؤولية تلك الوعود.

لماذا يهم هذا أعمالكم

التعرض المالي والقانوني هنا ليس نظريًا. فهو يظهر بالفعل في قاعات المحاكم وفي الميزانيات العمومية.

• المسؤولية المباشرة عن أخطاء الذكاء الاصطناعي. لقد أرست قضية طيران كندا السابقة القانونية: إذا وعد ذكاؤكم الاصطناعي بجناح بإطلالة بحرية مقابل 200 دولار بينما لا يملك نظام الحجز سوى غرفة عادية مقابل 400 دولار، فقد تكون وكالتكم مدينة بالفرق. أو الأسوأ — وقد تدينون بتعويضات عن رحلة مدمَّرة.
• فجوة البحث إلى الحجز تدمّر دقة التسعير. فتوافر نظام التوزيع العالمي (GDS) — قواعد البيانات المركزية التي تتعقب مقاعد الطيران وغرف الفنادق الحقيقية — كثيرًا ما يكون مخزَّنًا مؤقتًا. وقد تظهر غرفة متاحة أثناء البحث ثم تختفي بعد أجزاء من الثانية عند تنفيذ أمر الحجز. والذكاء الاصطناعي الذي يعامل نتيجة بحث كحجز مؤكد سيذكر أسعارًا لا تستطيع شركتكم الوفاء بها.
• التعرض لبيانات شخصية يخلق مخاطر امتثال. تشمل حجوزات السفر أرقام جوازات السفر وتفاصيل بطاقات الائتمان والأسماء القانونية الكاملة. وإذا دخلت أي من هذه البيانات في نافذة معالجة الذكاء الاصطناعي، فقد تتسرب في استجابة مختلقة مستقبلية أو تُسجَّل في سجل دردشة غير مؤمَّن. وخرقٌ واحد لمعايير الامتثال PCI-DSS قد يستوجب عقوبات بمبالغ من ستة أرقام.
• إخفاقات السلامة تتجاوز استرداد الأموال. فالورقة البحثية توثق حالات اختلق فيها الذكاء الاصطناعي مسارات تنزُّه آمنة غير موجودة أصلًا، موجِّهًا السياح إلى تضاريس خطرة. كما يمكنه ابتكار برامج إعفاء من التأشيرات لدول تشترطها، مما يتسبب في ترحيل المسافرين عند وصولهم.

كل واحد من هذه الإخفاقات يعود إلى السبب الجذري نفسه: ذكاؤكم الاصطناعي يولّد نصوصًا ولا يتحقق من الحقائق.

ما الذي يجري فعلًا تحت الغطاء

إليكم أبسط طريقة لفهم سبب اختلاق ذكاء السفر الاصطناعي. تخيّلوا نموذج اللغة الكبير ببغاءً واسع القراءة للغاية؛ فقد استوعب ملايين مراجعات الفنادق ومدونات السفر وأوصاف الحجوزات. وعندما تسألونه عن نُزُل بيئي في كوستاريكا، لا يفتح نظام حجوزات، بل يستحضر أنماط الكلمات. فكلمة «كوستاريكا» يتبعها إحصائيًا «أخضر كثيف»، و«أخضر كثيف» يتبعه «غابة مطيرة». يبني الوصف كلمةً تلو الأخرى بناءً على الاحتمالات.

وتكمن الإخفاقة الحرجة عندما يحاول الذكاء الاصطناعي تسمية منشأة بعينها. فإذا كانت بيانات تدريبه تتضمن آلاف المراجعات لمنتجع Tabacon Resort وآلاف أخرى لـ Nayara Springs، فقد يمزجهما في اسم يبدو معقولًا — مثل «Tabacon Springs Eco-Lodge» — ويضيف وسائل راحة لا تنتمي حصريًا إلى أيٍّ من المنشأتين. في الكتابة الإبداعية يُسمى هذا المزج خيالًا. أما في نظام الحجز فهو اختلاق يكلّف أموالًا حقيقية.

وتزداد المشكلة سوءًا بحكم التصميم. فمعظم النماذج الأساسية تُدرَّب بعملية تغذية راجعة يفضّل فيها المقيّمون البشريون الإجابات الواثقة والكاملة. فعندما يقول النموذج «لا أعلم»، يحصل على مكافأة أقل مما يحصل عليه حين يجرّب تخمينًا معقولًا. وهذا يخلق انحيازًا مدمجًا نحو الاختلاق. فالوكيل البشري الذي يخمّن التوافر يُطرد، أما الذكاء الاصطناعي الذي يخمّن التوافر فيُمدح على طلاقته — حتى لحظة هبوط العميل في المطار بالضبط.

هذا ما تسميه الورقة البحثية «الوادي الغريب» (Uncanny Valley) للموثوقية. فاروبوت الدردشة البدائي الذي يسئ فهم سؤالكم مزعج لكنه غير مؤذٍ. أما الذكاء الاصطناعي المتقدم الذي يفهم سؤالكم بشكل تام، ويرد بمعجم صناعةٍ مصقول، ويقدّم نتائج واثقة لكنها خيالية، فهو خطير. فالطلاقة تحجب عدم الكفاءة. ويثق عملاؤكم فيه تحديدًا لأنه يبدو موثوقًا — وهذه ثقة لا أساس لها.

ما ينجح (وما لا ينجح)

لنبدأ بثلاثة مناهج شائعة تفشل في بيئة الإنتاج.

«أغلفة نماذج اللغة الكبيرة» (LLM Wrappers) — طبقات دردشة رقيقة فوق نموذج أساسي. فهذه رخيصة وسريعة البناء لكنها عمياء جوهريًا: لا وصول لديها إلى المخزون الحي، ولا ذاكرة للقيود السابقة، ولا سبيل للتحقق من مخرجاتها. إنها نماذج أولية، لا منتجات.

هندسة المطالبات وحدها — إخبار الذكاء الاصطناعي بأن «ينص الحقائق فقط». هذا لا يغيّر البنية التحتية للنموذج؛ فالنموذج ما زال يتنبأ بالكلمة التالية الأرجح. ومطالبته بالصدق كإخبار الببغاء أن يكرر العبارات الصحيحة فقط؛ فليست لديه آلية للتفريق بين الحقيقة والخيال.

الاسترجاع من بيانات ثابتة — تغذية الذكاء الاصطناعي بقاعدة بيانات فنادق مجمَّدة. يساعد هذا في الأسماء والأوصاف لكنه يفشل في التوافر والتسعير. فندق وُجد الشهر الماضي قد يكون أُغلق الآن، وسعر الأمس قد تكون غرفه نفدت. والبيانات الثابتة تخلق إحساسًا زائفًا بالارتكاز على الواقع.

وهذا ما ينجح فعلًا — بنية وكيلية تعامل الذكاء الاصطناعي كموجِّه للنية، لا كمصدر للحقيقة.

1. الإدخال — الذكاء الاصطناعي يفسّر طلبكم ولا يجيب عنه مباشرة. فعندما تقولون «ابحثوا لي عن فندق قرب سنترال بارك بأقل من 300 دولار»، يقسّم ذكاء تنسيقي هذا الطلب إلى مهام فرعية منظمة: يحدد رمز المدينة (NYC)، والفترة الزمنية، وسقف السعر. وهو لا يولّد اسم فندق، بل يولّد نداء دالة — طلب بيانات منظمًا موجَّهًا إلى نظام GDS، نظام المخزون الحي الذي يتعقب كل غرفة ومقعد حقيقي في صناعة السفر.

2. المعالجة — عمّال متخصصون يستعلمون الأنظمة الحية. يستدعي عامل فنادق مخصص واجهة برمجة تطبيقات البحث في GDS (مثل Amadeus Hotel Search أو Sabre GetHotelAvail) بتلك المعاملات المنظمة. ويتولى عامل رحلات منفصل عمليات البحث الجوي بالتوازي، ما يقلص إجمالي وقت الانتظار بنسبة تصل إلى 50%. ويتحقق عامل سياسات من النتائج وفق قواعد السفر المؤسسية لديكم قبل وصول أي شيء إلى المستخدم. ويعمل كل عامل باستقلالية، فتعطُّل أحدها لا يُسقط الآخرين.

3. الإخراج — حلقة تحقق تفحص كل ادعاء قبل وصوله إلى العميل. وهذه هي الخطوة الحرجة التي تخطئها معظم الأنظمة. فقبل أن يولّد الذكاء الاصطناعي رسالة تأكيد، تقوم طبقة تحقق منفصلة بتحليل استجابة GDS وفحص رمز حالة الحجز. ولا يؤكد النظام حجزًا إلا عندما يجد رمز حالة HK (Holding Confirmed). وإذا احتوت الاستجابة على UC (Unable to Confirm)، يعيد النظام البحث تلقائيًا ويقدّم بدائل. وهو لا يخبر العميل أبدًا «تم حجزكم!» استنادًا إلى رمز نجاح HTTP 200 وحده — لأن طبقة النقل قد تنجح بينما يفشل الحجز نفسه.

وبالنسبة لفرق الامتثال والتدقيق لديكم، تنتج هذه البنية سجل قرار كاملًا: كل نداء أداة، وكل استجابة من GDS، وكل خطوة تحقق، جميعها مسجلة. وعندما تسألكم جهة تنظيمية أو محكمة «لماذا أوصى ذكاؤكم الاصطناعي بهذا الفندق؟»، يمكنكم عرض استجابة API الدقيقة، ورمز الحالة الدقيق، والمنطق الدقيق الذي أدى إلى التأكيد. وهذا سجل التدقيق هو الفرق بين ذكاء اصطناعي قابل للدفاع عنه ومسؤولية غير قابلة للدفاع.

وتظل البيانات الحساسة محمية أيضًا. فأرقام بطاقات الائتمان وتفاصيل جوازات السفر لا تدخل نافذة معالجة الذكاء الاصطناعي أبدًا. وبدلًا من ذلك، يعيد خزن مدفوعات مؤمَّن رمزًا مميزًا، ولا يرى الذكاء الاصطناعي إلا «قدّم المستخدم وسيلة دفع بالرمز Token_123». وحتى لو اختُرق الذكاء الاصطناعي، فلن يستطيع تسريب بيانات مالية لم يملكها قط.

يبني Veriprajna هذه أنظمة سير عمل حتمية بالذكاء الاصطناعي لصناعة السفر ضمن ممارساتنا في استراتيجية الذكاء الاصطناعي والجاهزية وتقييم المخاطر أما المؤسسات التي تحتاج إلى تنسيق بين وكلاء متعددين مع ضوابط إشرافية، فإن قدرات التنسيق بين الوكلاء المتعددين تمدّ هذه الأنماط عبر سير عمل المؤسسات المعقدة. كما يمكنكم قراءة التحليل الفني الكامل أو استكشاف النسخة التفاعلية لمزيد من التفاصيل المعمارية.