ما الذي يجب أن يؤكده الإنسان في طلب صوتي بالذكاء الاصطناعي؟
في مثال اصطناعي للطلب الصوتي، يتحول رمز صوتي متكرر إلى ثلاثة برغر. يقدم النظام تصحيحاً معقولاً: تغيير الكمية إلى واحد. بالنسبة لفريق المنتج، السؤال الصعب هو ما الذي يحدث بين ذلك الاقتراح والإذن بتقديم الطلب. إن الاستبدال الذي يبدو مفيداً لم يحدد بعد ما أراده العميل.
إخلاء مسؤولية: الأمثلة أدناه هي طلبات اصطناعية في Drive-Thru Order Firewall من Veriprajna، والذي يتحقق من صحة المخرجات المنظمة للمورد قبل شاشة المطبخ المحاكاة. وهو لا يتعرف على الصوت الحقيقي أو يرسل الطلبات إلى نظام نقاط البيع الخاص بالمطعم.
أريد أن يحل التأكيد البشري حالة عدم يقين محددة. يتطلب ذلك الفصل بين ثلاثة أحكام: ما كان يقصده العميل، وما إذا كان هذا الطلب مسموحاً به بموجب سياسة المطعم، وما إذا كان الطلب الدقيق المقترح يلبي الفحوصات. إن دمج هذه الأحكام في زر موافقة واحد يجعل من الصعب معرفة ما تعنيه الموافقة.
التصحيح هو فرضية حول القصد
يحتوي نموذج الاختبار للرمز المتكرر على نص غير مترابط، وثلاثة رموز خام متطابقة، وكمية من ثلاثة برغر. درجة الثقة المقدمة له هي 0.71، وهي أقل من حد المراجعة المكوّن البالغ 0.85. لذلك تضع قواعد التكرار وانخفاض الثقة الطلب في حالة HOLD. تقترح قاعدة التكرار برغر واحداً.
العدد واحد هو مرشح معقول لعرضه على المشغل. ولكنه ليس دليلاً على الكمية المقصودة. قد يفسر الرمز المتكرر المخرجات المنظمة، لكن القاعدة التي تلاحظ التكرار لا يمكنها سؤال العميل عما كان يقصده. إن الاستبدال التلقائي لثلاثة بواحد من شأنه أن يستبدل تفسيراً مشكوكاً فيه بتفسير غير مؤكد.
رفض الطلب ينطوي على تكلفة مختلفة. إنه يتعامل مع التفسير الذي يحتاج إلى توضيح كما لو أنه لا يمكن استرداد أي طلب مقبول. أفضل التعليق (hold) عند هذه النقطة لأنه يحافظ على الأدلة الأصلية ويترك الكمية المقصودة مفتوحة. في تصميم الإنتاج، يجب أن يسأل التأكيد عن الكمية نفسها، بدلاً من مطالبة المشغل بتأييد الثقة العامة للنظام.
هذا موقف تصميمي، وليس سير عمل مكتملاً في هذا التطبيق. يغير زرا Approve Correction وEscalate في العرض التوضيحي تسمياتهما ويعطلان نفسيهما. لا يقومان بإعادة الإرسال أو الإفراج أو تسجيل إجراء بشري أو تغيير الإيصال. سيظل فريق الإنتاج بحاجة إلى بناء المحادثة وتغيير الحالة الذي يجعل إجابتهما ذات أثر.
قد يتم فهم الطلب غير المعتاد بدقة
التفسير هو مجرد سبب واحد للتوقف المؤقت. يحتوي نموذج اصطناعي آخر على 18,000 كوب ماء مع درجة ثقة مقدمة تبلغ 0.97 وسعر قائمة عملاء صفري. تتجاوز الكمية الحد الأقصى المكوّن للماء وهو ثمانية، لذا تحتجزها البوابة. لا تجيب درجة الإدخال العالية ولا السعر الصفري عما إذا كان يجوز المضي قدماً في هذه الكمية. الدرجة هي مدخل من النموذج، وليست احتمالاً معاير للإذن.
الكمية القصوى تجعل هذا التمييز سهلاً. قرار المنتج الأصعب هو كمية غير معتادة يريدها العميل بالفعل. ضع في اعتبارك طلباً جماعياً افتراضياً يتجاوز الحد التلقائي العادي للمطعم. إذا أكد العميل الرقم، فقد يتم تسوية التفسير بينما يظل الإذن معلقاً. إن تخفيضه إلى الحد الأقصى المعتاد من شأنه أن يغير الطلب. ورفضه تماماً قد يتجاهل طلباً مشروعاً.
أفضل استخدام حد استثناء لبدء المراجعة عندما تسمح السياسة باستثناء. يحتاج المشغل بعد ذلك إلى تحديد ما إذا كان المطعم يمكنه قبول الطلب المؤكد، وربما من خلال مسار معتمد بشكل منفصل. لا ينبغي للحد المصمم لتقييد التقديم التلقائي أن يتحول بهدوء إلى قاعدة تعيد كتابة قصد العميل.
هذا يستهلك الانتباه. يسمح الحد التلقائي الأكثر مرونة بمرور المزيد من الطلبات غير المعتادة؛ بينما ينشئ الحد الأكثر صرامة المزيد من أعمال المراجعة. لا يمكن للعرض التوضيحي اختيار هذا التوازن للمطعم. تأتي حدوده من سجل طلبات اصطناعي مبدئي، ويصف التوزيع ما ظهر في ذلك السجل. إنه لا يحدد قدرة موقع حقيقي أو مدى تكرار حدوث طلب جماعي مشروع. قبل اعتماد مثل هذه السياسة، سيحتاج الفريق إلى أدلة حول الاستثناءات المقبولة والعبء العملي لتأكيدها.
يجب أن ينطبق التأكيد تماماً على الطلب التالي المحدد
حتى التصحيح المؤكد يمكن أن يظل غير صالح. يبدأ نموذج الحجم الكبير بـ 40 بطاطس مقلية و40 مشروباً غازياً. تقترح قاعدة الكمية تقليل البطاطس المقلية إلى أربعة، لكنها تترك 40 مشروباً غازياً دون تغيير. الحد الأقصى للمشروبات الغازية هو ستة. وبالتالي، فإن الموافقة على أن أربع بطاطس مقلية هي البديل الصحيح ستترك انتهاكاً آخر للكمية في الطلب المقترح.
لهذا السبب أبقي التأكيد والتحقق متميزين. يعالج تأكيد العميل القصد. يعالج قرار استثناء المشغل المعتمد السياسة. يتحقق فحص الطلب المقترح الكامل مما إذا كانت المعاملة التالية تفي بالقواعد المعمول بها. لا يمكن استنتاج أي من هذه الإجابات بأمان من الإجابات الأخرى.
بالنسبة لسير عمل الإنتاج، سأطلب أن يمر الاقتراح المؤكد بعملية التحقق مرة أخرى قبل التقديم. إذا كان بإمكان المشغل تجاوز سياسة ما، فيجب أن تكون تلك السلطة صريحة ومرتبطة بالقاعدة والطلب المحددين المقبولين. لا ينبغي للموافقة العامة أن تمحو الإخفاقات غير ذات الصلة. هذه متطلبات لتنفيذ مستقبلي، وليست قدرات توضحها عناصر تحكم التصحيح الحالية.
المشورة يمكن أن تساعد دون منح إذن
ملاحظة النموذج التوضيحية لها دور مفيد ولكنه أضيق: يمكنها أن تجعل سبب التعليق أسهل في القراءة. في تسجيل المؤسس المصاحب، تستخدم تلك الملاحظة ردوداً استشارية حقيقية مخزنة مؤقتاً. إنه ليس استنتاجاً جديداً في كل إعادة تشغيل. يقرر المحرك أولاً باستخدام قواعد حتمية؛ ولا يمكن للنص الاستشاري اللاحق تغيير القرار. المكالمة الاستشارية متزامنة ضمن المعالجة، لذا فإن هذا الفصل في السلطة لا يثبت أن عمل النموذج لا يضيف أي زمن انتقال للطلب.
يوضح التحليل التفصيلي الكامل للتحقق من الطلبات هذه الحدود والأمثلة الاصطناعية. وهي تدعم حجة تصميم قابلة للفحص، وليست دليلاً على أن السياسة الأولية أو سير عمل المشغل غير المكتمل جاهزان للنشر.
إليكم تسجيل المؤسس لمثال مراجعة الطلب.
بالنسبة لي، فإن مراجعة المنتج الحاسمة تتمثل في متابعة الطلب المقترح وصولاً إلى إجرائه المسموح به التالي. من أكد معناه؟ من قد يقبل استثناءً؟ ما الذي فحص النتيجة الكاملة؟ حتى تشير هذه الإجابات إلى نفس الطلب بالضبط، فإن التصحيح المطمئن وتسمية الموافقة يتركان المعاملة غير مكتملة.
