מקדונלד'ס השקיעה שלוש שנים כדי ללמד AI לקבל הזמנות בדרייב-ת'רו. הנה למה 260 צ'יקן מקנאגטס סיימו את הניסוי.

ישבתי בחדר מלון בסוף יוני 2024, גללתי בטלפון, כשסרטון טיקטוק עצר אותי מלכת. אישה בדרייב-ת'רו של מקדונלד'ס צרחה על תיבת רמקול בזמן שקול AI אישר בעליזות את ההזמנה שלה: תשעה תה מתוק, סאנדיי קרמל עם בייקון, ומה שנראה כמו צ'יקן מקנאגטס בשווי $222. היא לא הזמינה שום דבר מזה.

צפיתי בו שלוש פעמים. לא כי זה היה מצחיק — למרות שזה היה — אלא כי זיהיתי בדיוק מה השתבש. הארכיטקטורה. לא המודל, לא נתוני האימון, לא הפרומפט. הארכיטקטורה.

באותו שבוע סיימה מקדונלד'ס רשמית את שותפות ה-AI בת שלוש השנים שלה עם IBM בדרייב-ת'רו. יותר מ-100 סניפים בארצות הברית חזרו למפעילים אנושיים עם אוזניות. הפיילוט נתקע ברמת דיוק הזמנות של כ-80–85% — מה שנשמע סביר עד שמבינים שעובדים אנושיים מגיעים בדרך כלל ל-90% ומעלה, ושבעולם המרווחים הדקיקים של המזון המהיר, כל הזמנה שגויה היא שרפה קטנה שצריך לכבות עם אוכל חינם והתנצלות.

אני בונה מערכות AI ב-Veriprajna מספיק זמן כדי לדעת שזה לא היה כשל של AI. זה היה כשל פילוסופי. מקדונלד'ס ניסתה לפתור בעיה ארכיטקטונית עמוקה בתשובה ארכיטקטונית שטחית. ו-260 המקנאגטס היו הדרך של היקום לומר: זה לא עובד.

הניסוי שהפך לפאנץ' ליין

הרקע חשוב. ב-2019 רכשה מקדונלד'ס את Apprente, סטארט-אפ לזיהוי דיבור, ושילבה אותו בגוף שנקרא McD Tech Labs. שנתיים לאחר מכן היא מכרה את היחידה הזו ל-IBM, מתוך הימור שהתשתית הארגונית של הענק הכחול ו-Watson NLP יוכלו להרחיב את הטכנולוגיה לכל העולם.

ההיגיון נשמע מוצק. ל-IBM היו השרתים, צינור ה-NLP והאמינות הארגונית. למקדונלד'ס היו 40,000 סניפים ברחבי העולם וצורך נואש לפתור את משוואת כוח האדם. חברו ביניהם, ותקבלו את העתיד של המזון המהיר.

במקום זאת, קיבלתם בייקון על גלידה.

הכשלים לא היו תקלות מזדמנות. הם היו שיטתיים. ה-AI קלט הזמנות מנתיבים סמוכים כי לא הצליח להבחין איזו מכונית מדברת. הוא פירש פטפוט רדיו ברקע כבקשות מהתפריט. כשלא הצליח לפענח מה הלקוח אמר — מה שקרה כל הזמן עם מבטאים אזוריים, תיקונים באמצע משפט, או כמה נוסעים שמדברים בו-זמנית — הוא עבר כברירת מחדל לניחוש. והניחושים שלו נשלטו על ידי הסתברות של טוקנים, לא על ידי היגיון בריא.

AI שלא יודע ש-260 מקנאגטס זה אבסורד לא יודע שום דבר על מקנאגטס בכלל.

המשפט הזה המשיך להתגלגל לי בראש. כי הבעיה לא הייתה שהמודל טיפש. מודלי שפה מעידן ה-GPT מוכשרים להפליא. הבעיה הייתה שאף אחד לא בנה את השכבה שאומרת "רגע, זה לא יכול להיות נכון".

למה הדרייב-ת'רו מבוסס ה-AI של מקדונלד'ס באמת נכשל?

אני רוצה לדייק כאן, כי הנרטיב הפופולרי — "AI לא מוכן לעולם האמיתי" — שגוי. מערכת FreshAI של וונדי'ס, שנבנתה על Google Cloud, הגיעה לדיוק של כ-99% וקיצצה 22 שניות מזמני השירות. מערכת Byte של טאקו בל, שרצה על תשתית Nvidia, עיבדה יותר מ-2 מיליון הזמנות מוצלחות ביותר מ-500 סניפים. הטכנולוגיה עובדת. היא פשוט לא עובדת בדרך שבה מקדונלד'ס ו-IBM בנו אותה.

שלושה דברים הרגו את הפיילוט.

הדרייב-ת'רו הוא אזור מלחמה אקוסטי. רוב מודלי השפה מאומנים בסביבות שקטות. בנתיב דרייב-ת'רו יש רעש מנוע, לחץ רוח על המיקרופון, מכשירי רדיו במכוניות שמדליפים דיבור מתחרה, ונוסעים שמדברים בקולי קולות זה על גבי זה. למערכת של IBM חסרה טכנולוגיית beamforming מתוחכמת — הטכניקה של שימוש במערכי מיקרופונים כדי ליצור מיקוד מרחבי על הפה של הנהג. בלעדיה, ה-AI פשוט עיבד כל קול שהוא יכול היה לשמוע. כך ההזמנה של מכונית אחת הגיעה לחשבון של מכונית אחרת.

דיבור אנושי הוא מבולגן באופן מפואר. לקוחות אומרים "מיקי דיז" במקום "מקדונלד'ס". הם משנים את דעתם באמצע משפט: "תן לי קולה — לא, רגע, דר פפר". הם משתמשים בסלנג, ממלמלים, יש להם מבטאים שנתוני האימון מעולם לא נתקלו בהם. כשמערכת ה-IBM לא הצליחה לפענח קלט, היא השתמשה בפענוח חמדני (greedy decoding) — בחירת המילה הבאה הסבירה ביותר סטטיסטית במקום לבקש הבהרה. כך "מים וגלידת וניל" הפכו ל"סאנדיי קרמל עם חמאה וקטשופ". המערכת התאימה שברי פונטיקה לפריטי תפריט בעלי הסתברות גבוהה בלי קשר לשאלה אם השילוב היה הגיוני בכלל.

לא הייתה שכבת שפיות. זו הנקודה שהכי מטריפה אותי. לא הייתה תקרת כמות מקסימלית. לא היה כלל שאומר שגלידה פלוס בייקון שווה ל"תשאל בן אדם". לא היה טריגר להסלמה לעסקאות בסכומים גבוהים. מודל השפה קיבל את כל ההחלטות, ומודלי שפה לא מסיקים מסקנות על העולם הפיזי. הם חוזים את הטוקן הבא. זה דבר שונה מהותית.

בעיית ה-wrapper

אני זוכר שיחה עם לקוח פוטנציאלי בערך באותה תקופה. הם היו רשת קמעונאית בינונית, והם בנו משהו שהם קראו לו בגאווה "מערכת שירות לקוחות מונעת AI". כשהסתכלתי מתחת למכסה המנוע, זו הייתה שכבת תוכנה דקה שיושבת בין הלקוחות שלהם ל-API של OpenAI. היא עיצבה קלטים, בנתה פלטים והוסיפה את הלוגו שלהם. זה הכול.

"מה קורה כשהיא הוזה?" שאלתי.

"יש לנו דיסקליימר", הם אמרו.

זה מה שהתעשייה מכנה "wrapper" — וזה הדפוס הארכיטקטוני שהכשיל את מקדונלד'ס. ה-wrapper לוקח מודל יסוד עוצמתי ומורח עליו שכבת צבע. זה נהדר להדגמות. זה נהדר לאבות-טיפוס. זה בלתי מספק באופן קטסטרופלי עבור כל סביבה שבה לטעות יש השלכות.

מערכת מקדונלד'ס-IBM הייתה בבסיסה wrapper סביב Watson NLP מיושן. מודל השפה טיפל בהכול: זיהוי דיבור, פענוח כוונה, התאמת תפריט, אישור הזמנה. לא הייתה הפרדה בין מה שצריך להיות הסתברותי (הבנת דיבור אנושי מבולגן) לבין מה שצריך להיות דטרמיניסטי (אכיפת כללים עסקיים). זו הייתה הסתברות עד הסוף.

כתבתי בהרחבה על ההבחנה הארכיטקטונית הזו במאמר המחקר האינטראקטיבי שלנו, אבל רעיון הליבה פשוט מספיק כדי להיכתב על מפית.

מה בעצם המשמעות של "ליבה דטרמיניסטית, קצה הסתברותי"?

ב-Veriprajna אנחנו בונים מערכות על פי עיקרון שאני חוזר אליו שוב ושוב: השתמשו ב-AI למה ש-AI טוב בו, והשתמשו בכללים למה שכללים טובים בהם.

מודל שפה מרהיב ביכולתו להבין את הכוונה שמאחורי דיבור אנושי מבולגן, דו-משמעי ובעל מבטא. זהו הקצה ההסתברותי — השכבה החיצונית הגמישה שמתמודדת עם הכאוס של העולם האמיתי.

אבל ברגע שהבנת את הכוונה, הביצוע צריך להיות מנוהל על ידי לוגיקה נוקשה. מנוע היסק סימבולי. גרף ידע של העסק. כללים שהסתברות סטטיסטית לא יכולה לעקוף.

בהקשר של דרייב-ת'רו, זה אומר:

ה-LLM שומע "תן לי איזה מאה נאגטס" ומפרש נכון את הכוונה כ"הלקוח רוצה כמות גדולה של צ'יקן מקנאגטס". ואז נכנסת לפעולה הליבה הדטרמיניסטית: הכמות המקסימלית בהזמנה בודדת של מקנאגטס היא 40 יחידות. המערכת שואלת: "אני יכול עד 40 מקנאגטס — זה מתאים לך?" במקום לרשום בעליזות בקופה 2,510.

מודל השפה צריך להיות האוזניים. מנוע הכללים צריך להיות המוח. מקדונלד'ס גרמה לאוזניים לחשוב.

זה לא תיאורטי. FreshAI של וונדי'ס עובדת בדיוק כי היא משתלבת לעומק עם מערכת נקודת המכירה ועם מסכי המטבח — ה-AI מבין מה אתם אומרים, אבל הלוגיקה העסקית היא שמחליטה מה קורה אחר כך. המערכת של טאקו בל משתמשת בתזמור רב-סוכנים, שבו רכיבים מתמחים שונים מטפלים בחלקים שונים של העסקה. אלו מערכות מתוכננות ארכיטקטונית, לא wrappers.

הלילה שבו הבנתי מהו החפיר האמיתי

היה ערב מאוחר — אני חושב שזה היה יום חמישי — שבו אני והצוות שלי ניפינו באגים בצינור עיבוד אודיו לפריסה אצל לקוח. היינו בזה שעות. המערכת המשיכה לסווג בטעות רעש סביבתי כקלט דיבור, ולא הצלחנו להבין למה.

בסביבות 23:00, אחד המהנדסים שלי העלה את הספקטרוגרמה הגולמית והצביע על תבנית שאף אחד מאיתנו לא שם לב אליה. מערכת מיזוג האוויר במתקן של הלקוח ייצרה זמזום בתדר נמוך שישב בדיוק בטווח של צלילי תנועות מסוימים. המודל ממש שמע את המזגן וניסה לקחת ממנו הזמנה.

בשבועיים שלאחר מכן בנינו שכבת חיסור ספקטרלי ייעודית — רשת נוירונים שאומנה במיוחד על פרופיל הרעש של אותו מתקן — שיכלה לזהות ולהסיר את החתימה של מערכת המיזוג עוד לפני שהאודיו הגיע למודל זיהוי הדיבור.

אז משהו התחבר לי. החפיר האמיתי ב-AI ארגוני הוא לא המודל. לכולם יש היום גישה למודלים טובים. החפיר נמצא בעיבוד האותות — העבודה הלא-זוהרת והמפרכת של ניקוי העולם האמיתי לפני שהוא מגיע למוח של ה-AI.

למערכת של מקדונלד'ס זה חסר לחלוטין. מחקר של סטנפורד מראה שגישות חוצות-מודאליות — שבהן מצלמה עוקבת אחרי תנועות שפתיים במקביל לאודיו — יכולות להפחית את שיעורי שגיאת המילים מ-28.8% ל-12.2% בסביבות רועשות. זה ההבדל בין מערכת שעובדת לבין מערכת שהופכת ויראלית מהסיבות הלא נכונות.

למי שייך המוח?

יש עוד ממד לכשל של מקדונלד'ס שלא נכנס לקומפילציות הטיקטוק אבל חשוב לאין שיעור: ריבונות על נתונים.

מקדונלד'ס כבר התמודדה עם תביעות לפי חוק פרטיות המידע הביומטרי של אילינוי (Illinois Biometric Information Privacy Act) בטענה שאספה טביעות קול של לקוחות ללא הסכמה. כשה-AI שלכם רץ על הענן של צד שלישי, כל אינטראקציה עם לקוח — כל קול, כל הזמנה, כל דפוס העדפה — זורמת דרך תשתית שאינה בשליטתכם.

זה לא רק סיכון משפטי. זה סיכון אסטרטגי. חמישים אחוז מעובדי הידע כבר משתמשים בכלי AI לא מורשים בעבודה, ו-46% אומרים שימשיכו להשתמש בהם גם אם ייאסרו במפורש. אנחנו קוראים לזה "Shadow AI", וזו דליפת נתונים עצומה ובלתי נראית שרוב הארגונים עוד לא התחילו לטפל בה.

החלופה היא מה שאנחנו מכנים אינטליגנציה ריבונית: פריסת מודלים בתוך התשתית של הארגון עצמו, שבה הנתונים לעולם לא עוזבים את הבניין. לפירוט הטכני המלא של פריסת LLM פרטי וסיכון ה-Shadow AI, אני מפנה אתכם למחקר שלנו — אבל העיקרון פשוט. אם אתם לא הבעלים של המוח, אתם לא הבעלים של העסק.

למה חלק ממערכות הדרייב-ת'רו מבוססות ה-AI עובדות ואחרות לא?

אנשים שואלים אותי את זה כל הזמן, ואני חושב שהם מצפים לתשובה מסובכת. היא לא.

המערכות שעובדות — וונדי'ס, טאקו בל, וייט קאסל — נבנו כארכיטקטורות משולבות מהיסוד. הן מתייחסות ל-AI כאל רכיב אחד במערכת גדולה יותר שכוללת עיבוד אותות, לוגיקה עסקית, מסלולי הסלמה לבני אדם וניטור מתמשך. ה-AI עוצמתי אבל מרוסן. הוא פועל בתוך מעקות בטיחות שמשקפים את הפיזיקה האמיתית של העסק.

המערכת שנכשלה הוברגה מבחוץ. היא התייחסה ל-AI כאל שירות שנרשמים אליו במקום כאל יכולת שמהנדסים. היא ביקשה ממודל שפה לעשות הכול — לשמוע, להבין, להחליט, לבצע — בסביבה שמודלי שפה מעולם לא תוכננו עבורה.

מחקר הדרייב-ת'רו של 2025 מאשר את הפיצול הזה. נתיבים מונעי AI מהירים ב-22 עד 29 שניות מנתיבים מאוישים בבני אדם בממוצע, ולמרות ציונים נמוכים יותר בסעיף "ידידותיות", סניפים עם AI רשמו 97% שביעות רצון כוללת — שש נקודות מעל הממוצע המסורתי. לקוחות לא צריכים שה-AI יהיה חמים. הם צריכים שהוא יהיה נכון.

בעתיד של המזון המהיר, האירוח לא נמדד בחמימות של קול. הוא נמדד בשאלה אם קיבלתם את מה שבאמת הזמנתם.

הוויכוח שהיה לנו על "מספיק טוב"

אני רוצה לשתף במשהו שקרה בתוך Veriprajna, כי אני חושב שהוא ממחיש מתח שכל חברת AI מתמודדת איתו.

תכננו מערכת עבור לקוח, ואחד המהנדסים הבכירים שלי טען שאנחנו מהנדסים יתר על המידה את השכבה הדטרמיניסטית. "המודל כבר בדיוק של 92%", הוא אמר. "אנחנו משקיעים שבועות בבניית כללים למקרי קצה שמייצגים 8% מהעסקאות. זה באמת שווה את זה?"

העליתי את קומפילציית הטיקטוק של מקדונלד'ס. "כמה כאלה אתה חושב שצריך כדי להרוס מותג?" שאלתי.

הוא אמר שתיים.

אני אמרתי אחת.

בנינו את שכבת הכללים. זה הוסיף שלושה שבועות ללוח הזמנים. ללקוח לא היה אף אירוע ויראלי אחד.

זה החישוב שמודל ה-wrapper מפספס. במעבדה, דיוק של 92% הוא מצוין. בעולם האמיתי, שיעור הכשל של 8% אינו מתפלג באקראי — הוא מתאשכל סביב המקרים הקשים ביותר, הסביבות הרועשות ביותר, הלקוחות המתוסכלים ביותר. אלו בדיוק הרגעים שמסתיימים ברשתות החברתיות. העלות של ה-8% אינה פרופורציונלית לתדירות שלו. היא אקספוננציאלית.

מה קורה הלאה

מקדונלד'ס לא ויתרה על AI. היא רמזה שהיא בוחנת שותפים חדשים וגישות חדשות. אבל ניסוי ה-IBM בן שלוש השנים הסתיים, ומה שהוא מותיר אחריו הוא לקח ברור לכל ארגון ששוקל פריסת AI.

שלב הניסויים הסתיים. עידן ההברגה של מודל שפה על תהליך קיים בתקווה שהכול יסתדר — תם. מה שבא אחר כך — מה שהייתי מכנה עידן ה-Deep AI — דורש משהו קשה יותר: עיצוב ארכיטקטוני מחדש, אמיתי, של המערכות שלכם סביב היכולות והמגבלות של האינטליגנציה המכונתית.

זה אומר ליבות דטרמיניסטיות עם קצוות הסתברותיים. זה אומר בעלות על התשתית שלכם. זה אומר להשקיע בעיבוד אותות באותה רצינות שבה אתם משקיעים בבחירת מודל. זה אומר לבנות מסלולי הסלמה לבני אדם לא כמנגנון גיבוי אלא כפיצ'ר. וזה אומר לקבל שעבודת ההנדסה הלא-זוהרת — סינון הרעש, מנועי הכללים, ספריות מקרי הקצה — היא המקום שבו נמצא היתרון התחרותי האמיתי.

הפער בין ארגונים שמבינים את זה לבין אלו שלא — עומד להפוך לקבוע. לא כי הטכנולוגיה לא נגישה, אלא כי הפילוסופיה הארכיטקטונית דורשת סוג של משמעת שרוב הארגונים היו מעדיפים לדלג עליה.

מקדונלד'ס למדה את זה בדרך הקשה, בקנה מידה גדול, בפומבי. 260 המקנאגטס לא היו באג. הם היו התוצר הבלתי נמנע של מערכת שמעולם לא נבנתה כדי לומר לא.