עוזר הקניות מבוסס-ה-AI שלכם ממיר פי 4 — עד שהוא ממציא דבר אחד
הדמו היה מושלם. קונה ביקש מעוזר הקניות מבוסס-ה-AI שלנו להשוות בין שני מחשבים ניידים לעריכת וידאו, והוא ענה כמו איש מכירות סבלני שבאמת השתמש בשניהם — זיכרון RAM, דיוק צבע, ניהול חום, הכול. כולם בחדר הנהנו. ואז, כמה שבועות לתוך פיילוט שקט, גללתי ביומן תמלול וראיתי את אותו העוזר אומר ללקוח שמחשב נייד הגיע עם 32GB של זיכרון. הוא הגיע עם 16.
שום דבר במערכת לא סימן זאת. המשפט היה תקין דקדוקית, בטוח, ונשמע מועיל. הוא גם היה שגוי באופן שאילו אותו לקוח היה קונה את המכונה לרינדור והיא הייתה נחנקת, זה היה חוזר אלינו הישר כהחזרה, ביקורת של כוכב אחד, ומשפט בתלונה שהתחיל ב"ה-AI שלהם אמר לי". באותו אחר צהריים הבנתי את הבעיה האמיתית שלAI למסחר אלקטרוני: הסכנה אינה מודל שנשמע טיפשי. זהו מודל שנשמע נכון והוא שגוי, מפני ששום דבר במחסנית לעולם אינו בודק את תשובתו מול האמת.
הפער הזה — בין תשובה שנקראת היטב לבין תשובה שהיא באמת נכונה — הוא מה שהצוות שלי מתפרנס כיום מלסגור. לפני שאסביר כיצד, הרשו לי לספר לכם מדוע מודל חכם יותר מעולם לא עמד להציל אותנו.
הדמו ששיקר לי
נכנסתי לתחום ה-AI לקמעונאות מתוך אמונה במה שרוב מנהיגי ההנדסה מאמינים: שהזיה היא בעיה של איכות המודל, ואיכות המודלים עולה כלפי מעלה וימינה, כך שהבעיה פותרת את עצמה אם רק ממתינים שני רבעונים ומחליפים לנקודת הביקורת הבאה.
המספרים נראים כתומכים באופטימיות הזו, בדיוק עד הרגע שבו הם חדלים. המודל הטוב ביותר של Google מהזה בכ-0.7% מתשובות הידע הכללי. רוב המודלים נמצאים על 1–3%. אבל הממוצע על פני הידע הכללי הוא 9.2%, וניתוח ענפי אחד מצא כי 82% מכשלי ה-AI הם הזיות או מידע מוטעה ולא קריסות או פסקי זמן. כך שאפילו על מודל טוב, בערך אחת ממאה טענות מוצר בטוחות היא מומצאת — ואתם משגרים אלפי טענות כאלה ביום.
שיעור הזיה של 1% נשמע כמו ציון מעולה. במיליון תשובות מוצר בשבוע — נפח של קטלוג בגודל בינוני — אלה עשרת אלפים משפטים שגויים בביטחון עם שם המותג שלכם עליהם.
הנה החלק שסיפור איכות המודל מפספס לחלוטין: התשובה השגויה והתשובה הנכונה יוצאות מאותה המכונה, באותו שטף, באותו טון, באותו ביטחון. למודל אין מושג שהוא משקר. אין שום אות פנימי שמפריד בין "16GB, מאומת מול הקטלוג" לבין "32GB, מותאם בתבנית מפוסט בפורום". אם אתם רוצים את האות הזה, עליכם לבנות אותו מחוץ למודל. המתנה לנקודת ביקורת חכמה יותר אינה מעניקה לכם את האות הזה; היא רק הופכת את התשובות השגויות לרהוטות יותר.
מדוע מעקות בטיחות טובים יותר לא תיקנו זאת?
אז ניסינו לבנות את האות בדרך המובנת מאליה, ואני רוצה להיות כן ולומר שאני זה שדחף לדרך המובנת מאליה.
האינסטינקט הראשון שלי היה בטיחות מבוססת-הנחיה בשילוב סינון מילות מפתח. אמרו למערכת בהוראותיה: לנקוב רק במפרטים שאתם יכולים לאשש, לעולם לא לתת ייעוץ רפואי או בטיחותי, לסרב לכל דבר מסוכן. הוסיפו מסנן שתופס מונחים מזיקים בעליל. זה זול, זה מהיר, ובבדיקות זה נראה אטום לחלוטין. טענתי בעד שיגורו. שיגרנו אותו.
זה החזיק מעמד עד ששכבת האחזור הזינה אותו במשהו בעל מראה סמכותי. הדרך שבה רוב המערכות הללו פועלות היא יצירה מוגברת-אחזור — העוזר מאחזר מסמכים רלוונטיים (הקטלוג שלכם, לעיתים הרשת הפתוחה) וכותב את תשובתו מהם. המלכודת שאיש אינו מזהיר אתכם מפניה היא שכאשר שכבת האחזור מושכת פנימה תוכן טרי, המודל מתייחס לתוכן הזה כסמכותי יותר מהוראות הבטיחות שלו עצמו. Rufus של Amazon הוא סיפור האזהרה הפומבי: הוא אמר לקונים שה-Super Bowl יתקיים בעיר הלא נכונה מפני שהאחזור העלה מקורות רשת סותרים ואימון המודל גבר על הקטלוג. גרוע מכך, הוא הדריך משתמשים בבניית בקבוק תבערה דרך שאילתות מוצר רגילות — ללא פריצת כלא, ללא הנחיה מתוחכמת, רק תוכן רשת מאוחזר שהמודל החליט לתת בו אמון על פני מעקה הבטיחות שלו עצמו.
זה שבר את המודל המנטלי שלי. מעקה הבטיחות שתמכתי בו לא היה חומה; הוא היה הצעה שהמערכת תתעלם ממנה בשמחה ברגע שתקרא משהו שסותר אותה. סינון מילות המפתח תפס את המקרים הגסים וחלף היישר על פני המקבילות הסמנטיות. שיגרתי מנעול שנפתח בכל פעם שמישהו החליק פיסת נייר בטוחה יותר מתחת לדלת.
בטיחות מבוססת-הנחיה היא פתק דביק על כספת. היא עובדת עד שהמודל קורא פתק דביק שנשמע סמכותי יותר.
שלוש דרכים שבהן AI לקמעונאות נשבר — ורביעית שאיש אינו מתעד
ברגע שהפסקתי להתייחס לכך כבעיית מודל, הכשלים מיינו את עצמם למספר קטן של צורות מבניות, וכל אסון פומבי גדול הוא פשוט אחת מהן בקנה מידה גדול.
הצורה הנפוצה ביותר היא מידע מוצר מוזה — בעיית ה-32GB-שהיו-16GB. זה קורה מפני שהמערכת מייצרת מפרט סביר ושום דבר אינו משווה את המפרט הזה מול רשומת אמת-יסוד לפני שהקונה רואה אותו. העלות אינה מופשטת: רק 46% מהקונים אומרים שהם נותנים אמון מלא בהמלצות AI, ו89% מאמתים את מה שעוזר אומר להם לפני שהם קונים. כל פרט בדוי מאשש את הספקן ושולח אותו בחזרה לחיפוש ידני או למתחרה.
ואז יש את עקיפת הבטיחות שזה עתה תיארתי — אחזור שגובר על מעקה הבטיחות. במסחר זה חד יותר ממיתון תוכן גנרי, מפני ש"האם התוסף הזה יגיב עם מדלל הדם שלי?" אינה שאלת תוכן, אלא שאלה של אחריות-מוצר. עוזר שעונה על כך בביטחון ובטעות יצר חשיפה משפטית שמגמדת כל עלייה בהמרות.
הצורה השלישית הייתי מכנה אין-אונות עסקתית: ה-AI יכול לתאר את מדיניות ההחזרות שלכם אך אינו יכול לעבד החזרה; הוא יכול לדבר על הזמנה שאינו יכול באמת לחפש. Rufus יכול היה להסביר את ההחזרות של Amazon ולא לבצע אחת. Klarna למדה את אותו הלקח עם חשבון גדול בהרבה. הם החליפו כ-700 סוכנים ב-AI, הריצו אותו על פני 2.3 מיליון שיחות, ובתחילה טענו שהוא עמד בעומס — ואז איכות השירות ירדה בדיוק במקרים שחשובים (פתרונות רב-שלביים, מחלוקות רגשיות, כל דבר שדורש שינוי חשבון אמיתי), המנכ"ל הודה בפומבי בפגיעה, ועד 2026 הם שכרו בני אדם בחזרה. הם אינם לבד בחרטה: 55% מהחברות שביצעו פיטורים מונעי-AI אומרות כעת שהן טעו.
ואז יש את הכשל שלעולם אינו מופיע ביומן שגיאות כלל. Cornell Tech בדקו את Rufus על פני ניבים של אנגלית ומצאו תשובות גרועות באופן שיטתי עבור אנגלית אפרו-אמריקאית, אנגלית צ'יקאנו, ואנגלית הודית. קונה ששואל "this jacket machine washable?" — מבנה אנגלית אפרו-אמריקאית תקני לחלוטין שמשמיט את פועל הקישור — קיבל אי-תשובה או הפניה למוצרים לא קשורים. לוחות המחוונים שלכם לעולם לא יתפסו זאת, מפני שהמערכת לא שגתה; היא פשוט הגישה בשקט חנות גרועה יותר לפלח גדול מהלקוחות שלכם. אני מחזיק כעת רשת הערכה שמנקדת תשובות עוזר בניבים הללו זה לצד זה עם אנגלית תקנית, בדיוק מפני ששום דבר אחר אינו חושף את הפער.
אז כיצד גורמים לתשובה להיות אמיתית?
המפנה, לאחר שמעקה הבטיחות נכשל, היה פשוט להפתיע לניסוח וקשה באמת לבנייה: אל תבקשו מהמודל להיות אמין — הציבו שכבת אימות בין המודל ללקוח שבודקת כל תשובה מול אמת-היסוד לפני שהיא משוגרת.
באופן קונקרטי, זה אומר גרף ידע של מוצרים שמחזיק מפרטים מאומתים, מחירים, מלאי, ומדיניות כרשומות סמכותיות, ושכבת ביניים שמיירטת את תשובת המודל, מחלצת ממנה את הטענות הניתנות לבדיקה, ומאששת כל אחת מהן מול הגרף הזה. זה אינו רעיון שולי — Walmart בנתה משלה Retail Graph, גרף ידע של מוצרים, בדיוק כדי שה-AI שלה תהיה לו אמת-יסוד לענות ממנה במקום ניחוש לייצר. החלק הקשה באמת אינו החיפוש; זו הבהרת ישויות — אותו SKU מופיע תחת צורות שטח שונות ברחבי הקטלוג שלכם וברחבי מקומות, ולכן השכבה תחילה צריכה לפתור לאיזו רשומה טענת המודל מתייחסת בפועל לפני שהיא יכולה לבדוק אותה. אם תטעו בכך תאמתו מול המוצר הלא נכון, מה שגרוע מלא לאמת כלל. אבל ברגע שזה נכון: אם המודל אומר 32GB והגרף אומר 16, הטענה לעולם אינה מגיעה לקונה. אם המודל אינו יכול לבסס טענה במקור מאומת, העוזר אומר פחות במקום להמציא יותר. בעיית עקיפת-האחזור מתמוססת מפני שהרשת הפתוחה כבר אינה מקבלת זכות הצבעה על עובדה שהקטלוג כבר יודע.
התנאי המוקדם הבלתי-זוהר הוא נתונים. Gartner צופה שעד 2026, ארגונים ינטשו 60% מפרויקטי ה-AI שאינם נתמכים בנתונים מוכנים-ל-AI — ורוב נתוני הקמעונאות אינם מוכנים. מערכות ניהול מידע המוצר שפתחתי מציגות בדרך כלל 30–40% שלמות תכונות עבור SKU-ים בזנב הארוך. אינכם יכולים לבסס עוזר מול קטלוג שחסרים בו שניים מכל חמישה שדות; הוא ימלא את החורים בניחוש, וזו בדיוק ההתנהגות שאתם מנסים להרוג. אז נתח אמיתי מהעבודה הוא בניית מבנה לנתונים הללו לצריכה מכונתית לפני שתשובה בודדת מאומתת. זו השכבה שאנו בונים — צנרת האימות, הביסוס, והתאימות שיושבת בין מודל שפה גדול לחזית החנות שלכם — ותוכלו לראות את הארכיטקטורה המלאה בveriprajna.com/solutions/ecommerce-ai-accuracy.
תפקיד המודל הוא להיות רהוט. תפקיד שכבת האימות הוא להיות צודקת. ערבוב השניים הוא כיצד כל אחת מהמערכות הללו נכשלת.
אתם הבעלים של כל מילה שהוא אומר
הסיבה שאני נעשה בלתי-מתפשר בנוגע לכך היא שהחוק כבר הכריע של מי הבעיה כאשר צ'אטבוט טועה, והתשובה היא שלכם.
הצ'אטבוט של Air Canada המציא מדיניות החזר כספי בשל שכול שלא הייתה קיימת. כאשר חברת התעופה טענה בבית הדין שהצ'אטבוט הוא ישות משפטית נפרדת האחראית להצהרותיה שלה, בית הדין דחה זאת על הסף וקבע את החברה כאחראית לנזקים. זהו סכום דולרי קטן — $812 CAD — ותקדים עצום: בית משפט אמר כעת בשפה ברורה שאתם הבעלים של כל מילה שה-AI שלכם אומר ללקוח. ראיתי צוות משפטי מעביר את פסק הדין הזה סביב עם שורת נושא בת שורה אחת ובלי שום פרשנות, מפני שההשלכה אינה זקוקה לאף אחת. סוחר ב-Shopify לכאורה הפסיד מעל $8,000 כאשר עוזר הבטיח בעליזות משלוח חינם להוואי שלא הייתה לו סמכות להציע. אותה הבטחה הייתה, מבחינה משפטית, הבטחת הסוחר.
רצפת הרגולציה עולה מתחת לכל זה. חוק ה-AI של האיחוד האירופי הופך לישים במלואו ב-2 באוגוסט 2026, והוא מגיע לכל חברה שמשרתת לקוחות באיחוד האירופי — אינכם זוכים לפטור בזכות מטה הממוקם במקום אחר. הוא דורש שתוכן שנוצר על ידי AI יתויג ושמשתמשים יידעו שהם מקיימים אינטראקציה עם AI, והוא נושא עונשים עד €35 מיליון או 7% מהמחזור השנתי העולמי. בארה"ב, ה-FTC אמרה בבוטות ששימוש ב-AI כדי להטעות או להונות הוא כבר בלתי-חוקי ללא פטור ל-AI, וכלל ביקורות הצרכן שלה אוסר על ביקורות מטעות שנוצרו על ידי AI. תאימות כאן אינה תיבת סימון שמבריגים בסוף; שקיפות ותיוג הן אילוצי תכנון ששייכים לשכבת האימות מהקומיט הראשון.
ההתנגדויות שאני שומע הכי הרבה
אנשים שואלים אותי האם פרוטוקולי המסחר הסוכני החדשים הופכים את כל זה ללא רלוונטי — וזו שאלה הוגנת, מפני שהסוכנים כבר כאן בקנה מידה גדול: אחת מכל חמש רכישות דיגיטליות זורמת כעת דרך סוכן AI, ושבוע הסייבר 2025 לבדו הזיז בערך $67 מיליארד בדרך זו. Google השיקה את Universal Commerce Protocol ב-NRF בינואר 2026 עם Shopify, Etsy, Wayfair, Target, ו-Walmart; ל-OpenAI יש את Agentic Commerce Protocol לאחר שמאמץ ה-Instant Checkout שלה דעך לכתריסר סוחרים מופעלים. אלה אמיתיים ושווים אינטגרציה. אבל קִראו אותם בעיון והם גילוי-תחילה — הם מבריקים בהבאת סוכן למצוא ולהמליץ על המוצר שלכם, והם אומרים כמעט כלום על הזנב העסקתי המבולגן: החזרות, החלפות, תביעות אחריות, הפתרונות הרב-שלביים ששברו את Klarna. הפרוטוקולים מזיזים את דלת הכניסה; הם אינם מרהטים את הבית.
השאלה האחרת היא לבנות מול לקנות, והתשובה הכנה שלי היא "כנראה קצת משניהם, ולא מה שהספק אמר לכם". כלי הגילוי — Loomi של Bloomreach, Algolia, גילוי המוצרים מבוסס-הקטלוג של Coveo — טובים באמת בגילוי ומניחים שאתם מביאים נתונים נקיים ואינם מאמתים בין כלים. רוב הקמעונאים מריצים שלוש עד חמש מהמערכות הללו של AI בו-זמנית ואין להם אף אחד שבודק עקביות ביניהן. אותו התפר — תזמור רב-ספקי בתוספת שכבת אימות עצמאית שאף אחד מהספקים לא ימכור לכם, מפני שכל אחד מוכר את המחסנית שלו — הוא בדיוק היכן שהכשלים חיים.
וכן, אנשים דואגים ששלב אימות מוסיף השהיה, והם צודקים בכך: Amazon מדדה שכל 100 מילישניות של עיכוב עולות כ-1% מהמכירות. האילוץ הזה אמיתי, וזו בעיה הנדסית עם תשובות הנדסיות — אמתו את הסט הקטן של הטענות הניתנות לבדיקה, לא את כל היצירה; שמרו במטמון את חיפושי הגרף; כשלו לכיוון אמירת פחות, מהר. זו אינה סיבה לדלג על אימות. תשובה בת 100 מילישניות שהיא שגויה עולה הרבה יותר מתשובה בת 200 מילישניות שהיא נכונה.
מה באמת מזכה בפי 4?
הסטטיסטיקה שהתחילה את כל זה עבורי היא זו שבלוח המחוונים של ההמרות שאני עדיין חושב עליה: קונים שמעורבים עם AI ממירים בשיעור 12.3% לעומת 3.1% עבור אלה שאינם. פי ארבעה. המספר הזה אמיתי, וזו הסיבה שכל קמעונאי ממהר לפרוס. אבל זו גם מלכודת, מפני שאותה אסימטריה רצה גם לאחור — מפרט מוזה אחד, מדיניות מומצאת אחת, תשובה לא בטוחה אחת שצולמה במסך ושותפה, והאמון שהפיק את פי ה-4 מתאדה מהר יותר מכפי שנבנה.
המודל הוא מוצר מדף כעת — כולם שוכרים אינטליגנציה מאותו קומץ ספקים, והוא ימשיך להיות רהוט יותר בכל רבעון. שטף מעולם לא היה הדבר שזיכה בפי 4; אמון היה. ואמון הוא בדיוק מה שמפרט מומצא אחד מבזבז. אם אתם פורסים את העוזר הראשון שלכם, או צופים בשקט באחד שמהזה בייצור ממש עכשיו, שכבת האימות היא החלק שאינכם יכולים לדלג עליו — זהו הדבר שאנו בונים, וזהו ההבדל בין עוזר שנשמע מומחה לבין כזה שהייתם נותנים לדבר עם הלקוחות שלכם ללא פיקוח.
החנות שמנצחת בשנים הקרובות של המסחר היא זו שה-AI שלה, כשנשאל האם למחשב נייד יש 32 ג'יגה-בייט של זיכרון, בודק — ואומר 16.
