הבינה המלאכותית שהחברה שלכם קנתה כנראה משקרת לכם — והנה מה שאנחנו בונים במקום זאת

לפני כמה חודשים ישבתי מול מנהלת רכש ביצרנית מרשימת Fortune 500. היא הוציאה 2.3 מיליון דולר על מערכת לבחירת ספקים מונעת בינה מלאכותית — אחת מאותן פלטפורמות מלוטשות שהבטיחו "לחולל מהפכה באיתור ספקים בעזרת העוצמה של GPT". היא פתחה את הדשבורד במחשב הנייד שלה, סובבה אותו לעברי ואמרה: "היא ממשיכה להמליץ על אותם שלושה ספקים. יש לנו 4,000 ברשת שלנו. מה היא בעצם עושה?"

הסתכלתי על הפלטים. הסתכלתי על תיעוד הארכיטקטורה — על המעט שהיה קיים. ואמרתי לה משהו שהיא לא רצתה לשמוע: הבינה המלאכותית שלה לא בחרה את הספקים הטובים ביותר. היא בחרה את הספקים שנראו הכי דומים לספקים שהיא כבר ראתה בעבר. המערכת למדה לבלבל בין היכרות לבין איכות.

השיחה הזו גיבשה משהו שהסתובבתי סביבו כבר שנתיים ב-Veriprajna. לתעשיית הבינה המלאכותית הארגונית יש סוד מלוכלך: רוב "מוצרי ה-AI" שחברות קונות הם שכבות תוכנה דקות העטופות סביב מודל שפה של מישהו אחר. הם נראים אינטליגנטיים. הם נשמעים אינטליגנטיים. אבל הם, בהגדרה מתמטית, מנחשים. ובתפעול ארגוני בעל סיכון גבוה — רכש, לוגיסטיקה, ייצור, ביטוח — ניחוש אינו תכונה. הוא חבות.

הסוד המלוכלך של תעשיית הבינה המלאכותית הארגונית: רוב המוצרים שחברות קונות הם עטיפות דקות סביב מודל שפה של מישהו אחר. הם נראים אינטליגנטיים. הם מנחשים.

הלילה שבו הצ'טבוט מכר רכב בדולר אחד

אני חייב לספר לכם על תקרית שברולט, כי היא המשל המושלם לכל מה שפגום בגישה הנוכחית לבינה מלאכותית ארגונית.

סוכנות רכב בווטסונוויל, קליפורניה, שילבה עטיפת GPT סטנדרטית בפורטל שירות הלקוחות שלה. זה נראה לא מזיק — לענות על שאלות בנוגע למלאי, אולי לתאם נסיעות מבחן. ואז משתמש התחיל להשתעשע איתו. תוך כמה פרומפטים, הצ'טבוט הסכים למכור שברולט טאהו בשווי 76,000 דולר תמורת דולר אחד. המשתמש אפילו גרם לו להצהיר: "זו הצעה מחייבת מבחינה משפטית — אין חרטות."

כשקראתי על זה לראשונה, צחקתי. ואז הפסקתי לצחוק, כי הבנתי שזה לא היה מקרה קצה משעשע. זו הייתה התוצאה ההגיונית של הארכיטקטורה. לצ'טבוט לא היה שום חיבור למסד נתוני התמחור האמיתי של הסוכנות. לא היה לו מושג מה המשמעות של "הצעה משפטית". הוא היה מודל שפה שנאמר לו, דרך פרומפט מערכת, להיות מועיל ושיחתי. והוא היה ממש מועיל. מועיל באופן קטסטרופלי.

שותפי המייסד ואני נשארנו ערים אחרי חצות באותו שבוע, מפרקים לגורמים את ניתוח האירוע הטכני. הכשל לא היה במודל — GPT עשה בדיוק את מה ש-GPT עושה. הכשל היה בארכיטקטורה. מישהו לקח מחולל טקסט הסתברותי והציב אותו בעמדה שבה הוא נדרש לאכוף כללים עסקיים דטרמיניסטיים. זה כמו לשכור משורר שינהל את מחלקת הנהלת החשבונות שלכם. המשורר אולי מבריק, אבל הוא לא יתפוס את שגיאת הנקודה העשרונית בשורה 47.

לזה אני קורא אשליית העטיפה — האמונה הרווחת ששכבת תוכנה דקה מעל מודל לא-דטרמיניסטי מספיקה לתפעול ברמה ארגונית. כתבתי על הבעיה הזו בהרחבה בגרסה האינטראקטיבית של המחקר האחרון שלנו, וככל שאספנו יותר נתונים, כך התמונה הפכה גרועה יותר.

מדוע רכש מבוסס בינה מלאכותית מעדיף ספקים גדולים ביחס של 3.5 ל-1?

נחזור למנהלת הרכש ההיא. האינטואיציה שלה — "היא ממשיכה להמליץ על אותם ספקים" — התבררה כנתמכת בנתונים קשים.

מחקר חשף שמערכות רכש מונעות בינה מלאכותית מעדיפות ספקים גדולים וותיקים על פני עסקים קטנים או בבעלות מיעוטים במרווח של 3.5:1. קראו את זה שוב. על כל ספק קטן ומוסמך שהבינה המלאכותית מעלה, היא ממליצה על שלושה וחצי שחקנים גדולים ומבוססים.

המנגנון ערמומי. רוב מערכות הבינה המלאכותית לרכש מתאמנות על נתוני רכישה היסטוריים. חברות גדולות קיימות זמן רב יותר, יש להן יותר עסקאות במאגר הנתונים, והן מייצרות אותות דיגיטליים "נקיים" יותר כי הייתה להן התשתית לעשות זאת. האלגוריתם לא לומד מי הטוב ביותר. הוא לומד מי המיוצג ביותר. נפח היסטורי הופך לפרוקסי לאמינות — וזה כמו לשפוט מסעדה לפי כמה פעמים עברתם לידה.

אני זוכר שהתווכחתי על זה עם מדען נתונים בצוות שלי. עמדתו הייתה שההטיה היא בעיית נתונים, לא בעיית ארכיטקטורה. "תשיג נתוני אימון טובים יותר", הוא אמר. התנגדתי: אפילו עם נתונים מושלמים, מודל קורלטיבי ימצא איזשהו פרוקסי לגודל, כי גודל מתואם עם עשרות מאפיינים אחרים. אי אפשר לנטרל הטיה במערכת שפועלת ביסודה על קורלציה. צריך לשנות את השאלה שהמערכת שואלת.

אי אפשר לנטרל הטיה במערכת שפועלת ביסודה על קורלציה. צריך לשנות את השאלה שהמערכת שואלת.

אז התחייבנו לבינה מלאכותית סיבתית (Causal AI). במקום לשאול "עם מי נחתם חוזה בעבר?", המודלים הסיבתיים המבניים שלנו שואלים: "האם מדדי הביצועים של הספק הזה שבבעלות מיעוטים היו נחשבים עדיפים אילו היינו מסירים מתמטית את משתנה הבלבול של נפח היסטורי?" זו חשיבה קונטרה-פקטואלית — הבינה המלאכותית מדמיינת עולם שבו המגרש היה שווה, ומדרגת ספקים על בסיס אותו עולם.

ההבדל אינו הדרגתי. זהו ההבדל בין מערכת שמנציחה הדרה לבין כזו שמגלה באופן פעיל כישרון שהתעלמו ממנו. וזהו ההבדל בין שרשרת אספקה שברירית התלויה בשלושה ספקי-ענק לבין שרשרת עמידה הניזונה מאקוסיסטם מגוון.

מה קורה כאשר 77% מהבינה המלאכותית הלוגיסטית לא יכולה להסביר את עצמה?

הטיית רכש היא משבר אחד. גירעון השקיפות בלוגיסטיקה הוא משבר אחר, ואולי מסוכן יותר, כי הוא בלתי נראה עד שמשהו נשבר.

הנה המספר שמדיר שינה מעיניי: רק 23% ממערכות הלוגיסטיקה המבוססות על בינה מלאכותית מספקות הסבר משמעותי להחלטות. המשמעות היא שביותר משלושה רבעים מהתפעול המבוסס על בינה מלאכותית — אופטימיזציית מסלולים, הקצאת מלאי, חיזוי ביקושים — לאנשים האחראים אין הבנה ברורה של מדוע המערכת נתנה המלצה ספציפית.

שוחחתי עם מנהל שרשרת אספקה ראשי שתיאר את זה בצורה מושלמת: "יש לי השקעה של 40 מיליון דולר בבינה מלאכותית שנותנת לי תשובות שאני לא יכול לערער עליהן והסברים שאני לא יכול להבין. כשהיא צודקת, אני נראה כמו גאון. כשהיא טועה, אני אפילו לא מצליח להבין מה קרה."

זה לא רק מתסכל — זה הרסני כלכלית. איכות נתונים ירודה וחוסר שקיפות גורמים לחברות לאבד בין 15% ל-25% מההכנסות משגיאות מערכתיות בתפעול הנכנס בלבד. וזו הסיבה העיקרית לכך ש-42% ממובילי הלוגיסטיקה נמנעים מ-agentic AI — מערכות אוטונומיות שיכולות לבצע החלטות ללא אישור אנושי. אי אפשר למסור את המפתחות לסוכן אוטונומי אם אי אפשר לבקר את מה שהוא עושה.

אני חושב על זה כך: תעשיית הלוגיסטיקה בנתה צי של משאיות אוטונומיות, אבל שכחה להתקין שמשות קדמיות. ייתכן שהמשאיות נוסעות בכיוון הנכון. פשוט אי אפשר לראות לאן פניהן מועדות.

המלכודת הסטוכסטית — ולמה "פרומפטים חכמים יותר" לא יצילו אתכם

אנשים תמיד מתנגדים לי בנקודה הזו. "אשוטוש, אי אפשר פשוט להנדס פרומפטים טובים יותר? להוסיף עוד guardrails? לכוונן את המודל?"

לא. והנה למה.

מודלי שפה גדולים הם, מטבעם המתמטי, סטוכסטיים — הם חוזים את הטוקן הסביר הבא ברצף על בסיס דפוסים סטטיסטיים בנתוני האימון שלהם. אין להם מושג של "אמת". הם לא מנמקים לוגית. הם מייצרים טקסט סביר סטטיסטית, וזה שונה מאוד מטקסט נכון.

מודל שפה גדול עשוי לענות נכון על אלף שאילתות בנוגע לכללי רכש, ואז להזות סעיף הנחה שאינו קיים בשאילתה אלף ואחת. שיעור ההזיות בתחומים בעלי סיכון גבוה נע בין 1.5% ל-6.4%. זה נשמע קטן עד שמבינים שזה אומר שבערך אחת מכל עשרים החלטות קריטיות עלולה להתבסס על מידע בדוי.

הנדסת פרומפטים — הפרקטיקה של ניסוח הוראות מתוחכמות כדי לכוון את המודל — היא כמו לשים שלט על נהר ולבקש ממנו לזרום במעלה ההר. השלט אולי יעבוד כשהזרם עדין. אבל ברגע שהתנאים משתנים — שאילתה חריגה, משתמש עוין, שינוי עדין בהקשר — המים הולכים לאן שהפיזיקה מכתיבה.

לצ'טבוט של שברולט היו guardrails. היה לו פרומפט מערכת שאמר לו להיות מועיל אך להישאר בגבולות מדיניות הסוכנות. משתמש יצירתי עקף את הכול בפחות מחמש דקות. כי ברמה הארכיטקטונית, פרומפט המערכת ופרומפט המשתמש הם פשוט... טקסט. המודל מעבד אותם כבלוק אחיד. אין הפרדה מבנית בין "כללים" ל"שיחה".

הנדסת פרומפטים היא כמו לשים שלט על נהר ולבקש ממנו לזרום במעלה ההר. זה עובד עד שזה מפסיק לעבוד — ובבינה מלאכותית ארגונית, "עד שזה מפסיק לעבוד" יכול לעלות מיליונים.

מה אנחנו בונים במקום זאת, בפועל

כשייסדתי את Veriprajna, בחרתי את השם בכוונה — "Veri" מהלטינית לאמת, "Prajna" מהסנסקריט לחוכמה. לא כי רציתי שם מותג מתוחכם, אלא כי שני המושגים הללו מגדירים את הארכיטקטורה הטכנית שאנחנו מאמינים בה: מערכות שהן נכונות באופן ניתן לאימות וחכמות מבחינה הקשרית.

אנחנו קוראים לגישה שלנו ארכיטקטורה נוירו-סימבולית, והרעיון המרכזי פשוט באופן מטעה: לעולם אל תיתנו למודל השפה להיות מקבל ההחלטות הסופי.

הנה איך זה עובד בפועל. כשהמנוע הנוירוני שלנו מציע תגובה — נניח, המלצה על ספק או מסלול לוגיסטי — הפלט הזה עובר דרך שכבת אימות סימבולית לפני שהוא מגיע לאיש. השכבה הזו מתשאלת גרף ידע המכיל את מקור האמת האמיתי של הארגון: חוזים משפטיים, מסדי נתוני תמחור, מפרטים הנדסיים, דרישות רגולטוריות. כל טענה שהשכבה הנוירונית מעלה נבדקת מול ראיות קשות.

אם המודל מנסה להזות תועלת של ספק שאינה קיימת בגרף החוזים, המאמת הסימבולי תופס אותה. לא לפעמים. בכל פעם. הארכיטקטורה הופכת הזיה לבלתי אפשרית מבנית עבור עובדות מעוגנות — אנחנו משיגים דיוק (precision) של 100% בחילוץ נתונים, בהשוואה ל-63–95% במודלים עצמאיים כמו GPT-4.

אנחנו גם מיישמים את מה שאנחנו מכנים Constitutional Guardrails — וכאן זה נעשה מעניין. עטיפות מסורתיות מנסות למנוע פלטים גרועים באמצעות הוראות מבוססות טקסט. אנחנו מונעים פלטים גרועים באמצעות פענוח מאולץ, שבו הפלט של המודל מוגבל מתמטית לסכמה ספציפית או לאונטולוגיה של התחום. בהקשר הרכש, הבינה המלאכותית פשוט לא יכולה לייצר ציון ספק שמפר את חוקת ההוגנות של הארגון. שכבת הפענוח דוחה כל רצף טוקנים שמכניס הטיה בלתי חוקית. זו לא הצעה למודל. זו מגבלה פיזית על מה שהוא יכול לומר.

לפירוט הטכני המלא של האופן שבו השכבות הללו מקיימות אינטראקציה — גרפי הידע, מודלי הבינה המלאכותית הסיבתית, הפענוח המאולץ — ראו את הצלילה הטכנית המעמיקה שלנו.

היכן זה נעשה ממשי: מפעלים, חוות והונאות

אני רוצה לקחת אתכם דרך שלושה מקומות שבהם ההבדל בין "AI של עטיפה" לבין "AI עמוק" אינו אקדמי — הוא פיזי.

ברצפת הייצור, מערכת בדיקה מבוססת בינה מלאכותית בענן מתמודדת עם השהיה של 800 מילישניות. זה נשמע מהיר עד שמבינים שמסוע הנע במהירות 2 מטרים לשנייה כבר נשא את החלק הפגום 1.6 מטרים מעבר לנקודת הבדיקה. המודלים שלנו, שהם edge-native ונפרסים ישירות על חומרה בקו הייצור, מגיבים תוך 12 מילישניות — הפחתה של 98.5%. אנחנו אפילו מריצים מודלים אקוסטיים על מיקרו-בקרים ייעודיים שמזהים את החתימה הספקטרלית של מיסב כושל תוך 5 מילישניות, ומפעילים מתג ניתוק חירום פיזי לפני שהמכונה קורעת את עצמה לגזרים. אני זוכר את הפעם הראשונה שהדגמנו את זה למנהל מפעל בסביבה חיה. אזעקת תקלת המיסב נורתה עוד לפני שחיישן הרעידות בכלל רשם חריגה. הוא בהה בתצוגה רגע ארוך ואמר: "זה לא בינה מלאכותית. זה חוש שישי." זו הייתה הפעם הראשונה שהרגשתי שחצינו את הקו מתוכנה למשהו שבאמת הבין את הפיזיקה של הבעיה.

בחקלאות, מצלמות סטנדרטיות לא יכולות לראות מה הורג את היבולים עד שמאוחר מדי. אנחנו בונים ארכיטקטורות נוירוניות מותאמות שמעבדות נתונים היפר-ספקטרליים — יותר מ-200 פסי אור מעבר למה שהעין האנושית יכולה לזהות. על ידי מידול הפרעות אטמוספריות והסרתן חישובית, אנחנו יכולים לזהות חוסרים תזונתיים או נגיעוּת מזיקים ימים לפני שהם נראים לעין, מה שמאפשר הפחתה של 60% בעלויות טרום-הדמיה.

בביטוח, אנחנו מחליפים סיווג תמונות גנרי בראייה ממוחשבת פורנזית: סגמנטציה סמנטית לזיהוי גבולות נזק מדויקים ברמת הפיקסל, אומדן עומק מונוקולרי לחישוב נפח שקע ללא סורק תלת-ממד, וניתוח החזרים ספקולריים לגילוי תמונות שעברו מניפולציה. הבינה המלאכותית לא מנחשת אם תביעה היא הונאה. היא מראה לכם את הפיזיקה של הסיבה לכך שדפוסי האור בתמונה אינם עקביים.

איך אתם יודעים שארכיטקטורת הבינה המלאכותית שלכם שבורה?

יש שאלה שאני מקבל כמעט בכל תדריך להנהלה, בדרך כלל מנוסחת בתערובת של ספקנות ודאגה כנה: "כבר השקענו מיליונים במערך הבינה המלאכותית הנוכחי שלנו. איך אדע אם זו באמת בעיה?"

הנה התשובה הכנה שלי: אם מערכת הבינה המלאכותית שלכם לא יכולה לומר לכם מדוע היא קיבלה החלטה ספציפית, עם ציטוטים לנקודות נתונים ספציפיות, זו בעיה. אם מספרי גיוון הספקים של מערכת הרכש מבוססת-הבינה-המלאכותית שלכם לא השתפרו מאז ההטמעה, זו בעיה. אם צוות התפעול שלכם פיתח מעקפים — גיליונות אלקטרוניים שהם מתחזקים לצד מערכת הבינה המלאכותית "ליתר ביטחון" — זו בעיה.

המעקפים הם הסימן. נכנסתי לארגונים שבהם דשבורד הבינה המלאכותית נמצא על מסך אחד והגיליון האלקטרוני ה"אמיתי" לתמיכה בהחלטות נמצא על המסך השני. אף אחד לא מדבר על זה בגלוי. אבל זה אומר שהצוות לא סומך על המערכת, והם צודקים שלא.

שאלה נוספת שאני שומע: "האם זו לא סתם סוגיה של בשלות? האם המודלים לא ישתפרו?" הם ישתפרו בשפה. הם לא ישתפרו באמת. מודל שפה חזק יותר הוא מנחש משכנע יותר, לא אמין יותר. הארכיטקטורה חייבת להשתנות.

התמוטטות Sports Illustrated ומה מונח על הכף כשטועים בזה

אני שומר צילום מסך על שולחן העבודה שלי כתזכורת. הוא מנובמבר 2023, כש-Sports Illustrated — מוסד תקשורת בן 70 שנה — נתפס מפרסם מאמרים תחת שמות כותבים מזויפים שנוצרו על ידי בינה מלאכותית. שמות כמו "Drew Ortiz", בליווי תמונות פנים בדויות וביוגרפיות מומצאות. התוכן היה רובוטי, טאוטולוגי, ופורסם ללא שום שכבת אימות.

התוצאה: התמוטטות של 27% במחיר המניה ביום אחד. שלילת רישיון. פיטורים המוניים. מותג ותיק, מרוקן מתוכן.

מודל השפה עשה בדיוק את מה שמודלי שפה עושים — הוא השלים דפוסים. ביוגרפיה של מחבר היא רכיב סביר סטטיסטית בסקירת מוצר, ולכן המודל ייצר אחת. תמונת פנים מלווה ביוגרפיה של מחבר, ולכן מישהו ייצר גם אותה. אף אחד לא בנה מערכת שתשאל: "האם האדם הזה קיים? האם התוכן הזה מאומת עובדתית? האם אנחנו יכולים להתחקות אחר כל טענה עד למקור?"

זה המחיר של אשליית העטיפה בקנה מידה גדול. לא תקרית צ'טבוט משעשעת. אירוע הכחדה תאגידי.

למה אי אפשר פשוט להמשיך להשתמש ב-API?

יש לזה ממד אחרון שרוב ספקי הבינה המלאכותית לא רוצים לדון בו: ריבונות נתונים.

כשהארגון שלכם מסתמך על API של צד שלישי — OpenAI, Google, Anthropic — אתם שוכרים אינטליגנציה שאינכם שולטים בה. אין לכם שום נראוּת לנתוני האימון של המודל. אין לכם התראה כשהספק מעדכן את המשקלים, מה שיכול לשנות בשקט את אופן ההתנהגות של המערכת שלכם (זה נקרא סחיפת מודל, וזה סיוט עבור תעשיות מפוקחות). אין לכם ערובה שהנתונים הקנייניים שלכם — סודות מסחריים, מידע על לקוחות, מודיעין תחרותי — אינם מעובדים על תשתית שאינכם יכולים לבקר.

אנחנו פורסים מודלים ארגוניים ריבוניים על התשתית של הלקוחות שלנו עצמם. שום נתון לא עוזב את חומת האש. ללא תלויות חיצוניות. שליטה מלאה במחזור החיים, כולל כוונון עדין מותאם על אונטולוגיות קנייניות ואילוצים רגולטוריים.

זה יקר יותר מראש ממנוי API. זה זול לאין שיעור מדליפת נתונים, מקנס רגולטורי, או מגילוי שהתנהגות הבינה המלאכותית שלכם השתנתה כי ספק בסן פרנסיסקו דחף עדכון ביום שלישי אחר הצהריים.

חלון 18 החודשים

כאן אהיה ישיר, כי אני חושב שלוח הזמנים חשוב.

ארגונים שיעברו לארכיטקטורות בינה מלאכותית דטרמיניסטיות ב-2026 יקבלו חלון של 12 עד 18 חודשים של בידול תחרותי אמיתי. אחרי זה, הגישה הזו הופכת לרף בסיסי — הציפייה המינימלית מבינה מלאכותית ארגונית בתעשיות מפוקחות.

הטיית הרכש של 3.5:1 לא תתקן את עצמה. שיעור ההסברתיות של 23% לא ישתפר באמצעות פרומפטים טובים יותר. בעיית ההזיות לא תיעלם עם שחרור המודל הבא. אלה כשלים ארכיטקטוניים, והם דורשים פתרונות ארכיטקטוניים.

אני לא אומר שכל ארגון צריך לבנות את מה שאנחנו בנינו. אני אומר שכל ארגון צריך להבין מה הוא באמת קנה. פתחו את מכסה המנוע. שאלו את הספק שלכם: איפה שכבת האימות? איפה גרף הידע? מה קורה כשהמודל הוזה — האם יש אילוץ מבני, או רק פרומפט שאומר "בבקשה, בלי הזיות"?

אם התשובה היא פרומפט, אין לכם מערכת בינה מלאכותית. יש לכם תיבת הצעות יקרה מאוד.

אם התשובה של ספק הבינה המלאכותית שלכם ל"איך אתם מונעים הזיות" היא פרומפט טוב יותר, אין לכם מערכת בינה מלאכותית. יש לכם תיבת הצעות יקרה מאוד.

עידן הבינה המלאכותית הארגונית ההסתברותית מסתיים — לא בגלל שהמודלים אינם מרשימים, אלא כי מרשים אינו זהה לאמין, ובארגון, אמינות היא הדבר היחיד שנחשב. אנחנו לא בונים בינה מלאכותית שנשמעת נכונה. אנחנו בונים בינה מלאכותית שהיא נכונה, ויכולה להוכיח זאת.

זו לא מצגת מכירות. זו דרישה הנדסית. והארגונים שיזהו את זה ראשונים יהיו אלה שעדיין יעמדו על הרגליים כשהעטיפות יתפרקו.