ה-AI שלכם טעה בחשבון בסיסי. הנה מדוע זה מסוכן.

הבעיה

מורה AI (בינה מלאכותית) אמר לתלמיד ש-3,750 כפול 7 שווה 21,690. התשובה הנכונה היא 26,250. ה-AI לא סתם טעה — הוא חגג את הטעות. הוא הגיב ב"כל הכבוד על הכפל! פתרתם את הבעיה והפגנתם חשיבה מצוינת!" המורה הזה, Khanmigo, פועל על GPT-4, אחד ממודלי ה-AI המתקדמים ביותר הזמינים כיום.

זו לא הייתה תקלה חד-פעמית. חוקרים תיעדו מקרים שבהם תלמידים מגיעים לתשובה הנכונה, וה-AI מנסה לשכנע אותם אחרת. המערכת טוענת שההיגיון הנכון שלהם פגום, ולמעשה מעלה בהם מצג שווא (gaslighting) עד שהם מקבלים פתרונות שגויים. אפליקציות ללימוד שפות כמו Duolingo Max הציגו בעיות דומות. משתמשים מדווחים שה-AI ממציא כללי דקדוק ונימוקים מתמטיים כדי להצדיק את הטעויות שלו עצמו. ה-AI יוצר לולאה שבה שטויות שנשמעים בטוחים מזינים את עצמם.

עכשיו הכניסו את זה לחדר הדירקטוריון שלכם. אם AI לא מסוגל להכפיל שני מספרים באופן אמין, מדוע תסמכו עליו בחישובי מס, אישורי הלוואות או דוחות ציות? אותה טכנולוגיה שמפעילה את המורה הזה מפעילה כרגע את כלי ה-AI שספקים מוכרים לצוותי הכספים והמשפטים שלכם. הארכיטקטורה ששיבחה תשובה מתמטית שגויה היא אותה ארכיטקטורה שמבקשים ממנה לטפל בתהליכי העבודה המוסדרים שלכם.

מדוע זה חשוב לעסק שלכם

החשיפה הפיננסית והרגולטורית כאן היא מוחשית, לא תאורטית.

מערכת שמגיבה נכון ב-99% מהמקרים נשמעת מרשימה. אבל שקלו את מה שהספר הלבן מכנה "גיליון אלקטרוני סטוכסטי" — כזה שמחשב את הכנסותיכם נכון ב-99% מהזמן אך ממציא נתון ב-1% מהזמן. זהו לא כלי להגברת הפרודוקטיביות. זהו מחולל אחריות. בדוח כספי רבעוני עם מאות סעיפים, שיעור שגיאה של 1% פירושו מספרים שגויים מרובים בכל מחזור ומחזור.

זה מה שהדבר אומר עבור הארגון שלכם:

• כשלי ציות. בתרחיש מתועד אחד, מערכות AI טהורות אישרו הלוואות על בסיס שפה רגשית בהצהרות אישיות תוך התעלמות מספי יחס חוב-מול-הכנסה. הרגולטורים שלכם לא יקבלו את ההסבר "ה-AI הרגיש משוכנע".
• חשיפה משפטית. כלים משפטיים הנעזרים ב-AI ציטטו פסיקה הלוצינטית — פסקי דין שלא קיימים. אם עורכי הדין החיצוניים שלכם מגישים כתב טיעון עם אזכורים מומצאים, המוניטין של המשרד שלכם מוטל על כף המאזניים.
• דיוק אריתמטי מתחת ל-40%. במשימות מורכבות, מודלי AI סטנדרטיים ללא כל הכוונה משיגים ניקוד מתחת ל-40% בדיוק אריתמטי. גם עם טכניקות פרומפטינג שלב-אחר-שלב, שגיאות בשלבים המוקדמים מצטברות לאורך כל החישוב.
• סיכון ריבונות נתונים. אם הרשומות הפיננסיות הרגישות, הקוד הקנייני או קבצי כוח האדם שלכם עוברים דרך ממשק של חברת סטארטאפ למודל AI ציבורי, יצרתם שטח חשיפה בלתי-מקובל לדליפת נתונים.

הדירקטוריון שלכם רוצה לדעת שהחלטות מבוססות AI ניתנות לביקורת. היועץ המשפטי הראשי שלכם צריך להוכיח ציות. ה-CFO שלכם צריך מספרים שאפשר לסמוך עליהם. נכון להיום, ארכיטקטורת ה-AI הפופולרית ביותר אינה יכולה להבטיח אף אחד מאלה.

מה באמת קורה מתחת למכסה המנוע

זו הסיבה שמערכות AI נכשלות במשימות שנראות פשוטות. מודלי שפה גדולים — הטכנולוגיה שמאחורי ChatGPT, GPT-4 ורוב כלי ה-AI הארגוניים — לא מחשבים בפועל דבר. הם מנבאים את המילה הבאה.

חשבו על זה כך. כשאתם שואלים מחשבון כמה זה 3,750 כפול 7, הוא מבצע את הפעולה על שבב שתוכנן למתמטיקה. כשאתם שואלים AI את אותה שאלה, הוא עושה משהו שונה לחלוטין. הוא שואל: "על בסיס כל הטקסט שקראתי, אילו מילים בדרך כלל באות אחרי '3,750 כפול 7 שווה'?" זו התאמת תבניות, לא חישוב. הוא מייצר טקסט שנראה כמו תשובה מתמטית מבלי לחשב מתמטיקה מעולם.

הספר הלבן מכנה זאת את הניתוק בין צורה לתפקוד. ה-AI יכול להשתמש במילים כמו "לכן" ו"כתוצאה מכך" מבלי לבצע שום נימוק לוגי אמיתי. הוא מחקה את התחביר של חשיבה בלי לעשות את העבודה של חשיבה. חתן פרס נובל דניאל קאהנמן תיאר שני מצבי חשיבה אנושיים: מערכת 1 (מהירה, אינטואיטיבית) ומערכת 2 (איטית, הגיונית). מודלי ה-AI הנוכחיים הם מערכת 1 טהורה. הם פועלים על אינטואיציה וזיהוי תבניות. אבל העסק שלכם צריך מערכת 2 — את החשיבה המכוונת, שלב-אחר-שלב, שתופסת שגיאות לפני שהן מגיעות ללקוחותיכם.

זו גם הסיבה שאי אפשר לתקן את הבעיה על ידי הגדלת המודלים. הספר הלבן מתאר "פרדוקס יום הולדת" עבור AI: אם נקודת נתון מסוימת מופיעה פעם אחת בלבד בנתוני האימון של ה-AI, המודל מתייחס אליה כרעש. הגדלת המודל לא פותרת זאת. הנתונים העסקיים הנדירים אך הקריטיים שלכם — סף הציות המדויק, סעיף החוזה הספציפי — הם בדיוק סוג העובדות שהמערכות האלה משגות.

מה עובד (ומה לא)

נתחיל במה שלא פותר את הבעיה.

הנדסת פרומפטים — ניסוח הוראות חכמות ל-AI דומה ללחישה לקוביות תוך קיווי למספר מסוים. זה מנסה לעקוף את טבע הניחוש של המערכת בפקודות שטחיות. זה לא משנה את אופן פעולת המערכת.

מוצרי "עטיפה" — אפליקציות שמלבישות ממשק נחמד יותר על מודל AI של מישהו אחר — אינן מוסיפות אינטליגנציה אמיתית. הן מוכרות מחדש יכולת שאינה בבעלותן. כשספק המודל מוסיף את אותה תכונה באופן מובנה, חברת העטיפה מתיישנת. ההשקעה שלכם נעלמת.

מודלים גדולים יותר — הגדלת הסקאלה לא מחסלת את הבעיה המרכזית. מנוע התאמת תבניות גדול יותר נותר מנוע התאמת תבניות. הוא עדיין לא מחשב. הוא עדיין מנחש.

מה שכן עובד הוא הפרדה בין יכולת השפה של ה-AI לבין ההיגיון שהעסק שלכם דורש. Veriprajna מכנה זאת הגישה של "הקול" ו"המוח" — ארכיטקטורה נוירו-סימבולית האוכפת אילוצים וכללים לצד היכולת השיחתית של ה-AI.

כך זה עובד, בשלושה שלבים:

1. תרגום. המשתמש שלכם שואל שאלה בשפה פשוטה. ה-AI ממיר את השאלה לקוד בר-הרצה אמיתי — לא תשובה בטקסט. למשל, שאלה על ריבית הלוואה הופכת לנוסחה אמיתית: principal * (1 + rate) ** years.
2. הרצה. הקוד רץ על מנוע דטרמיניסטי — מערכת שמחשבת כפי שמחשבון מחשב. עבור דוגמת ההלוואה ($50,000 בריבית של 5% עם הצטברות מורכבת שנתית לאורך 3 שנים), המנוע מחזיר בדיוק $57,881.25. בכל פעם. בלי ניחושים.
3. תשובה. ה-AI לוקח את התוצאה המאומתת וכותב עבור המשתמש שלכם תשובה ברורה וקריאה לאדם.

עבור תעשיות מוסדרות כמו שירותים פיננסיים, יש שכבה נוספת. כללים נוקשים — כמו "אם המבקש מתחת לגיל 21 בניו יורק, אי אפשר לאשר הלוואה עסקית" — מקודדים כאילוצים לוגיים. אם התשובה המוצעת של ה-AI מפרה כלל, המערכת מטילה וטו על הפלט לפני שהוא מגיע למישהו. המערכת הופכת פיזית בלתי-מסוגלת לאשר החלטה שאינה תואמת, לא משנה עד כמה משכנע הקלט.

היתרון הקריטי עבור צוות הציות שלכם: כל שלב נרשם ביומן. הקוד שה-AI יצר, הפלט של הכלי ועקבות ההיגיון יוצרים שובל ביקורת בלתי-ניתן לשינוי. קציני הציות שלכם יכולים לראות בדיוק מדוע ה-AI קיבל החלטה מסוימת. זה ההבדל בין מערכת שנבנתה לניטור רציף ושובלי ביקורת לבין קופסה שחורה שצריך לסמוך עליה באמונה.

הגישה הזו השיגה התאמה של 100% לקריטריוני האשראי הרגולטוריים ביישום של עיבוד הלוואות. במחקר משפטי, היא הפיקה אפס אזכורים הלוצינטיים בטיוטות ייצור. התוצאות האלה אינן קסם. הן נובעות מהכוונת כל טענה עובדתית דרך מערכת אימות שלא מנחשת.

אפשר להחליף את מודל ה-AI הבסיסי — לעבור מספק אחד לאחר — מבלי לבנות מחדש את שכבת ההיגיון שלכם. ההשקעה שלכם בכללים, בתהליכי עבודה ובידע תחומי נשארת שלמה. זה מה שהופך את הגישה הזו לעמידה, בעוד מוצרי עטיפה שבירים.

קראו את הניתוח הטכני המלא עבור הארכיטקטורה המפורטת, או גלו את הגרסה האינטראקטיבית עבור סיור מודרך.