מטאפורה חזותית שמנגידה בין ממשק צ'אטבוט AI מלוטש לבין יסודות מתפוררים שמתחתיו, בהקשר של פינטק ושירות לקוחות.
Artificial IntelligenceBusiness StrategyTechnology

קלארנה החליפה 700 אנשים ב-AI. ואז גייסה את כולם בחזרה. הנה מה שכל ארגון צריך ללמוד מזה.

Ashutosh SinghalAshutosh Singhal10 באפריל 202616 min

הייתי בשיחה עם לקוח בנקאי פוטנציאלי כשהידיעה על קלארנה פרצה. אמצע 2025. הטלפון שלי רטט — עמית העביר לי את הכתבה עם שורה אחת: "זה בדיוק מה שאתה אומר כל הזמן."

הלקוח היה באמצע משפט, מסביר איך הם בנו צ'אטבוט לשירות לקוחות על גבי GPT-4, ואיך זה "עובד מצוין". שאלתי אותו איך נראים ציוני ה-CSAT שלו. שתיקה ארוכה. "אנחנו עוד לא מודדים את זה."

השתיקה הזאת סיפרה לי הכול. כי קלארנה כן מדדה את זה. ומה שהם מצאו היה הרסני מספיק כדי להפוך את אחת מפריסות ה-AI המתוקשרות ביותר בהיסטוריה של הפינטק.

הנה הגרסה הקצרה: קלארנה, ענקית ה-buy-now-pay-later השוודית ששווה 14.6 מיליארד דולר, החליפה כ-700 נציגי שירות לקוחות בעוזר AI שנבנה על OpenAI. הם הכריזו על זה כמו הקפת ניצחון — ה-AI טיפל ב-75% מכלל שיחות הצ'אט עם הלקוחות ב-35 שפות. העלות לעסקה ירדה ב-40%. וול סטריט אהבה את זה. ואז ציוני שביעות הרצון של הלקוחות צנחו ב-22%. החברה רשמה הפסד נקי של 99 מיליון דולר ברבעון הראשון של 2025. והמנכ"ל סבסטיאן סיימיאטקובסקי הודה בפומבי שהרדיפה אחר יעילות חיסלה את איכות השירות, וייצרה תפוקות שהוא כינה "גנריות" ולא מסוגלות להתמודד עם שום דבר שדורש שיקול דעת אמיתי.

הם התחילו לגייס מחדש. הם אפילו העבירו מהנדסי תוכנה ואנשי שיווק לאייש את הטלפונים.

אני בונה מערכות AI נוירו-סימבוליות ב-Veriprajna כבר שנים, וראיתי חברה אחרי חברה נכנסת לאותה מלכודת בדיוק. לא כי הטכנולוגיה גרועה — מודלי שפה גדולים הם באמת מרשימים. אלא כי קיים בלבול יסודי בין להישמע נכון לבין להיות נכון, ובתעשיות מפוקחות, הבלבול הזה יעלה לכם בסופו של דבר בכול.

הלילה שבו הבנתי ש"מספיק טוב" לא מספיק

לפני שאני נכנס לארכיטקטורה, אני רוצה לספר לכם על רגע ששינה את האופן שבו אני חושב על הבעיה הזאת.

הרצנו פיילוט למערכת ציות משפטי — לא שירות לקוחות, אלא ניתוח מסמכים. סוג העבודה שבה אתה מפרק דיווחים רגולטוריים ומתאים מדיניות פנימית להוראות חיצוניות. היה לנו אב טיפוס שהשתמש במערך סטנדרטי של retrieval-augmented generation. חיפוש וקטורי, אחזור top-k, GPT שמייצר את הסיכום. זה היה מהיר. התפוקות נקראו נהדר.

אחת המהנדסות שלנו — פּרייה — נשארה עד מאוחר והריצה מקרי קצה. בסביבות 11 בלילה היא שלחה לערוץ הסלאק שלנו צילום מסך. המערכת ייצרה פסקה שוטפת לחלוטין שציטטה סעיף רגולטורי ספציפי. הסעיף לא היה קיים. לא ציטוט שגוי, לא פרפרזה — בדיה מוחלטת. וזה נקרא כל כך משכנע שאם לא היית מומחה באותה רגולציה ספציפית, לעולם לא היית תופס את זה.

אני זוכר את עצמי יושב ליד השולחן, בוהה בצילום המסך הזה וחושב: זה המוצר שאנחנו עומדים להשיק. מערכת שמשקרת בביטחון של שותף בכיר במשרד עורכי דין.

עצרנו את הפיילוט. בנינו מחדש את הארכיטקטורה מאפס. הפסדנו שלושה חודשים. זו הייתה ההחלטה הכי טובה שקיבלנו אי פעם.

כשמערכת AI בודה ציטוט משפטי בביטחון מושלם, הבעיה אינה באג — היא הארכיטקטורה. אי אפשר לפתור באמצעות הנדסת פרומפטים בעיה שנובעת מיסוד הסתברותי במהותו.

מהי "מלכודת ה-wrapper" ולמה היא ממשיכה ללכוד חברות חכמות?

תנו לי להסביר מה באמת קרה לקלארנה במונחים טכניים, כי העיתונות העסקית ברובה טעתה. הם הציגו את זה כ"ה-AI עוד לא בשל". זו לא הבעיה. הבעיה היא איזה סוג של AI וכיצד הוא נפרס.

"Wrapper" הוא שכבת תוכנה דקה שיושבת על גבי מודל שפה גדול של צד שלישי. הוא מטפל בפורמט, מנהל קריאות API, אולי מוסיף קצת ניתוח פלט מובנה. אבל החשיבה עצמה — ההיסק, שיקול הדעת, קבלת ההחלטות — מוצאת כולה למיקור חוץ אצל ה-LLM. ה-wrapper שלך שולח פרומפט, המודל חוזה את האסימונים הבאים הסבירים ביותר, ואתה מקבל בחזרה משהו שנשמע כמו תשובה.

זה עובד להפליא בדמו. זה עובד באופן סביר למשימות בסיכון נמוך. וזה נכשל קטסטרופלית בכל דבר שדורש ודאות.

ארכיטקטורת ה-Transformer שמניעה את המודלים האלה משתמשת במנגנון self-attention כדי לשקלל את הרלוונטיות של אסימונים ברצף ולחזות מה בא אחר כך. זו התאמת תבניות — התאמת תבניות מתוחכמת להפליא, אבל התאמת תבניות בכל זאת. אין שום מנגנון פנימי לאימות עובדות מול מקור אמת חיצוני. המודל לא יודע דברים. הוא חוזה איך תשובה של מי שיודע תיראה.

ה-AI של קלארנה ידע לאפס סיסמאות ללא רבב. אבל כשללקוח היה סכסוך מורכב שכלל החזר חלקי, מחלוקת עם סוחר, ותקנות הגנת צרכן בשני תחומי שיפוט? המודל נסוג למה שאני מכנה slop-spinning — ייצור תשובות שנשמעות סבירות, מסתובבות במעגלים, אינן פותרות דבר, ומתסכלות לקוחות עד למה שאנליסט אחד תיאר כ"לולאה קפקאית".

והנה החלק שאמור להבהיל כל מנהל ארגוני: מדדי העלות נראו נהדר כל הזמן שבו החוויה הידרדרה. העלות לעסקה ירדה מ-0.32 דולר ל-0.19 דולר. זמן פתרון הצ'אט ירד מ-11 דקות לפחות מ-2. אם רק הסתכלת על הדשבורד, היית חושב שאתה מנצח — עד לרגע שבו הלקוחות שלך התחילו לעזוב.

למה אי אפשר פשוט להוסיף guardrails טובים יותר ל-LLM?

זו השאלה שאני מקבל הכי הרבה, והיא חושפת את אי-ההבנה המרכזית. אנשים חושבים שהפתרון הוא פרומפטים טובים יותר, עוד דוגמאות few-shot, הוראות מערכת הדוקות יותר. "פשוט תגיד למודל לא להזות."

זה כמו להגיד למודל חיזוי מזג אוויר לא לטעות. האופי ההסתברותי אינו פגם שצריך לתקן — הוא המנגנון היסודי של אופן פעולת המערכת.

משקיע אמר לי פעם, ישירות ובלי היסוס: "פשוט תשתמש ב-GPT ותוסיף כמה כללים למעלה." שאלתי אותו אם היה סומך על מחשבון שצודק ב-95% מהמקרים. הוא צחק. אמרתי: "זה מה שאתה מציע לציות בנקאי." הוא הפסיק לצחוק.

אופני הכשל הטכניים עמוקים יותר מהזיות. ל-wrappers חסר מה שהייתי מכנה התמדת סכימת מצב (state-schema persistence). ככל שהשיחה מתקדמת, חלון ההקשר מתמלא. מידע מתחילת השיחה נדחס או נשמט. המודל יכול לסתור את עצמו בתוך סשן יחיד ולא להיות מודע כלל לכך שעשה זאת. בשירות לקוחות, זה אומר שהנציג עשוי לאמת את הזהות שלך בתור 3 ואז לבקש ממך לאמת שוב בתור 15 — או גרוע מכך, לדלג על האימות לגמרי כי זרימת השיחה "שכנעה" אותו שהאימות כבר בוצע.

זו הפגיעות שאני מכנה כשל החופש האינסופי (Infinite Freedom Fallacy). מכיוון של-LLM אין אילוצים מבניים קשיחים על מה שהוא יכול לומר או לעשות, משתמש מתוחכם מספיק — או מצב מורכב מספיק — יכול לדחוף אותו למצבים שמפרים כללים עסקיים, דרישות רגולטוריות, או היגיון בסיסי. אי אפשר לפתור את זה בפרומפטים. צריך סוג ארכיטקטורה שונה לחלוטין.

כתבתי על הבעיה הזאת לעומק בגרסה האינטראקטיבית של המחקר שלנו, אבל התובנה המרכזית פשוטה: צריך להפריד בין הקול למוח.

ה-20% ששוברים הכול

אינפוגרפיקה שמציגה את פיצול ה-80/20 של אינטראקציות AI ואת ההשפעה הלא-פרופורציונלית שלהן על מוניטין המותג ועל החבות הפיננסית.

יש תבנית שראיתי בכל תעשייה שאנחנו עובדים בה, ואני חושב שהיא מסבירה למה כל כך הרבה פריסות AI הולכות במסלול של קלארנה.

AI ב-2025 יכול לטפל כשורה בכ-80% מהאינטראקציות השגרתיות והתכופות. איפוס סיסמאות, בדיקות סטטוס הזמנה, תשובות FAQ בסיסיות — אלה בעיות פתורות. 20% האינטראקציות הנותרים הם אלה שבאמת חשובים. אלה הסכסוכים המורכבים, מקרי הקצה, הרגעים שבהם לקוח מתוסכל או מבולבל או מפוחד. והם המניעים העיקריים של מוניטין המותג ושל החבות הפיננסית.

קלארנה מיטבה עבור ה-80% והתעלמה מה-20%. החשבון נראה מובן מאליו: לאוטמט את הדברים הקלים, לחסוך מיליונים. אבל ה-20% הם המקום שבו אמון נבנה או נהרס. לקוח שעבר איפוס סיסמה חלק לא מספר לאף אחד. לקוח שמבלה 45 דקות לכוד בלולאת AI בניסיון לפתור שגיאת חיוב מספר לכולם.

80% מהאינטראקציות שה-AI מטפל בהן היטב הם בלתי נראים למותג שלך. ה-20% שהוא מטפל בהם גרוע הם היחידים שמישהו זוכר.

האירוניה היא שהחיסכון הראשוני של קלארנה, 10 מיליון דולר מצמצום כוח אדם, כמעט בוודאות התגמד מול ערך חיי הלקוח שהם הרסו דרך חוויות מידרדרות. כשאתה חברה בשווי 14.6 מיליארד דולר שנערכת להנפקה, ירידה של 22% בשביעות רצון הלקוחות אינה בעיית מדד — היא בעיה קיומית.

מה בעצם אומר "AI דטרמיניסטי"?

תרשים ארכיטקטורה מסומן שמציג את "הכריך הנוירו-סימבולי" — כיצד שאילתה זורמת דרך אימות כוונה, אחר כך ה-LLM, ואז אימות סימבולי לפני שהיא מגיעה למשתמש, בהשוואה לארכיטקטורת wrapper פשוטה.

אז אם wrappers הם הבעיה, מהו הפתרון? כאן אני צריך להיות קצת טכני, אבל אני מבטיח להישאר מקורקע.

ב-Veriprajna אנחנו בונים את מה שנקרא AI נוירו-סימבולי. השם נשמע אקדמי, אבל הרעיון אינטואיטיבי: לוקחים את שטף השפה של רשת נוירונים ומגבילים אותו בתוך ההיגיון הנוקשה של מנוע היסק סימבולי. רשת הנוירונים מטפלת בעבודה ה"רכה" — הבנת שפה טבעית, ייצור תשובות קריאות לאדם, פירוש שאילתות מעורפלות. המנוע הסימבולי מטפל בעבודה ה"קשה" — אכיפת כללים, אימות היגיון, והבטחה שכל תפוקה ניתנת למעקב אל מקור מאומת.

אנחנו קוראים לזה הכריך הנוירו-סימבולי. לפני ששאילתה מגיעה ל-LLM, שכבת אימות כוונה בודקת אותה מול אילוצי מדיניות וסורקת קלטים עוינים. אחרי שה-LLM מייצר תשובה, מנוע אימות — בדרך כלל מכונת מצבים סופית או פותר לוגי — בודק כל טענה מול גרף הידע וכל פעולה מול הכללים העסקיים. אם התשובה מפרה אילוץ כלשהו, היא לא עוברת. נקודה.

יש טכניקה שאנחנו משתמשים בה שנקראת פענוח מוגבל (constrained decoding) — הידועה גם כמיסוך אסימונים — שאני מוצא אלגנטית במיוחד. במקום לתת למודל לייצר בחופשיות ואז לבדוק את הפלט, אנחנו מונעים פיזית מאסימונים מסוימים להיווצר מלכתחילה. אם המודל מפיק דוח ציות מס, השכבה הסימבולית מבטיחה שכל מספר מתאים לחישוב מאומת. המודל פשוט לא יכול להזות מספר, כי אסימוני ההזיה ממוסכים מתוך התפלגות ההסתברות עוד לפני שהייצור מתרחש.

זה לא "הוספת guardrails". זו ארכיטקטורה שונה מהיסוד שבה ה-LLM הוא הקול והמנוע הסימבולי הוא המוח, ולקול לעולם לא מותר לדבר בלי אישור המוח.

כשגרף הידע הציל אותנו מטעות של 2 מיליון דולר

תרשים שמשווה בין RAG סטנדרטי (דמיון וקטורי) לבין GraphRAG עם אכיפת ציטוטים, ומראה כיצד חיפוש וקטורי מבלבל כיווניות בעוד גרף ידע משמר אותה.

ל-RAG סטנדרטי — retrieval-augmented generation — יש בעיה שרוב האנשים לא מדברים עליה. הוא מסתמך על דמיון וקטורי כדי למצוא מסמכים רלוונטיים. אבל דמיון וקטורי לא מבין כיווניות. "חברה א' תבעה את חברה ב'" ו"חברה ב' תבעה את חברה א'" עשויים להיות בעלי הטמעות וקטוריות כמעט זהות, אבל הם מתארים מצבים משפטיים הפוכים לחלוטין.

גילינו את זה בדרך הקשה במהלך פיילוט משפטי. המערכת שלנו ניתחה היסטוריית התדיינויות עבור לקוח תאגידי, ומערך ה-RAG הסטנדרטי המשיך לבלבל בין תפקידי התובע והנתבע. התפוקות היו שוטפות, בנויות היטב, ושגויות בצורה מסוכנת.

אז עברנו למה שאנחנו מכנים GraphRAG עם אכיפת ציטוטים (Citation-Enforced GraphRAG). במקום להטיל מסמכים לתוך מאגר וקטורי, אנחנו מפרקים אותם לגרף ידע — ישויות המחוברות ביחסים מטופסים וכיווניים. כשהמערכת מעלה טענה, היא חייבת לעקוב אחר הטענה הזאת בחזרה אל צמתים וקשתות ספציפיים בגרף. אם הגרף לא יכול לתמוך בטענה, המערכת לא תעלה אותה.

שיפור הדיוק היה דרמטי — גבוה ב-30-35% מ-RAG סטנדרטי במשימות היסק מרובות-קפיצות מורכבות. אבל חשוב מכך, זה נתן לנו משהו ששום כמות של הנדסת פרומפטים לא יכלה: מסלול ביקורת. כל תפוקה ניתנת למעקב לאחור דרך נתיב ההיסק המדויק, מישות לישות, מיחס ליחס. קצין ציות יכול לראות מדוע המערכת הגיעה למסקנה, ולא רק מה היא הסיקה.

לפירוט הטכני המלא של אופן פעולת הארכיטקטורה הזאת בתחומים שונים — בנקאות, משפט, ייצור — ראו את הניתוח הטכני המעמיק שלנו.

הוויכוח שכמעט פילג את הצוות שלי

אני רוצה להיות כן לגבי משהו. לבנות ככה זה קשה יותר. קשה משמעותית יותר. והייתה נקודה, אולי לפני שמונה עשר חודשים, שבה לצוות שלי היה ויכוח אמיתי על השאלה אם אנחנו מהנדסים יתר על המידה.

היינו בחדר ישיבות — לוחות מחיקים מכוסים בתרשימי ארכיטקטורה — ואחד המהנדסים הבכירים שלנו טען שאנחנו צריכים להשיק MVP מבוסס wrapper ללקוח בתחום הייצור. "תכניסו הכנסות, תוכיחו את הרעיון, תחזקו את הארכיטקטורה אחר כך." זו הייתה טענה סבירה. הלקוח היה להוט. לוח הזמנים היה צפוף. וכל מתחרה בתחום שלנו השיק מוצרי wrapper וסגר עסקאות.

אני זוכר את השתיקה אחרי שהוא סיים. ואז פּרייה — אותה מהנדסת שתפסה את ציטוט הרפאים — העלתה שקופית שישבה עליה. היא הציגה שלושה מקרים אמיתיים מהרבעון הקודם שבהם מערכות AI מבוססות wrapper ייצרו תפוקות שאילו היו פועלים לפיהן, היו מפרות דרישות רגולטוריות. לא הפרות היפותטיות. אמיתיות, שנתפסו רק כי במקרה היו בני אדם בלולאה.

קיבלתי את ההחלטה להמשיך בדרך שלנו. הפסדנו את העסקה ההיא למתחרה שהשיק מהר יותר. שישה חודשים לאחר מכן, המערכת של המתחרה ייצרה הפרת ציות שעלתה ללקוח שלהם תיקון בעלות של שבע ספרות. הלקוח הגיע אלינו.

מהירות בלי נכונות אינה יתרון תחרותי. היא התחייבות עם נפץ מושהה.

אני לא מספר את הסיפור הזה כדי להישמע נביא. אני מספר אותו כי הלחץ להשיק מהר ולשפר אחר כך הוא עצום, וברוב הקשרי התוכנה זו האינטואיציה הנכונה. אבל בתעשיות מפוקחות — בנקאות, בריאות, משפט, ייצור — "לשפר אחר כך" פירושו "לתקן אחרי ההפרה". והפרות בתחומים האלה לא מגיעות עם תקופת חסד.

למה 2026 היא השנה שבה החשבון מגיע לפירעון

הנה התמונה המאקרו. מקינזי מצאה שבעוד ש-88% מהארגונים משתמשים ב-AI, רק 39% יכולים להצביע על השפעה חיובית על הרווח ברמת הארגון. הפער הזה עומד להפוך לבלתי נסבל.

שלב "להשקיע וללמוד" באימוץ AI נגמר. סמנכ"לי הכספים כבר לא שואלים "האם אנחנו משתמשים ב-AI?". הם שואלים "מהי ההשפעה על ה-EBIT?". ולרוב הארגונים, התשובה הכנה היא: "חסכנו קצת זמן במשימות אדמיניסטרטיביות."

זה לא מספיק. חיסכון בזמן על מיילים ומצגות הוא "AI פרודוקטיבי" — שימושי אבל אינקרמנטלי. מה שארגונים באמת צריכים זה "AI תפעולי" — מערכות שמסלקות חיכוך של דולרים קשים בכלכלה הפיזית. מניעת חוסרים במלאי. תפיסת הפרות ציות לפני שהן קורות. הפחתת העלות השנתית של 890 מיליארד דולר בהחזרות קמעונאיות באמצעות מדידה וירטואלית מדויקת במקום תמונות פנטזיה שנוצרו ב-AI, שנראות נהדר אבל לא משקפות איך בד באמת נופל על גוף אנושי.

סיפור קלארנה מלמד כאן, כי המדדים שלהם נראו כמו ROI. עלות לעסקה למטה ב-40%! אבל הם מדדו את הדבר הלא נכון. הם מדדו זמן שנחסך וכוח אדם שצומצם. הם לא מדדו אמון שנשחק ולקוחות שאבדו. כשמכניסים לחישוב את עלויות הגיוס מחדש, את הנזק למותג, ואת ההפסד של 99 מיליון דולר ברבעון הראשון, ה"חיסכון" מתאדה.

הארגונים שינצחו ב-2026 הם אלה שמודדים הפסדים תפעוליים שנמנעו, לא שעות שנחסכו. אלה שפורסים AI שיכול לדמות 10,000 תרחישי שיבוש בשרשרת האספקה בן לילה ולבנות ספרי משחק להתאוששות ממשבר ששום צוות אנושי לא היה יכול לייצר בעשור. אלה שמערכות ה-AI שלהן יכולות להוכיח את ההיסק שלהן לרגולטור, ולא רק לייצר פסקה משכנעת.

ומה עם בני האדם?

אנשים תמיד מתנגדים למסגור הזה. "אם ה-AI נהיה כל כך טוב, מה קורה לאנשים?"

אני חושב שהתשובה הפוכה ממה שרוב האנשים מצפים. הארגונים שפורסים AI עמוק ואיתן ארכיטקטונית לא זקוקים לפחות בני אדם — הם זקוקים לסוג אחר של בני אדם. פירמידת הייעוץ המסורתית, עם הבסיס העצום שלה של אנליסטים זוטרים שעוסקים בסינתזת נתונים ובבניית מצגות, קורסת. ה-AI עושה את העבודה הזאת מהר יותר וטוב יותר. אבל הצורך בשיקול דעת בכיר, בחשיבה אסטרטגית, בפיקוח אתי ובאמפתיה אנושית אמיתית לא רק שורד — הוא מתעצם.

מה שצומח הוא מה שהתעשייה מכנה מודל ה"אובליסק": צוותים רזים יותר ועתירי מומחים, שבהם אנשי מקצוע בתחילת דרכם הם "מנחי AI" שמעצבים ומנהלים תהליכי עבודה של AI, אנשי מקצוע באמצע הקריירה הם "ארכיטקטים של מעורבות" שמגדירים אילו בעיות שוות פתרון, ומנהיגים בכירים מתמקדים בעבודה האנושית העמוקה של בניית אמון וניווט באי-ודאות.

עוזר ה-AI הפנימי של מקינזי, "Lilli", בשימוש אצל 72% מכוח האדם שלהם וקיצר את זמן המחקר ב-30%. "Deckster" של BCG מאוטמט יצירת מצגות. אבל אף אחת מהפירמות לא מצטמצמת. הן עוברות ארגון מחדש — מחליפות נפח בדיוק, מחליפות שעות שחויבו בתוצאות שסופקו.

הטעות של קלארנה לא הייתה השימוש ב-AI. היא הייתה השימוש ב-AI כתחליף לבני אדם במקום כמגבר של יכולת אנושית. ההבחנה הזאת נשמעת עדינה. היא לא. זה ההבדל בין חיסכון של 10 מיליון דולר להפסד של 99 מיליון דולר.

ארכיטקטורת האמון

אני רוצה לסיים במשהו שנמצא במחשבותיי מאז אותו לילה מאוחר שבו פּרייה מצאה את ציטוט הרפאים.

אנחנו חיים ברגע שבו מערכות AI יכולות לייצר תפוקות שאינן ניתנות להבחנה מעבודה של מומחה אנושי — ועם זאת הן שגויות לחלוטין, ובביטחון מלא. זו אינה מגבלה זמנית שתיפתר על ידי GPT-6 או GPT-7. זו תכונה מובנית של אופן הפעולה של מודלי שפה הסתברותיים. הם ממטבים לסבירות, לא לאמת. ובתחומים שבהם האמת חשובה — שבהם תשובה שגויה פירושה הפרת ציות, אבחון שגוי, תקדים משפטי בדוי — סבירות היא הדבר המסוכן ביותר בעולם.

הפתרון אינו לנטוש את ה-AI. הפתרון הוא לבנות מערכות AI שבהן האמת נאכפת ארכיטקטונית, ולא מקווים לה הסתברותית. שבהן כל טענה מתחקה בחזרה אל מקור מאומת. שבהן המערכת פשוט לא יכולה לייצר תפוקה שמפרה את כללי התחום שבו היא פועלת. שבהן מסלול הביקורת אינו פיצ'ר — הוא היסוד.

זה מה שאנחנו בונים ב-Veriprajna. לא כי AI דטרמיניסטי קל יותר — הוא קשה בהרבה. לא כי הוא מדגים טוב יותר — wrappers מדגימים להפליא. אלא כי בתעשיות שאינן יכולות להרשות לעצמן לנחש, הארכיטקטורה היחידה בת-הקיימא היא זו שהופכת ניחוש לבלתי אפשרי.

קלארנה למדה את הלקח הזה במחיר של 700 משרות, ירידה של 22% ב-CSAT, והפסד רבעוני של 99 מיליון דולר. השאלה לכל מנהל ארגוני שקורא את זה פשוטה: אתם רוצים ללמוד אותו מהסיפור שלהם, או מהסיפור שלכם?

עתיד ה-AI הארגוני אינו עוסק בהפיכת מודלי שפה לחכמים יותר. הוא עוסק בהפיכתם לאחראיים — ארכיטקטונית, באופן בר-הוכחה, ובאופן בלתי הפיך.

עידן ה-wrapper נגמר. מה שיבוא אחריו יהיה קשה יותר לבנות, איטי יותר להשקה, ושווה כל חודש נוסף של הנדסה. כי בסופו של דבר, מערכת ה-AI היחידה ששווה לפרוס היא כזו שהיית מהמר עליה את החברה שלך. ולעולם אל תהמר את החברה שלך על מערכת שלא יכולה להראות את העבודה שלה.

מחקר קשור

פורסם גם ב

בנו את ה-AI שלכם בביטחון.

שותפו עם צוות בעל ניסיון עמוק בבניית הדור הבא של AI ארגוני. אנו נסייע לכם לתכנן, לבנות ולהטמיע אסטרטגיית AI שתוכלו לסמוך עליה.

Veriprajna ייעוץ דיפ-טק מתמחה בבניית מערכות AI קריטיות לבטיחות עבור תחומי הבריאות, הפיננסים והרגולציה. הארכיטקטורות שלנו מאומתות מול פרוטוקולים מבוססים ומלוות בתיעוד ציות מקיף.