מדוע AI מסחר בקופסה שחורה הפסיד טריליון דולר ביום אחד

הבעיה

ב-5 באוגוסט 2024 נעלמו כ-1 טריליון דולר משווי השוק של חברות ה-AI והטכנולוגיה הבכירות ביום אחד. מדד הניקיי 225 של יפן צנח ב-12.4% — הירידה החדה ביותר שלו מאז יום שני השחור ב-1987. מדד התנודתיות של CBOE (VIX), המכונה לעיתים קרובות "מד הפחד" של השוק, רשם את הזינוק החד-יומי הגדול בתולדותיו וקפץ ל-65.73. רמה זו נחצתה רק במהלך הרגעים הגרועים ביותר של משבר הפיננסים של 2008 ושל המגפה ב-2020.

הטריגרים לא היו מסתוריים. הבנק של יפן העלה את הריבית ב-0.25%. דוח תעסוקה אמריקאי חלש הפעיל אות אזהרה מפני מיתון. אלה היו אירועים מקרו-כלכליים אמיתיים. אך את היקף הקריסה לא הניעו בני אדם שמקבלים החלטות נואשות. כיום בין 60% ל-70% מהעסקאות העולמיות מבוצעות על ידי אלגוריתמים. כשהעלאת הריבית נחתה, המערכות האוטומטיות הללו נכנסו ללולאת משוב מדורגת של פקודות מכירה. הן הגיבו לאותות מחיר בלי יכולת להבחין בין שינוי כלכלי אמיתי לבין רעש הנגרם מנזילות שנעלמת.

אם החברה שלכם מסתמכת על מסחר מבוסס AI, מודלים לניהול סיכונים או אפילו ניתוח שוק מבוסס AI, האירוע הזה הוא האזהרה הברורה ביותר שתוכלו לקבל. האלגוריתמים לא השתבשו. הם פעלו בדיוק כפי שתוכננו — וזו הייתה הבעיה.

מדוע זה משנה לעסק שלכם

זו לא הייתה תקלה חד-פעמית. זה היה מבחן לחץ שבו הדור הנוכחי של ה-AI נכשל כישלון חריף. הנה מה שהמספרים מספרים לכם על החשיפה שלכם:

• 1 טריליון דולר של שווי שוק נמחקו ביום מסחר אחד מחברות AI וטכנולוגיה בלבד.
• ירידה חד-יומית של 12.4% בניקיי 225, כאשר מדד TOPIX הרחב יותר צנח לצידו ב-12.23%.
• זינוק של VIX של מעל 303%, מכ-16.30 ל-65.73, שהפעיל תוכניות מכירה אוטומטיות באלפי קרנות המכוונות לתנודתיות.
• Goldman Sachs איבדה 687 מיליון דולר בשני ימים בלבד בימי המהומה.
• התחזקות הין ב-7.2% מול הדולר בשבוע אחד, שאילצה פריקה אלימה של עמדות carry trade ממונפות ברחבי העולם.

הרגולטורים מסתכלים על זה מקרוב. ה-CFTC וה-SEC מתמקדים יותר ויותר באטימות של מודלים מבוססי AI בשווקי נגזרות. מערכת מסחר שמבצעת פקודת מכירה של 100 מיליון דולר בלי נימוק מובן היא לא רק סיכון — היא חבות הפוגעת באמון המוסדי של החברה שלכם.

עבור הדירקטוריון שלכם, השאלה אינה עוד "האם אנחנו משתמשים ב-AI?" אלא "האם אנחנו יכולים להסביר מה ה-AI שלנו עשה ומדוע?" אם המערכות הנוכחיות שלכם לא יכולות לענות על השאלה הזו עם מסלול ביקורת שניתן לבדיקה, אתם נושאים סיכון רגולטורי ומוניטיני שמצטבר עם כל זעזוע בשוק.

מה באמת קורה מאחורי הקלעים

רוב מערכות המסחר והסיכונים מבוססות ה-AI כיום פועלות כ"עטיפות" דקות שנבנו על גבי מודלים גדולים של שפה או מנועים הסתברותיים דומים. מודלים אלה מנבאים את התוצאה הסבירה הבאה על סמך דפוסים בנתוני האימון שלהם. הם, כפי שתוכננו, מנועי הסתברות — לא מנועי לוגיקה.

חשבו על זה כך: מערכת ה-AI שלכם היא כמו אפליקציית מזג אוויר שמכירה רק ממוצעים היסטוריים. היא יכולה לומר לכם מה הסיכוי לגשם על סמך חודשי אוגוסט קודמים. אבל היא לא מסוגלת להסיק מסקנות לגבי הסערה הספציפית שמתהווה כעת, כי אין לה מודל של פיזיקת האטמוספירה. כשהתנאים הופכים לחדשניים באמת — כמו פריקת carry trade משולבת במחסור נזילות — מנוע הסתברות יכול רק לנחש על סמך דפוסים שראה בעבר.

במהלך הקריסה של אוגוסט, כשל טכני ספציפי החמיר את המצב. ה-VIX מחושב לא ממחירי עסקאות אמיתיים אלא מנקודת האמצע של הצעות הקנייה והמכירה (bid-ask) על אופציות S&P 500. כשהנזילות התייבשה, יוצרי השוק הרחיבו את המרווחים (spreads) שלהם כדי להגן על עצמם. זה הניף מכנית את ה-VIX — ב-180% במסחר טרום-פתיחה — למרות שהתנודתיות בפועל לא עלתה בשיעור כזה. אלפי קרנות אוטומטיות קראו אז את "מד הפחד" המנופח הזה כאות אמיתי והשליכו מניות.

מערכות ה-AI לא יכלו לראות שזינוק ה-VIX היה חלקית ארטיפקט טכני של מרווחים מורחבים. הן חסרו כל כלל או אילוץ שאמר: "לפני שפועלים על סמך האות הזה, בדקו אם נתוני המרווחים שבבסיסו אמינים." שכבת לוגיקה חסרה אחת עלתה לשוק ביוקר.

במקביל, כלים רבים לניתוח חדשות מבוססי AI נכשלו גם הם. מערכות אלה משתמשות בשיטה הנקראת Retrieval-Augmented Generation (RAG) — שבה מזינים ל-AI מסמכי מקור אמיתיים כדי לעגן את תשובותיו. אבל מימושי RAG בסיסיים מפצלים מסמכים למקטעים בגודל קבוע ומוצאים התאמות "דומות". זה יוצר שלוש נקודות עיוורון מסוכנות: ה-AI מתעלם מהזמן (דוח על קריסת 2010 נראה זהה לדוח של 2024), הוא מאבד את חוט האירועים המתפתחים על פני מאמרים מרובים, והוא אינו מסוגל לחבר שרשראות טרנזיטיביות של סיבה ותוצאה.

מה עובד (ומה לא)

ראשית, שלוש גישות נפוצות שלא עומדות במבחן תחת לחץ:

• "פרומפטים חכמים יותר" על אותו מודל קופסה שחורה. אי אפשר להיחלץ בעזרת הנדסת פרומפטים ממערכת שאין לה מושג על כללי שוק או אילוצי נזילות. זה מה שהספר הלבן מכנה "prompt-and-pray" (הנחיה ותפילה).
• מודלי סיכונים סטטיים מבוססי מתאם (כמו Value-at-Risk). הם מתייחסים לנכסים כבלתי תלויים או משתמשים במטריצות מתאם קבועות. מטריצות אלה מתפרקות בזמן קריסת בזק — בדיוק כשאתם הכי זקוקים להן.
• הוספת עוד נתונים לאותה ארכיטקטורה. הזנת עוד נתוני שוק למערכת שאינה מסוגלת להסיק על יחסי סיבתיות רק נותנת לה חומר נוסף להזות ממנו.

מה שכן עובד הוא ארכיטקטורה שמפרידה בין מה שה-AI "חושב" לבין מה שמותר לו לעשות. הנה המנגנון המרכזי בשלושה שלבים:

1. שכבת קלט — רשתות נוירונים ורשתות נוירונים גרפיות (GNNs) לתפיסה. המערכת שלכם קולטת נתוני שוק, חדשות ומידע מספר ההוראות. GNNs מדמים את השוק כרשת של נכסים מקושרים, ולא כגיליון אלקטרוני שטוח. זה מאפשר למערכת לזהות כיצד זעזוע בין מתפשט למניות הטכנולוגיה האמריקאיות דרך נתיבי הדבקה מדידים. מחקרים מראים ש-GNNs משיגים שגיאת ניבוי נמוכה משמעותית (Mean Square Error של 0.0025) בהשוואה למודלים סדרתיים מסורתיים.

2. שכבת עיבוד — מנועי אילוצים סימבוליים אוכפים כללים. הפלט של הרשת הנוירונית עובר דרך שכבת לוגיקה דטרמיניסטית לפני שננקטת כל פעולה. שכבה זו מקודדת את דרישות המרג'ינה שלכם, מגבלות רגולטוריות וכללי יציבות שוק בלוגיקה פורמלית. היא פועלת כחומת אש: אם ההמלצה של ה-AI מפרה כלל, המערכת חוסמת את הפעולה. זו לא שכבת הצעות — זו עצירה מוחלטת.

3. שכבת פלט — פעולות מובנות, ניתנות לביקורת ותואמות סכימה. כל החלטה שהמערכת מקבלת נרשמת מול הכלל הספציפי שאיפשר אותה. הפלט אינו טקסט חופשי — הוא נתונים מובנים שמערכות הפנקסים והציות הקיימות שלכם יכולות לנתח. כל המלצת מסחר נושאת מסלול לוגיקה שמראה אילו קלטים הפעילו אותה, אילו כללים היא קיימה ואילו אילוצים היא כיבדה.

הארכיטקטורה הזו — הקרויה AI נוירו-סימבולי — מעניקה לצוות הציות שלכם משהו שאף קופסה שחורה אינו מסוגל לתת: מסלול ביקורת דטרמיניסטי מלא לכל החלטה. כשרגולטור שואל מדוע המערכת שלכם מכרה במהלך זינוק תנודתיות, אתם יכולים להציג בפניו את מסלול הכלל המדויק, ולא התפלגות הסתברות.

הגישה תואמת את מסגרת ניהול הסיכונים של AI של NIST (NIST AI Risk Management Framework), הקוראת למערכות AI שהן תקפות, אמינות, בטוחות, מאובטחות וניתנות להסבר. Veriprajna ממפה כל פריסה לארבע הפונקציות המרכזיות של NIST: Govern (קביעת מדיניות ואחריות), Map (זיהוי סיכונים ותלות בנתונים), Measure (כימות התנהגות המערכת וסטייתה), ו-Manage (יישום בקרות, כולל "מתגי עצירה" אוטומטיים לתרחישים בסיכון גבוה).

עבור ארגונים ב שירותים פיננסיים שנדרשים ללכת צעד נוסף, שקיפות ויכולת הסבר של החלטות שיטות כמו ייחוס מאפיינים SHAP והסברים קונטרפקטואליים יכולות להציג בדיוק אילו משתנים הניעו החלטה — וכיצד התוצאה הייתה משתנה בתנאים אחרים.

אתם יכולים לקרוא את הניתוח הטכני המלא לקבלת המפרט הארכיטקטוני המלא, או לחקור את הגרסה האינטראקטיבית לסיור מודרך במסגרת.