היום שבו טריליון דולר נעלמו — ולמה אלגוריתמים "חכמים" החמירו את המצב

הייתי בשיחה עם הצוות שלי כשמישהו שיתף צילום מסך של הניקיי. הוא ירד ב-8%. אחר כך ב-10%. ואז ב-12.4%.

זה היה ב-5 באוגוסט 2024. השוק היפני חווה את היום הגרוע ביותר שלו מאז יום שני השחור ב-1987. מדד ה-VIX — המדד שבוחן עד כמה וול סטריט מפוחדת — זינק ל-65.73, רמה שלא ראינו מחוץ למשבר הפיננסי של 2008 והשבועות הראשונים של הקורונה. טריליון דולר של שווי שוק התאדה ממניות בינה מלאכותית וטכנולוגיה בלבד.

אני זוכר שאחד המהנדסים שלי אמר, חצי בצחוק: "אז האלגוריתמים שוב סוחרים אחד נגד השני."

הוא לא טעה. והמשפט הזה — סוחרים אחד נגד השני — הוא החלק השקט שאף אחד בתעשיית הבינה המלאכותית לא רוצה לומר בקול רם. בין 60% ל-70% מהעסקאות העולמיות מבוצעות כיום על ידי אלגוריתמים. רוב האלגוריתמים הללו הם מערכות הסתברותיות — הם חוזים את המהלך הסביר הבא על סמך תבניות בנתונים היסטוריים. הם לא מבינים מה קורה. הם לא יודעים למה הין מתחזק או מה המשמעות של סגירת עסקאות קרי טרייד (Carry Trade) על הנזילות. הם פשוט רואים איתותי מחיר ומגיבים.

ב-5 באוגוסט, כולם הגיבו באותו כיוון, באותו זמן, לאיתות שהיה בחלקו תופעת לוואי טכנית. והתוצאה הייתה תגובת שרשרת שאף סוחר אנושי בודד לא היה יכול לגרום לה.

היום ההוא שינה את האופן שבו אני חושב על מה שאנחנו בונים ב-Veriprajna. הוא אישר משהו שטענתי כבר שנים: בינה מלאכותית הסתברותית ללא מעקות בטיחות דטרמיניסטיים היא לא רק לא אמינה — היא מסוכנת.

מה בעצם קרה ב-5 באוגוסט?

הסיפור על פני השטח הוא מאקרו-כלכלי. הבנק המרכזי של יפן (BOJ) הפתיע את השווקים עם העלאת ריבית של 0.25%. באותו שבוע, דוח תעסוקה חלש בארה"ב הפעיל את "כלל סאם" — אינדיקטור מיתון המבוסס על אבטלה גואה. שתי נקודות נתונים. אף אחת מהן, כשלעצמה, לא הרת אסון.

אבל מתחת לכותרות האלו עמד הימור עצום וממונף שנבנה במשך למעלה מעשור: עסקת הקרי טרייד (Carry trade) על הין.

הנה הגרסה הקצרה. יפן שמרה על ריביות קרובות לאפס במשך שנים. הפדרל ריזרב בארה"ב דחף את הריבית ל-5.5%. אז קרנות גידור, משקיעים מוסדיים, ואפילו סוחרים קמעונאיים לוו בזול בינים והזרימו את הכסף הזה לנכסים בעלי תשואה גבוהה יותר — מניות טכנולוגיה בארה"ב, שווקים מתעוררים, קריפטו. פער הריביות היה כסף בחינם, כל עוד הין נשאר חלש.

התיאוריה הכלכלית אומרת שזה לא אמור לעבוד. שוויון ריביות צופה שתנודות בשער החליפין יקזזו את רווח הריבית. אבל בפועל, ישנה אנומליה מתועדת היטב שנקראת חידת פרמיית הפורוורד: מטבעות עם ריבית גבוהה נוטים להתחזק בטווח הקצר, מה שהופך את הקרי טרייד לרווחי עוד יותר. אז הפוזיציה גדלה. וגדלה.

כשהבנק המרכזי של יפן העלה את הריבית והין התחזק ב-7.7% בשבוע אחד בלבד, ה"קרי" הפך להפסד. דרישות ביטחונות (Margin calls) הגיעו. צמצום המינוף היה אלים.

אבל הנה מה שמטריד אותי: הטריגרים של המאקרו מסבירים אולי חצי מהסיפור. העוצמה — המהירות, ההידבקות, המחיקה של טריליון דולר — זו הייתה אלגוריתמית.

מדד הפחד שיקר

זה החלק שעדיין מדיר שינה מעיניי בלילות.

מדד ה-VIX, שכולם מתייחסים אליו כמדד המוחלט של פחד בשוק, לא מחושב ממחירי מסחר בפועל. הוא נגזר מאמצע הציטוטים (mid-quotes) של אופציות S&P 500 — נקודת האמצע בין מה שהקונים מציעים (bid) למה שהמוכרים מבקשים (ask).

במהלך שעות טרום המסחר של ה-5 באוגוסט, הנזילות התייבשה. עושי שוק הרחיבו את מרווחי הביד-אסק שלהם כדי להגן על עצמם. מכיוון שמחירי אופציות לא יכולים לרדת מתחת לאפס והצעות מינימליות נקבעות לרוב סביב 5 סנט, הרחבת המרווחים הזו דחפה את נקודת האמצע למעלה באופן מכני. ה-VIX זינק ב-180% עוד לפני שהשוק נפתח.

ה-VIX לא זינק כי הפחד היה גבוה ב-180%. הוא זינק כי הנזילות הייתה נמוכה ב-180%. ואלפי אלגוריתמים לא יכלו להבחין בהבדל.

קרנות המכוונות לתנודתיות, יועצי מסחר בסחורות (CTAs) — המערכות האלו מתוכנתות לזרוק מניות כשהתנודתיות הגלומה עולה. הם ראו את מספר ה-VIX. הם מכרו. המכירות שלהם דחפו את המחירים עוד יותר למטה, מה שהפעיל אלגוריתמים נוספים למכור, מה שדחף את ה-VIX עוד יותר למעלה.

זו הייתה לולאת משוב שנבנתה על ארטיפקט של מדידה. "מדד הפחד" מדד בחלקו את ההשתקפות של עצמו.

העליתי את זה בישיבת צוות בשבוע שלאחר מכן, ואחד ממדעני הנתונים שלנו שלף את הניתוח של הבנק להסדרי סליקה בינלאומיים שאישר בדיוק את המנגנון הזה. אני זוכר שהחדר השתתק. בנינו מערכות נוירו-סימבוליות עבור לקוחות עסקיים — ציות למס, לוגיסטיקה של בנייה — אבל זה היה הרגע שבו הבנתי שאותו כשל ארכיטקטוני יושב בלב הפיננסים העולמיים.

למה מערכות הבינה המלאכותית ה"חכמות" לא תפסו את זה?

אנשים תמיד שואלים אותי את זה. אם בינה מלאכותית כל כך חזקה, למה היא לא מנעה את ההתרסקות? למה אלגוריתמי המסחר לא זיהו את האנומליה של ה-VIX?

כי הם לא תוכננו לכך. הם תוכננו להגיב לאיתותים, לא להסיק לגביהם.

רוב מערכות המסחר המונעות בינה מלאכותית כיום הן מה שאני קורא לו מעטפות הסתברותיות. אלה ממשקים דקים שנבנו על גבי מודלי שפה גדולים או מנועי חיזוי סטטיסטיים. הם טובים מאוד בהתאמת תבניות — מציאת קורלציות בנתונים היסטוריים, חיזוי תנועות מחירים בטווח הקצר. אבל אין להם מודל פנימי של למה דברים קורים.

מערכת הסתברותית שאומנה על נתוני VIX היסטוריים תלמד: "כשה-VIX עולה מעל 40, תמכור מניות." זוהי היוריסטיקה שימושית בשווקים רגילים. ב-5 באוגוסט, זה היה דלק על מדורה. המערכת לא יכלה לשאול: "רגע — האם הזינוק הזה ב-VIX מונע מתנודתיות ממומשת, או מארטיפקט מדידה מבוסס ציטוטים בסביבת נזילות נמוכה?" השאלה הזו דורשת הסקה סיבתית. היא דורשת הבנה של מיקרו-מבנה השוק. היא דורשת את מה שאנחנו קוראים לו לוגיקה דטרמיניסטית — ולמודלים הסתברותיים אין את זה.

משקיע אחד אמר לי פעם בצורה חותכת: "פשוט תשתמש ב-GPT. תעשה לו כיוונון עדין על נתוני שוק." ניסיתי להסביר שמודל שפה שחוזה את הטוקן הסביר הבא שונה מהותית ממערכת שיכולה לאכוף את האילוץ "אל תבצע פקודת מכירה שמופעלת על ידי קריאת VIX שסוטה ביותר מ-3 סטיות תקן מתנודתיות ממומשת." הוא הסתכל עליי כאילו אני מסבך את הדברים יותר מדי.

ה-5 באוגוסט היה תשובת הנגד של טריליון דולר.

מה המשמעות של "בינה מלאכותית עמוקה (Deep AI)" בעצם עבור שווקים?

ב-Veriprajna, אנו משתמשים במונח "בינה מלאכותית עמוקה" (Deep AI) כדי להבחין בין מה שאנחנו בונים לבין גל מעטפות הבינה המלאכותית שמציפות את השוק. זה לא מונח שיווקי — זו מחויבות ארכיטקטונית. כתבתי על הפילוסופיה הזו לעומק בהגרסה האינטראקטיבית של המחקר שלנו, אבל רעיון הליבה הוא זה:

רשתות עצביות נועדו לתפיסה. לוגיקה סימבולית נועדה לאמת.

אנחנו קוראים לזה "הכריך הנוירו-סימבולי". רשת עצבית קולטת נתונים — עדכוני מחירים, חדשות, דינמיקת ספר פקודות. היא מצוינת בזה. זיהוי תבניות הוא מה שרשתות עצביות נולדו לעשות. אבל לפני שהפלט העצבי הזה מגיע לשכבת קבלת החלטות כלשהי, הוא עובר דרך מנוע אילוצים סימבולי — שכבה דטרמיניסטית שאוכפת כללים בלתי משתנים.

הכללים האלה לא נלמדים מנתונים. הם מקודדים במפורש. דרישות ביטחונות. ספי נזילות. מגבלות רגולטוריות. לוגיקה טמפורלית — ההבנה שהחלטת ריבית של ה-BOJ ביולי נמצאת סיבתית במעלה הזרם של דרישת ביטחונות (margin call) באוגוסט, גם אם הם מופיעים בחלקי נתונים שונים.

במערכת נוירו-סימבולית, אמת אינה סבירות סטטיסטית. זוהי ודאות מאומתת, מגובה בלוגיקה. הרשת העצבית אומרת "התבנית הזו נראית כמו איתות מכירה". השכבה הסימבולית שואלת "האם איתות המכירה הזה מפר אילוץ כלשהו שאנחנו יודעים שהוא נכון?" אם כן, האיתות נחסם. אין משא ומתן.

זה לא תיאורטי. בנינו את מנועי האילוצים האלה לציות מס, שבהם סוכן בינה מלאכותית ממש לא יכול להמליץ על עמדת הגשה שמפרה את חוקי המס, לא משנה עד כמה ההנחיה משכנעת. אותה ארכיטקטורה חלה על מסחר: סוכן שלא יכול לבצע עסקה שמופעלת על ידי קריאת VIX שהוא יכול לזהות כאנומלית.

למה מערכות בינה מלאכותית נוכחיות נכשלות בזה?

יש מצב כשל טכני ספציפי שמסביר הרבה ממה שהשתבש ב-5 באוגוסט, וזה אותו מצב כשל שאני רואה כמעט בכל מוצר פיננסי "מונע בינה מלאכותית" בשוק.

זה נקרא RAG נאיבי — יצירה מוגברת על ידי שליפה (Retrieval-Augmented Generation). הרעיון פשוט: קח מודל שפה גדול, חבר אותו למסד נתונים של מסמכים (דוחות שוק, חדשות, הגשות לרשויות), ותן לו לשלוף הקשר רלוונטי לפני יצירת תשובה.

הבעיה היא איך ה"הקשר הרלוונטי" נבחר. רוב מערכות ה-RAG חותכות מסמכים לנתחים בגודל קבוע, ממירות אותם לווקטורים מספריים, ושולפות את הנתחים שהכי דומים מתמטית לשאילתה. זה יוצר שלושה שטחים מתים קטסטרופליים:

עיוורון טמפורלי. נתח על "התרסקות שוק" מ-2010 ונתח על "התרסקות שוק" מ-2024 נראים כמעט זהים כווקטורים. המודל לא יכול להבחין בין אירוע היסטורי לאירוע מתפתח. ב-5 באוגוסט, כלי ניתוח חדשות בינה מלאכותית בלבלו תגובות מדיניות בנות עשור עם תנאים בזמן אמת.

פרגמנטציה נרטיבית. חיתוך לנתחים הורס את חוט הסיפור המתפתח. החלטת הריבית של ה-BOJ, התחזקות הין, ודרישת ביטחונות של קרן גידור הם שלושה נתחים נפרדים בשלושה מאמרים נפרדים. הבינה המלאכותית לא יכולה לחבר ביניהם.

כשל הסקה מרובה-קפיצות (Multi-hop). התרסקות הקרי טרייד דרשה לוגיקה טרנזיטיבית: ה-BOJ העלה ריביות ← הין התחזק ← עסקאות קרי טרייד הפכו ללא רווחיות ← מכירה כפויה פגעה במניות הטכנולוגיה האמריקאיות ← ה-VIX זינק ← קרנות המכוונות לתנודתיות מכרו יותר. זוהי שרשרת סיבתית של שישה שלבים. RAG נאיבי לא יכול לעשות את זה.

אנחנו מחליפים את זה בגרפי ידע (knowledge graphs) — מפות מפורשות של יחסים בין שחקנים כלכליים, מטבעות, מכשירים, וגופים רגולטוריים. כשהחלטת הריבית של ה-BOJ נכנסת למערכת, גרף הידע כבר יודע שהיא מחוברת לעסקאות קרי טרייד בינים, שמחוברות לחשיפה למניות אמריקאיות, שמחוברת לקרנות הרגישות ל-VIX. ההסקה היא מבנית, לא סטטיסטית.

איך ממדלים הדבקה לפני שהיא קורית?

כאן רשתות עצביות מבוססות גרפים — GNNs — שינו את האופן שבו אני חושב על סיכון פיננסי.

מודלי סיכון מסורתיים מתייחסים לנכסים כנקודות נתונים עצמאיות או משתמשים במטריצות קורלציה סטטיות. המטריצות הללו מכוילות במהלך שווקים רגועים. במהלך התרסקות בזק (flash crash), הקורלציות מזנקות ל-1 — הכל נמכר ביחד — והמודל נשבר.

GNN מתייחס לשוק כפי שהוא באמת: רשת. צמתים (Nodes) הם נכסים. קצוות (Edges) הם עוצמת זרימת המידע ביניהם. מדד הניקיי 225 מחובר ל-USD/JPY שמחובר לאנבידיה (Nvidia) שמחוברת ל-VIX. ה-GNN לומד לא רק את המצב של כל צומת, אלא גם איך זעזועים מתפשטים דרך הקצוות.

המחקר שלנו מראה ש-GNNs מגיעות לטעות ריבועית ממוצעת של 0.0025 ושורש טעות ריבועית ממוצעת של 0.050 בחיזוי תנודתיות — ועוקפות משמעותית רשתות עצביות רקורנטיות מסורתיות ואפילו טרנספורמרים. הסיבה היא מבנית: GNNs קולטות אינטראקציות מרובות קפיצות. הן יכולות לזהות שזעזוע לין יתפשט דרך עסקאות קרי טרייד למניות הטכנולוגיה בארה"ב לפני שתנועת המחיר מופיעה בסדרות הזמן.

אבל — וזה החלק שמשנה — אנחנו לא נותנים ל-GNN לפעול לבד. הפלט שלו מזין את שכבת האילוצים הסימבולית. ה-GNN אומר "הסתברות ההידבקות מ-JPY לנאסד"ק גבוהה". המנוע הסימבולי בודק: "האם הפוזיציות הנוכחיות של הקרי טרייד נמצאות מעל הסף המקודד בכללי הסיכון שלנו? האם התנהגות ה-VIX עקבית עם תנודתיות ממומשת, או שזו אנומליה מבוססת ציטוט?" רק לאחר מעבר של שתי הבדיקות, המערכת מייצרת המלצה.

GNN ללא אילוצים סימבוליים הוא כפתור פאניקה מדויק מאוד. GNN עם אילוצים סימבוליים היא מערכת לניהול סיכונים.

לפירוק הטכני המלא של הארכיטקטורה הזו — כולל מסגרות הלמידה מחיזוקים שאנו משתמשים בהן עבור סוכני מסחר מודעי-ביטחונות — ראו את מאמר המחקר שלנו.

בעיית הקופסה השחורה היא לא רק טכנית — היא משפטית

הנה משהו שלא מקבל מספיק תשומת לב: רגולטורים באים אחרי בינה מלאכותית אטומה.

ה-CFTC וה-SEC מתמקדים יותר ויותר בשקיפות של מסחר אלגוריתמי. קופסה שחורה שמבצעת פקודת מכירה של 100 מיליון דולר ולא יכולה להסביר למה, היא לא רק סיכון טכני — היא חבות ציות (compliance). הבנק להסדרי סליקה בינלאומיים פרסם הנחיות מפורשות כיצד רגולטורים צריכים לגשת להסבר של בינה מלאכותית בשווקים הפיננסיים.

אנחנו בונים יכולת הסבר לתוך הארכיטקטורה מההתחלה. שכבת האילוצים הסימבולית שלנו ניתנת לפירוש מטבעה — ניתן לעקוב אחרי כל החלטה חזרה לכלל הספציפי שהרשה או חסם אותה. עבור הרכיבים העצביים (ה-GNNs, סוכני הלמידה מחיזוקים), אנו מיישמים טכניקות פוסט-הוק (post-hoc): ערכי SHAP שמראים אילו משתנים הניעו תחזית, הסברים קאונטר-פקטואליים שמראים כיצד קלט שונה היה משנה את הפלט.

הייתה לי שיחה עם קצינת ציות בקרן בגודל בינוני שאמרה לי שמערכת המסחר בבינה מלאכותית הנוכחית שלהם מייצרת המלצות שהם לא יכולים לבקר. "אנחנו פשוט סומכים עליה," היא אמרה. "עד שהיא טועה, ואז אנחנו צריכים להסביר לדירקטוריון למה סמכנו עליה."

זהו משבר הציות במשפט אחד. וזו הסיבה שאנחנו מתיישרים בכל פריסה עם מסגרת ניהול הסיכונים לבינה מלאכותית של NIST — לא כתרגיל סימון וי, אלא כארכיטקטורה תפעולית. ארבעת עמודי התווך של המסגרת (Govern, Map, Measure, Manage) ממופים ישירות לאופן שבו אנחנו בונים: מדיניות פיקוח שאפויה בתוך המערכת, מיפוי סיכונים של כל תלות נתונים, מדידה מתמדת של סחף המודל, ומתגי השבתה דטרמיניסטיים (kill switches) למקרה שהמערכת מזהה שהיא פועלת מחוץ לטווח האמין שלה.

מה לגבי הטיעון "פשוט תוסיף עוד נתונים"?

אנשים מתנגדים לגישה הנוירו-סימבולית. הם אומרים: "אם מודלים הסתברותיים נכשלו ב-5 באוגוסט, התשובה היא מודלים הסתברותיים טובים יותר. יותר נתוני אימון. חלונות הקשר גדולים יותר. כוונון עדין על תרחישי משבר."

אני מבין את המשיכה. זה פשוט יותר. זה מתאים לשרשרת הכלים הנוכחית. וזה לא נכון.

פירוק הקרי טרייד של אוגוסט 2024 היה אירוע חדש. השילוב הספציפי של העלאת ריבית של ה-BOJ, טריגר של כלל סאם, אנומליית ציטוט של ה-VIX, וסגירת פוזיציות ממונפות בשווי טריליוני דולרים בו-זמנית — התצורה המדויקת הזו מעולם לא קרתה לפני כן. שום כמות של נתוני אימון היסטוריים לא מכילה אותה.

מודלים הסתברותיים עושים אקסטרפולציה מהעבר. מנועי אילוצים דטרמיניסטיים מקודדים את הכללים ששולטים בהווה. הכללים של דרישות ביטחונות לא משתנים בזמן משבר. המכניקה של חישוב ה-VIX לא משתנה בזמן משבר. הקשר הסיבתי בין פערי ריביות לרווחיות קרי טרייד לא משתנה בזמן משבר. אלו הדברים ששכבה סימבולית יכולה לאכוף, ללא קשר לשאלה האם התרחיש הספציפי נראה קודם לכן או לא.

אי אפשר לצאת ממשבר חדש על ידי אימון בלבד. אפשר רק להשתמש בהיגיון כדי לעבור אותו — והיגיון דורש מבנה שלמודלים הסתברותיים פשוט אין.

עידן המעטפת הסתיים

ביליתי את השנים האחרונות בצפייה בתעשיית הבינה המלאכותית בונה חזיתות משוכללות יותר ויותר על גבי אותם יסודות הסתברותיים. ממשקים דקים על GPT-4. לוחות בקרה "מונעי בינה מלאכותית" שהם באמת רק תבניות פרומפטים שפוגעות ב-API. עולם הייעוץ קורא לאלה "פתרונות בינה מלאכותית". אני קורא להם מעטפות על חול טובעני.

ה-5 באוגוסט 2024, היה היום שבו החול הטובעני זז. טריליון דולר נעלמו לא בגלל שהיסודות קרסו, אלא בגלל שהאלגוריתמים לא יכלו להפעיל היגיון על העולם שבו הם סחרו. הם לא יכלו להבחין בין ארטיפקט נזילות לפחד אמיתי. הם לא יכלו להתחקות אחרי שרשרת סיבתית של שישה שלבים מטוקיו לוול סטריט. הם לא יכלו לבדוק את התפוקות שלהם מול המכניקה הבסיסית של האופן שבו מחושב ה-VIX.

אנחנו בונים מערכות שיכולות לעשות זאת. לא בגלל שאנחנו חכמים יותר — אלא בגלל שעשינו בחירה ארכיטקטונית שונה. בחרנו להתייחס לבינה מלאכותית לא כמנוע חיזוי שלעתים מצליח לו, אלא כמערכת הנדסית שבה כל פלט מאומת מול לוגיקה מפורשת הניתנת לביקורת.

הבהלה לזהב של הבינה המלאכותית תגמלה מהירות. העידן הבא יתגמל אמת. ואמת, בכל תחום שחשוב — פיננסים, משפטים, רפואה, תשתיות — דורשת יותר מהסתברות. היא דורשת הוכחה.

זה לא גידור. זה יסוד.