האלגוריתם שלכם מכר 1.4 מיליארד דולר לפני שמישהו לחץ על ביטול. תוכלו להסביר מדוע?
יש שאלה אחת שמסיימת את רוב הבדיקות הרגולטוריות עוד לפני שהן באמת מתחילות. היא אינה "האם יש לכם בקרות?" לכולם יש בקרות. היא שקטה מזה, וגרועה יותר:
"תסבירו לי בדיוק מה האלגוריתם הזה עשה ב-5 באוגוסט ב-9:47 בבוקר."
ראיתי חברות חכמות וממומנות היטב קופאות מול השאלה הזו. הן יכולות לשלוף את יומני ההזמנות. הן יכולות להראות לכם את העסקאות. מה שהן אינן מסוגלות לעשות הוא לשחזר את שרשרת ההחלטות — מדוע המודל קבע את גודל הפוזיציה כפי שקבע, מדוע סף הסיכון ישב היכן שישב, מדוע שינוי קוד שלושה שבועות קודם לכן לא הפעיל את הראדאר של איש. וב-2026, הפער הזה הוא כל המשחק. ציות במסחר אלגוריתמי עבר בשקט מהוכחה שיש לכם מעקות בטיחות להוכחה שאתם מסוגלים להסביר, בדיעבד, כל מהלך שהמכונה שלכם עשתה.
אני רוצה לספר לכם כיצד הגעתי להאמין בכך, כי בהתחלה טעיתי — טעות יקרה — והדרך שבה טעיתי היא אותה דרך שבה רוב התעשייה עדיין טועה.
189 המיליארד דולר שעברו
נתחיל ב-Citigroup, כי זהו השיעור הברור ביותר שאני מכיר.
במאי 2022, סוחר של Citi התכוון למכור סל מניות בשווי 58 מיליון דולר. עקב טעות ידנית, הוא יצר סל בשווי 444 מיליארד דולר במקום זאת. בקרות טרום-המסחר של Citi עשו את עבודתן — ברובן. הן חסמו 255 מיליארד דולר. אך 189 מיליארד דולר חמקו מעבר לבקרות והגיעו לאלגוריתם מסחר, שקיצץ אותם בצייתנות להזמנות מכירה ודחף כ-1.4 מיליארד דולר לשווקים האירופיים לפני שמישהו לחץ על ביטול. זה הצית קריסת בזק ברחבי הבורסות האירופיות.
הנה החלק שאמור להדיר שינה מעיני קציני ציות. כאשר BaFin והרגולטורים הבריטיים נכנסו, השאלה המרשיעה לא הייתה "מה קרה." את זה Citi יכלה לענות. השאלה הייתה מדוע — מדוע הבקרות התירו ל-189 מיליארד דולר לעבור, ומדוע הספים כוילו היכן שכוילו? Citi יכלה להראות את ההזמנות. היא לא יכלה לשחזר כראוי את ההיגיון של האלגוריתם או להגן על הפרמטרים ששלטו בו.
הפער הזה עלה להם. BaFin קנסה את Citi ב-12.975 מיליון אירו; יומיים קודם לכן, הרגולטורים הבריטיים הוסיפו 61.6 מיליון ליש"ט על אותו אירוע. בערך 92 מיליון דולר על כשל אלגוריתמי אחד, בשלושה תחומי שיפוט.
הבקרות לא היו הכשל. חוסר היכולת להסביר את הבקרות היה הכשל.
אני חוזר לזה שוב ושוב כי זה הופך את האופן שבו רוב החברות מתקצבות. הן מוציאות על בניית עוד בקרות וכמעט כלום על היכולת לתאר אותן תחת שבועה.
מה הבוחן באמת שואל?
כשהתחלתי לשוחח עם ראשי ציות בבנקים בשוק הביניים ומנהלי נכסים — החברות מתחת לשכבת ה-bulge-bracket — נהגתי לבקש מהם לשחק תרחיש של בדיקה איתי. זה תמיד התפרק באותם שלושה שלבים.
"הראו לי את מצאי האלגוריתמים שלכם." זהו המשפט הפותח, והוא רוצח שקט. רשות ההתנהלות הפיננסית של בריטניה ערכה סקירה רב-חברתית של עשר חברות מסחר עצמאיות באוגוסט 2025 ומצאה שלרובן היה תיעוד חלקי או מיושן — ללא מצאי נקי של מי הבעלים של כל אלגוריתם, באילו שווקים הוא סוחר, אילו פרמטרי סיכון שולטים בו. חלק מהחברות השמיטו מרכיבי RTS 6 שלמים מהערכות העצמיות שלהן. (RTS 6 הוא ספר הכללים של MiFID II לחברות מסחר אלגוריתמי — ממשל, בדיקות, בקרות סיכון.) אם אינכם יכולים להפיק מצאי עדכני ומלא שנוקב בשם האדם הרשום האחראי על כל אסטרטגיה, הבדיקה למעשה נעצרת שם. על פי כללי FINRA, האנשים שמתכננים או משנים באופן משמעותי אלגוריתמי מסחר חייבים להיות רשומים כ-Securities Traders — כך ש"מי הבעלים של האלגו הזה" אינה שאלת טריוויה, אלא שאלה רגולטורית עם שם מצורף.
"תסבירו לי מה זה עשה, באותו בוקר." זוהי שאלת Citigroup. רוב החברות יכולות להראות את ההזמנות. כמעט אף אחת אינה יכולה לשחזר את ההחלטה. ואם אתם מנהל נכסים ולא ברוקר-דילר, השאלה הזו אינה נוחתת על שולחן מסחר — היא נוחתת על צוות מחקר הכמות שלכם, שם פרמטר יחיד שעבר מניפולציה וטמון בתוך מודל יכול לפעול ללא זיהוי במשך חודשים. (Two Sigma גילתה זאת בדרך הקשה; על כך בהמשך.)
"כיצד צוות הציות שלכם סוקר טכנית את האלגוריתמים האלה?" ל-FCA היה ביטוי דיפלומטי נפלא למה שהם מצאו כאן: "ידע טכני משתנה בציות." בתרגום, זה אומר שצוותי ציות יכולים לקרוא דוח התראה אבל אינם יכולים לחקור את ההיגיון של המודל, לערער על פרמטר סיכון, או לוודא ששינוי הקוד של הספרינט האחרון לא פתח בשקט חור רגולטורי חדש. תשובת התעשייה הייתה לגייס צוות ציות בקיא בכמות — אלא שהאנשים שבאמת מבינים הן את כללי הגישה לשוק של CFTC והן את ארכיטקטורות של רשתות עצביות גרפיות הם נדירים עד מאוד, ומשלמים להם כמו קרנות הגידור שגם רוצות אותם.
הכיוון הרגולטורי מאחורי כל שלוש השאלות אינו עדין. ה-SEC וה-CFTC יחד הגישו שיא של 25.3 מיליארד דולר בפעולות אכיפה ב-2024. חוק הבינה המלאכותית של האיחוד האירופי מחייב מערכות בינה מלאכותית פיננסיות בסיכון גבוה לשאת תיעוד טכני, ניהול סיכונים, ויכולת פיקוח אנושי עד 2 באוגוסט 2026. DORA — משטר החוסן התפעולי של האיחוד האירופי — פעיל מאז ינואר 2025. ובהודו, SEBI מחייבת כעת Algo-ID ייחודי ואישור בורסה עבור כל אסטרטגיה לפני שהיא עולה לאוויר. השאלה חדלה להיות האם האלגוריתמים שלכם ייבדקו. אלא האם הם ישרדו את הבדיקה.
הדבר שבניתי שאף אחד לא רצה
אז הלכתי ובניתי גלאי טוב יותר.
זו הייתה הטעות שלי, ואני רוצה להיות כן לגבי כמה שהיא הייתה מפתה. כאב הקונה שכולם מתלוננים עליו בקול הרם ביותר הוא עייפות מהתראות — בסקר אחד של בנקים וברוקרים-דילרים, 70% דיווחו על שיעורי חיוב-שווא מעל 25% במעקב המסחר שלהם. צוותי ציות טובעים ברעש, רודפים אחרי התראות ספופינג רפאים. אז בנינו משהו שהיה באמת טוב בצמצום חיובי-שווא: הקשר התנהגותי, מודעות למשטר השוק, ספים אדפטיביים. בבדיקות הוא היה נקי ומהיר. הייתי גאה בו.
ואז הרצנו אותו מול קצינת ציות אמיתית משוק הביניים. היא צפתה בלוח המחוונים, הנהנה בהסכמה, ושאלה את השאלה שפוצצה שלושה חודשי עבודה:
"זה נחמד. אבל כשהבוחן שואל מדוע המודל ירה — או מדוע הוא לא — מה עליי להראות להם?"
לא הייתה לי תשובה במוצר. בנינו דרך מהירה יותר לייצר התראות. לא בנינו דרך להסביר אותן. והבנתי, בעודי יושב שם, ששחזרתי בדיוק את הדבר שעליו הרגולטורים הענישו: קופסה שחורה שמייצרת פלטים ללא שרשרת נימוקים ניתנת לשחזור. קופסה שחורה טובה יותר היא עדיין קופסה שחורה.
זו הייתה נקודת המפנה. הזיהוי מעולם לא היה הצורך שלא נענה. הצורך שלא נענה היה מוכנות לביקורת — הפיכת החלטות אלגוריתמיות להסברים שקצין ציות שאינו איש כמות יכול לסקור, לערער עליהם, ולשאת איתו לחדר הבדיקה. זרקנו את המסגור והתחלנו מחדש.
לבנות עבור הבוחן, לא עבור ההתראה
המערכת שבסופו של דבר בנינו — שכבת מודיעין הציות למסחר אלגוריתמי שאנו מפעילים כעת — מתחילה מעיקרון ראשוני שונה: כל החלטה שאלגוריתם בייצור מקבל צריכה להותיר אחריה הסבר מוכן-לביקורת, עם חותמת-זמן, של מדוע, לא רק מה.
זה נשמע מובן מאליו עד שמנסים. בעיית העיצוב הראשונה הייתה שהאנשים הזקוקים להסבר אינם יכולים לקרוא את המודל. אז ההסברים היו צריכים לתרגם את ההיגיון של האלגוריתם — הקלטים שלו, אותות השוק ששקלל, הסף שכנגדו בדק, העקיפות האנושיות — למשהו שקצין ציות יכול לחקור מבלי לקרוא קוד מקור. לא ציון ביטחון. תיאור של הנימוקים.
הבעיה השנייה הייתה המצאי עצמו. אנו מתייחסים למצאי האלגוריתמים כפי שצוות הנדסה מתייחס לקוד: כל אסטרטגיה בייצור נושאת את השווקים המאושרים שלה, מגבלות פוזיציה, הבעלים הרשום, והיסטוריית שינויים מלאה, כך ששאלת "הראו לי את המצאי שלכם" הופכת לשאילתה, לא לתרגיל חירום. אותה שדרה ממפה כל בקרה למספר מסגרות רגולטוריות בבת אחת — SEC Rule 15c3-5, RTS 6 של MiFID II, חוק הבינה המלאכותית של האיחוד האירופי, DORA, משטר ה-Algo-ID של SEBI — כי חברות שוק הביניים סוחרות מעבר לגבולות ואף ספק ותיק אינו ממפה בקרות על פני כולן ממקום אחד. כיום רוב החברות הרב-שיפוטיות מטליאות יחד תהליכי ציות נפרדים לכל רגולטור. יתירות זו היא בדיוק סוג העבודה שתוכנה צריכה לבלוע.
הבעיה השלישית הייתה מתג ההשבתה. הבקרות של Citi לא נעדרו — הן תפסו 255 מיליארד דולר. הן פשוט לא היו מדורגות. רוב מפסקי המעגל הם בינאריים: דלוק או כבוי. אז בנינו מפסקי מעגל חכמים ורב-שכבתיים — זיהוי חריגות התנהגותיות שמפעיל תגובה מידתית במקום כפתור פאניקה יחיד, ההבדל בין תפיסת 255 מיליארד דולר לבין תפיסת 189 המיליארד דולר שחמקו.
מדוע לא כולם פשוט קונים פלטפורמה?
זו ההתנגדות שאני שומע הכי הרבה, והיא ראויה לתשובה אמיתית.
שוק מעקב המסחר צועד מכ-1.3–3 מיליארד דולר ב-2025 לכיוון 4.2–9.3 מיליארד דולר עד 2033, וחמשת הספקים המובילים מחזיקים ב-55–59% ממנו. NICE Actimize, Surveillance AI של Nasdaq, Validus של Eventus — אלה פלטפורמות בעלות יכולת אמיתית. אני לא כאן כדי לומר לכם שהן לא עובדות.
אני כאן כדי לומר לכם כמה הן עולות והיכן הן נעצרות. פריסה מלאה של NICE Actimize עולה 1–5 מיליון דולר ומעלה בשנה, מתומחרת ומאורכלת עבור מוסדות Tier-1. הן מצוינות בזיהוי חוצה-נכסים וחלשות בדיוק בדבר שהבוחן מבקש כעת: הסברוּת של החלטות אלגו ומיפוי רב-רגולטורי מאוחד. הפלטפורמה של Nasdaq ממוקדת בבורסה, בנויה עבור צד המכירה. Eventus היא זיהוי-תחילה. אף אחת מהן לא עוצבה סביב בעיית יום-הבדיקה של קצין הציות.
אז בנק Tier-2 או מנהל נכסים בינוני ניצב מול אותו רף רגולטורי כמו JPMorgan עם חלקיק מהתקציב ובלי שום ספסל כמותנים פנימי. האפשרויות שלהם היו: לשלם ביתר על פלטפורמה ארגונית שלא מתאימה, לבנות אותה בעצמם תמורת 2–10 מיליון דולר בתוספת מיליון בשנה לתחזוקה תוך התחרות עם שכר קרנות גידור על הכישרון, או לשכור חברת Big Four — שלפי ניסיוני, מייעצת מה לבנות, מוסרת לכם מצגת PowerPoint של מודל תפעול-יעד, ואז פונה לאותו ספק Tier-1 שהייתה ממליצה עליו ממילא.
יש חלל באמצע השוק הזה: חברות עם התחייבויות ברמת bulge-bracket ותקציבים של שוק הביניים, שאף אחד לא משרת.
החלל הזה הוא מי שעבורו אנחנו בונים. מודיעין ציות מותאם אישית בנקודת מחיר שאינה כופר ארגוני, ללא נעילת ספק.
הבעיה הקשה יותר שמגיעה: סוכנים אוטונומיים
אם הסברוּת היא הבעיה של היום, agentic AI היא הבעיה של השנה הבאה, וכמעט אף אחד אינו מוכן לה.
בערך 44% מצוותי הפיננסים צפויים להשתמש ב-agentic AI ב-2026 — קפיצה של יותר מ-600% — וחברה אחת כבר מדווחת על 60 סוכנים אוטונומיים בייצור עם תוכניות ל-200 נוספים. מערכות אלה יכולות להפוך לאוטומטית עד 70% מעבודת הציות הידנית. הן יכולות גם להפעיל עסקאות, להתאים מודלי סיכון, ולאשר עסקאות בכוחות עצמן.
מה שמפחיד את כל מי שישב בבדיקה הוא מה שבא אחר כך. מסגרת הממשל שכל התעשייה נשענת עליה — הנחיית סיכון-המודל SR 11-7 של ה-Fed וה-OCC — נכתבה ב-2011 עבור מודלים בעלי התנהגות יציבה ודטרמיניסטית. כפי שאנליסטי הסיכון של GARP ניסחו זאת בתחילת 2026, SR 11-7 "נותרת אחת מנקודות הייחוס היציבות המעטות לממשל מודלים" — ו-agentic AI שוברת את הנחות היסוד שלה, ומכניסה אטימות, אקראיות, ואוטונומיה, לעתים קרובות תוך רכיבה על תשתית צד-שלישי שיכולה להשתנות ללא התראה. אי אפשר לשחזר את ההחלטה של מערכת שמחליטה אחרת בכל פעם ותלויה במודל של ספק שאינכם שולטים בו.
כדי להיות ברורים לגבי היכן אנחנו באמת נמצאים: סקירות המומחים של FMSB מציינות שבינה מלאכותית פונה-שוק עדיין אינה פועלת באופן אוטונומי — היא משובצת בתשתית המסחר תחת פיקוח אנושי. טוב. זה החלון. הזמן הנכון לבנות ממשל לסוכני מסחר אוטונומיים הוא לפני שהם סוחרים באופן אוטונומי, לא בניתוח שלאחר המעשה. אנו מעצבים את שכבת ההסברוּת והפיקוח הזו כעת, כך שמסלול הביקורת קיים לפני שהרגולטור מבקש אותו.
יש כאן גם מנוף טכני אמיתי זמין. מודלים מבוססי-גרף — רשתות עצביות גרפיות שממפות את רשת החשיפות של הצדדים הנגדיים — הגיעו לציוני AUC-ROC סביב 0.891 בזיהוי הידבקות סיכון בסביבות מחקר, הרבה לפני שיטות קונבנציונליות, עם זמני התראה מוקדמת שהוארכו בכמעט שנים-עשר יום. כמעט אף ספק מעקב אינו מציע ניתוח הידבקות מבוסס-גרף כתכונה סטנדרטית. עבור חברה עם סיכון צדדים נגדיים שזור, זה ההבדל בין לראות מפל מתקרב לבין לקרוא עליו בצו אכיפה.
"האם זו לא סתם עוד תוכנת ציות?"
אנשים שואלים אותי גרסה של זה, והתשובה ההוגנת היא: לא אם היא בנויה נכון.
הסיבה שהציות מרגיש כמו עלות טהורה — בנקים גדולים מוציאים מעל 200 מיליון דולר בשנה עליו, והזמן שעובדיהם מקדישים לו גדל ב-61% בעשור — היא שרובו הוא שחזור ידני של דברים שהמערכות היו צריכות לתעד באופן אוטומטי. כשההסבר נוצר בזמן שהאלגוריתם רץ, הבדיקה חדלה להיות חפירה ארכיאולוגית. המצאי הוא שאילתה. שרשרת ההחלטות כבר כתובה. המיפוי החוצה-שיפוטי הוא מודל אחד, לא חמישה.
הדבר האחר שאנשים שואלים הוא האם הסברוּת מאטה את האלגוריתמים — האם אתם מחליפים מיקרו-שניות בניירת. אינכם. לכידת הנימוקים יושבת לצד הביצוע; זה תיעוד, לא בלם. החברות שפתרו את זה חדלו להתייחס לציות כמס על מהירות והתחילו להתייחס אליו כתכונה של המערכת, נוכחת מהשורה הראשונה של הקוד ולא מוברגת לפני הביקורת.
אני חושב על מקרה Two Sigma כאן. חוקר בכיר שינה בשקט ארבעה-עשר מודלי השקעה במשך כמעט שנתיים — תוך דחיפת פרמטר יחיד — וייצר 165 מיליון דולר של הפסדי לקוחות לפני שמישהו תפס זאת; החברה שילמה 90 מיליון דולר בפשרה. המודלים האלה לא היו ללא פיקוח בשמם. הם היו בלתי ניתנים להסבר בפועל. אף אחד לא יכול היה לראות, בזמן אמת, שהנימוקים הושחתו. זה אינו כשל זיהוי. זה כשל הסברוּת לבוש בבגדיו של כשל זיהוי.
טעות ה-444 מיליארד דולר של סוחר Citi ארכה שניות ליצור ושנים להתדיין עליה. הדבר שהפך שגיאה מביכה לכזו של 92 מיליון דולר לא היה גודל הסל. אלא שכאשר הרגולטורים רכנו קדימה ושאלו מדוע, התשובה הייתה משיכת כתפיים.
כל חברה שמריצה אלגוריתמים נמצאת במרחק בוקר רע אחד מהשאלה הזו. אלה שיהיו בסדר אינם אלה עם הכי הרבה בקרות או הפלטפורמה היקרה ביותר. הם אלה ש, כאשר הבוחן מצביע על 9:47 בבוקר, יכולים לשלוף את ההחלטה ולעבור עליה שורה אחר שורה — ואשר בנו את היכולת הזו לתוך שכבת הציות הרבה לפני שהיו זקוקים לה. בנו את ההסבר בעוד המכונה עדיין סוחרת. עד שמישהו שואל, כבר מאוחר מדי להתחיל לכתוב זאת.
