הראש הקירח ששבר את ה-AI שלנו (ומה שזה לימד אותי על בניית מערכות ראייה שבאמת עובדות)
באוקטובר 2020, משחק כדורגל סקוטי בין אינברנס קלדוניאן ת'יסל לבין אייר יונייטד הפך לכישלון ה-AI המאלף ביותר שחקרתי מעודי. מערכת מצלמות אוטומטית, שנבנתה כדי לעקוב אחר הכדור ולשדר את המשחק ללא מפעיל אנושי, בילתה את המשחק כולו במעקב מסור אחר ראשו הקירח של קוון שעמד לצד המגרש. האוהדים בבית החמיצו כל שער. האינטרנט חגג על זה.
גם אני צחקתי, בהתחלה. ואז הפסקתי לצחוק, כי הבנתי שהצוות שלי בונה מערכות בעלות אותה נקודה עיוורת בדיוק.
ה-AI של המצלמה ביצע את עבודתו בצורה מושלמת לפי ההיגיון הפנימי שלו. הוא מצא עצם עגול ובהיר תחת זרקורי האצטדיון והעניק לו ציון ביטחון של 98% עבור "כדור". הכדור האמיתי -- שנע במהירות, היטשטש בין הצללים והוסתר לעתים על ידי שחקנים -- קיבל ציון של כ-80%. המערכת פעלה לפי המתמטיקה. המתמטיקה הייתה מנותקת מן המציאות. הפער הזה בין זיהוי תבנית לבין הבנה של מה שאתה רואה הוא המקום שבו ביליתי את השנים האחרונות בחיי, וזו הסיבה שבגללה התחלתי לבנות מערכות ראייה עם אילוצים פיזיקליים ב-Veriprajna.
מה רואה ה-AI כשהוא מתבונן בעולם?
רוב מערכות הראייה הממוחשבת מעבדות תמונות כפי שפעוט בעל ביטחון עצמי מופרז מזהה חיות בגן החיות. עגול ומבריק? כדור. ארבע רגליים? כלב. הדמיון אינו בדיחה -- רשתות עצביות קונבולוציוניות מודרניות (CNNs) מפרקות תמונות למרקמים, קצוות וצורות, ואז מתאימות את המאפיינים הללו לתבניות שנלמדו מנתוני האימון. בבסיסן, הן מכונות להתאמת מרקמים.
זה עובד בצורה מדהימה בתנאים מבוקרים. זה מתפרק ברגע שהעולם הפיזיקלי מתחיל להתנהג באופן פיזיקלי.
זיהוי עצמים אינו הבנת עצמים. מערכת שרואה דבר עגול וקוראת לו כדור זיהתה מרקם. מערכת שפוסלת את הזיהוי הזה מכיוון ש"הכדור" מרחף בגובה 5.5 רגל במשך שלוש דקות -- המערכת הזו מבינה משהו.
מצלמת אינברנס לא יכלה להבדיל בין ראש לבין כדור כיוון שלא היה לה שום מושג מה כדור עושה. כדורגל נע בתנועה בליסטית. הוא מאיץ בעת פגיעה. הוא נע במהירויות של עד 80 מייל לשעה. הוא אינו יכול להיות מחובר לגוף אנושי שנע בקצב הליכה. אין כאן תובנות נסתרות -- כל ילד שצופה במשחק היה יודע זאת. אבל ה-AI פעל במה שקהילת הראייה הממוחשבת מכנה "היסק בלתי תלוי בפריימים" (frame-independent inference), כשהוא מעבד כל תמונה כצילום בזק מבודד, ללא זיכרון של מה שהתרחש קודם וללא כל ציפייה למה שאמור לקרות הלאה.
הלילה שבו הבנתי שיש לנו את אותה הבעיה
הלוואי שיכולתי לומר שהגעתי לראייה עם אילוצים פיזיקליים מתוך תובנה תאורטית אלגנטית. האמת מכוערת יותר. בנינו מערכת לבדיקת פגמים עבור לקוח בתחום המוליכים למחצה, והמודל שלנו סימן חלקיקי אבק כפגמים במעגלים מודפסים. לא מדי פעם -- אלא ללא הפסקה. שיעור הזיהויים החיוביים השגויים (false positives) הרס את האמון של צוות הייצור במערכת, והם צדקו לחלוטין בכך שלא סמכו עליה.
אני זוכר את עצמי יושב מול התוצאות בשעה 2 לפנות בוקר, זועם, מכיוון שהמודל שלנו היה מדויק לפי כל מדד ייחוס (benchmark) שעקבנו אחריו. הוא זיהה פגמים בצורה נכונה ביותר מ-90% מהמקרים על נתוני בדיקה סטנדרטיים. אלא שסביבת הייצור לא הייתה נתוני בדיקה סטנדרטיים. אבק נחת על פרוסות סיליקון (wafers). התאורה השתנתה בין עמדות הבדיקה. המודל ראה כתם כהה והגדיר אותו כפגם, בדיוק כפי שמצלמת אינברנס ראתה צורה עגולה והגדירה אותה ככדור.
התווכחנו, מנהל הטכנולוגיות הראשי (CTO) שלי ואני, במשך שבוע על התיקון. הוא רצה עוד נתוני אימון. אני רציתי לשנות את הארכיטקטורה. הוויכוח הסתיים כשהצגתי שאלה פשוטה: "האם המודל שלנו יודע שחלקיק אבק ופגם במעגל מתנהגים אחרת תחת צילום מזוויות מרובות?" הוא לא ידע. פגם אמיתי -- שקע פיזי או שריטה בסיליקון -- משנה את מיקומו בצורה צפויה כשמצלמים אותו מזוויות שונות. פרלקסה (Parallax). חלקיק אבק שיושב על פני השטח מתנהג אחרת. דרשנו ממנוע התאמת מרקמים לבצע עבודה של פיזיקאי.
זו הייתה נקודת המפנה. הפסקנו לנסות להפוך את הרשת העצבית לחכמה יותר והתחלנו לגרום לה לציית לחוקי הפיזיקה.
ההדגמה שהשתבשה
שלושה חודשים לאחר השינוי בפרויקט המוליכים למחצה, ישבתי בחדר ישיבות והצגתי את הגישה החדשה שלנו בפני חברת לוגיסטיקה. חמישה-עשר איש ישבו בצד שלהם של השולחן. בניתי הדגמה חיה שהראתה את מערכת המעקב מוגבלת-הפיזיקה שלנו עוקבת אחר חבילה בתוך מחסן מדומה, חוזה את מיקומה בזמן הסתרות ופוסלת זיהויים שגויים.
ההדגמה החלה בצורה מושלמת. ואז הטלפון של מישהו צלצל, והבזק אור שהשתקף מהמסך פגע במצלמה שלנו בדיוק בזווית הלא נכונה. מנגנון המעקב גמגם. התיבה התוחמת (bounding box) קפצה לגוף תאורה בתקרה ונשארה שם במשך שלוש שניות מורטות עצבים לפני ששכבת הפיזיקה תיקנה זאת.
עמדתי שם וצפיתי בתוכנה שלי נכשלת בדיוק באותו האופן שטענתי במשך חודשים שהיא לא תיכשל בו. החדר השתתק. רציתי שהאדמה תפתח את פיה ותבלע אותי.
שכבת הפיזיקה התאוששה. זו הייתה כל הפואנטה. אבל בשלוש השניות האלו הבנתי משהו שאף מבחן ביצועים לא לימד אותי מעולם: בסביבת ייצור, אמון אינו תלוי בדיוק הממוצע. הוא תלוי במה שקורה בפריים הגרוע ביותר.
אמרתי את זה בקול רם, חצי לחדר וחצי לעצמי: "מערכת גנרית עדיין הייתה ממשיכה לעקוב אחרי גוף התאורה בתקרה. המערכת שלנו תיקנה את עצמה. ההתאוששות הזו היא המוצר". ה-CTO מעבר לשולחן הנהן באיטיות. הם חתמו שבועיים לאחר מכן. אבל אני חזרתי הביתה באותו לילה ושכתבתי את לוגיקת הצגת הביטחון כדי שהמערכת תציג את אי-הוודאות שלה בזמן אמת -- כי לא רציתי לעמוד שוב לעולם מול לקוח ולהעמיד פנים שהמתמטיקה היא קסם.
מדוע מערכות AI בעלות 90% דיוק נכשלות בסביבת ייצור?
ישנה מלכודת שאני מכנה כיום "בעיית ה-90%", ואני רואה חברה אחר חברה נופלת לתוכה. ממשקי API גנריים לראייה ממוחשבת -- כאלה שאפשר להרים מכל ספק ענן מרכזי בתוך שעות ספורות -- מביאים אותך ל-90% דיוק במהירות ובזול. בהדגמה הם נראים כמו קסם. אבל הערך העסקי טמון כולו ב-10% האחרונים.
אותם 10% אחרונים הם המקום שבו נמצאים הראשים הקירחים. הצללים שנראים כמו קירות לרכב אוטונומי, וגורמים לבלימת פנטום בכביש המהיר. הרגע שבו ידו של לקוח מסתירה מוצר בחנות ללא קופות. הפגם הנדיר במוליך למחצה שנראה זהה לחלוטין לחלקיק אבק בלתי מזיק בגודל 2 ננומטר.
בייצור מוליכים למחצה, שיפור דיוק זיהוי הפגמים ב-1% בלבד יכול להביא לעלייה של 5-10% בתפוקה, מה שחוסך מיליונים מדי שנה. ברכבים אוטונומיים, בעלי טסלה דיווחו על מקרים נרחבים של בלימת פנטום (phantom braking), שבהם מערכות ראייה פירשו בטעות צללים וגשרים עיליים כמכשולים. אלה אינם סיכונים תאורטיים. אלו כשלים בייצור שמתרחשים ממש עכשיו במגוון תעשיות, מכיוון של-AI הבסיסי אין אינטואיציה פיזיקלית. העבודה שלנו מגשרת על הפער הזה שבין 90% לבין 99.99% באמצעות הוספת שכבת הפיזיקה שחסרה בממשקי API גנריים.
כיצד לימדנו את המערכות שלנו לחשוב כמו פיזיקאים
הרעיון המרכזי פשוט להפליא: להתייחס לפלט של רשת עצבית לא כעובדה מוגמרת, אלא כמדידה רועשת שיש לאמת מול חוקי הפיזיקה. כתבתי על הארכיטקטורה הטכנית המלאה ב-גרסה האינטראקטיבית של המחקר שלנו, אך האינטואיציה חשובה יותר מהמתמטיקה.
דמיינו שאתם עוקבים אחרי כדורגל. המצלמה שלכם מדווחת שהכדור נמצא במרכז המגרש ונע מזרחה במהירות של 20 מטרים לשנייה. חלקיק של אחד חלקי ארבעים של שנייה לאחר מכן, המצלמה שלכם מדווחת ש"הכדור" נמצא כעת במרחק 15 מטרים משם, על קו החוץ, ונע בקצב הליכה. מסנן קלמן (Kalman Filter) -- מסגרת מתמטית שמתחזקת הערכה רציפה לגבי מיקומו של עצם, מהירות תנועתו ורמת הוודאות לגבי שניהם -- היה פוסל את המדידה השנייה באופן מיידי. התאוצה הנגזרת היא בלתי אפשרית פיזיקלית עבור כדורגל. המערכת מחשבת מדד המכונה מרחק מהלנוביס (Mahalanobis Distance) -- בעיקרו של דבר, כמה סטיות תקן מרוחקת המדידה החדשה מן החיזוי. אם המרחק עולה על 3 סיגמא (3 sigmas), הזיהוי נפסל ונזרק, ללא קשר למידת הביטחון שיש לרשת העצבית לגבי אותם פיקסלים.
לזה אני מתכוון בראייה עם אילוצים פיזיקליים. הרשת העצבית מציעה. הפיזיקה מכריעה.
אנו מציבים שערים מרובים מעל כל זיהוי. שער קינמטי (kinematic gate) בודק האם העצם יכול להימצא פיזיקלית במקום שבו הרשת טוענת שהוא נמצא. שער זרימה אופטית (optical flow gate) מוודא שתנועת הפיקסלים בתוך התיבה התוחמת תואמת את מה שמצופה מעצם נע אמיתי -- קוון עומד מייצר זרימה אפסית כמעט, בעוד שכדור בתעופה מייצר דפוס מובחן. שער גיאומטרי (geometric gate) בודק האם גודלו הנראה של העצם עקבי עם הפרספקטיבה התלת-ממדית במרחק הנטען שלו מן המצלמה.
כל זיהוי שנכשל בשער כלשהו נפסל מיד. ללא יוצאים מן הכלל, וללא עקיפות.
מה קורה כאשר העצם נעלם?
מערכות גנריות נכנסות לפאניקה. ציון הביטחון צונח לאפס. מנגנון המעקב מכריז על העצם כ"אבוד", וקופא או מתאפס. בעולם הפיזי זהו אבסורד. כדור שנע במהירות 20 מטרים לשנייה אינו חדל מלהתקיים מכיוון ששחקן רץ מול המצלמה. הוא ממשיך לנוע, מאט מעט בשל כוח הגרר, ועוקב אחר מסלול שהפיזיקה יכולה לחזות בדיוק יוצא דופן.
המערכות שלנו שומרות את העצם בזיכרון בזמן הסתרה, ומשליכות את מיקומו קדימה בהתבסס על מסלולו שלפני ההסתרה. כאשר העצם מופיע מחדש, המערכת כבר מתבוננת במקום הנכון. אני רואה בזה כהענקת קביעות אובייקט (object permanence) ל-AI. האחיין שלי בן השנתיים הבין את זה בסביבות החודש השמיני לחייו. רוב מערכות הראייה בייצור עדיין לא הגיעו לכך.
"פשוט תשתמש במודל גדול יותר"
אנשים אומרים לי את זה כל הזמן. משקיע אמר לי זאת מילה במילה במהלך פיץ' ב-2023, כשהוא נשען לאחור בכיסאו כאילו פתר זה עתה את כל הבעיה הטכנית שלנו: "למה פשוט לא לעשות fine-tuning למודל בסיס? למה לבנות את כל הדברים האלה של הפיזיקה?"
השתהיתי לרגע. "מכיוון שהפיזיקה אינה משתנה כאשר התפלגות האימון שלך משתנה."
רשת PINN אינה לומדת רק מנתונים. היא לומדת מנתונים שמוגבלים על ידי המציאות. ההבדל הוא ההבדל שבין לשנן תשובות לבין להבין את החומר.
רשתות עצביות מונחות-פיזיקה -- PINNs -- הן אחד הרעיונות האלגנטיים ביותר בלמידת מכונה מודרנית. רשת עצבית סטנדרטית ממזערת את הפער בין החיזויים שלה לבין נתוני אימון מתויגים. רשת PINN מוסיפה קנס שני: הרשת נענשת גם בכל פעם שהחיזויים שלה מפרים משוואה פיזיקלית. אם היא חוזה מסלול שבו כדור פונה באוויר ללא כוח חיצוני, המשוואה הדיפרנציאלית השולטת מופרת, פונקציית ההפסד מזנקת, והרשת לומדת לא לעשות זאת.
ההשלכה המעשית היא דרמטית. רשת PINN זקוקה להרבה פחות נתוני אימון כיוון שחוקי הפיזיקה פוסלים את רוב מרחב הפתרונות עוד לפני תחילת האימון. היא מבצעת הכללה לתנאים שמעולם לא ראתה מכיוון שהפנימה את החוקים, ולא רק שיננה דוגמאות. בעבודתנו בתחום המעקב בספורט, המשמעות היא שאנו יכולים לחזות את מסלולו של כדור מתעתע (knuckleball) או בעיטה חופשית מסובבת כבר מן המסלול ההתחלתי -- המצלמה נעה קדימה לקראת ההתרחשות במקום לרדוף אחריה. לצפייה ב-פירוט הטכני המלא של PINNs ורשתות עצביות המילטוניות (Hamiltonian Neural Networks), אני מעמיק יותר במאמר המחקר שלנו.
שאלת הבנייה-מול-קנייה שאף אחד אינו שואל בכנות
כל מוביל ארגוני שאני משוחח עמו ניצב בפני אותה הבחירה: לרכוש ממשק API מוכן לראייה ממוחשבת או לבנות פתרון מותאם אישית. הגרסה הכנה של השיחה הזו, שכמעט ואינה מתרחשת, נראית כך.
קנייה מביאה אותך לסביבת ייצור במהירות. ה-API עובד כבר ביום הראשון. הוא מתמודד היטב עם מקרים סטנדרטיים. עלות הבעלות הכוללת (TCO) נראית נמוכה בגיליון האלקטרוני.
ואז מגיעים מקרי הקצה. הזיהויים החיוביים השגויים נערמים. אתה שוכר עובדים אנושיים כדי לבדוק את עבודת ה-AI, מה שמחטיא את כל המטרה. אתה מגלה שאי אפשר לבצע fine-tuning למודל של הספק עבור הפיזיקה הספציפית שלך. אתה מבין שהנתונים שלך יוצאים מחוץ לארגון. ולא בנית שום קניין רוחני משלך.
בניית מערכת מוגבלת-פיזיקה עולה יותר מראש. כרוכה בכך הנדסה ממשית. אבל שיעור הזיהויים החיוביים השגויים צונח בסדרי גודל כיוון שהפיזיקה מסננת את הרעש שנתונים לבדם אינם יכולים לסנן. המערכת פועלת על התשתית שלך, עם הנתונים שלך, ומייצרת מודלים שנמצאים בבעלותך. עלות הבעלות הכוללת לטווח ארוך נוטה לטובת בנייה עצמית עבור כל יישום שבו שגיאות הן עניין יקר -- ובניסיוני, מדובר בכל יישום ששווה לבצע לו אוטומציה.
אינני טוען שכל חברה צריכה לבנות הכל מאפס. אני טוען שאם ה-AI שלך אינו מסוגל להבדיל בין כדורגל לבין ראש קירח, דמי המנוי הם הנמוכים שבהוצאותיך.
הקשר הוא הדיוק החדש
ישבתי בשורה האחרונה בכנס בשנה שעברה, והקשבתי לפאנל מומחים שהתווכח האם AI זקוק ל"שכל ישר" (common sense). ארבעה חוקרים, ארבעים וחמש דקות, ללא כל הכרעה. לא הפסקתי לחשוב: אנחנו לא צריכים שכל ישר. אנחנו צריכים פיזיקה. שכל ישר הוא מושג מעורפל. פיזיקה היא סט של משוואות שאפשר לתכנת בקוד.
תעשיית ה-AI בילתה עשור באופטימיזציה לדיוק על גבי מערכי נתוני ייחוס (benchmarks). מודלים עם מיליארדי פרמטרים מסוגלים לזהות אלפי קטגוריות של עצמים בדיוק על-אנושי -- בתמונות בדיקה שנראות בדיוק כמו תמונות האימון. העשור הבא שייך להקשר (context). לא למודלים גדולים יותר, אלא לאילוצים חכמים יותר. לא לעוד פרמטרים, אלא לעוד פיזיקה.
האם ה-AI שלך יודע את ההבדל בין כדורגל לבין ראש? אם הוא מסתמך רק על פיקסלים, התשובה היא "לפעמים". אם הוא מסתמך על פיזיקה, התשובה היא "תמיד".
אני חושב על משחק הכדורגל הסקוטי ההוא אולי יותר ממה שאני אמור. אדם קירח שעומד על קו החוץ, מתעסק בענייניו, וחושף בטעות את השבריריות המהותית של דור שלם של מערכות AI. האוהדים שהחמיצו את השערים היו מתוסכלים. אני הייתי אסיר תודה. אותו קוון לימד אותי על בניית AI אמיתי יותר מכל מאמר אקדמי שקראתי אי פעם.
עתיד הראייה הממוחשבת אינו טמון בלראות יותר. הוא טמון בהבנה של מה שאתה רואה.
