סבא בילה עשרה ימים בכלא כי אלגוריתם קבע שהוא אשם

הייתי בשיחה עם לקוח פוטנציאלי — רשת קמעונאית בינונית — כשסמנכ"ל מניעת האובדן שלהם אמר משהו שגרם לבטני להתהפך.

"אנחנו בוחנים ספק של זיהוי פנים. הם אומרים שהמערכת שלהם מדויקת ב-98%. אנחנו רק צריכים מישהו שיחבר אותה."

שאלתי שאלה אחת: "98% מדויקת על פניו של מי?"

שתיקה.

השיחה הזו התרחשה שבועות ספורים לאחר שקראתי את התלונה של ה-FTC נגד Rite Aid — כל 54 העמודים שלה — ואת התביעה על סך 10 מיליון דולר שהגיש הארווי יוג'ין מרפי ג'וניור, סבא בן 61 שבילה עשרה ימים בכלא ביוסטון בגין שוד שבוצע בזמן שהוא היה בביתו בסקרמנטו, קליפורניה. הוא זוהה על ידי מערכת זיהוי פנים. המערכת טעתה. עד שמישהו טרח לבדוק, מרפי הוכה והותקף מינית מאחורי סורג ובריח.

אני זוכר את עצמי יושב במשרדי באותו לילה, קורא שוב את פרטי המקרה של מרפי, וחש משהו שאני לא רגיל לחוש כשאני קורא דוחות על כשלים טכניים: זעם. לא כלפי האלגוריתם — לאלגוריתמים אין כוונה. כלפי בני האדם שהטמיעו אותו כאילו היה סורק ברקוד. כלפי הארכיטקטורה שהפכה את זה לבלתי נמנע.

אני מנהל את Veriprajna. אנחנו בונים את מה שאני מכנה "AI עמוק" — מערכות עם כימות אי-ודאות, ממשל רב-סוכני, והנדסה קפדנית בבסיסן. ההפך ממה שהוביל לאיסור על Rite Aid ולמעצרו של הארווי מרפי. ואני חייב לומר לכם מדוע ההבדל חשוב יותר משרוב האנשים בתעשייה הזו מוכנים להודות.

מה שקרה ב-Rite Aid לא היה תקלה — זו הייתה בחירה תכנונית

בדצמבר 2023 ה-FTC עשה משהו חסר תקדים: הוא אסר על Rite Aid להשתמש בטכנולוגיית זיהוי פנים למשך חמש שנים. לא קנס. לא הזהיר. אסר.

בין 2012 ל-2020 פרסה Rite Aid מעקב זיהוי פנים מבוסס AI במאות חנויות. הרעיון היה פשוט — לזהות גנבים מוכרים, להתריע לאבטחה, להפחית גניבות. הביצוע היה אסון.

Rite Aid רכשה את מערכת זיהוי הפנים שלה משני ספקים חיצוניים. החוזים של שני הספקים התנערו במפורש מכל אחריות בנוגע לדיוק. קראו את זה שוב. החברות שמכרו את הטכנולוגיה אפילו לא הבטיחו שהיא עובדת. ו-Rite Aid פרסה אותה בכל זאת — בחנויות מלאות באנשים אמיתיים, עם השלכות אמיתיות על זיהוי שגוי.

אף אחד ב-Rite Aid לא בדק את דיוק המערכת. אף אחד לא בדק האם הספקים בדקו אותה. אף אחד לא יישם בקרות איכות תמונה. עובדי החנויות הזינו למאגר הרישום צילומי CCTV גרגריים ותמונות מטלפונים ניידים, והמערכת "התאימה" בצייתנות את התמונות הפגומות הללו לכל פנים שנכנסו בדלת.

התוצאות היו צפויות לכל מי שמבין בהנדסה ביומטרית, והרסניות לכל מי שאינו מבין. אלפי זיהויים חיוביים שגויים. לקוחות תמימים נעקבו לאורך המעברים, נחפשו, הואשמו בפומבי בגניבה. והנה החלק שאמור לגרום לכל מנהיג ארגוני לעצור לרגע: ההתראות השגויות פגעו באופן לא פרופורציונלי בנשים ובאנשים ממיעוטים אתניים. חנויות בקהילות שבהן שחורים ואסייתים מהווים רוב יחסי חוו התאמות שגויות רבות משמעותית מאשר חנויות בקהילות שבהן לבנים מהווים רוב יחסי.

זה לא היה באג. זו הייתה התוצאה הבלתי נמנעת של מודלים לא מכוילים שאומנו על מערכי נתונים לא מייצגים, נפרסו ללא ניטור, על תמונות פגומות, ללא תהליך בקרה אנושי הראוי לשמו.

מדוע סבא בן 61 נכנס לכלא?

המקרה של הארווי מרפי גרוע יותר, כי שרשרת הכשלים ארוכה יותר והמחיר האנושי מוחשי יותר.

בינואר 2022 מישהו שדד סניף של Sunglass Hut ביוסטון. EssilorLuxottica, חברת האם, שיתפה פעולה עם Macy's כדי להריץ זיהוי פנים על צילומי האבטחה של החנות. המערכת התאימה את צילומי השוד הגרגריים למאגר שכנראה הכיל את תצלום המעצר של מרפי מעבירות לא אלימות עשרות שנים קודם לכן.

אני רוצה שתחזיקו שתי עובדות בראשכם בו-זמנית. ראשית: מרפי היה בסקרמנטו, קליפורניה, ביום השוד. שנית: המערכת התאימה צילומי אבטחה עדכניים לתמונה שצולמה שנים — ואולי עשרות שנים — קודם לכן. מחקרים הראו שהתאמת תמונות עדכניות לתמונות ישנות עלולה להפיק שיעורי זיהוי חיובי שגוי גבוהים עד 90%. זו נקראת בעיית "פער הגיל", וכל מי שפורס זיהוי פנים בהקשר של אכיפת חוק צריך להכיר אותה.

אבל הנה מה שרודף אותי במקרה הזה. על פי התביעה, Sunglass Hut ו-Macy's הציגו את ההתאמה האוטומטית בפני רשויות אכיפת החוק כעובדה מאומתת. לא כקצה חוט. לא כהסתברות. כזיהוי. המשטרה הפסיקה לחקור. היה להם האיש שלהם.

כאשר לפלט של מכונה מייחסים סמכות רבה יותר מאשר לאליבי של בן אדם, חצינו קו ששום שיפור בדיוק לא יכול לתקן.

מרפי נעצר. הוא אמר להם שלא היה בטקסס. זה לא שינה. הוא בילה עשרה ימים בכלא לפני שמשרד התובע המחוזי אישר את האליבי שלו. עד אז, הנזק כבר נגרם — פיזי, נפשי, בלתי הפיך.

הצוות שלי ואני בילינו ערב שלם בעיון בפרטים הטכניים של המקרה הזה, בניסיון לשחזר כיצד ככל הנראה נראתה ארכיטקטורת המערכת. תמונת קלט ברזולוציה נמוכה. תמונת גלריה ישנה. כמעט בוודאות מודל זיהוי מסוג קבוצה סגורה — מהסוג שמותאם למצוא תמיד "התאמה מיטבית", גם כשהאדם האמיתי אינו במאגר. ללא כימות אי-ודאות. ללא סף ביטחון. ללא בקרה אנושית משמעותית בין הפלט של האלגוריתם לבין אדם המאבד את חירותו.

כל אחד ואחד מהכשלים האלה היה ניתן למניעה. לא באמצעות AI טוב יותר. אלא באמצעות ארכיטקטורה טובה יותר.

מהי בעיית ה"עוטף" (wrapper) ומדוע זה צריך להטריד אתכם?

כאן אני צריך להיכנס לרגע לפרטים הטכניים, כי התבנית שמאחורי שני האסונות האלה היא אותה תבנית שאני רואה בארגון אחר ארגון.

רוב החברות שפורסות AI כיום משתמשות במה שהתעשייה מכנה "עוטפים". עוטף הוא ממשק ממותג — לוח מחוונים, אפליקציה, כלי זרימת עבודה — שיושב על גבי מודל ה-AI של מישהו אחר. אתם שולחים נתונים ל-API של צד שלישי, הוא מחזיר תוצאה, ואתם מציגים אותה למשתמש שלכם. חברת העוטף אינה בונה את המודל. אינה מאמנת אותו. אינה מבינה את מצבי הכשל שלו. אינה שולטת בעדכונים שלו.

Rite Aid הריצה עוטף. שכבה דקה של זרימת עבודה לאבטחת קמעונאות על גבי ממשקי API של זיהוי פנים מסוג קופסה שחורה של ספקים. כאשר ממשקי ה-API האלה הפיקו זבל, ל-Rite Aid לא הייתה דרך לדעת, לא הייתה דרך להתערב, ו — כפי שה-FTC הבהיר — לא הייתה דרך להימלט מאחריות.

זו האסימטריה שהורגת חברות: אתם נושאים ב-100% מהאחריות עבור מערכת שיש לכם 0% נראות לתוכה.

כתבתי בהרחבה על הפער הארכיטקטוני הזה בהגרסה האינטראקטיבית של המחקר שלנו, אבל הטענה המרכזית פשוטה. עוטפים מתאימים ליישומים בעלי סיכון נמוך. סיכום פרוטוקולים של פגישות. יצירת תוכן שיווקי. דברים שבהם תשובה שגויה היא מעצבנת, לא הרסנית.

אבל ברגע שמערכת ה-AI שלכם יכולה לגרום למישהו להיעצר, לקבל סירוב להלוואה, להיות מפוטר, או להיות מושפל בפומבי — וזיהוי פנים בקמעונאות יכול לעשות את כל הדברים האלה — עוטף הוא פצצת אחריות עם שעון עצר לאחור.

כיצד בונים AI שיודע מתי הוא אינו יודע?

יש רגע שאני חוזר אליו שוב ושוב. בנינו צינור זיהוי עבור לקוח, ואחת המהנדסות שלי הריצה מנת תמונות בדיקה דרך המערכת. מספרי הדיוק נראו מצוין — מעל 95%. כולם היו מרוצים. ואז ביקשתי ממנה להריץ את אותה מנה כשהתפלגויות הביטחון גלויות.

בחדר השתררה שתיקה.

נתח משמעותי מאותם זיהויים "נכונים" היו בעלי התפלגויות אי-ודאות כה רחבות עד שלמעשה היו הטלות מטבע שבמקרה נחתו נכון. המודל ניחש בביטחון, לא זיהה באמינות. אם היינו משחררים את המערכת ההיא רק עם ציון הדיוק, לא היינו שונים מהספקים שמכרו ל-Rite Aid את התוכנה שלהם.

זו הבעיה המהותית באופן שבו רוב ה-AI נפרס: כל פלט מטופל כאמת בינארית בעוד שלמעשה הוא אומדן הסתברותי. המודל אינו אומר "זהו ג'ון סמית'". הוא אומר "בהתחשב במה שראיתי, יש סיכוי של X% שזהו ג'ון סמית', פלוס או מינוס Y". אבל רוב המערכות זורקות את החלק של "פלוס או מינוס Y" ומראות לכם רק את ה-X.

ב-Veriprajna אנחנו בונים את מה שנקרא כימות אי-ודאות (UQ) לתוך כל מערכת בעלת סיכון גבוה. יש שני סוגים של אי-ודאות שחשובים:

אי-ודאות אלאטורית נובעת מרעש בנתונים עצמם — תאורה גרועה, טשטוש תנועה, עדשת מצלמה שרוטה. אי אפשר לאמן את זה החוצה. אם בתמונה חסר מידע, שום מודל בעולם אינו יכול להזות אותו בחזרה באופן אמין.

אי-ודאות אפיסטמית נובעת ממגבלות המודל עצמו — הוא לא ראה מספיק דוגמאות של קבוצה דמוגרפית מסוימת, או שמעולם לא נתקל בתנאי התאורה הספציפי הזה. את זה ניתן לצמצם עם נתוני אימון טובים יותר.

מערכות שבירות — עוטפים — אינן מבחינות בין אלה. מערכת עשויה לדווח על ביטחון של 85% בהתאמה, וזה נשמע מוצק. אבל שכבת ה-UQ שלנו עשויה לחשוף שהתפלגות אי-הוודאות סביב אותם 85% היא עצומה, כלומר המספר חסר משמעות סטטיסטית בהתחשב באיכות הקלט.

מערכת AI שאינה יכולה לומר לכם עד כמה היא לא בטוחה אינה כלי — היא מלכודת.

אנחנו משתמשים בטכניקות כמו חיזוי קונפורמלי כדי להבטיח שאומדני אי-הוודאות של המערכת נופלים בתוך גבולות הניתנים להוכחה מתמטית. הפרטים הטכניים נמצאים במאמר המחקר המלא שלנו, אבל התוצאה המעשית היא זו: לפני שהמערכת נוקטת בפעולה כלשהי, היא יכולה לומר לכם האם התשובה שלה אמינה. ואם לא, היא מעבירה את ההחלטה לגורם אנושי.

בעיית הקבוצה הפתוחה שאיש אינו מדבר עליה

הנה משהו שעדיין מפתיע אותי כשאני מדבר עם קונים ארגוניים: כמעט אף אחד מהם אינו יודע את ההבדל בין זיהוי בקבוצה סגורה לבין קבוצה פתוחה.

מערכת קבוצה סגורה מניחה שהאדם הנסרק נמצא בוודאות במאגר. חשבו על נעילת הטלפון שלכם — הטלפון יודע שהפנים שלכם רשומות. הוא רק צריך לאמת שזה אתם.

מערכת אבטחה קמעונאית היא ההפך. הרוב המכריע של האנשים הנכנסים לחנות אינם באף מאגר נתונים פלילי. זו בעיית קבוצה פתוחה. והנה חוסר ההתאמה הקטסטרופלי: רוב תוכנות זיהוי הפנים המסחריות מותאמות לביצועי קבוצה סגורה, כי שם מבחני הביצועים נראים מרשימים.

מה קורה כשאתם פורסים מודל של קבוצה סגורה בסביבת קבוצה פתוחה? הוא מנסה למצוא את "ההתאמה המיטבית" עבור כל פנים ופנים, כי הוא מניח שחייבת להתקיים התאמה. זהו כמעט בוודאות מה שיצר את אלפי הזיהויים החיוביים השגויים ב-Rite Aid. המערכת לא התקלקלה. היא עשתה בדיוק את מה שתוכננה לעשות — בסביבה שעבורה מעולם לא תוכננה.

בנייה עבור קבוצה פתוחה משמעה לאמן את המודל שלכם לא רק לזהות התאמות, אלא גם לדחות במדויק אי-התאמות. לומר "אני לא מכיר את האדם הזה" באותה מידת דיוק שבה הוא אומר "אני מזהה את האדם הזה". זה דורש פונקציות הפסד שונות, מדדי הערכה שונים, ופילוסופיית תכנון שונה מהיסוד.

NIST — המכון הלאומי לתקנים וטכנולוגיה — מפעיל את מבחן ספקי זיהוי הפנים (FRVT), שהוא תקן הזהב העולמי להערכת מערכות אלה. NIST מודד את שיעור אי-ההתאמה השגויה בשיעור התאמה שגויה קבוע. עבור יישומים בעלי אבטחה גבוהה, סף ההתאמה השגויה הזה נקבע על אחד למיליון. אחד למיליון.

Rite Aid מעולם לא נמדדה מול תקני NIST. וכך גם, ככל הנראה, המערכת שזיהתה את הארווי מרפי.

השבת מודלים (Model Disgorgement): האופציה הגרעינית

יש פרט בהסדר של ה-FTC עם Rite Aid שאמור להפחיד כל חברה שבונה AI על נתונים מפוקפקים.

ל-Rite Aid לא רק נאמר להפסיק להשתמש בזיהוי פנים. היא נצטוותה למחוק את כל הנתונים הביומטריים שאספה ולהשמיד כל מודל AI או אלגוריתם שנגזר מאותם נתונים. ה-FTC כינה זאת "השבת מודלים" (model disgorgement) — אילוץ של חברה למעשה לבטל את הלמידה של כל מה שהמודלים שלה קלטו מנתונים שאינם עומדים בדרישות.

חשבו על מה שזה אומר מבחינה תפעולית. שנים של איסוף נתונים. מודלים שאומנו ושוכללו לאורך זמן. ידע מוסדי המוטמע במשקלי רשת נוירונים. כל זה — נעלם. לא כי המודלים הפסיקו לעבוד, אלא כי הנתונים שעליהם נבנו הושגו ללא אמצעי הגנה נאותים.

זו המציאות הרגולטורית החדשה. אם נתוני האימון שלכם מזוהמים — נאספו ללא הסכמה, מוטים בהרכבם, או הושגו תוך הפרת חוקי פרטיות — המודלים שנבנו על אותם נתונים מזוהמים גם הם. ולרגולטורים יש כעת את הכלים לאלץ אתכם להשמיד אותם.

רוב ארכיטקטורות העוטף אינן מסוגלות אפילו לבצע הסרת נתונים כירורגית. אין להן מעקב מקור שיאפשר לדעת אילו נתונים השפיעו על אילו משקלי מודל. מערכות AI עמוקות, שנבנו מתוך מחשבה על שושלת נתונים, כן מסוגלות. זו לא תכונה שאתם מעריכים עד שה-FTC מגיע לדפוק בדלת.

מדוע "אדם בלולאה" אינו רק תיבת סימון

אנשים תמיד שואלים אותי האם הפתרון הוא פשוט להציב בקר אנושי מול כל החלטת AI. התשובה היא כן — אבל עם הסתייגות עצומה. תהליך בקרה אנושי שתוכנן גרוע גרוע יותר מהיעדר בקרה כלל, כי הוא יוצר אשליה של פיקוח.

ב-Rite Aid היו בני אדם בלולאה. עובדי החנויות קיבלו התראות אוטומטיות ונאמר להם לפעול על פיהן. אבל לא הייתה להם הכשרה בנוגע לשיעורי זיהוי חיובי שגוי. לא היה ממשק שהראה להם את איכות התמונה המקורית. לא היה פרוטוקול לערעור על הפלט של המערכת. הם היו, מבחינה תפקודית, חותמות גומי עבור אלגוריתם.

אנחנו מתכננים מערכות אדם-בלולאה (HITL) עם ספי ביטחון שמנתבים החלטות באופן מתאים. מתחת ל-70% ביטחון? דחייה אוטומטית — אל תבזבזו את זמנו של אדם על רעש ברור. בין 70% ל-95%? סימון לבקרה אנושית, כשתמונת המקור המקורית מוצגת לצד ההתאמה, כדי שהבקר יוכל לגבש שיפוט מושכל. מעל 95% במשימה בעלת השלכות נמוכות? אישור אוטומטי, אבל תעדו הכול.

המפתח הוא שלבקר האנושי חייב להיות מספיק הקשר כדי באמת לעקוף את המכונה. אם כל מה שהם רואים הוא "התאמה — 87% ביטחון", הם ייכנעו למספר בכל פעם. אם הם רואים את פריים ה-CCTV הגרגרי לצד תמונת הגלריה ויכולים לזהות את ההבדלים הברורים — צורת אוזן שונה, קו לסת שונה, פער גיל של 20 שנה — הם הופכים לרשת ביטחון אמיתית במקום לרשת דקורטיבית.

היה לי ויכוח עם ה-CTO של לקוח על כך. הוא רצה למזער את הבקרה האנושית כדי לצמצם עלויות. אמרתי לו שעלות של תביעה אחת כמו של הארווי מרפי תעלה על עשור של משכורות לבקרים אנושיים. לא נעם לו לשמוע את זה. גם לא תבעו אותו.

החומות הרגולטוריות הולכות ונסגרות

ה-EU AI Act מסווג מערכות זיהוי ביומטרי כבעלות סיכון גבוה כברירת מחדל. הערכות התאמה חובה. תיעוד טכני מפורט. פיקוח אנושי אפקטיבי — לא מהסוג של Rite Aid, מהסוג האמיתי. שימושים מסוימים, כמו גריפת תמונות פנים מהאינטרנט לצורך נתוני אימון, אסורים לחלוטין.

בארצות הברית, מסגרת ניהול סיכוני ה-AI של NIST מתווה ארבע פונקציות — ממשל, מיפוי, מדידה, ניהול — שיחד מהוות את התכנית לפריסה אחראית של AI. הפעולה של ה-FTC נגד Rite Aid הייתה למעשה אכיפה של עקרונות אלה עוד לפני שהפכו לחוק פורמלי. המסר ברור: אם אינכם יכולים להסביר כיצד ה-AI שלכם עובד, אינכם יכולים למדוד את ההטיות שלו, ואינכם יכולים לנהל את הכשלים שלו, תישאו באחריות.

אני אומר לכל דירקטוריון שאני מייעץ לו אותו דבר: יישרו קו עם התקנים של ה-EU AI Act כבר עכשיו, גם אם אתם פועלים רק בארצות הברית. רגולציה מקומית בדרך, והחברות שהתייחסו לעמידה בדרישות כבעיה עתידית ימצאו את עצמן במצבה של Rite Aid — נאבקות להשמיד מודלים ולבנות מחדש מאפס תחת צו הסכמה.

ההטיה אינה באלגוריתם — היא בעצלנות

דבר אחד שמתסכל אותי בשיח הציבורי סביב הטיית AI הוא הרמז שהטיה היא איזושהי תכונה מסתורית ובלתי פתירה של בינה מלאכותית. היא לא. היא תוצאה של קיצורי דרך הנדסיים ספציפיים וניתנים לזיהוי.

אתם מאמנים מודל על מערך נתונים שהוא 80% פנים בהירות עור? הוא יתפקד גרוע יותר על פנים כהות עור. אתם מדלגים על הפחתת הטיה יריבותית — הטכניקה שבה אתם מאמנים רשת מתחרה לזהות האם המודל שלכם משתמש בגזע או במגדר כתכונה נסתרת? המודל שלכם יקודד את ההטיות הללו באופן בלתי נראה. אתם פורסים ללא בדיקה על פני קבוצות דמוגרפיות באמצעות נתוני מבחן הביצועים של NIST? אתם אפילו לא תדעו שההטיה קיימת עד שמישהו ייפגע.

הטיה אלגוריתמית אינה תעלומה. זה מה שקורה כשמהנדסים מבצעים אופטימיזציה למהירות במקום להוגנות, וארגונים מבצעים אופטימיזציה לעלות במקום לבטיחות.

לכל אחת מהבעיות הללו יש פתרון טכני ידוע. הפחתת הטיה יריבותית. אילוצי הוגנות בפונקציית ההפסד. מיזוג תכונות רב-קנה-מידה כדי להתמודד עם גווני עור ותנאי תאורה משתנים. זיהוי מתקפות הצגה כדי לתפוס ניסיונות התחזות. אלה אינם תיאורטיים — הם פרוסים במערכות ייצור כיום. כולל שלנו.

הסיבה שרוב החברות אינן מיישמות אותם היא אותה סיבה ש-Rite Aid לא בדקה את דיוק הספק שלה: זה עולה יותר, לוקח יותר זמן, ואף אחד לא מכריח אתכם לעשות זאת. עד שכן. ואז זה עולה הכול.

מה אני באמת חושב על עתיד ה-AI הארגוני

ביליתי שנים בבניית מערכות שתוכננו לפקפק בעצמן לפני שהן פועלות. זה אולי נשמע כמו דבר מוזר שמייסד של חברת AI אומר. האם לא הייתי אמור למכור ביטחון?

לא. אני מוכר ביטחון מכויל. יש הבדל.

החברות שישרדו את העשור הבא של רגולציית AI ואחריות משפטית הן אלה שבונות מערכות המסוגלות לומר "אני לא יודע" באותו דיוק שבו הן אומרות "אני בטוח". שמתייחסות לכל פלט אוטומטי כאל השערה שיש לאמת, לא כאל פסק דין שיש לבצע. שמתכננות עבור המקרה הגרוע ביותר — המקרה של הארווי מרפי — לא עבור מקרה ההדגמה.

Rite Aid איבדה את יכולותיה הביומטריות למשך חמש שנים ונאלצה להשמיד את המודלים שלה. Macy's ו-Sunglass Hut ניצבות מול תביעה על סך 10 מיליון דולר ומול נזק תדמיתי מהסוג ששום חברת יחסי ציבור אינה יכולה לתקן. אלה אינן אגדות אזהרה מימיה הראשונים של טכנולוגיה מסוכנת. הן קורות עכשיו, עם מערכות שחברות רכשו מהמדף ופרסו ללא הבנה.

עידן העוטף של ה-AI הארגוני מגיע לקצו. לא כי עוטפים לא עובדים — הם עובדים מצוין למשימות בעלות סיכון נמוך. אלא כי הסיכונים ממשיכים לעלות, הרגולציות ממשיכות להתהדק, ועלות של תשובה שגויה ובוטחת ממשיכה לגדול.

הארווי מרפי היה בסקרמנטו. האלגוריתם אמר שהוא ביוסטון. ובמשך עשרה ימים, האלגוריתם ניצח.

זו אינה בעיה של AI. זו בעיה של ארכיטקטורה. וארכיטקטורה היא בחירה.