בניית Attest, בינה מלאכותית ללמידה אדפטיבית להדרכת ציות, לימדה אותי שהיתרון אינו המודל אלא השער הדטרמיניסטי שמסמיך רק שליטה מוכחת.

Knowledge TracingMachine LearningCorporate Training

מודל מעקב הידע שלי רצה להסמיך לומד שרימה את הקורס. הקוד שכתבתי סירב.

Ashutosh Singhal 4 ביולי 202613 min

שני עובדים, שני סימני וי ירוקים זהים, ואחד מהם הוא שקר

בפעם הראשונה שהנחתי את שתי הרשומות זו לצד זו, סימני הווי נראו זהים, וזו הייתה כל הבעיה. אנליסטית BSA בכירה עם שמונה שנים בתפקיד ומנהל סניף שישה חודשים אחרי מעבר — שניהם זה עתה "השלימו" את אותה הסמכה-מחדש בת ארבע שעות בנושא איסור הלבנת הון. מערכת ניהול הלמידה שלהם דיווחה אותו דבר על כל אחד מהם: סימן וי ירוק, "SCORM Completed", סיימנו. האחת יכולה להריץ חקירת פעילות חשודה בשינה. לשני היו פערי ידע אמיתיים בדיוק במושגים שרגולטור דואג להם. המערכת שאמורה הייתה להסמיך אותם לעבודת ציות לא יכלה להבדיל ביניהם, כי היא מעולם לא מדדה מה הם ידעו. היא מדדה האם הסרטון סיים להתנגן.

הפער הזה אינו אקדמי, ובניית ההדגמה הזו אילצה אותי להשאיר את הסיכון מול העיניים. חברות בארה"ב מוציאות כ-102.8 מיליארד דולר בשנה על הדרכה ארגונית, בערך 874 דולר ללומד (Training Magazine, 2025), ורבע שלם ממנהיגי L&D אומרים שהם אינם יכולים למדוד האם משהו מזה עבד. בעבודה מוסדרת לפער יש מחיר ברשומה הציבורית. TD Bank ספג קנס AML של 3.1 מיליארד דולר שקשור בחלקו לתוכנית הדרכה בלתי מספקת. החל מ-2 באוגוסט 2026, סעיף 4 של חוק הבינה המלאכותית של האיחוד האירופי מתחיל לאכוף אוריינות בינה מלאכותית מבוססת-תפקיד, עם קנסות עד 35 מיליון אירו או 7% מההכנסה העולמית. בכל אחד מהמקרים האלה רשומת ה"הושלם" חסרת ערך כראיה, כי השלמה מעולם לא הייתה כשירות.

המערכת לא מדדה האם הם למדו. היא מדדה האם הסרטון סיים להתנגן.

בניתי הדגמה בשם Attest כדי לבדוק האם אוכל לסגור את הפער הזה בכנות. אפשר להריץ אותה ב-veriprajna.com/he/demos/adaptive-learning-ai. החיבור הזה עוסק בחלק מבנייתה שבאמת הפתיע אותי, וזה לא היה המודל.

לוח מחוונים של Attest שמציג אנליסטית BSA בכירה ומנהל סניף ששניהם סיימו את אותו קורס AML עם אותו סימן וי של SCORM Completed, מעל השורה "אותו קורס, אותו סימן וי, אבל אותה כשירות?" — שני לומדים, אותו קורס, אותו סימן וי ירוק. מערכת ניהול הלמידה קוראת אותם כזהים. Attest קורא שליטה ברמת המושג מתחת לפני השטח ומגיע לתשובה אחרת.

מה שבאמת יצאתי לבנות היה מודל שיודע מה כל אדם יודע

התחלתי במקום שבו כל מצגת של "למידה אדפטיבית" מתחילה, ואז זרקתי את רובה. רוב המוצרים שקוראים לעצמם אדפטיביים מריצים מתחת לפני השטח סינון שיתופי: "אנשים כמוך לקחו את קורס X אחר כך." זה מנוע המלצות שלובש גלימת דיפלומה. הוא יודע מה עשו לומדים דומים. אין לו מושג מה אתם, באופן ספציפי, מבינים. Cornerstone השיקה "Adaptive Learning Agent" במרץ 2026 שעדיין עובד כך. לא רציתי ממליץ טוב יותר. רציתי מודל שקורא את זרם האינטראקציות הגולמי של אדם אחד ומסיק, מושג אחר מושג, במה הוא באמת שלט.

זו בעיית מחקר אמיתית וישנה בשם מעקב ידע, והגרסה הכנה שלה היא טרנספורמר, לא ממוצע חידון. אימנתי מודל מעקב ידע מבוסס-קשב-עצמי, SAKT, כ-119,809 פרמטרים, קטן מספיק כדי להתאמן על CPU בתשעים שניות ולהישמר במטמון אחר כך. הוא מנגן מחדש את רצף האינטראקציות של כל לומד ומפיק הסתברות שליטה לכל אחד משמונה־עשר המושגים בקורס. בבנצ'מרק הסינתטי של מעקב ידע שזרענו הוא הגיע ל-AUC מוחזק של 0.8315, עם דיוק צעד-הבא של 0.771. נתוני הבנצ'מרק נוצרים על ידי משפחת מודלים שונה לחלוטין (Performance Factors Analysis, מודל לוגיסטי קלאסי), כך שהטרנספורמר אינו מדרג את ההנחות של עצמו. להקשר חיצוני, תוצאות SAKT שפורסמו על מערך הנתונים הציבורי ASSISTments נוחתות סביב 0.80 (Pandey ו-Karypis, 2019). שלי היה באותה שכונה.

הייתי גאה במספר הזה. חשבתי שהמספר הוא המוצר. נדרש בדיוק לומד אחד כדי להראות לי שזה לא כך.

ואז האכלתי אותו במישהו שרימה את כל הקורס

הלומד ששבר את הביטחון שלי היה השלישי בקבוצה, עמית תפעול שהשתמש בעוזר בינה מלאכותית כדי לענות אוטומטית על כל המודול. תסתכלו מה המודל שלי עשה איתו. מושג אחר מושג, הסקת ה-SAKT חזרה גבוהה: 0.927 בזיהוי דגלי אזהרה של SAR, 0.95 בהלבנת הון מבוססת-סחר, 0.992 בסיכון בנקאות־קורספונדנט, 0.994 בטריגרים של בדיקת נאותות מוגברת. כמעט מושלם בכל מקום. אילו סמכתי על המודל, הייתי מסמיך את כל שמונה־עשר המושגים ומוסר לאדם הזה רשומת ציות נקייה וחתומה.

הבעיה היא שהשליטה הייתה מזויפת. התשובות היו מהירות ומושלמות על פני שמונה־עשר שאינם קשורים מושגים, התפלגות זמני תגובה שאינה מתיישבת עם שליפה אמיתית מהזיכרון. מומחה אמיתי מהיר בדברים מסוימים ואיטי באחרים. הדפוס הזה היה שטוח ובלתי אפשרי במהירותו בכל מקום — חתימה של מפתח תשובות, לא של זיכרון. המודל הזהיר שלי עם AUC של 0.83 הסתכל על מפתח תשובות וראה תלמיד כוכב.

המודל שלי לא רק פספס את הרמאות. הוא היה הכי בטוח בעצמו בדיוק במקום שבו הוא היה הכי שגוי.

צינור חי של Attest עבור עמית התפעול שמציג ציוני שליטת SAKT גבוהים, ואז שער הכשירות מסמן את הראיות והתעודה WITHHELD באפס מתוך שמונה־עשר מוסמכים — הריצה החיה. SAKT מסיק שליטה גבוהה (0.927, 0.95, 0.992), ואז שער הכשירות מסמן "דיוק כמעט מושלם בזמני תגובה בלתי סבירים על פני 18 מושגים שאינם קשורים," והתעודה מוחזקת: 0 מתוך 18 מוסמכים.

זה היה הרגע שבו החיבור הזה נעשה אמיתי עבורי. מודל טוב יותר לא היה מציל אותי כאן. טרנספורמר מדויק יותר שאומן על נתונים נקיים יותר היה מסתכל על אותן תשובות מהירות-ומושלמות והיה עוד יותר בטוח שהאדם הזה שלט בכל דבר. הכשלון לא היה מחסור בדיוק. זה היה שאפשרתי למודל הסתברותי לקבל החלטה שמודל לעולם לא צריך להיות מורשה לקבל לבדו.

למה לא פשוט לאמן את המודל לתפוס את זה?

האינסטינקט הראשון שלי היה השגוי, ואני רוצה להיות כנה לגבי היום שאיבדתי בגללו. ניסיתי להפוך את המודל עצמו לעמיד בפני רמאות. להוסיף מאפייני זמן-תגובה, לאמן אותו לא לבטוח ברצפים מהירים באופן בלתי סביר, ללמד את הטרנספורמר להיות חשדן. זו תוכנית מפתה כי היא משאירה הכול בתוך מערכת אלגנטית אחת, ואני אוהב מערכות אלגנטיות. היא גם לא עובדת, מסיבה שלקח לי יותר זמן ממה שהיה צריך כדי לקבל אותה. כל דבר שאתם מלמדים מודל לזהות, לימדתם אותו גם להיות בטוח בשגיאה במקרים שלא צפיתם. כל תפקידו של מודל הוא להכליל ולהחליק. החלטת ממשל זקוקה להיפך: היא צריכה להיות שברירית בדיוק במקום הנכון, ולסרב.

אז עצרתי, והעברתי את ההחלטה לגמרי מחוץ למודל. המודל מייעץ. קוד דטרמיניסטי פשוט מחליט. אחרי שריצת הסקת ה-SAKT מסתיימת, פיסת לוגיקה ב-Python טהור שאני קורא לה שער הכשירות מקבלת את ההחלטה להסמיך-או-לא, והמודל אינו יכול לעקוף אותה. השער מסמיך מושג רק אם שלושה דברים נכונים כולם בבת אחת: השליטה היא ב-0.747 או מעליה, יש לפחות שלוש אינטראקציות אמיתיות של ראיות מאחוריה, ודפוס התגובה אינו חריג. כישלון באחד משלושתם — והמושג אינו מוסמך. הוא מסומן "needs proof," והלומד מקבל אתגר אימות במקום סימן וי.

כשהשער הסתכל על עמית התפעול, הוא עשה את מה שהמודל שלי לא יכול היה. הוא סימן את הראיות כחריגות, סירב לכל מושג, והסמיך אפס מתוך שמונה־עשר. זמן הישיבה מוחזק, בהמתנה לאימות.

טבלת פירוט של שער הכשירות עבור הלומד שרימה באמצעות בינה מלאכותית, כל אחד משמונה־עשר המושגים מסומן NEEDS PROOF למרות הסתברויות שליטה סמוכות ל-0.98 ו-0.99, עם הבסיס שציין שראיות סומנו כלא מתיישבות עם שליפה אמיתית — פסק הדין של השער, מושג אחר מושג. כל שורה מציגה שליטת P גבוהה (0.98, 0.99) וכל שורה עדיין קוראת NEEDS PROOF, כי הראיות סומנו. המודל ייעץ להסמיך; הקוד סירב.

אני רוצה להיות זהיר באופן שבו אני ממסגר את זה, כי התקציר שכתבתי לעצמי זהיר לגבי זה. זה אינו גלאי-רמאים עם שיעור פגיעה, ואני אף פעם לא מציג אותו ככזה. זהו תוצאת ממשל על לומד אחד להמחשה: מושגים שהוחזקו כי הראיות לא היו טובות מספיק להסמכה. הנקודה אינה "תפסתי אותך, רימית." הנקודה היא ש-Attest מסמיך רק את מה שהוא יכול להוכיח, ונשאר כנה לגבי השאר.

סוכנים מייעצים, קוד מחליט, והקו הזה התברר כקו מבני נושא

אני חוזר שוב ושוב לחלוקת העבודה הזו כי, עד שסיימתי, היא הייתה כל הארכיטקטורה ולא סלוגן. יש בדיוק שני מקומות ב-Attest שבהם משהו אינטליגנטי והסתברותי רץ, ושניהם רק מייעצים. סוכן LLM (בנוי על Pydantic AI, עם ברירת מחדל של claude-opus-4-8) עושה את תיוג המושגים, מפרק קורס שטוח אחד של "AML Training" לטקסונומיה של שמונה־עשר מושגים: CDD, נרטיב SAR, זיהוי עסקאות מובנות, סינון OFAC, והשאר. שלב התיוג הזה הוא הדבר שהשדה יגיד לכם שהוא הסיבה הגדולה ביותר לכך שפרויקטי למידה אדפטיבית מתים, והוא באמת קשה, אבל הוא מייעץ. מודל ה-SAKT מסיק שליטה, גם כן מייעץ. כל החלטה שבאמת חשובה — איזה מסלול לומד הולך בו ומה מוסמך — מתקבלת על ידי קוד דטרמיניסטי שאף מודל לא יכול לדבר את דרכו מעבר לו.

הסיקוונסר הוא החצי השני של הקוד הזה, ושם מסתתר הכסף. לכל מושג: אם השליטה היא ב-0.67 או מעליה הלומד מדלג או רק מאמת; בין 0.38 ל-0.67 הם נשארים באזור הזרימה; מתחת ל-0.38 הם מקבלים פיגומים. נקודות החיתוך האלה אינן מספרים שבחרתי לפי תחושה. הן מאומתות צולבות מול הקבוצה המתויגת, והריפו שולח מבחן A/B בחמישה קיפולים שמראה שהן מנצחות את ברירת המחדל שהוגדרה ידנית תוך השארת משמעות ההחלטה ללא שינוי. הריצו את הלוגיקה הזו על האנליסטית הבכירה והיא מדלגת כמעט על כל מה שהיא כבר יודעת: שישה־עשר מתוך שמונה־עשר מושגים מוסמכים, זמן הישיבה יורד מ-240 דקות ל-47.3, הפחתה של 80.3%. הריצו את הקוד הזהה על מנהל הסניף שיש לו פערים אמיתיים, והוא מסרב לתת לו אותה הנחה: עשרה מתוך שמונה־עשר מוסמכים, רק 38.9% נחסכו, כי הוא באמת זקוק להדרכה.

אותו קוד מוסר למומחית קורס של 47 דקות ולמתחיל קורס אמיתי. אף אחד מהם לא יכול להתווכח איתו.

האסימטריה הזו היא כל הנקודה. מערכת שחוסכת לכולם אותו זמן היא פשוט קורס קצר יותר עם מיתוג טוב יותר. מערכת שחוסכת זמן ביחס מדויק למה שכל אדם יכול להוכיח שהוא יודע — עושה מעקב ידע, והיא עושה זאת בקוד שאני יכול לקרוא שורה אחר שורה.

מה שמוסרים לרגולטור במקום סימן וי

הארטיפקט שאני הכי גאה בו הוא זה שסימן וי ירוק לעולם לא יכול לייצר. כשהשער מסיים, Attest מייצא תעודת כשירות חתומה, ואני שומר שתי דוגמאות אמיתיות בדיסק. עבור האנליסטית הבכירה היא מפרטת את כל שמונה־עשר המושגים, כל אחד עם הסתברות השליטה שלו, מספר האינטראקציות מאחורי האומדן, סטטוס הסמכה-או-דורש-הוכחה, והרגולציה הספציפית שאליה הוא ממופה (31 CFR 1020.220, FATF Rec. 12, 31 USC 5318, והשאר). היא מתעדת את שם המודל, הגרסה שלו, ואת ה-AUC של הבנצ'מרק. היא נושאת כותרת תחתונה כנה של מגבלות שמציינת שה-AUC מודד חיזוי פריט-הבא ולא שימור ארוך-טווח, כי הסתברות שליטה היא ראיה, לא ערבות. וכל המסמך חתום עם חתימת HMAC-SHA256 כך שאי אפשר לערוך אותו בשקט בדיעבד.

תעודת הכשירות החתומה עבור אנליסטית BSA בכירה: 16 מתוך 18 מושגים מוסמכים, הפחתת זמן ישיבה של 80.3%, AUC מוחזק של המודל 0.8315, שליטה לכל מושג ומיפוי רגולציה, עם שני מושגים שמסומנים בכנות NEEDS PROOF — התעודה עבור האנליסטית: 16 מתוך 18 מוסמכים, 80.3% זמן ישיבה שנחסך, AUC 0.8315 מוצהר על פניה, ושני מושגים (דגל אזהרה של SAR ב-0.73 ו-TBML ב-0.59) מוחזקים בכנות מתחת לקו 0.747 ומסומנים NEEDS PROOF.

זו התשובה העמידה לשאלת האמת של המבקר, שהיא לעולם לא "האם הם סיימו?" היא "הוכיחו אילו אינטראקציות תמכו באיזו טענת שליטה." סימן וי לא יכול לענות על זה. גם לא מודל בסיס טוב יותר, כמה שהוא יהיה טוב, כי דיוק אינו מקור. מודל מדויק יותר עדיין אינו יכול להראות למבקר את שביל הראיות מאחורי החלטה שהוא קיבל. את השביל הזה צריך לבנות כארטיפקט, בכוונה, מחוץ למודל. זה מה שהתעודה היא, וזה הדבר שגרם לי להפסיק לחשוב על המודל כעל המוצר.

דיוק אינו מקור. מודל טוב יותר עדיין אינו יכול להוכיח אילו אינטראקציות תמכו באיזו טענה.

אפשר לבחון את כל זה בהדגמה הרצה ב-veriprajna.com/he/demos/adaptive-learning-ai, כולל שני המושגים שהתעודה מסרבת להסמיך עבור האנליסטית, שבהם השליטה שלה יושבת בכנות מתחת לקו 0.747.

החלק ששורד מודל טוב יותר

בניתי את זה בציפייה שהמודל יהיה החלק הקשה, ולהיות שגוי לגבי זה שינה את האופן שבו אני חושב על כל הקטגוריה. המודל היה החלק הקל: תשעים שניות על CPU ו-AUC מכובד. החלק הקשה, החלק שבאמת הופך את הפלט לאמין, היה כל מה ששמתי סביב המודל כדי למנוע ממנו לקבל החלטות שלא היה לו עסק לקבל: השער הדטרמיניסטי, כלל מספיקות הראיות, הסירוב לחריגות, השביל החתום.

זה גם החלק שלא מתיישן. כשאני מציג את מספרי הקבוצה (כ-51.9% הפחתת זמן ישיבה על פני קבוצת הסמכה-מחדש מדומה של 500 אנשים, בערך 77,872 דולר שהוחזרו במודול הזה לבדו, נתון שנתי קרוב ל-389,362 דולר שהאפליקציה מסמנת כתחזית על המסך), הכותרת בכוונה אינה ה-AUC. ה-AUC רק מוכיח שזה מודל מעקב ידע אמיתי ולא יומן ציונים. הכותרת היא אחוז זמן הישיבה שנחסך ואחוז המושגים שאושרו אוטומטית מול אלה שנותבו להוכחה, ושניהם מחזיקים לא משנה כמה המודל הבסיסי ייעשה טוב. טרנספורמר חכם יותר בשנה הבאה אינו משנה את העובדה שההחלטה, והקבלה, חיות בקוד שאפשר לבקר.

ואם תעדיפו לראות את זה מאשר לקרוא אותי מתאר אותו, הנה כל הדבר רץ מקצה לקצה.

אז הנה השאלה שאני יושב איתה, וזו שאני הייתי מציב לכל מי שבונה במרחב הזה. אם הפלט החשוב ביותר של המערכת שלכם הוא החלטה שרגולטור יישען עליה, האם אתם רוצים שההחלטה הזו תתקבל על ידי המודל, או על ידי משהו שהמודל מורשה רק לייעץ לגביו? הייתי הפוך במשך יום. ואז תלמיד כוכב מזויף, מהיר ומושלם בשמונה־עשר דברים שהוא לא ידע, נכנס ויישר אותי.