אילינוי אוסרת על שדה המיקוד שה-EU AI Act דורש לשמר. בניתי ביקורת גיוס AI שמצהירה זאת במקום להדפיס אישור מעבר.
ב-2 בדצמבר 2025, מבקר מדינת ניו יורק פרסם סקירה של אותו מדגם בן 32 חברות שהמחלקה להגנת הצרכן והעובדים של העיר (DCWP) כבר בדקה תחת Local Law 144, וספר 17 הפרות פוטנציאליות במקום שבו DCWP מצאה הפרה אחת בלבד. DCWP הסכימה לעבור לאכיפה יזומה.
קראתי זאת והנחתי שהאתגר ההנדסי הקשה הוא זיהוי: לבנות משהו שלוכד את ההטיה שהסבב הראשון החמיץ. כתיבת חבילות הכללים (rule packs) שינתה את דעתי, מכיוון שהזיהוי התברר כחצי הקל. החצי הקשה הוא שמעסיק המפעיל כלי גיוס אוטומטיים בניו יורק, קולורדו, אילינוי, טקסס, קליפורניה והאיחוד האירופי נותן דין וחשבון לשישה רגולטורים שדורשים שישה מסמכים במבנה שונה לחלוטין, ולפחות במקרה אחד, שניים מהם דורשים דברים מנוגדים מאותה עמודת נתונים בדיוק.
לכן בניתי שכבת תאימות לשם כך, קונסולה שכיניתי Clarion, הניצבת מעל כלי גיוס ה-AI שמעסיק כבר מפעיל, קוראת קובץ ייצוא ציונים בודד של הספק, מחשבת כל מדד השפעה לרעה (adverse-impact) בקוד דטרמיניסטי, ומפצלת את אותה ביקורת יחידה לשישה תוצרים המותאמים לתחומי השיפוט השונים. תוכלו לראות כיצד היא פועלת בכתובת veriprajna.com/demos/ai-hiring-compliance. כל מה שמוצג להלן פועל מול קובץ ייצוא סינתטי מתוזמן (seeded) של 1,040 רשומות מועמדים עבור מעסיק בדיוני, "Acme Logistics, Inc.", בדרישת משרה REQ-2026-0412. שתלתי את ההפרה באותם נתונים בעצמי, וזו הסיבה היחידה שאני יכול לומר לכם בדיוק מה המנוע היה אמור למצוא.
הביקורת שעוברת בהצלחה אינה הביקורת שהחוק דורש
אני עצמי זרעתי את מערך הנתונים, ובכל זאת התוצאה הראשונה הצליחה להרגיז אותי. מבחן ארבע-החמישיות השולי (marginal four-fifths test), זה שביקורת עצמית של ספק מספקת כברירת מחדל, עובר בצורה חלקה: יחס השפעה מינימלי לפי גזע 0.8196, כאשר מועמדים היספנים ושחורים חולקים את המינימום הזה, ויחס מינימלי לפי מין 0.8744. שניהם עומדים על קו ה-0.80 או מעליו. דבר בקוד אינו כופה את המעבר הזה. 0.8196 הוא מה שהחישוב מחזיר על גבי מקרה המבחן (fixture), והוא עובר את הרף בפני עצמו. על המסך כרטיס השיעורים אומר זאת מפורשות: הספק עוצר כאן.
Local Law 144 אינו עוצר שם. הוא דורש יחסי הצלבה בין גזע למין (intersectional race by sex ratios), והמועמדים הסינתטיים מדורגים על ידי שלושה כלים מדומים (מדרג בסגנון Workday-Spotlight, סבב וידאו בסגנון HireVue, ומנוע התאמה בסגנון Eightfold) המהווים מתאמי מבחן על גבי הנתונים הסינתטיים הללו, ארכיטיפים ולא אינטגרציות מלאות. אם נפלח את אותן רשומות לפי גזע ומין, התמונה מתהפכת. מול תא הייחוס White / Male, המקדם 68 מתוך 130 מועמדים בשיעור של 52.31%, התא Black / Female מקדם 44 מתוך 130, כלומר 33.85%. יחס השפעה 0.6471. גם Hispanic / Female נכשל, ב-0.7647.
במקרה של Hispanic / Female התווכחתי עם המנוע שלי עצמי. תחת בקרת שיעור תגליות השווא (false discovery rate) של Benjamini-Hochberg באלפא 0.05, רק התא Black / Female מובהק מבחינה סטטיסטית, ב-q = 0.0185. התא Hispanic / Female מגיע ל-q = 0.1629, ולכן המנוע מסמן אותו ומסרב במפורש להגדיר אותו כמובהק. רציתי ששני התאים ייחשבו, כי שני תאים נכשלים הם סיפור משכנע יותר מאחד. המנוע מבחין בין ממצא מובהק לבין מקריות, וזו אותה משמעת בדיוק שהייתי רוצה שתיושם על המספרים שלי אילו הייתי המעסיק בצד השני של הדו"ח.
שישה רגולטורים, שישה מסמכים שונים
כתבתי את שש חבילות הכללים זו אחר זו והמשכתי לנסות לצמצם אותן לציון בודד, מכיוון ש-מספר יחיד הוא מה שלוח מחוונים מסוגל להכיל ומה שרוכש מצפה לקבל. הדבר מעולם לא שרד את המפגש עם החוקים. ניו יורק דורשת דו"ח השפעה לרעה בהצלבה בתוספת סיכום פומבי מפורסם. חוק SB 24-205 של קולורדו דורש הערכת השפעה מתועדת של חובת זהירות סבירה (reasonable-care) ותוכנית ניהול סיכונים, ואינו מפרט מתודולוגיה כלל, בתוקף מ-30 ביוני 2026. חוק TRAIGA של טקסס דוחה השפעה שונה (disparate impact) כעילה עצמאית ומתמקד בכוונה. תיקוני FEHA ADS של קליפורניה בתוקף מאז 1 באוקטובר 2025 ודורשים שוב מבנה תיעוד ייחודי משלהם. חוק ה-EU AI Act מתייחס לגיוס עובדים כאל סיכון גבוה תחת Annex III ודורש ממשל נתונים לפי Article 10 בתוספת תיק טכני לפי Article 11, החל מ-2 באוגוסט 2026.
רעיון הציון הבודד מת בחבילת הכללים של טקסס. כבר בניתי את התוצר של ניו יורק מתוך יחסי הצלבה, וחוק TRAIGA הופך בדיוק את אותם מדדים סטטיסטיים לחסרי רלוונטיות ראייתית להערכה שלו עצמו, כך שלא היה שום שקלול שיכולתי להחיל שיאפשר למספר אחד לייצג את שני הדברים. שש שאלות שונות, הנשאלות בשש צורות שונות, וציון הוגנות עונה בקושי על אחת וחצי מהן. לכן Clarion מפיקה שישה תוצרים, שכל אחד מהם נושא את הציטוט המשפטי שלו, תאריך התחולה והמבנה הנדרש, ולוחות הכותרת של הקונסולה מדווחים על היקף הכיסוי במקום על ציון: תוצרי תחומי שיפוט 6, יחס השפעה נמוך ביותר 0.65, פריטים הדורשים פעולה אנושית 9.
אותה עמודה מעורבת היא הפלט הכן, והיא גם זו שאף אחד אינו מספק. חוקרים מאוניברסיטת קורנל, Data & Society ו-Consumer Reports בדקו 391 מעסיקים בניו יורק לגבי הביקורת שדורש Local Law 144 ומצאו ביקורות הטיה שפורסמו עבור 4.6% מהם בלבד (FAccT 2024). החובה נמצאת בתוקף. שיעור הציות אליה קרוב לשגיאת עיגול, ולפי הבנתי חלק ניכר מהפער הזה נובע ממעסיקים שבאמת ובתמים מאמינים שיחס מעבר יחיד של הספק סגר את הנושא.
Cramér's V של 0.3321 על zip_region, ושני משטרים שדורשים דברים הפוכים
כתבתי פותר (resolver) עבור בעיית המיקוד לפני שהבנתי את בעיית המיקוד, ומחיקתו הייתה הרגע שבו המוצר שינה את צורתו. המנוע מזהה משתני קירוב (proxies) לקבוצות מוגנות באמצעות מתאם, ו-zip_region חוזר בתוצאה של Cramér's V 0.3321 מול גזע, 0.3253 מתוקן הטיה, מעל הרף של 0.2. זהו משתנה קירוב. אין זו גם יוריסטיקה שמסמנת כל דבר: school_tier עומד על 0.0711 באותה הרצה ועובר בהצלחה.
חוק HB 3773 של אילינוי, שנכנס לתוקף ב-1 בינואר 2026, אוסר על שימוש במיקודים כמשתני קירוב לקבוצות מוגנות, ולכן תצורת הבטיחות עבור אילינוי ממסכת את הנתונים הגיאוגרפיים. מנגד, סעיף 10(3) של ה-EU AI Act דורש נתוני אימון רלוונטיים, מייצגים ומלאים, מה שבפועל נשען על הכיסוי הגיאוגרפי שאילינוי בדיוק הורתה לכם להסיר. אם תמסכו את השדה, חובת הייצוגיות של האיחוד האירופי נחלשת. אם תשאירו אותו, החוק של אילינוי מופר. תצורת מודל יחידה אינה יכולה לספק את שתיהן.
הפותר שלי בחר צד מנצח. הוא השווה בין שתי רמות החשיפה, בחר בגדולה יותר, והפיק סטטוס תקין עבור הצד השני — בדיוק ההתנהגות שמכניסה הצהרת כזב למסמך המוגש לרשויות. הסרתי אותו והחלפתי אותו בפסק דין שהשער מורשה להגיע אליו: CONFLICT. המפשר מנסח אז תזכיר אסטרטגיה משפטית במקום אישור רגולטורי. הפעילו שתי תצורות פריסה: מיסוך גיאוגרפי מלא להסקת מודל באילינוי, ומאפיין אזורי גס יותר עבור נתוני אימון באיחוד האירופי. או, אם נדרשת תצורה אחת בלבד, בחרו במשטר עם החשיפה הגדולה יותר ותעדו את הסיכון שהתקבל, תוך ציון שקנסות סיכון גבוה באיחוד האירופי מגיעים למקסימום החוקי של הגבוה מבין 15 מיליון אירו או 3% מהמחזור השנתי העולמי.
לוח מחוונים שמצהיר על תאימות הוא, בבית המשפט, מוצג ראייתי. תזכיר שאומר ידענו, תמחרנו את שני המסלולים, ובחרנו — הוא קו הגנה.
זוהי הבחירה שהייתי מקבל כיועץ משפטי ראשי בכל פעם מחדש, וזו הבחירה שאף מוצר שנבנה כדי להרגיע רוכשים לא יציע, מכיוון שהגרסה המרגיעה נמכרת טוב יותר — בדיוק עד שלב התצהיר המשפטי.
ניסיתי לשכנע את המערכת שלי עצמי להעניק אישור
ביצעתי את הניסוי שממנו חששתי ביותר: לגלות האם אוכל, באמצעות הנדסת פרומפטים מיומנת, להביא לפסק דין טוב יותר. ישנם שישה סוכני תחומי שיפוט ב-Clarion, בתוספת מפשר קונפליקטים וספקן יריב (adversarial skeptic), הבנויים על גבי Pydantic AI ומאפשרים החלפת ספק מודל. שכתבתי את פרומפט הקריינות כך שייטה לחסד, כפי שספק הנתון בלחץ רבעוני ייטה לחסד. הניסוח הפך חם ומקבל יותר. אף מספר לא זז ואף פסק דין לא השתנה, מכיוון שכל מדד סטטיסטי, כל השוואת סף וכל החלטת שער יושבים ב-engine.py וב-rulepacks.py, לחלוטין מחוץ למסגרת הסוכנים.
אותה תכונה מתגלה גם בכיוון ההפוך. ללא ספק מודל מוגדר כלל, צוות הסוכנים נסוג לתבניות דטרמיניסטיות והאפליקציה פועלת באופן זהה: אותם שישה תוצרים, אותו 0.6471, אותו CONFLICT. סוכנים מייעצים, הקוד מכריע, ו-12 מתוך 12 בדיקות מנוע מקבעות את אמת הקרקע השתולה כך שהמעבר השולי והכישלון בהצלבה אינם יכולים להתרחק זה מזה בין הרצות.
סוכנים מסוגלים לקרוא חוק ולכתוב תזכיר. הם אינם יכולים להיות הרכיב שמכריע האם רף נחצה, מכיוון שאת הסכמתם ניתן לקנות באמצעות פרומפט טוב יותר.
לא התחלתי עם ההשקפה הזו. התחלתי מתוך מחשבה שהסוכנים הם המוצר והאריתמטיקה היא עבודת אינסטלציה שולית, וטעיתי לחלוטין. החלפתי את הספק, החלפתי את הפרומפט, הרצתי ללא שום מפתח API, והמנוע עדיין החזיר 0.6471 עבור Black / Female ו-CONFLICT על zip_region. כל שיפור שאני מכניס במודל משפר את סגנון הניסוח של התזכיר, אך שום דבר שמבקר היה בודק.
שלוש תיאוריות משפטיות שביקורת הטיה שעברה בהצלחה מעולם לא נגעה בהן
בניתי את הספקן היריב מתוך ציפייה שיתווכח על סטטיסטיקה, אך הוא הקדיש את זמנו לוויכוח על תחום התחולה (scope). הוא מסרב לתת אור ירוק לשלושה דברים, ו-כל אחד מהם הוא תיאוריה משפטית נפרדת שביקורת הטיה שעברה בהצלחה אינה מכסה.
הראשונה היא סיווג עצמי. תזכיר ספק הטוען כי "המדרג שלנו אינו AEDT" נדחה, מכיוון שתחת תיאוריית השליחות (agent theory) שהועלתה בתיק Mobley v. Workday, כלי שממליץ על מועמדים או מסנן אותם מהווה חלק בלתי נפרד מתהליך ההחלטה. תיאוריה זו טרם הוכרעה ואינה בגדר הלכה פסוקה, וזו הסיבה שהפריט מועבר ליועץ משפטי אנושי לאימות תחולה ולא לסטטוס צבעוני.
השנייה היא נגישות. בקרב 432 המועמדים שעברו את סבב הווידאו, שיעור שגיאות המילים (word error rate) עומד על 0.0794 בדיבור סטנדרטי ועל 0.3016 עבור 104 המועמדים עם דיבור שאינו סטנדרטי — פער של פי 3.8 ש-Local Law 144 לעולם אינו בודק, מכיוון ש-LL144 עוסק בגזע ובמין. התיאוריה שהועלתה בתיק D.K. v. Intuit/HireVue היא תיאוריה תחת חוק הנגישות האמריקאי (ADA), והיא שורדת ללא פגע ביקורת הטיה מושלמת. Clarion מזהה את הפער ומנתבת אותו לבדיקת ADA אנושית. המערכת אינה בונה את תהליך ההתאמות הנגישות (accommodation workflow), ואינני מתכוון להעמיד פנים אחרת.
השלישית היא חוק ה-FCRA, שממש אינו מתעניין בהוגנות. בקובץ ייצוא זה, 510 מועמדים דורגו על בסיס נתונים שנאספו מצדדים שלישיים (scraped data) וסוננו לפי ציון מספרי — הדפוס שעמד במוקד התיק Kistler v. Eightfold. אם הפלטפורמה מוגדרת כסוכנות דיווח צרכנית (consumer reporting agency), כל מועמד שדורג זכאי להודעת פעולה שלילית (adverse-action notice) ולנתיב ערעור, ללא קשר למידת האיזון של התוצאות. Clarion מזהה את הטריגר ומנתבת אותו לתשתית פעולה שלילית וערעורים. היא גם אינה בונה את הפורטל הפונה למועמדים. אני מוצא את הנקודה הזו כפחות אינטואיטיבית מבין השלוש, וכבעלת הסיכוי הגבוה ביותר להישמט מעיניה של קבוצה שעשתה הכל כשורה בתחום ההוגנות, מכיוון ששום דבר בסטטיסטיקה אינו מספק את התשובה. השאלה ש-FCRA שואל נוגעת למה שהפלטפורמה הינה, וחברה יכולה לעבור בהצלחה כל יחס השפעה בדו"ח ועדיין להיות חייבת למאות אנשים הודעה שמעולם לא נשלחה.
החבילה שהייתי מוסר למי שחותם על המסמך
שמרתי שאלה אחת תלויה מול עיניי לאורך כל תהליך הבנייה: מה צריך האדם שבפועל חותם על זה — וזה לא ציון. לאורך ששת המשטרים, המנוע מעריך 13 חובות ומחזיר 2 PASS, 2 FAIL, 7 NEEDS_PROOF ו-2 CONFLICT. בניסוח של היקף כיסוי על גבי קובץ ייצוא סינתטי זה, 2 מתוך 13 חובות מתמלאות אוטומטית על סמך נתונים בלבד, ו-9 מתוך 13 מנותבות לגורם אנושי נקוב מכיוון שהן NEEDS_PROOF או CONFLICT. במערכת שנמכרת כאוטומציה היחס הזה נראה כמו כישלון. כביקורת, זו הצורה היחידה שהייתי חותם עליה בשמי.
קובץ הייצוא הוא צרור משורשר-גיבוב SHA-256 של 17 צמתים, כאשר כל צומת מקושר לגיבוב של הצומת שלפניו, כך שכל עריכה בצומת כלשהו שוברת את השרשרת. הוא מופק כקובץ JSON וכחבילת HTML הניתנת להדפסה, כאשר כל מספר נושא עמו את הקלטים שלו ואת החישוב שלו, וכל פסק דין נושא את הציטוט המשפטי שלו. השרשרת מאומתת בכל הרצה, ועמידות המערכת בפני שיבושים נבדקת בבדיקות יחידה.
Veriprajna אינה חותמת על מסמך זה. תפקיד המבקר העצמאי לפי Local Law 144 שייך לפירמות כמו DCI, ORCAA ו-Secretariat, וכל מטרת התכנון של החבילה היא שאחת מהן תוכל לחתום עליה מבלי לכתוב אותה מחדש תחילה. הסקירה המלאה של כל ההרצה, כולל תזכיר הקונפליקט, זמינה בכתובת veriprajna.com/demos/ai-hiring-compliance.
ואם אתם מעדיפים לצפות בשער מסרב במקום לקרוא את התיאור שלי, הנה ההרצה כולה מקצה לקצה, כולל תזכיר הקונפליקט.
תזכיר הקונפליקט מותיר את המעסיק באותה רמת תאימות בדיוק שבה היה יום קודם לכן. מה שהוא מוסיף הוא שקלול תמורות (trade-off) קריא, מתוארך ובר-ייחוס, כך שבעוד שנתיים, כאשר מישהו ישאל מי החליט לשמור את שדה המיקוד ומה הוא ידע כשהחליט זאת, יהיה מסמך שעונה על כך במקום תג ירוק שצריך להסביר אותו בדיעבד.
