ה-AI לרכש שלכם נתן לספק טוב יותר ציון נמוך יותר — הנה המתמטיקה שאחראית לכך
ביליתי ערב ארוך ברבעון שעבר בבהייה בכרטיס ניקוד יחיד של מיקור, וזה ניפץ הנחת יסוד שנשאתי עמי לאורך שנים של עבודה ברכש.
זה היה אירוע שגרתי — מהדקים תעשייתיים, חמישה ספקים, מסוג הקטגוריות שאיש אינו מאבד עליהן שינה. ה-AI של הפלטפורמה דירג אותם לפי אספקה, איכות, יציבות פיננסית ומחיר. ספק A, ותיק בן שתים-עשרה שנים עם אלפי עסקאות מאחוריו, הגיע ל-92. עסק מוסמך בבעלות מיעוטים עם היסטוריה של שלוש שנים קיבל 71. על פני השטח, זו תוצאה נקייה. הוותיק ניצח בזכות. הלאה.
אלא שאני לא המשכתי הלאה. פירקתי את תת-ציוני האספקה, שורה אחר שורה, ומה שמצאתי הוא הסיבה שבגללה אני מבלה כיום את זמני בבניית הוגנות AI ברכש ביקורת — לפרנסתי. לספק הקטן יותר היה טוב יותר שיעור אספקה בזמן — 98.1% מול 97.2% של הוותיק. ובכל זאת הוא קיבל ציון נמוך יותר על אספקה.
הספק שביצועיו היו טובים יותר דורג גרוע יותר. לא מפני שהמודל היה מוטה נגדו — אלא מפני שהמתמטיקה הייתה.
הפער הזה, בין מה שהנתונים אמרו לבין מה שהציון אמר, הוא כל הסיפור. הרשו לי להוליך אתכם דרך האופן שבו זה קורה, מדוע אף פלטפורמת רכש בשוק לא תתקן זאת עבורכם, ומה באמת נדרש כדי לבנות משהו שכן יכול.
ההטיה אינה במודל. היא בהיסטוריה.
הנה החלק שלקח לי יותר מדי זמן לקבל: לא היה שום דבר זדוני באלגוריתם הזה. איש לא תכנת קנס עבור ספקים מגוונים. ההטיה הייתה תוצאה מבנית של אימון על נתוני הוצאה היסטוריים — וברגע שאתם רואים זאת, אינכם יכולים עוד להתעלם מכך.
ביצועי האספקה היו 25% מציון הספק, וה-AI חישב אותם כשיעור אספקה בזמן משוקלל לפי מספר העסקאות. ה-97.2% של הוותיק על פני 4,200 עסקאות הפיקו ציון אספקה משוקלל-ביטחון של 24.1 מתוך 25. ה-98.1% של הספק בבעלות מיעוטים על פני 180 עסקאות בלבד הפיקו 16.8. אותו מדד. מספר גולמי טוב יותר. שמונה נקודות אבודות — לשקלול הביטחון בלבד.
ואז אותו דפוס חזר על עצמו בכל מקום. ניקוד האיכות נשען על תדירות הביקורות, ותדירות הביקורות מתואמת עם נפח החוזים. ניקוד היציבות הפיננסית התייחס לגודל ההכנסות כמדד חלופי לסבילות סיכון. עד שהמודל הגיע לתחרותיות המחיר, הפער כבר היה בלתי ניתן לגישור מתמטית.
ההדרה מתחזקת מעצמה, וזה מה שהופך אותה למכוערת. ספק מקבל ציון נמוך יותר, ולכן זוכה בפחות חוזים, ולכן צובר פחות עסקאות, ולכן ציון הביטחון שלו נמוך עוד יותר במחזור הבא. האלגוריתם משווה בין נתונים היסטוריים רבים יותר לבין אמינות רבה יותר — וכל ספק שמעולם לא ניתנה לו ההזדמנות לבנות היסטוריה כזו משלם על כך לנצח.
AI שאומן על היסטוריית ההוצאות שלכם אינו חוזה את הספק הטוב ביותר. הוא חוזה את הספק שכבר השתמשתם בו.
מדוע פלטפורמת הרכש שלכם לא תתקן זאת עבורכם?
האינסטינקט הראשון שלי היה המובן מאליו: ודאי ש-SAP, Coupa, GEP או Ivalua כבר מטפלות בזה. הן משקיעות הנדסה עצומה ב-agentic AI. סוכן ניתוח ההצעות של Joule משווה בין הצעות ספקים וממליץ על זכיות. Navi של Coupa מריצה גילוי ספקים בשפה טבעית, והחברה רשמה חיסכון של כ-15 מיליארד דולר ללקוחות ברבעון אחד. Ivalua מספקת יותר משלושים סוכני AI מוכנים לשימוש. ל-GEP יש agentic AI לאורך כל חבילת ה-source-to-pay שלה.
אז יצאתי לחפש את מדדי ההוגנות. את בדיקות ההשפעה השונה. את המתודולוגיה המפורסמת לאופן שבו הן מבקרות את מנועי הניקוד שלהן עצמן לאיתור השפעה שלילית.
אין כאלה. בדקתי את כל ארבע הפלטפורמות המרכזיות. אף אחת מהן אינה מפרסמת מדדי הוגנות לניקוד ספקים. Coupa מודה בפוסטים בבלוג שספקי AI צריכים "להדגים הפחתת הטיה" — אך אין תהליך ביקורת מתועד מאחורי המשפט. זו נקודת דיבור, לא תכונה.
ובכנות, ברגע שאתם מבינים את כלכלת הפלטפורמות, אתם מפסיקים לצפות לכך. הספקים האלה בונים ניקוד כללי המותאם להפחתת עלויות ולמזעור סיכונים על פני כל בסיס הלקוחות שלהם. הוספת אילוצי הוגנות המותאמים לשלכם יעדי קבלנות המשנה, לשלכם קטגוריות הספקים, לשלכם תחום השיפוט הרגולטורי — פירושה תחזוקת תצורת מודל נפרדת עבור כל לקוח ולקוח. זו אינה מפת דרכים של מוצר. זהו סיוט תמיכה.
יש לכך פן חד יותר מנוחות בלבד. החוזים נכתבים יותר ויותר כך שהאחריות נופלת עליכם, לא על הספק — בתי משפט פדרליים הרחיבו את האחריותיות ל-AI, והסכמי הפלטפורמה מעבירים בשקט את הסיכון אל הלקוח. כך שכאשר ספק שנפסל שואל בסופו של דבר מדוע הציון שלו היה 71, זה שמכם מופיע בממצא הביקורת, לא של SAP. וזה רק מחמיר ככל שהסוכנים נעשים אוטונומיים יותר: כאשר בוט מפעיל זכייה או תשלום בכוחות עצמו — או הוזה הסכם פנטום שמעולם לא היה קיים — החוזה כבר דאג לכך שהאחריות תהיה שלכם, לא של ספק ה-AI. הפלטפורמה נותנת לכם מהירות. שכבת ההוגנות — והאחריות שנלווית אליה — תמיד עתידה הייתה להיות שלכם.
התיקון שהייתי בטוח שיעבוד — ולא עבד
אספר לכם על הגרסה שבה טעיתי, כי זו הגרסה שרוב הצוותים פונים אליה תחילה.
אם המודל מנקד בחסר ספקים קטנים ומגוונים, התיקון האינטואיטיבי הוא להכביד על הכף לכיוון השני. להוסיף התאמת מגוון. להעלות את הספקים המוסמכים בכמה נקודות כדי לפצות על קנס הביטחון. שרטטנו בדיוק את זה. זה הרגיש הוגן. זה הרגיש מתקן.
זו הייתה מלכודת, והדבר שחשף אותה לא היה בעיה הנדסית — אלא בעיה משפטית.
בזמן שבנינו את ההגברה, קראתי גם את הסביבה הרגולטורית שבה לקוחות הקבלנים הפדרליים שלנו חיים בפועל, והיא בדיוק הפכה לשדה מוקשים. מצד אחד, FAR Part 19 מחייב קבלנים לעמוד ביעדי אחוזים נפרדים עבור קבלני משנה של עסקים קטנים, בבעלות ותיקי צבא, בבעלות ותיקי צבא נכי-שירות, HUBZone ובבעלות נשים — והאכיפה התהדקה לאחרונה. מצד שני, צו ביצוע 14319, שנחתם ביולי 2025, אוסר על רכש פדרלי של AI הנושא "הטיות אידאולוגיות או אג'נדות חברתיות", ומזכיר במפורש DEI.
עצרו על זה לרגע. קבלן פדרלי מחויב כעת על פי חוק לקדם ספקים מגוונים תחת כלל אחד, ואסור עליו על פי חוק להטמיע אג'נדה חברתית ב-AI לרכש תחת כלל אחר. הגברת המגוון שלנו — הכבדה מקודדת-קשיח על הכף לטובת קטגוריה מוגנת — הייתה בדיוק סוג הדבר שצו 14319 נכתב כדי לחסל. היינו משגרים מחויבות רגולטורית מחופשת לפתרון. היא לא הייתה שורדת את הביקורת הראשונה.
ברגע שאתם מתקנים הטיה על ידי הוספת הטיה אחרת, בניתם משהו שאינכם יכולים להגן עליו בחדר שימוע.
הכישלון הזה הוא מה שמסגר עבורי מחדש את כל הבעיה. המטרה מעולם לא הייתה לגרום ל-AI להעדיף מישהו. המטרה הייתה לגרום לו שלא יעדיף איש באופן מוכח — ולהפיק את ההוכחה.
כלל הגיוס שפיצח את זה
נקודת המפנה הגיעה מכלל של אפליה בתעסוקה שכמעט איש ברכש, ככל שאני יכול לומר, לא יישם.
כלל ארבע-החמישיות של ה-EEOC — 29 CFR 1607.4 — קובע ששיעור הבחירה של כל קבוצה חייב להיות לפחות 80% משיעור הקבוצה הנבחרת ביותר. הוא נכתב עבור אפליה בגיוס. אך אצל ספקים, הבחירה זהה מבנית לבחירת מועמדים: יש לכם קטגוריות, שיעורי קידום וסף. אותה בדיקה סטטיסטית משתלבת היישר פנימה.
אז הרצנו אותה מול פלט ניקוד אמיתי. אם AI מקדם 60% מהספקים הלא-מגוונים מעבר לסף הניקוד, כלל ארבע-החמישיות אומר שהוא חייב לקדם לפחות 48% מהספקים המוסמכים בבעלות מיעוטים ובבעלות נשים. בניקוד משוקלל-נפח, השיעור בפועל שראינו שוב ושוב היה קרוב יותר ל-22%. זהו יחס פערים של 0.37 — פחות ממחצית הרצפה החוקית.
המספר הזה אינו אות רך. יחס פערים של 0.37 הוא ראיה לכאורה (prima facie) להשפעה שלילית — אותו סטנדרט שבית משפט היה מחיל על תביעת אפליה בגיוס. זה סוג הממצא שהופך לאובדן חוזים ולממצאי ביקורת, לא לתזכיר בנוסח חריף.
וזו הסיבה שזה היה חשוב יותר מכל הגברת הוגנות שאי-פעם יכלה להיות: בדיקת ארבע-החמישיות אינה מעדיפה איש. היא רק מודדת. היא נתנה לנו דרך לספק את שני האדונים בבת אחת — להראות למבקר של FAR Part 19 שספקים מגוונים קיבלו הזדמנות הוגנת, וגם להראות לבוחן של צו 14319 שלא הוספנו שום הכבדה אידאולוגית על הכף. רק מתמטיקה, מיושמת באופן סימטרי, עם מספר בסוף.
וזו אינה רק בעיה פדרלית. רוב המדינות כבר מטמיעות ניקוד מגוון בהערכות הרכש שלהן — אילינוי לבדה מנתבת עד 20% מהנקודות הטכניות של מכרז אל מגוון הספקים — כך שאותו יחס פערים שמפיל ביקורת פדרלית מדמם בשקט מקבלן מדינתי נקודות שנאמר לו במפורש לצבור. בדיקת ארבע-החמישיות נוסעת לכל מקום שאליו מגיע הניקוד.
כיצד מוכיחים ש-AI לרכש הוא הוגן?
אז הפסקנו לנסות לתקן את המודל של מישהו ובנינו שכבת ביקורת שיושבת מעליו. זה לב הדבר שנמצא כעת בכתובת veriprajna.com/solutions/procurement-ai-fairness: מבקר הוגנות אגנוסטי לספק שמתחבר ל-SAP Ariba, Coupa, GEP או Ivalua, קורא את פלט ניקוד הספקים שהפלטפורמה כבר מפיקה, ובודק אותו לאיתור השפעה שונה.
אגנוסטיות לספק הייתה בחירה מכוונת, לא נוחות. אנחנו לא נוגעים במודל של הפלטפורמה — אין לנו צורך בכך, ובכנות איננו רוצים את האחריות של אימון-מחדש של מנוע הניקוד של מישהו אחר. אנחנו מתייחסים לפלט של ה-AI כאל הדבר הנבחן: שולפים את שיעורי הבחירה לפי קטגוריית ספק, מחשבים את יחסי הפערים של ארבע-החמישיות, מפרקים היכן במחסנית הניקוד מקורו של הפער (כמעט תמיד שקלול הביטחון, כמעט אף פעם לא המחיר), ומוסרים לקצין הרכש משהו שהוא יכול לקחת אל תוך חדר.
החלק האחרון הזה הוא התוצר שחשוב. לא לוח מחוונים שאומר "נראה בסדר". הוכחה מתמטית שה-AI מתייחס לכל קטגוריית ספק בשוויוניות — או ממצא ספציפי ומגובה-מקור שהוא אינו עושה זאת, עם יחס הפערים ושם גורם הניקוד הבעייתי. משהו ש-CPO יכול להציג בפני ההנהלה, שקצין ציות יכול לתייק, ושמבקר אינו יכול לבטל בהינף יד.
"האם זו לא סתם תוכנית DEI עם מחשבון?"
זו ההתנגדות שאני שומע הכי הרבה, בדרך כלל ממישהו שנכווה מהשינויים הרגולטוריים החדים וחושש מכל דבר שמריח כמו אג'נדה חברתית. זו שאלה הוגנת, והתשובה היא לא — וההבחנה היא כל העניין.
תוכנית DEI מחליטה מראש שתוצאה מסוימת רצויה ומכוונת אליה. ביקורת השפעה שונה אינה מחליטה כלום. היא מודדת האם שיעורי הבחירה עוברים סף סטטיסטי מבוסס-היטב שבתי המשפט מחילים על תביעות אפליה. אם ה-AI שלכם עובר את בדיקת ארבע-החמישיות, הביקורת אומרת זאת ויש בידיכם הוכחה לנייטרליות. אם הוא נכשל, הביקורת אומרת לכם איזה גורם ניקוד גרם לכך — והתיקון הוא כמעט תמיד להפוך את המתמטיקה למדויקת יותר, לא פחות, מפני ששקלול-ביטחון שמוריד שיעור אספקה של 98.1% ל-16.8 אינו הוגן או נכון.
אנשים גם שואלים אותי מדוע זה דחוף עכשיו, כשה-AI לרכש עדיין מרגיש מוקדם. והוא אכן מוקדם — וזה בדיוק החלון. ברחבי התעשייה, 49% מצוותי הרכש מריצים פיילוטים של AI, אך רק 4% הגיעו לפריסה משמעותית. צוואר הבקבוק אינו הטכנולוגיה. הוא האמון. ההנהלה לא תיתן אור ירוק לניקוד ספקים אוטונומי שאין ביכולתה להצדיק בפני בעל עניין או רגולטור. הוכחת ההוגנות אינה תוספת נחמדה שמוברגת לאחר הפריסה. עבור ארגונים רבים, היא הדבר שמשחרר את הפריסה.
השאלה השלישית תמיד עוסקת בכלי גילוי-המגוון — Supplier.io עם מסד הנתונים שלה בן 20 מיליון הספקים, Tealbook, Fairmarkit. האם אלה לא פותרים כבר את זה? לא. הם עוזרים לכם למצוא ספקים מגוונים. אף אחד מהם אינו מבקר האם אלגוריתם הניקוד שלכם נותן לספקים אלה הזדמנות הוגנת ברגע שהם בתוך המשפך. למצוא ספק מוסמך בבעלות מיעוטים ואז לתת לשקלול-הביטחון לקבור אותו ב-71 אינו התקדמות. זהו נתיב יעיל יותר אל אותה הדרה.
הקיר שאיש לא התכוון לבנות
אני חוזר שוב ושוב לכרטיס הניקוד ההוא של המהדקים. חמישה ספקים, אירוע שגרתי אחד, ופיסת מתמטיקה שהחליטה בשקט שספק בעל ביצועים טובים יותר ראוי להפסיד — לא מפני שמישהו רצה בכך, אלא מפני שהאלגוריתם בלבל בין מוכר לבין טוב.
זה העניין עם הטיה ב-AI לרכש. היא אינה מגיעה כדעה קדומה. היא מגיעה כרווח בר-סמך, כמספר עסקאות, כשקלול של 25% שנראה סביר לחלוטין. כל צעד ניתן להגנה. הקיר שהיא בונה אינו.
אינכם יכולים לחלץ את עצמכם מזה בטיעונים על כוונות, ואינכם יכולים לתקן זאת על ידי הטיית הכף לכיוון השני — ניסיתי, והחוק צדק כשאסר זאת. אתם יכולים לעשות רק דבר אחד: למדוד זאת, להוכיח זאת, ולהפוך את ההוכחה למשהו שהייתם מוסרים למבקר בלי להניד עפעף. עמדת המדידה-לא-התיקון הזו היא כל מה שאנחנו בונים בVeriprajna. ה-AI לרכש שלכם מהיר. השאלה היחידה שתהיה חשובה, בפעם הראשונה שספק שנפסל ישאל מדוע, היא האם תוכלו להוכיח שהוא היה הוגן. אם תוכלו להראות את יחס הפערים ואת הביקורת שהפיקה אותו, יש לכם תשובה. אם לא תוכלו, אין לכם בעיית הוגנות — יש לכם בעיית גילוי (discovery) שמחכה לזימון לבית משפט.
