الذكاء الاصطناعي للمشتريات منح مورّدًا أفضل درجةً أدنى — وإليك الرياضيات التي فعلت ذلك

أمضيتُ أمسيةً طويلة في الربع الماضي أُحدّق في بطاقة تقييم توريد واحدة، فحطّمت افتراضًا حملتُه طوال سنوات من عملي في المشتريات.

كان حدثًا روتينيًا — مثبّتات صناعية، خمسة موردين، من الفئات التي لا يؤرّق أمرها أحدًا. كان الذكاء الاصطناعي للمنصّة قد رتّبهم حسب التسليم والجودة والاستقرار المالي والسعر. المورّد (أ)، وهو مورّد حالي منذ اثني عشر عامًا وراءه آلاف المعاملات، جاء بدرجة 92. أما شركة معتمدة مملوكة لأقلية ولها تاريخ من ثلاث سنوات فحصلت على 71. ظاهريًا، تلك نتيجة نظيفة. فاز المورّد الحالي عن جدارة. فلننتقل إلى غيره.

غير أنني لم أنتقل إلى غيره. فقد فكّكتُ الدرجات الفرعية للتسليم، سطرًا بسطر، وما وجدته هو السبب الذي يجعلني الآن أُكرّس عملي لبناء تدقيق عدالة الذكاء الاصطناعي في المشتريات مهنةً. كان لدى المورّد الأصغر أفضل معدّل تسليم في الموعد — 98.1% مقابل 97.2% للمورّد الحالي. ومع ذلك حصل على درجة أقل في التسليم.

المورّد الذي كان أداؤه أفضل حصل على ترتيب أسوأ. لا لأن النموذج كان متحيّزًا ضدّه — بل لأن الرياضيات كانت كذلك.

تلك الفجوة، بين ما قالته البيانات وما قالته الدرجة، هي القصة كلها. دعني آخذك خطوة بخطوة عبر كيفية حدوث ذلك، ولماذا لن تُصلحه لك أي منصّة مشتريات في السوق، وما الذي تطلّبه الأمر فعلًا لبناء شيء قادر على إصلاحه.

التحيّز ليس في النموذج. إنه في التاريخ.

وإليك الجزء الذي استغرقني وقتًا أطول مما ينبغي لأتقبّله: لم يكن في تلك الخوارزمية أي شيء خبيث. لم يبرمج أحدٌ عقوبةً على الموردين المتنوّعين. كان التحيّز نتيجة بنيوية للتدريب على بيانات الإنفاق التاريخية — وبمجرد أن تراه، لا يمكنك أن تتوقّف عن رؤيته.

كان أداء التسليم يمثّل 25% من درجة المورّد، وقد حسبه الذكاء الاصطناعي بوصفه معدّل التسليم في الموعد مُرجّحًا بعدد المعاملات. فنسبة المورّد الحالي البالغة 97.2% عبر 4,200 معاملة ولّدت درجة تسليم مُرجّحة بالثقة قدرها 24.1 من 25. أما نسبة المورّد المملوك لأقلية البالغة 98.1% عبر 180 معاملة فقط فولّدت 16.8. المقياس نفسه. رقم خام أفضل. ثماني نقاط ضائعة — بسبب الترجيح بالثقة وحده.

ثم تكرّر النمط نفسه في كل مكان. فتسجيل الجودة اعتمد على وتيرة التدقيق، ووتيرة التدقيق ترتبط بحجم العقود. وتسجيل الاستقرار المالي عامل حجم الإيرادات بوصفه مؤشرًا على القدرة على تحمّل المخاطر. وبحلول الوقت الذي بلغ فيه النموذج تنافسية السعر، كانت الفجوة قد صارت رياضيًا مستعصية على التجاوز.

الإقصاء يُعزّز نفسه بنفسه، وهذا ما يجعله بغيضًا. فالمورّد يحصل على درجة أقل، فيفوز بعقود أقل، فيراكم معاملات أقل، فتصبح درجة ثقته أدنى في الدورة التالية. الخوارزمية تُساوي بين المزيد من البيانات التاريخية وبين المزيد من الموثوقية — وأي مورّد لم تُتَح له قط فرصة بناء ذلك التاريخ يدفع ثمن ذلك إلى الأبد.

الذكاء الاصطناعي المُدرَّب على تاريخ إنفاقك لا يتنبّأ بأفضل مورّد. إنه يتنبّأ بالمورّد الذي استخدمته بالفعل.

لماذا لن تُصلح لك منصّة المشتريات هذا الأمر؟

كان حدسي الأول هو البديهي: بالتأكيد إنّ SAP أو Coupa أو GEP أو Ivalua تتعامل مع هذا بالفعل. فهي تضخّ جهودًا هندسية هائلة في الذكاء الاصطناعي الوكيلي. فوكيل تحليل العطاءات من Joule يقارن عطاءات الموردين ويوصي بمنح العقود. وأداة Navi من Coupa تُجري اكتشاف الموردين باللغة الطبيعية، وسجّلت الشركة ما يقارب 15 مليار دولار من وفورات العملاء في ربع واحد. وتوفّر Ivalua أكثر من ثلاثين وكيل ذكاء اصطناعي جاهزًا للاستخدام. ولدى GEP ذكاء اصطناعي وكيلي عبر مجموعة أدوات المصدر-إلى-الدفع بأكملها.

فذهبتُ أبحث عن مقاييس العدالة. اختبار الأثر المتفاوت. المنهجية المنشورة لكيفية تدقيقها لمحرّكات التسجيل الخاصة بها بحثًا عن الأثر الضار.

لا وجود لأي منها. تحقّقتُ من المنصّات الأربع الكبرى جميعها. لا واحدة منها تنشر مقاييس عدالة لتسجيل المورّدين. تُقرّ Coupa في منشورات مدوّنتها بأنه ينبغي لمزوّدي الذكاء الاصطناعي أن "يُثبتوا التخفيف من التحيّز" — لكن لا توجد عملية تدقيق موثّقة خلف هذه الجملة. إنها نقطة حديث، لا ميزة.

وبصراحة، بمجرد أن تفهم اقتصاديات المنصّات، تكفّ عن توقّع ذلك. فهؤلاء المزوّدون يبنون أنظمة تسجيل عامة الغرض مُحسّنة لخفض التكاليف وتخفيف المخاطر عبر قاعدة عملائهم بأكملها. وإضافة قيود عدالة مضبوطة لتلائم ما يخصّك من أهداف التعاقد من الباطن، وما يخصّك من فئات المورّدين، وما يخصّك من الولاية التنظيمية سيعني الحفاظ على تهيئة نموذج مختلفة لكل عميل لديهم. وهذا ليس خارطة طريق لمنتج. بل هو كابوس دعم فنّي.

وثمّة جانب أحدّ من مجرد الراحة في ذلك. فالعقود تُكتب على نحو متزايد بحيث تقع المسؤولية عليك أنت، لا على المزوّد — إذ ما فتئت المحاكم الفيدرالية توسّع المساءلة عن الذكاء الاصطناعي، واتفاقيات المنصّات تنقل المخاطرة بهدوء إلى العميل. لذا حين يسأل مورّد جرى تجاوزه في نهاية المطاف عن سبب حصوله على درجة 71، فسيكون اسمك أنت على نتيجة التدقيق، لا اسم SAP. والأمر يزداد سوءًا كلما ازداد الوكلاء استقلاليةً: فحين يُطلق روبوت عقدًا أو دفعة من تلقاء نفسه — أو يهلوس اتفاقًا وهميًا لم يوجد قط — يكون العقد قد ضمن مسبقًا أن تكون المسؤولية مسؤوليتك أنت، لا مسؤولية مزوّد الذكاء الاصطناعي. المنصّة تمنحك السرعة. أما طبقة العدالة — وما يصحبها من مسؤولية — فقد كانت دائمًا ستكون من نصيبك.

الحلّ الذي كنتُ واثقًا من نجاحه — ولم ينجح

سأخبرك عن النسخة التي أخطأتُ فيها، لأنها النسخة التي تلجأ إليها معظم الفرق أولًا.

إذا كان النموذج يمنح الموردين الأصغر والمتنوّعين درجات أدنى مما يستحقون، فالحلّ البديهي هو الضغط على الميزان في الاتجاه المعاكس. أضف تعديلًا للتنوّع. ارفع درجات الموردين المعتمدين بضع نقاط للتعويض عن عقوبة الثقة. وقد رسمنا ذلك بالضبط. بدا عادلًا. بدا تصحيحيًا.

كان فخًّا، والشيء الذي كشفه لم يكن مشكلة هندسية — بل كان مشكلة قانونية.

بينما كنا نبني آلية التعزيز، كنتُ أيضًا أطالع البيئة التنظيمية التي يعيش فيها فعلًا عملاؤنا من المتعاقدين الفيدراليين، وكانت قد تحوّلت للتوّ إلى حقل ألغام. فمن جهة، يشترط الجزء 19 من نظام FAR على المتعاقدين تحقيق أهداف نسبية منفصلة للمتعاقدين من الباطن من الأعمال الصغيرة، والمملوكة لمحاربين قدامى، والمملوكة لمحاربين قدامى من ذوي الإعاقة المرتبطة بالخدمة، ومناطق HUBZone، والمملوكة لنساء — وقد جرى تشديد الإنفاذ مؤخرًا. ومن جهة أخرى، يحظر الأمر التنفيذي 14319، الموقّع في يوليو 2025، شراء الحكومة الفيدرالية لذكاء اصطناعي يحمل "تحيّزات أيديولوجية أو أجندات اجتماعية"، مسمّيًا صراحةً DEI.

توقّف عند هذا لحظة. فالمتعاقد الفيدرالي صار الآن مُلزَمًا قانونًا بأن يُقدّم الموردين المتنوّعين بموجب قاعدة واحدة، ومحظورٌ عليه قانونًا أن يُضمّن أجندة اجتماعية في الذكاء الاصطناعي للمشتريات بموجب قاعدة أخرى. آلية تعزيز التنوّع لدينا — ضغطٌ مُبرمَج على الميزان لصالح فئة محميّة — كانت بالضبط من نوع الأشياء التي كُتب الأمر التنفيذي 14319 للقضاء عليها. كنا سنطلق مسؤولية امتثالية متنكّرة في هيئة حلّ. وما كانت لتنجو من أول تدقيق.

في اللحظة التي تُصحّح فيها التحيّز بإضافة تحيّز مختلف، تكون قد بنيتَ شيئًا لا يمكنك الدفاع عنه في قاعة جلسة استماع.

ذلك الإخفاق هو ما أعاد صياغة المشكلة كلها بالنسبة لي. لم يكن الهدف قط أن نجعل الذكاء الاصطناعي يُحابي أحدًا. كان الهدف أن نجعله لا يُحابي أحدًا على نحوٍ قابل للإثبات — وأن نُنتج الدليل على ذلك.

قاعدة التوظيف التي فكّت القفل

جاءت نقطة التحوّل من قاعدة تتعلّق بالتمييز في التوظيف، والتي، على حدّ علمي، لم يكن أحدٌ تقريبًا في مجال المشتريات يطبّقها.

تنصّ قاعدة الأخماس الأربعة الصادرة عن لجنة تكافؤ فرص العمل (EEOC) — 29 CFR 1607.4 — على أن معدّل اختيار أي مجموعة يجب أن يكون 80% على الأقل من معدّل المجموعة الأعلى اختيارًا. كُتبت للتمييز في التوظيف. لكن حين يتعلّق الأمر بالموردين، فإنّ اختيارهم مطابقٌ من الناحية البنيوية لاختيار المرشّحين: لديك فئات، ومعدّلات تقدُّم، وعتبة. وينطبق الاختبار الإحصائي نفسه مباشرةً.

فأجريناه على مخرجات تسجيل حقيقية. إذا كان ذكاء اصطناعي يُقدّم 60% من الموردين غير المتنوّعين ليتجاوزوا عتبة التسجيل، فإن قاعدة الأخماس الأربعة تقول إنه يجب أن يُقدّم 48% على الأقل من الموردين المعتمدين المملوكين لأقليات ولنساء. وفي التسجيل المُرجّح بالحجم، كان المعدّل الفعلي الذي ظللنا نراه أقرب إلى 22%. وهذه نسبة تفاوت قدرها 0.37 — أقل من نصف الحدّ الأدنى القانوني.

هذا الرقم ليس إشارة خفيفة. نسبة تفاوت قدرها 0.37 هي دليلٌ ظاهر الوجاهة على وجود أثر ضار — المعيار نفسه الذي كانت محكمة ستطبّقه على دعوى تمييز في التوظيف. إنه نوع النتائج التي تتحوّل إلى خسائر في العقود ونتائج تدقيق، لا إلى مذكّرة بصياغة شديدة اللهجة.

ولهذا كان أهمّ من أي تعزيز للعدالة يمكن أن يكون: فاختبار الأخماس الأربعة لا يُحابي أحدًا. إنه يقيس فحسب. لقد منحنا وسيلة لإرضاء السيّدَين في آن واحد — أن نُظهر لمُدقّق الجزء 19 من نظام FAR أن الموردين المتنوّعين يحصلون على فرصة عادلة، وأن نُظهر لمراجع الأمر التنفيذي 14319 أننا لم نُضِف أي ضغط أيديولوجي على الميزان. مجرد رياضيات، مُطبّقة بتماثل، مع رقم في النهاية.

وليست هذه مشكلة فيدرالية فحسب. فمعظم الولايات تُضمّن بالفعل تسجيل التنوّع في تقييمات مشترياتها — فولاية إلينوي وحدها توجّه ما يصل إلى 20% من النقاط الفنية لطلب العروض إلى تنوّع الموردين — لذا فإن نسبة التفاوت نفسها التي تُسقط تدقيقًا فيدراليًا تستنزف بهدوء من متعاقد الولاية نقاطًا قيل له صراحةً أن يظفر بها. واختبار الأخماس الأربعة يسري أينما يسري التسجيل.

كيف تُثبت أن ذكاءً اصطناعيًا للمشتريات عادل؟

فتوقّفنا عن محاولة إصلاح نموذج أي أحد وبنينا طبقة تدقيق تستقرّ فوقه. وهذا هو جوهر ما يوجد الآن على veriprajna.com/solutions/procurement-ai-fairness: مُدقّق عدالة محايد تجاه المنصّات يتّصل بـ SAP Ariba أو Coupa أو GEP أو Ivalua، ويقرأ مخرجات تسجيل الموردين التي تُنتجها المنصّة أصلًا، ويختبرها بحثًا عن الأثر المتفاوت.

كان الحياد تجاه المنصّات خيارًا متعمّدًا، لا مجرد راحة. فنحن لا نمسّ نموذج المنصّة — لسنا مضطرين لذلك، وبصراحة لا نريد مسؤولية إعادة تدريب محرّك تسجيل يخصّ شخصًا آخر. نتعامل مع مخرجات الذكاء الاصطناعي بوصفها الشيء قيد الفحص: نستخرج معدّلات الاختيار حسب فئة المورّد، ونحسب نسب تفاوت الأخماس الأربعة، ونحلّل أين في مكدّس التسجيل تنشأ الفجوة (يكاد يكون ذلك دائمًا الترجيح بالثقة، ونادرًا ما يكون السعر)، ونناول مسؤول المشتريات شيئًا يمكنه أن يأخذه إلى قاعة اجتماع.

ذلك الجزء الأخير هو المُنتَج الذي يهمّ. ليس لوحة معلومات تقول "يبدو الأمر جيدًا". بل برهانٌ رياضي على أن الذكاء الاصطناعي يعامل كل فئة موردين بإنصاف — أو نتيجة محدّدة موثّقة المصدر تُثبت أنه لا يفعل، مع تسمية نسبة التفاوت وعامل التسجيل المُخالف. شيءٌ يمكن لكبير مسؤولي المشتريات أن يضعه أمام القيادة، ويمكن لمسؤول الامتثال أن يحفظه في الملفّات، ولا يمكن لمُدقّق أن يتجاهله.

"أليس هذا مجرد برنامج DEI مزوّد بآلة حاسبة؟"

هذا هو الاعتراض الذي أسمعه أكثر من غيره، وعادةً من شخص اكتوى بتقلّبات التنظيم ويحذر من أي شيء تفوح منه رائحة أجندة اجتماعية. إنه سؤال وجيه، والجواب لا — والتمييز بينهما هو بيت القصيد بأكمله.

برنامج DEI يُقرّر مُسبقًا أن نتيجةً ما مرغوبة ويوجّه الأمور نحوها. أما تدقيق الأثر المتفاوت فلا يُقرّر شيئًا. إنه يقيس ما إذا كانت معدّلات الاختيار تتجاوز عتبة إحصائية راسخة منذ زمن طويل تطبّقها المحاكم على دعاوى التمييز. فإذا اجتاز ذكاؤك الاصطناعي اختبار الأخماس الأربعة، يُقرّ التدقيق بذلك ويكون لديك دليلك على الحياد. وإذا فشل، يُخبرك التدقيق أيّ عامل تسجيل تسبّب في ذلك — والحلّ يكاد يكون دائمًا جعل الحسابات أكثر دقّة، لا أقل، لأن ترجيح معدّل تسليم بنسبة 98.1% بالثقة ليُخفَّض إلى 16.8 ليس عادلًا ولا صحيحًا.

كما يسألني الناس لماذا يُعدّ هذا مُلحًّا الآن، بينما لا يزال الذكاء الاصطناعي للمشتريات يبدو في بداياته. وهو بالفعل في بداياته — وتلك بالضبط هي النافذة. فعلى امتداد القطاع، 49% من فرق المشتريات تُجري تجارب رائدة للذكاء الاصطناعي، لكن 4% فقط بلغت نشرًا ذا مغزى. عنق الزجاجة ليس التقنية. إنه الثقة. فالقيادة لن تُعطي الضوء الأخضر لتسجيل موردين مستقلّ لا تستطيع تبريره أمام صاحب مصلحة أو جهة تنظيمية. برهان العدالة ليس ميزة كمالية تُضاف بعد النشر. فبالنسبة لكثير من المؤسسات، هو الشيء الذي يفتح الطريق أمام النشر.

أما السؤال الثالث فيدور دائمًا حول أدوات اكتشاف التنوّع — Supplier.io بقاعدة بياناتها التي تضمّ 20 مليون مورّد، وTealbook، وFairmarkit. أفلا تحلّ هذه الأدوات المشكلة أصلًا؟ لا. إنها تساعدك في العثور على موردين متنوّعين. لكن لا واحدة منها تُدقّق ما إذا كانت خوارزمية تسجيلك تمنح هؤلاء الموردين فرصة عادلة بمجرد دخولهم القمع. فالعثور على مورّد مؤهّل مملوك لأقلية ثم ترك الترجيح بالثقة يدفنه عند 71 ليس تقدّمًا. إنه طريق أكثر كفاءة إلى الإقصاء نفسه.

الجدار الذي لم يقصد أحدٌ بناءه

ما زلتُ أعود إلى بطاقة تقييم المثبّتات تلك. خمسة موردين، وحدثٌ روتيني واحد، وقطعة من الرياضيات قرّرت بهدوء أن مورّدًا أفضل أداءً يستحقّ أن يخسر — لا لأن أحدًا أراد ذلك، بل لأن الخوارزمية خلطت بين المألوف وبين الجيّد.

هذا هو شأن التحيّز في الذكاء الاصطناعي للمشتريات. إنه لا يصل بوصفه تحاملًا. إنه يصل بوصفه فترة ثقة، وعدد معاملات، وترجيحًا بنسبة 25% يبدو معقولًا تمامًا. كل خطوة قابلة للدفاع عنها. أما الجدار الذي تبنيه فلا.

لا يمكنك أن تُخرج نفسك من ذلك بالحجج والنوايا، ولا يمكنك إصلاحه بإمالة الميزان في الاتجاه الآخر — لقد جرّبتُ، وكان القانون محقًّا في منعه. لا يمكنك أن تفعل سوى شيء واحد: أن تقيسه، وتُثبته، وتجعل الدليل شيئًا تناوله مُدقّقًا دون أن ترتعش. وموقف القياس-لا-التصحيح هذا هو كامل ما نبنيه في Veriprajna. إن الذكاء الاصطناعي للمشتريات لديك سريع. السؤال الوحيد الذي سيهمّ، أول مرة يسأل فيها مورّد جرى تجاوزه عن السبب، هو ما إذا كان بوسعك أن تُثبت أنه كان عادلًا. فإذا استطعت أن تُظهر نسبة التفاوت والتدقيق الذي أنتجها، فلديك جواب. وإذا لم تستطع، فأنت لا تعاني مشكلة عدالة — بل مشكلة إفصاح قانوني تنتظر أمر استدعاء.