إثباتات من العرض التجريبي
تظل المفاضلة واضحة وشفافة من خط الأساس حتى التوصية.
تعرض هذه الشاشات العرض التوضيحي المحلي الفعلي على مجموعة بياناته الاصطناعية الثابتة.
الامتثال للذكاء الاصطناعي في قطاع الإسكان
يحوّل Equora التفاوت المقاس إلى بحث قابل للتكرار عن بديل أقل تفاوتاً، مع إبقاء تكلفة الدقة وأدلة القرار الدقيقة وبوابة الإطلاق قيد المراقبة المستمرة.
0.694 to 0.875
تطور DIR للمجموعة الأكثر تضرراً
مجموعة بيانات اختبار اصطناعية ثابتة
480
التهيئات التي تم تقييمها
بحث مقيد عند انتقائية متساوية
0.36%
تكلفة الدقة المقاسة
AUC 0.7823 to 0.7788
جميع النتائج الأساسية المعروضة هنا مستمدة من مجموعة بيانات اصطناعية ثابتة تضم 9,000 سجل للمتقدمين. Equora هو عرض هندسي تجريبي، وليس استشارة قانونية أو نظاماً لاتخاذ القرارات في بيئات الإنتاج.
المشكلة
قد يوضح تدقيق فحص المستأجرين للإدارة القانونية وفرق مخاطر النماذج أن النتائج تختلف عبر الفئات المحمية. وهنا تبدأ المهمة الصعبة: تحديد ما إذا كان هناك بديل محايد ظاهرياً يقلل من هذا التفاوت، ويحافظ على أداء عملي مفيد للنموذج، ويمكن إعادة تشغيله لاحقاً.
توفر تسوية SafeRent في نوفمبر 2024 سياقاً بالغ الأهمية لسبب خضوع أنظمة الفحص لرقابة مشددة. التسوية البالغة قيمتها $2.275 million لم تتضمن أي اعتراف بارتكاب مخالفات، وهذا العرض التوضيحي لا يعيد إنتاج تلك القضية بعينها.
المصادر: DOJ Civil Rights Division case page و Final Approval Order المودعة في 20 نوفمبر 2024.
كيف يعمل النظام
تظل عمليات القياس والبحث والتوصية وفحوصات الإطلاق حتمية تماماً.
القياس
يقوم Equora بضبط ScreenScore v3 (خط الأساس القائم على الائتمان) على المجموعة الاصطناعية المجمعة، ويقدم تقارير عن معدل القبول، ونسبة الأثر المتباين (DIR)، وفارق التكافؤ الإحصائي، وفجوة الاحتمالات المتكافئة (equalized-odds). العرق وحالة قسيمة السكن هي حقول تدقيق وليست خصائص ضمن النموذج.
البحث
يقيّم البحث عن البديل الأقل تمييزاً (Least Discriminatory Alternative, LDA) عدد 480 توليفة من المجموعات الفرعية الاختيارية للخصائص، وسقوف الدرجات الائتمانية، ومعاملة الدخل المضمون، وقوة التنظيم (regularization). مساحة البحث صريحة ومقيدة.
الاختيار
يقوم المحرك برسم جبهة باريتو (Pareto) للدقة والحد الأدنى لـ DIR، ثم يختار المرشح المؤهل ذو أدنى خسارة مقاسة في AUC ضمن الميزانية المحددة البالغة 0.03. إذا لم يتأهل أي مرشح، فإنه يعيد عدم وجود بديل آمن.
البوابة
يحدد الإسناد الخطي الدقيق للنموذج العوامل السلبية الثلاثة الأولى المساهمة في القرار. يقارن ناقد إسناد الخصائص تلك الدوافع بالأسباب المذكورة في الإشعار، ويوجه التفسيرات العامة أو غير المدعومة إلى المراجعة البشرية.
إثباتات من العرض التجريبي
تعرض هذه الشاشات العرض التوضيحي المحلي الفعلي على مجموعة بياناته الاصطناعية الثابتة.
المشهد بموضوعية
تم تصميم Equora لجعل قرار المعالجة المقيد قابلاً للتفتيش والتدقيق، وليس لتحويل مقياس منفرد إلى حكم قضائي.
| السؤال | درجة العدالة بمفردها | عرض Equora الهندسي |
|---|---|---|
| ما الذي تم قياسه؟ | تفاوت عند تهيئة نموذج واحدة | DIR، وSPD، وفجوة EO، ومعدلات القبول، وفترات الثقة على مجموعة البيانات الثابتة |
| ما الذي يمكن تغييره؟ | غير محدد | شبكة معلنة من التهيئات المحايدة ظاهرياً والمقارنة عند انتقائية متساوية |
| لماذا هذه التوصية؟ | لا يوجد سجل للاختيار | أقل خسارة مقاسة في AUC بين المرشحين المؤهلين في البحث المقيد |
| هل يمكن التحقق من أسباب الإشعار؟ | خارج نطاق التقييم العددي | تتم مقارنة الخصائص المذكورة مع أهم ثلاثة عوامل سلبية مساهمة بدقة |
لا يثبت Equora الامتثال القانوني، ولا يمنح شهادة بأن النموذج عادل، ولا يبحث في كل النماذج المحتملة، ولا يتحقق من أداء الإسكان الفعلي في بيئة الإنتاج. عتبة 0.80 هي بوابة سياسة الأربعة أخماس المحددة في العرض التجريبي.
مجموعة المتقدمين اصطناعية، وحزمة القواعد ثابتة، ولم يتم بناء موصلات الإنتاج الفعلية. يتحقق ناقد الإشعار من إسناد الخصائص فقط، بينما يمثل تشغيل UCI Adult معياراً عاماً لعدالة دخل التعداد السكاني وليس بيانات مستأجرين حقيقية.
يقيّم Equora عدد 480 تهيئة صريحة ومحايدة ظاهرياً عند مستوى انتقائية متساوٍ. ويوصي بالمرشح المؤهل ذو أقل خسارة مقاسة في AUC ضمن بوابة الأربعة أخماس وميزانية الدقة المحددة، أو يقر بعدم وجود بديل آمن إذا لم يتأهل أي خيار.
لا. يستخدم Equora القيمة 0.80 كبوابة سياسة الأربعة أخماس المحددة للعرض التجريبي، وليس كاستنتاج قانوني قطعي. تعود قاعدة الأربعة أخماس الاستكشافية إلى إرشادات التوظيف، ولا تحدد بمفردها المسؤولية القانونية في قضايا الإسكان.
في مجموعة الاختبار الاصطناعية الثابتة، يتغير AUC من 0.7823 إلى 0.7788. الخسارة المقاسة هي 0.0036، وتظهر في الواجهة كتكلفة دقة بنسبة 0.36%، بينما تتحسن DIR للمجموعة الأكثر تضرراً من 0.694 إلى 0.875.
لا. يقوم كود حتمي بحساب المقاييس وتطبيق العتبات وتقييم البدائل واختيار التوصية. ويقتصر دور النموذج اللغوي، في حال تفعيله، على صياغة مسودة نص الإشعار، بينما يستخدم الوضع غير المتصل قالباً حتمياً.
لا. يتحقق ناقد إسناد الخصائص مما إذا كانت الأسباب المذكورة تتطابق مع أهم ثلاث مساهمات سلبية في النموذج. ويقوم بتوجيه الأسباب العامة أو غير المدعومة إلى المراجعة البشرية، لكنه لا يتحقق من كل عنصر إشعار قانوني ولا يقر الكفاية القانونية.
لا. مجموعة البيانات الأساسية هي مجموعة اصطناعية مجمعة وثابتة تضم 9,000 سجل لفحص المستأجرين. وتشغيل UCI Adult Census Income المنفصل هو معيار عام للعدالة يختبر نفس كود التدقيق، وليس مجموعة بيانات للتحقق من أهلية السكن.
الأبحاث الكامنة وراء هذا العرض التجريبي — البنية الهندسية، وتصميم التحقق، والمخطط المؤسسي العام.
اجمع بين النموذج وحدود السياسة والتزامات تقديم الأدلة في مراجعة موحدة واحدة.
إذا كان فريقك يحدد ضوابط التدقيق والمعالجة والإطلاق للذكاء الاصطناعي في الإسكان، فاتصل بنا لمناقشة الأدلة التي يجب أن تحتفظ بها المراجعة.
