ذكاء اصطناعي لفحص المستأجرين اجتاز اختبار العدالة... ومع ذلك كان يميّز
في المرة الأولى التي جلست فيها مع فريق الامتثال في شركة لإدارة العقارات، ارتكبت خطأً أعتقد أن معظم المهندسين يرتكبونه. افترضت أنني هناك لإصلاح خوارزمية واحدة.
كان لديهم نموذج لفحص المستأجرين يمنح المتقدمين درجات، وأداة لإدارة الإيرادات تحدد الإيجارات. بالنسبة لي، عند دخولي، كانت هاتان ميزتين في حزمة البرمجيات نفسها — كلتاهما "الذكاء الاصطناعي"، وكلتاهما مشكلتي التي عليّ جعلها قابلة للدفاع عنها. وبحلول وقت مغادرتي، فهمت الأمر الذي نظّم كل عملنا في مجال الامتثال للذكاء الاصطناعي في الإسكان منذ ذلك الحين: فهذان ليسا مشكلة واحدة بوجهين. إنهما دعويان قضائيتان مختلفتان تماماً في انتظار الوقوع، تحكمهما مجموعتان غير مترابطتين من القوانين، والشركة نفسها معرّضة لهما معاً في آنٍ واحد.
هذه الفجوة — بين كيف يرى المطوِّر هذه الأنظمة وكيف تراها المحكمة — هي بالضبط ما يجعل الامتثال للذكاء الاصطناعي في الإسكان من السهل جداً الوقوع في الخطأ فيه. لذا أريد أن أستعرض ما أخطأت فيه أولاً، لأن الإخفاق أكثر إفادةً من الإصلاح.
قاعدة الأربعة أخماس التي كذبت علينا
بدأنا من حيث يبدأ الجميع: العدالة في الفحص. الركيزة القانونية هنا هي قانون الإسكان العادل، والاختبار التشغيلي الذي تلجأ إليه معظم الفرق هو قاعدة الأربعة أخماس — إذا انخفض معدل قبولك لأي مجموعة محمية إلى ما دون 80% من مجموعتك الأعلى قبولاً، فلديك مشكلة أثر تمييزي مفترضة.
لذا بنينا عملية تدقيق تحسب تلك النسبة بالضبط عبر قرارات النموذج. عادت الأرقام الإجمالية نظيفة. استقرت معدلات القبول عبر المجموعات العرقية بأريحية فوق عتبة 80%. أتذكر الارتياح في الغرفة. كنا مستعدين لتوثيقه على أنه ممتثل.
ثم سحب أحد مهندسينا حاملي القسائم إلى عمود خاص بهم.
انقلبت الصورة. فبين المتقدمين الذين يدفعون بقسائم اختيار السكن — وهي دخل حكومي مضمون — كان النموذج يرفض بمعدل يستحيل الدفاع عنه أمام أي جهة تنظيمية. لقد اجتازت قاعدة الأربعة أخماس لأن التفاوت كان مختبئاً داخل مجموعة المقبولين. وبمجرد أن فصلت المستأجرين المدعومين، كان هناك بوضوح باللون الأحمر.
يمكن لنموذج فحص أن يجتاز قاعدة الأربعة أخماس على المستوى الإجمالي وأن يظل مع ذلك يرمّز التمييز ذاته الذي وُجدت القاعدة لكشفه.
هذا تقريباً بالضبط ما حدث لشركة SafeRent. فقد منحت خوارزميتها Registry ScorePLUS حاملي القسائم درجات منخفضة لأنها رجّحت السجل الائتماني بشكل كبير دون مراعاة تدفق الدخل المضمون الذي توفره القسيمة. عامل النموذج درجة الائتمان على أنها مؤشر محايد. لكنها ليست محايدة. فدرجات FICO الوسيطة تنقسم على أسس عرقية — 727 للمتقدمين البيض، و667 للأصل اللاتيني، و627 للسود — وأكثر من نصف الأسر البيضاء يتجاوز 700 بينما نحو خمس الأسر السوداء فقط يفعل ذلك. أدخِل السجل الائتماني كخاصية أساسية وستكون بذلك تصبّ تلك التفاوتات مباشرة في معدلات قبولك.
سوّت SafeRent تلك الدعوى الجماعية بمبلغ 2.275 مليون دولار في نوفمبر 2024. الجزء الذي ينبغي أن يقضّ مضاجع الموردين ليس الرقم المالي. بل هو أن المحكمة رفضت دفاع SafeRent القائم على "المورّد المحايد" رفضاً قاطعاً. لقد جادلوا بأنهم مجرد مزوّدين للدرجة؛ وأن المالك هو من اتخذ القرار. لكن المحكمة لم تقبل ذلك. فإذا اعتمد المالك بشكل أساسي على درجة من طرف ثالث، فإن مزوّد تلك الدرجة يتحمل جزءاً من المسؤولية عن النتيجة التمييزية.
قتل ذلك الحكم افتراضاً مريحاً كنت أحمله: وهو أن كونك مورّد الأدوات، على بُعد خطوة واحدة من قرار الإيجار، يشكّل درعاً قانونياً. إنه ليس كذلك. فالنموذج هو القرار.
متى يصبح محرك التسعير لديك كارتلاً احتكارياً؟
وإليك الجزء الذي فاجأني حقاً، وهو السبب في أنني الآن أرفض تحديد نطاق أي مشروع إسكاني حول الفحص وحده.
بينما كنا منهمكين في الأثر التمييزي، كان الزلزال القانوني الأكبر يحدث على جانب التسعير — ولم يكن له أي علاقة بالعدالة. فقد جمعت منتجات إدارة الإيرادات لدى RealPage، وهي AIRM وYieldStar، أسعار إيجار غير علنية وشروط عقود إيجار وبيانات إشغال من ملاك متنافسين، ثم استخدمت تلك البيانات المجمّعة لتوليد توصيات تسعير مصمّمة لتحريك الإيجارات، على حد تعبير وزارة العدل، "في تناغم".
لم تتعامل وزارة العدل مع ذلك على أنه مشكلة خصوصية أو مشكلة عدالة. بل تعاملت معه على أنه كارتل المحور والأذرع بموجب المادة 1 من قانون شيرمان. كانت RealPage هي المحور. وكل مالك يغذّي بيانات المنافسين عبر المنصة كان ذراعاً. وشكل النظرية المتعلقة بمكافحة الاحتكار هو ما ينبغي استيعابه: لم يكن على أحد أن يجلس في غرفة ويتفق على تثبيت الأسعار. فالخوارزمية كانت هي الاتفاق.
وما زاد الأمر سوءاً هو الإعدادات الافتراضية للأتمتة. فقد كانت AIRM تقبل تلقائياً توصيات الأسعار الخاصة بها ضمن نطاق تغيير قدره 3% يومياً و8% أسبوعياً — ومعظم الملاك لم يمسّوا تلك الإعدادات قط. كانت الخوارزمية عملياً تحدد الإيجارات دون أي تدخل بشري. وقد قدّر تحليل ProPublica، المشار إليه في مذكرات وزارة العدل، التكلفة على المستأجرين بنحو 70 دولاراً شهرياً، أي نحو 4% من الإيجار، بإجمالي يقارب 3.8 مليار دولار من التكاليف الإيجارية الإضافية في عام 2023 وحده.
الملاك هم من دفعوا الثمن. سوّت Greystar بمبلغ 50 مليون دولار إضافةً إلى 7 ملايين دولار أخرى للولايات. وBH Management بمبلغ 15 مليون دولار. وSimpson Property Group بمبلغ 6.5 مليون دولار. أضِف الأصغر منها وستتجاوز 140 مليون دولار من تسويات الدعاوى الجماعية ضد الملاك بحلول أكتوبر 2025. ودفعت FPI Management 2.8 مليون دولار لمجرد استخدامها أداة التسعير الخاصة بـ Yardi. خوارزمية المورّد؛ ومسؤولية المشغّل.
لذا فإن الشركة التي كانت جالسة أمامي لم تكن تواجه ملف مخاطر واحداً. بل كانت تواجه التعرّض لأثر تمييزي بموجب قانون الإسكان العادل على جانب الفحص، والتعرّض لمكافحة الاحتكار بموجب قانون شيرمان على جانب التسعير، في آنٍ واحد، من نظامين كان مهندسوها أنفسهم يعتبرونهما "الذكاء الاصطناعي".
ما الذي كسب القضية فعلاً: البنية، لا النية
لفترة من الوقت افترضت أن مشكلة التسعير تدور حول السلوك — لا تجمّع بيانات المنافسين، لا تقبل تلقائياً، وثّق نواياك الحسنة. ثم قرأت كيف انتصرت Yardi فعلاً.
في قضية ولاية كاليفورنيا، حصلت Yardi على حكم مستعجل لصالحها. ليس لأنها جادلت بأن قلوبها كانت نقية، بل لأن منتجها Revenue IQ كان قادراً على أن يثبت شيئاً بنيوياً: فهو "لا يستخدم، وبحكم تصميمه لا يمكنه أن يستخدم، أي معلومات تسعير سرية لأي عميل لصالح أي عميل آخر". كانت البيانات معزولة على مستوى النظام. لم يكن التلوّث بين العملاء مجرد مخالفة للسياسة — بل كان مستحيلاً بنيوياً.
أعاد ذلك السطر الواحد تنظيم طريقة تفكيري في هندسة الامتثال.
عزل البيانات ليس وعداً تقطعه في وثيقة سياسات. بل هو خاصية يمكنك إثباتها في مخطط بنيوي.
لا تزال قضية Yardi الفيدرالية جارية، وقد سمح قاضٍ هناك بالمضي في مزاعم مكافحة الاحتكار — لذا فهذه ليست جولة انتصار خالصة. لكن التباين هو الدرس. لم يكن الموقف القابل للدفاع عنه هو النية. بل كان نظاماً، عندما طالبت جهة تنظيمية بـ"أرِني أنك لا تستطيع مشاركة بيانات المنافسين عبر العملاء"، يمكنه رسم حدود العزل على السبورة وإظهار أنه لا يوجد مسار بيانات يعبرها. معظم الفرق التي ألتقيها بنت العكس: نموذجاً مشتركاً، وبحيرة بيانات مشتركة، وعرضاً تقديمياً مليئاً بالضمانات حول كيفية استخدامها بمسؤولية.
المنطق نفسه يسري الآن عبر مرسوم الموافقة الخاص بـ RealPage الذي حصلت عليه وزارة العدل في أواخر عام 2025. تجاوز العنوان الرئيسي وستجد أن الأنياب تشغيلية: تدريب النموذج مقتصر على بيانات تاريخية عمرها 12 شهراً على الأقل. ولا يمكن للتسعير أثناء التشغيل أن يدمج إحصاءات منافسين غير علنية. وميزات "المنظِّم" التي تحدّ من تغيّرات الأسعار يجب أن تكون متماثلة — وزن متساوٍ للتخفيضات والزيادات، لا آلية سقّاطة أحادية الاتجاه نحو الأعلى. وميزات القبول التلقائي يجب أن تكون قابلة للتهيئة ويضبطها إنسان يدوياً. هذه الأخيرة أهم مما تبدو. فتدفق العمل القديم — اضبطه على 3% يومياً و8% أسبوعياً، ثم انصرف — أصبح الآن هو المخالفة بحد ذاته. تمتد التسوية سبع سنوات، دون أي عقوبة مالية ودون أي اعتراف بارتكاب خطأ، ما يخبرك أن وزارة العدل أرادت تغيير البنية، لا مجرد شيك مالي.
هذا هو الوقت الذي تحوّل فيه عملنا من تدقيق النماذج إلى هندستها. لا يمكنك تركيب هذه الخصائص لاحقاً. تقادم البيانات لمدة اثني عشر شهراً، وعزل العملاء القابل للإثبات، والمنظِّمات المتماثلة، وبوابة بشرية على القبول التلقائي — هذه قرارات تصميمية تتخذها قبل إطلاق سعر واحد، وإلا فستتقاضى بشأنها لاحقاً.
لماذا يُعدّ الامتثال للذكاء الاصطناعي في الإسكان خريطة، لا نموذجاً؟
عندما يسأل الناس عمّا نقدّمه فعلاً، فإن الإجابة الصادقة هي أن المُخرَج الأصعب ليس نموذجاً. بل هو مصفوفة تنظيمية يمكن لمسؤول الامتثال أن يأخذها إلى اجتماع داخلي ويثق بها.
الامتثال للذكاء الاصطناعي في الإسكان ليس لائحة واحدة. بل هو مزيج مرقّع يتصلّب بسرعة، والقانون الفيدرالي وقانون الولايات يتحركان في اتجاهين متعاكسين في الوقت نفسه. فيدرالياً، يضعف الإنفاذ — إذ أُزيلت إرشادات الذكاء الاصطناعي الصادرة عن HUD من الموقع الإلكتروني، وسرّحت CFPB موظفين، وكان هناك دفع تنفيذي لخفض أولوية إنفاذ الأثر التمييزي. لو كنت تراقب واشنطن فقط، لاستنتجت أن المخاطر آخذة في الانحسار.
راقب واشنطن وحدها وستظن أن المخاطر آخذة في الانحسار. لكن الولايات هي حيث تكمن المخاطر فعلاً الآن.
الولايات تروي القصة المعاكسة، وهي حيث يكمن التعرّض الآن. فقانون كاليفورنيا AB 325، الساري اعتباراً من 1 يناير 2026، يعدّل قانون كارترايت ليحظر خوارزميات التسعير "المشتركة" — المعرّفة بأنها أدوات يستخدمها طرفان أو أكثر — التي تعتمد على بيانات المنافسين، ويرفض معيار الترافع الفيدرالي الأكثر صرامة، ما يجعل من الأسهل مادياً على المدّعين الوصول إلى المحكمة. وقانون نيويورك S.7882، الساري في ديسمبر 2025، يذهب أبعد من ذلك: حظر شامل على أدوات التسعير السكني ذات "الوظيفة التنسيقية"، دون تمييز بين البيانات العلنية وغير العلنية، وحق خاص في رفع الدعوى للمستأجرين بموجب قانون دونيلي. وتطعن RealPage فيه على أساس التعديل الأول، لذا فإن الإنفاذ موقوف بانتظار حسم ذلك النزاع — لكن لا يحق لك أن تفترض أنك ستكسب قضية دستورية تخص شخصاً آخر. وقانون كولورادو SB 205، الساري اعتباراً من 30 يونيو 2026، يصنّف فحص المستأجرين على أنه "قرار مصيري" ويطالب بتقييمات أثر سنوية، وبرامج لإدارة المخاطر، وإفصاحات عن القرارات السلبية تصف كيف ساهم الذكاء الاصطناعي، وما البيانات التي استخدمها، وكيف يمكن للمتقدم أن يطعن.
وتحت كل ذلك يجري قانون فيدرالي تنسى معظم الفرق أنه مطروح أصلاً: قانون الإبلاغ الائتماني العادل (FCRA). فأي درجة خوارزمية تعمل كتقرير للمستهلك يجب أن تمتثل لعملية الإجراء السلبي المكوّنة من خطوتين في FCRA — ما يعني أنه عندما يرفض نموذجك شخصاً ما، فأنت مدين له بأسباب محددة، لا بـ"الخوارزمية قالت لا". هذا الشرط الواحد يتعارض مع نموذج فحص من نوع الصندوق الأسود، وهو السبب في أن نموذج إشعار الإجراء السلبي هو أحد أوائل المستندات التي أطلب رؤيتها.
هناك تفصيل في AB 325 يغيّر بهدوء كل حسابات البناء: فهو لا يطال إلا الأدوات التي يستخدمها اثنان أو أكثر من الأطراف. فالمنتج المشترك متعدد المستأجرين للتسعير يقع تماماً ضمن النطاق. أما النموذج المصمّم خصيصاً لمشغّل واحد فلا. واللائحة، في الواقع، تدفع لك مقابل التخلي عن بنية البرمجيات كخدمة (SaaS) القائمة على البيانات المجمّعة التي خلقت مشكلة مكافحة الاحتكار في المقام الأول.
وبالنسبة لأي شخص لديه مستأجرون أوروبيون، فإن قانون الذكاء الاصطناعي في الاتحاد الأوروبي يعامل كلاً من الفحص والتسعير على أنهما استخدامان عاليا المخاطر، بغرامات تصل إلى 35 مليون يورو أو 7% من رقم الأعمال العالمي — والتزاماته عالية المخاطر تدخل حيّز التنفيذ تدريجياً عبر عامي 2025 و2026، لذا فإن العدّاد قد بدأ بالفعل لأي مشغّل لديه تعرّض في الاتحاد الأوروبي. أضِف عقوبات الإسكان العادل فوق ذلك — 26,262 دولاراً عن المخالفة الأولى، وحتى 131,308 دولارات عن المخالفات المتكررة بموجب تعديلات عام 2025 — وستجد أن تكلفة الوقوع في خطأ قراءة الخريطة ليست نظرية.
أحتفظ بجدول بيانات واحد لهذا الغرض، مرمّز بالألوان حسب تاريخ السريان، لأن السؤال الذي يطرحه المستشار القانوني العام فعلاً ليس "هل نحن ممتثلون؟". بل هو "أيٌّ من هذه سارٍ في الولايات التي نعمل فيها، وما الذي يتطلبه كل منها تحديداً؟". وإنتاج تلك الإجابة، بشكل قابل للدفاع عنه، لبصمة مشغّل معيّن، هو معظم القيمة.
منصات حوكمة الذكاء الاصطناعي الأفقية — Credo AI وHolistic AI وFairNow وغيرها — جيدة حقاً في إدارة السياسات ومراقبة العدالة، لكنها مبنية لتكون محايدة تجاه القطاعات. لا أحد منها يربط نموذج فحص المستأجرين بإرشادات HUD، وقاعدة الأربعة أخماس، والإجراء السلبي في FCRA، والوضع المتعلق بمكافحة الاحتكار لمحرك التسعير الخاص بك في الوقت نفسه. ذلك التقاطع هو العمل بأكمله في مجال الإسكان، وهو بالضبط ما تتركه لك الأداة العامة الغرض. لقد بنينا ممارسة الامتثال للذكاء الاصطناعي في الإسكان حول تقديم تلك الخريطة بالضبط جنباً إلى جنب مع النماذج المدقّقة — لأن النموذج بلا قيمة إذا لم تستطع أن تخبر مجلس الإدارة بأي قانون يُحاكم بموجبه.
ألا يمكنك ببساطة إزالة السمات المحمية؟
هذا هو الاعتراض الذي أسمعه أكثر من غيره، وهو خاطئ بطريقة مثيرة للاهتمام. الحدس يقول: أزِل العِرق، أزِل الجنس، ولن يستطيع النموذج التمييز. لكن درجة الائتمان، وسجل الإخلاء، وبيانات السجل الجنائي كلها متغيرات بديلة تعيد التفاوت من جديد — وهذا بالضبط كيف أنتج ترجيح الائتمان "المحايد" لدى SafeRent انحرافاً عرقياً دون أن يرى العِرق قط.
الأداة الحقيقية أقل شهرة وأكثر قوة: بحث عن البديل الأقل تمييزاً، أو LDA. تنبع الفرضية من ملاحظة أنه بالنسبة لأي مسألة تنبؤ معيّنة، لا يوجد نموذج واحد — بل توجد ملايين النماذج التي تحقق دقة متساوية تقريباً لكن بملامح عدالة مختلفة اختلافاً هائلاً. لذا تستخدم البرمجة الصحيحة — من النوع الذي تشغّله أدوات الحل الاستقصائي الشامل مثل CPLEX أو Gurobi — للبحث في ذلك الفضاء بأكمله ورسم المفاضلة بين الدقة والأثر التمييزي على شكل حدود باريتو. عندئذٍ يمكنك أن تُظهر، بالأدلة، أنك لم تختر مجرد نموذج ناجح؛ بل اخترت النموذج الأقل تمييزاً الذي ما زال يستوفي معيار أدائك.
دعت CFPB صراحةً إلى "اختبار منتظم للأثر التمييزي، بما في ذلك البحث عن بدائل أقل تمييزاً". وهذا ناضج في الإقراض العادل. لكن لا أحد تقريباً يقدّمه للإسكان. فعندما تسأل جهة تنظيمية لماذا اخترت النموذج الذي اخترته، فإن "كان دقيقاً" ليس دفاعاً — بل هو الثغرة التي يمرّر المدّعي عبرها دعوى الأثر التمييزي. أما "ها هي الحدود، وها هي النقطة التي اخترناها ولماذا" فهي الإجابة التي تصمد أمام الاستجواب.
التأجير الوكيلي: أين ينهار الامتثال للذكاء الاصطناعي في الإسكان تالياً
السبب الذي يجعلني أعتقد أن هذا يزداد صعوبة، لا سهولة، موجود بالفعل في نحو واحدة من كل اثنتي عشرة وحدة سكنية متعددة العائلات في الولايات المتحدة: ذكاء اصطناعي وكيلي للتأجير.
الموجة التالية من برمجيات إدارة العقارات ليست درجة فحص أو توصية سعرية. بل هي وكلاء ذاتيون يتلقّون الاستفسارات، ويجدولون الجولات، ويجرون فحصاً أولياً للمتقدمين، ويتفاوضون على شروط الإيجار دون أي تدخل بشري. تزعم إحدى المنصات تحقيق خفض بنسبة 65% في زمن التحول من عميل محتمل إلى عقد إيجار. الكفاءة حقيقية. وكذلك التعرّض للمخاطر.
كل قرار يتخذه وكيل ذاتي هو انتهاك محتمل لقانون الإسكان العادل أو نقطة تماس لمكافحة الاحتكار. فالوكيل الذي يغيّر جودة استجابته حسب التركيبة السكانية للمتقدم، أو يوجّه متقدمين معينين نحو مبانٍ معينة، أو يطبّق تنازلات سعرية بشكل غير متكافئ، يولّد مسؤولية تتضخم مع كل تفاعل على حدة — بسرعة الآلة، عبر آلاف المحادثات، دون وجود إنسان يمكنه لاحقاً أن يقول "كنت سألتقط ذلك". بنية الامتثال للتأجير الوكيلي لا وجود لها بعد، تماماً كما أن بنية عزل البيانات للتسعير بالكاد كانت موجودة إلى أن احتاجها محامو Yardi.
تلك هي الحدود التي نبني نحوها الآن. ليست لوحة معلومات للعدالة مركّبة على نموذج درّبه شخص آخر، بل أنظمة يمكن فيها لمنطق الفحص أن يصمد أمام تدقيق مفصّل للأربعة أخماس، ويمكن فيها لمنطق التسعير أن يثبت عزل العملاء في مخطط بنيوي، وتترك فيها كل قرار يتخذه وكيل ذاتي سجلاً يمكن لجهة تنظيمية أن تقرأه. الصورة الكاملة لكيفية تعاملنا مع ذلك موجودة على صفحتنا الخاصة بالامتثال للذكاء الاصطناعي في الإسكان.
دخلت هذا المجال ظنّاً مني أن مهمتي هي جعل خوارزمية واحدة عادلة. أما ما سأقوله لأي مشغّل عقاري الآن فهو أبسط وأصعب: أنت تشغّل خوارزميتين، وستحكم المحكمة على كل واحدة منهما بموجب تشريع مختلف ربما لم تسمع مهندسيك أنفسهم يذكرونه قط. تعلّم محامو SafeRent أن درجة الائتمان ليست محايدة. وتعلّم محامو RealPage أن الخوارزمية يمكن أن تكون مؤامرة. وأرخص مكان لتعلّم كلا الدرسين هو السبورة — قبل أن تقف جهة تنظيمية عند سبورتك وتطلب منك أن ترسم حدود العزل وتثبت أنه لم تعبرها أي بيانات قط.
