الخوارزمية التي التهمت مدينة: ما علّمني إياه انهيار الشرطة التنبّؤية عن بناء ذكاء اصطناعي يستحق الثقة

كنت جالساً في قاعة اجتماعات أواخر عام 2023، أشاهد عميلاً محتملاً يعرض أداة الذكاء الاصطناعي الداخلية الخاصة به — روبوت محادثة أعدّوه لمساعدة فريق الامتثال لديهم على رصد المخاطر في المستندات المالية. كانت الواجهة أنيقة. وكانت الردود سريعة. ونحو واحدة من كل أربع إجابات كانت خاطئة بثقةٍ وعلى نحوٍ خطير.

وعندما أشرت إلى هلوسة — إذ اختلق النموذج استشهاداً تنظيمياً لا وجود له — هزّ نائب رئيس قسم الهندسة كتفيه قائلاً: "نعم، نحن على علمٍ بذلك. ونأمل أن يُصلحه تحديث النموذج القادم."

بلورت تلك اللحظة شيئاً كنت أفكّر فيه منذ أشهر. كان عالم الشركات يسير نائماً نحو الفخّ نفسه الذي سبق أن دمّر ثقة الجمهور في أعمال الشرطة المعتمدة على الذكاء الاصطناعي في أنحاء أمريكا. ليس لأن التكنولوجيا شريرة في جوهرها، بل لأن من ينشرونها قد خلطوا بين امتلاك نظام ذكاء اصطناعي وبين حوكمة نظامٍ كهذا.

في Veriprajna، نبني حلول ذكاء اصطناعي عميقة لبيئات المؤسسات عالية المخاطر. لكن لكي أشرح لماذا نبنيها بالطريقة التي نتّبعها — بالحوكمة المدمجة منذ اليوم الأول، وبالقابلية للتفسير كشرطٍ غير قابل للتفاوض، وبقيود العدالة الرياضية المنسوجة في عملية التدريب — عليّ أن آخذك أولاً إلى مكانٍ غير مريح. عليّ أن آخذك إلى شيكاغو.

56% من الشبان السود في مدينة، وضعت آلةٌ علامةً عليهم

كان يُفترض أن تكون "قائمة الأشخاص الاستراتيجيين" في شيكاغو — التي تُسمّى داخلياً "قائمة الخطر الساخنة" — مستقبل أعمال الشرطة الذكية. فبدلاً من إغراق الأحياء برجال الشرطة، كانت الخوارزمية تحدّد أفراداً بعينهم هم الأكثر احتمالاً للتورّط في عنف السلاح، سواء كجناة أو ضحايا. الدقة بدل القوة الغاشمة. والبيانات بدل الحدس.

تضخّمت القائمة لتضمّ أكثر من 400,000 شخص.

دع هذا الرقم يستقرّ في ذهنك لحظة. ففي مدينةٍ يبلغ عدد سكانها 2.7 مليون نسمة، قرّرت الخوارزمية أن 400,000 فرد يستحقّون وضع علامة عليهم. وكانت التركيبة السكانية مذهلة: 56% من الرجال السود في شيكاغو الذين تتراوح أعمارهم بين 20 و29 عاماً انتهى بهم المطاف على تلك القائمة. وفي حي وست غارفيلد بارك، وُضِعت علامة على 73% من الذكور السود الذين تتراوح أعمارهم بين 10 و29 عاماً. وكان ستة وتسعون بالمئة من الأفراد الذين صنّفهم النظام على أنهم "أعضاء عصابات مشتبه بهم" من السود أو اللاتينيين.

وإليك ما صدم عقلي حين تعمّقت أول مرة في بيانات التدقيق: 57% من الأهداف ذات الأولوية لدى الخوارزمية لم يُعتقلوا قط بتهمة جريمة عنيفة. كان النظام يجمع مخالفاتٍ بسيطة — أموراً من قبيل حيازة كميات ضئيلة من المخدرات أو الإخلال بالنظام العام — ويعاملها كإشاراتٍ تنبّؤية بعنفٍ مسلّح مستقبلي. لقد كان يستخدم آلة الإفراط في أعمال الشرطة كدليلٍ لتبرير مزيدٍ من أعمال الشرطة.

حين تعامل الخوارزمية عواقب التحيّز كدليلٍ على أن التحيّز مبرَّر، فأنت لا تملك محرّك تنبّؤ. بل تملك آلة تمييزٍ تعمل على الطيّار الآلي.

وثّق مكتب المفتّش العام في شيكاغو في نهاية المطاف ما ظلّت العديد من المنظمات المجتمعية تصرخ به لسنوات: كانت قائمة SSL متحيّزة على أسسٍ عرقية وغير فعّالة إلى حدٍّ كبير في خفض معدّلات القتل. وقد أُوقف العمل بها أواخر عام 2019، لكن ليس قبل أن تكون قد أرسلت رجال الشرطة في زياراتٍ غير معلنة إلى آلاف الأشخاص الذين كانت "جريمتهم" الوحيدة هي العيش في حيٍّ قرّرت الخوارزمية أنه خطير.

لماذا فشل نموذج الزلازل في التنبّؤ بالجريمة؟

وعلى بُعد ثلاثة آلاف ميل غرباً، كانت شرطة لوس أنجلوس (LAPD) تُجري تجربتها الخاصة. فقد استخدمت Geolitica — المعروفة سابقاً باسم PredPol — نموذجاً صُمِّم في الأصل للتنبّؤ بالهزّات الارتدادية للزلازل. كان المنطق مُغرياً: فكما تتجمّع الهزّات في المكان والزمان، تتبع أنواعٌ معيّنة من الجريمة أنماطاً مكانية-زمانية قابلة للتنبّؤ. أطعِم الخوارزمية بيانات الحوادث التاريخية — الموقع والوقت ونوع الجريمة — وستولّد "صناديق بؤرٍ ساخنة" مساحتها 500 في 500 قدم مربّع تخبر رجال الشرطة أين يقومون بالدوريات.

أذكر أنني قرأت التوثيق التقني وفكّرت: هذا أنيق. كانت الرياضيات نظيفة. وكانت الواجهة بديهية. أما النتائج فكانت كارثية.

كشف تدقيقٌ أجراه المفتّش العام لشرطة لوس أنجلوس عام 2019 عن "تناقضاتٍ كبيرة" في إدخال البيانات. فقد كان رجال الشرطة يسجّلون وقت الدوريات في مرافق الشرطة بدلاً من الميدان، ملوّثين بذلك بيانات البؤر الساخنة. ولم يستطع النظام عزل تأثيره الخاص عن اتجاهات أعمال الشرطة الأوسع. وفي ولاياتٍ قضائية مماثلة مثل بلينفيلد بولاية نيو جيرسي، وُثِّق معدّل نجاح التنبّؤ عند أقل من 1%.

أقل من واحد بالمئة. كانت رمية عملةٍ معدنية ستكون أكثر فائدة.

لكن المشكلة الأعمق لم تكن الدقة — بل كانت حلقة التغذية الراجعة. فحين تضع الخوارزمية علامة على حيٍّ غالبية سكانه من السود أو اللاتينيين كبؤرةٍ ساخنة، يذهب إليه مزيدٌ من رجال الشرطة. ومزيدٌ من رجال الشرطة يعني مزيداً من عمليات الإيقاف. ومزيدٌ من عمليات الإيقاف يعني مزيداً من الاعتقالات بسبب مخالفاتٍ بسيطة لم تكن لتُطبَّق في مناطق أكثر ثراءً وأكثر بياضاً. وتعود تلك الاعتقالات الجديدة لتتدفّق إلى بيانات التدريب بوصفها "دليلاً" على ارتفاع معدّل الجريمة، فتكثّف الخوارزمية بإخلاصٍ تنبّؤاتها للحيّ نفسه.

كشفت بيانات قانون كاليفورنيا لمكافحة التنميط العرقي والهُوياتي (RIPA) هذا الأمر بأرقامٍ يصعب الجدال فيها: فقد أُوقف الأفراد السود بمعدّلٍ أعلى بنسبة 126% ممّا هو متوقّع بناءً على حصّتهم من السكان. وأجرى رجال الشرطة 4.7 مليون عملية إيقافٍ للمركبات والمشاة عام 2023. وإليك المفاجأة الصادمة — فعندما فتّش رجال الشرطة الأفراد السود واللاتينيين بمعدّلاتٍ أعلى، كانوا باستمرار أقل احتمالاً للعثور على موادّ مهرّبة مقارنةً بعمليات تفتيش الأفراد البيض.

كانت البيانات تخبرنا، بلغةٍ إحصائية واضحة، أن النظام كان مخطئاً. ومع ذلك ظلّ النظام يعمل رغم كل شيء.

أنهت شرطة لوس أنجلوس أخيراً علاقتها بـ Geolitica في أوائل عام 2024. وقد كتبت عن التداعيات الأوسع لهذه الإخفاقات — وما تعنيه لبنية الذكاء الاصطناعي المؤسسي — في النسخة التفاعلية من بحثنا.

ماذا يحدث حين لا يستطيع أحدٌ فتح الصندوق الأسود؟

ثمة مصطلح في فلسفة العلوم ظلّ يتكرّر في بحثي: الغموض المعرفي. ويعني أن النظام بالغ التعقيد إلى درجة أن حتى القائمين على تشغيله لا يستطيعون أن يفهموا فهماً كاملاً كيف يصل إلى استنتاجاته.

كانت معظم أنظمة الشرطة التنبّؤية صناديق سوداء مملوكة لجهاتٍ خاصة. فالمدخلات المحدّدة من البيانات، والعوامل التي جرى ترجيحها، ومنطق التنبّؤات — كلها مخفيّة بوصفها أسراراً تجارية. وكثيراً ما عجزت أقسام الشرطة التي تستخدم هذه الأدوات عن تفسير لماذا وُضِعت علامة على شخصٍ بعينه أو حيٍّ بعينه، حتى حين طالبت منظمات الحريات المدنية بإجابات.

هذه ليست مشكلة شُرطية فحسب. إنها نقطة الضعف الجوهرية في الطريقة التي تنشر بها معظم المؤسسات الذكاء الاصطناعي في الوقت الراهن.

أفكّر في روبوت محادثة الامتثال ذاك الذي شاهدت عرضه. لم يستطع نائب رئيس قسم الهندسة أن يخبرني أي المستندات استرجعها النموذج فعلاً لتوليد إجابته. ولم يستطع أن يفسّر لماذا اختلق استشهاداً تنظيمياً. ولم يستطع أن يخبرني ما إذا كان النظام سيعطي إجابةً مختلفة غداً لو طُرح السؤال نفسه. وكانت خطته أن ينتظر أن تطرح OpenAI نموذجاً أفضل.

تلك ليست استراتيجية ذكاء اصطناعي. بل هي دعاء.

حلقة التغذية الراجعة الجامحة ليست مشكلة شُرطية فحسب

وهنا حيث أحتاج إلى إقامة الرابط الذي أعتقد أن معظم العاملين في مجال الذكاء الاصطناعي المؤسسي يغفلون عنه.

حلقة التغذية الراجعة التي دمّرت الشرطة التنبّؤية — حيث تولّد المخرجات المتحيّزة بيانات تدريبٍ متحيّزة، تولّد بدورها مزيداً من المخرجات المتحيّزة — ليست حكراً على إنفاذ القانون. إنها خاصية بنيوية لأي نظام ذكاء اصطناعي يتعلّم من بيئة تشغيله الخاصة دون تحقّقٍ مستقل.

فكّر في أداة توظيفٍ مدعومة بالذكاء الاصطناعي تفرز السير الذاتية. إن دُرّبت على بيانات توظيفٍ تاريخية من شركة وظّفت الرجال في الأغلب لأدوار الهندسة، فستتعلّم أن تربط اللغة ذات الطابع الذكوري بـ"المرشّحين الجيّدين". وستخفض ترتيب النساء. وستوظّف الشركة عدداً أقل من النساء. وستعود بيانات التوظيف تلك لتغذّي دورة التدريب التالية، فيتعمّق التحيّز.

أو تأمّل نموذج اكتتابٍ مالي مدرّباً على موافقات قروضٍ تاريخية. إن كان موظّفو القروض السابقون أكثر ميلاً للموافقة على الطلبات الواردة من رموزٍ بريدية معيّنة — رموزٍ بريدية يصادف أنها ترتبط بالعرق بسبب عقودٍ من التمييز العقاري (redlining) — فسيتعلّم النموذج تلك الأنماط. وسيرفض منح القروض لمتقدّمين مؤهّلين من تلك المناطق. وستصبح تلك الرفوضات بيانات تدريب. وتستمرّ الدورة.

أخطر أنظمة الذكاء الاصطناعي ليست تلك المعطوبة بشكلٍ واضح. بل هي تلك التي تعمل بكفاءةٍ كافية تماماً لتفادي التدقيق، بينما تُرمِّز بهدوءٍ تحيّزات بيانات تدريبها في قراراتٍ آلية على نطاقٍ واسع.

لهذا أشعر بالإحباط حين أسمع قادة المؤسسات يتحدّثون عن حوكمة الذكاء الاصطناعي بوصفها "أمراً مستحسناً" أو مبادرة من "المرحلة الثانية". فالحوكمة ليست ميزةً تركّبها بعد الإطلاق. إنها البنية نفسها.

لماذا تفشل أغلفة نماذج اللغة الكبيرة (LLM) في البيئات عالية المخاطر؟

دعني أكون صريحاً بشأن أمرٍ ما: عصر الأغلفة البسيطة لنماذج LLM يقترب من نهايته، ومعظم المؤسسات لم تدرك ذلك بعد.

غلاف نموذج LLM — طبقة رقيقة من هندسة الأوامر وواجهة استخدامٍ أنيقة فوق نموذجٍ أساسي مثل GPT-4 أو Claude — يعمل جيّداً لصياغة رسائل البريد الإلكتروني وتلخيص ملاحظات الاجتماعات. لكنه لا يصلح للمراجعة القانونية، أو الامتثال المالي، أو الفرز الطبي، أو أي مجالٍ تكون فيه الإجابة الخاطئة ذات عواقب جوهرية.

لقد اختبرنا هذا بصرامة في Veriprajna. ففي فرز الثغرات الأمنية — وهو مجالٌ تحتاج فيه إلى التمييز بين خللٍ بسيط وثغرةٍ حرجة قابلة للاستغلال — حقّق غلاف LLM ساذج دقةً تبلغ نحو 51%. وهذا بالكاد أفضل من العشوائية. فقد افتقر النموذج إلى الأدوات المتخصّصة والمعرفة المجالية اللازمة لإجراء تمييزاتٍ ذات معنى. وكانت لديه مشكلة أخرى بدأت أسمّيها ظاهرة "الجلوس على السياج": فمواءمات السلامة المدمجة في النماذج الأساسية جعلتها مترددة في اتخاذ مواقف حازمة في الحالات الغامضة. وفي سياق الفرز، الغموض هو المهمة برمّتها. فالذكاء الاصطناعي الذي يراوغ في كل حالةٍ حدّية لا يعزّز فريقك — بل يخلق مزيداً من العمل.

أما بنيتنا المتعدّدة الوكلاء، في المقابل — بوكلائها القابلين للتركيب، وسير العمل المنظّم، وقواعد المعرفة الخاصة بالمجال — فقد بلغت دقة 89% على المعايير المرجعية نفسها. ليس لأننا استخدمنا نموذجاً "أفضل"، بل لأننا بنينا نظاماً بدلاً من غلاف.

ذلك الفرق — 51% مقابل 89% — هو الفرق بين ذكاءٍ اصطناعي يولّد نصّاً معقولاً وذكاءٍ اصطناعي يستدلّ فعلاً بشأن مجالٍ ما.

كيف تبدو العدالة الرياضية في الواقع؟

من الأشياء التي تعلّمتها وأنا أبني Veriprajna أن "العدالة" في الذكاء الاصطناعي لا يمكن أن تكون مجرّد إحساس. بل يجب أن تكون رقماً.

حين نبني أنظمة لبيئاتٍ عالية المخاطر، نعرّف العدالة رياضياً ونراقبها باستمرار. وثمة مقياسان هما الأهمّ:

التكافؤ الديموغرافي يطرح السؤال: هل احتمال الحصول على نتيجةٍ إيجابية مستقلٌّ عن سمةٍ محميّة كالعرق أو الجنس؟ فإن كان الذكاء الاصطناعي للتوظيف لديك يوافق على 60% من المتقدّمين الذكور و35% من المتقدّمات الإناث، فقد رسبت في هذا الاختبار.

تكافؤ الاحتمالات يتعمّق أكثر: هل معدّلات الإيجابيات الصحيحة ومعدّلات الإيجابيات الكاذبة متساوية عبر المجموعات؟ وهذا مهمّ لأن النظام قد يحقّق التكافؤ الديموغرافي عبر الموافقة عشوائياً على مزيدٍ من الطلبات من المجموعات الممثَّلة تمثيلاً ناقصاً — دون أن يصبح فعلياً أفضل في تحديد المرشّحين المؤهّلين.

يحتاج كلا المقياسين إلى المراقبة في آنٍ واحد، ولا يكفي أيٌّ منهما بمفرده. ولهذا تعمل استراتيجيتنا للتخفيف من التحيّز عبر دورة حياة الذكاء الاصطناعي بأكملها: إعادة ترجيح بيانات التدريب قبل أن يراها النموذج على الإطلاق، ودمج قيود العدالة مباشرةً في عملية التدريب عبر تقنياتٍ مثل إزالة التحيّز الخصومي، ومعايرة عتبات القرار بعد التدريب لضمان نتائج منصفة عبر المجموعات الديموغرافية.

أعلم أن هذا يبدو تقنياً. لكن إليك النسخة المبسّطة: إن لم تستطع التعبير عن معايير عدالتك في صورة معادلةٍ رياضية، فأنت لا تملك معايير عدالة. بل تملك بياناً صحفياً.

الموجة التنظيمية التي لا تستعدّ لها معظم الشركات

بينما انشغلت المؤسسات بتجربة روبوتات المحادثة، انشغل المنظّمون بكتابة القوانين.

تحرّكت أكثر من 40 مدينة أمريكية لحظر الشرطة التنبّؤية والتقنيات المرتبطة بها كالتعرّف على الوجوه أو تقييدها بصرامة. وكانت سان فرانسيسكو الأولى عام 2019. ثم تبعتها بوسطن وبورتلاند وسانتا كروز. وفي مارس 2024، أصدر البيت الأبيض سياسةً بارزة تُلزم الوكالات الفيدرالية بإجراء اختباراتٍ مستقلة وتقييمات أثرٍ إلزامية لأي أنظمة ذكاء اصطناعي تمسّ الحقوق.

هذه ليست مشكلة حكومية فحسب. فقانون الذكاء الاصطناعي الأوروبي (EU AI Act)، وإطار إدارة مخاطر الذكاء الاصطناعي من NIST، ومعيار ISO 42001 — كل هذه الأطر تتقارب نحو رسالةٍ واحدة: إن نشرت ذكاءً اصطناعياً في قراراتٍ عالية المخاطر، فسيُطلب منك أن تُثبت أنه عادل، وأن تشرح كيف يعمل، وأن تبرهن أنك تراقبه باستمرار.

المؤسسات التي لديها بنية تحتية للحوكمة قائمة ستتكيّف. أما تلك التي بنت أغلفة LLM وسمّتها "استراتيجية ذكاء اصطناعي" فستتخبّط.

لقد شهدت هذا النمط من قبل، في الأمن السيبراني. فالشركات التي عاملت الأمن كأمرٍ لاحق أمضت سنوات وهي تحاول اللحاق بالركب حين حلّت اللوائح التنظيمية. أما تلك التي دمجت الأمن في بنيتها منذ البداية فبالكاد لاحظت شيئاً. وحوكمة الذكاء الاصطناعي تسلك المسار نفسه، لكن بوتيرةٍ أسرع.

للاطّلاع على التفصيل التقني الكامل لكيفية مواءمتنا إطار الحوكمة لدينا مع NIST وISO 42001 وقانون الذكاء الاصطناعي الأوروبي، انظر ورقتنا البحثية.

"استخدم GPT فحسب" وأخطاء أخرى باهظة الثمن

يسألني الناس طوال الوقت لماذا لا ينبغي للمؤسسات أن تكتفي باستخدام نموذجٍ أساسي مع بعض هندسة الأوامر وتعتبر الأمر منتهياً. والجواب هو السبب نفسه الذي كان ينبغي لأجله ألا تستخدم شرطة لوس أنجلوس نموذج زلازل للتنبّؤ بالجريمة.

الأداة ليست هي المشكلة. بل الافتراض هو المشكلة.

الافتراض هو أن نظاماً عام الأغراض — سواء أكان خوارزمية علم زلازل أم نموذج لغةٍ كبيراً مدرّباً على الإنترنت — يمكن إسقاطه في مجالٍ متخصّص عالي المخاطر دون تغييراتٍ بنيوية جوهرية. دون طبقات استدلال خاصة بالمجال. دون قابلية للتفسير. دون مراقبة مستمرة للتحيّز. دون حوكمة.

لقد جرى اختبار ذلك الافتراض. ففي أعمال الشرطة، دمّر ثقة الجمهور، وألحق الضرر بمئات الآلاف من الناس، وأشعل ردّة فعلٍ تنظيمية على مستوى البلاد. أما في الذكاء الاصطناعي المؤسسي، فتتكشّف العواقب بهدوءٍ أكبر — في استشهاداتٍ قانونية مهلوَسة، وفي قرارات توظيفٍ متحيّزة، وفي إخفاقات امتثالٍ لن تظهر إلى العلن حتى يجبرها تدقيقٌ أو دعوى قضائية على الظهور.

السؤال ليس ما إذا كان ذكاؤك الاصطناعي سيرتكب خطأ. السؤال هو ما إذا كنت ستعرف حين يفعل — وما إذا كنت قد بنيت البنية اللازمة لاكتشافه قبل أن تتراكم عواقبه.

في Veriprajna، لا نبدأ بنموذج. بل نبدأ بالبيانات. ندقّقها من حيث الجودة وإمكانية الوصول والتحيّز التاريخي قبل تدريب معاملٍ واحد. ونبني بنى متعدّدة الوكلاء حيث تستطيع طبقات الاستدلال المتخصّصة إجراء بحثٍ عميق بدلاً من الاعتماد على استدعاءاتٍ بلا أمثلة (zero-shot) لنموذجٍ عام الأغراض. وننفّذ تحقّقاً بالذكاء الاصطناعي القابل للتفسير بحيث يمكن تتبّع كل قرار واستجوابه والدفاع عنه. ونراقب باستمرار — ليس من أجل الدقة فحسب، بل من أجل انحراف العدالة، لأن ما كان منصفاً قبل ستة أشهر قد لا يكون منصفاً اليوم إذا تغيّر توزيع البيانات الأساسي.

هذا ليس أكثر كلفةً من نهج الغلاف. بل هو أقل كلفة — لأن كلفة نشر نظام ذكاء اصطناعي غير محكوم في بيئةٍ عالية المخاطر لا تُقاس بساعات الهندسة. بل تُقاس بالدعاوى القضائية، والغرامات التنظيمية، والضرر بالسمعة، والكلفة البشرية لقراراتٍ آلية لا يستطيع أحدٌ تفسيرها أو الدفاع عنها.

الغرفة التي يحدث فيها الأمر

أريد أن أختم بلحظةٍ ما زالت عالقة في ذهني.

كنا منهمكين في بناء طبقة استدلالٍ جديدة لعميلٍ في قطاع الخدمات المالية. وكان الفريق قد ظلّ يتجادل ليومين حول ما إذا كان ينبغي إعطاء الأولوية للدقة أم للقابلية للتفسير في وحدةٍ برمجية بعينها — أحد تلك الجدالات التي يكون فيها الجميع محقّاً من الناحية التقنية، ويكون السؤال الحقيقي عن القيم، لا عن الهندسة.

قال كبير مهندسيّ في النهاية شيئاً أسكت الغرفة: "إن لم نستطع أن نفسّر لماذا رفض هذا النموذج منح شخصٍ قرضاً، فإننا لم نبنِ نظام ذكاء اصطناعي. بل بنينا نسخةً أكثر كفاءة من المشكلة التي استُؤجرنا لحلّها."

كانت محقّة. وقد أصبحت تلك الجملة أقرب ما تكون إلى مبدأ تصميمٍ لكل ما نبنيه.

إخفاقات الشرطة التنبّؤية — الـ400,000 شخص على قائمة الخطر الساخنة في شيكاغو، ودقة أقل من 1% في بلينفيلد، وحلقات التغذية الراجعة التي حوّلت العنصرية التاريخية إلى يقينٍ رياضي — ليست حكاياتٍ تحذيرية من صناعةٍ مختلفة. إنها أوضح معاينةٍ ممكنة لما يحدث حين تنشر ذكاءً اصطناعياً دون البنية اللازمة لكسب الثقة.

السبيل إلى الأمام ليس التخلّي عن الذكاء الاصطناعي. بل التوقّف عن معاملة الحوكمة كعبءٍ إضافي والبدء بمعاملتها كالمنتَج نفسه. المؤسسات التي تفهم هذا ستبني أنظمة تصمد أمام التدقيق. أما تلك التي لا تفهمه فستتعلّم الدرس الذي تعلّمته شرطة لوس أنجلوس، وتعلّمته شرطة شيكاغو، والذي سيتعلّمه في النهاية روبوت محادثة الامتثال ذاك: نظام الذكاء الاصطناعي الذي يفتقر إلى النزاهة ليس أداة. بل هو عبءٌ خطِر بواجهةٍ أنيقة.