Preuves issues de la démonstration
Le compromis reste visible de la référence jusqu'à la recommandation.
Ces écrans montrent la démonstration locale réelle sur son jeu de données synthétique fixe.
Conformité de l'IA pour le logement
Equora transforme une disparité mesurée en une recherche reproductible d'alternative à moindre disparité, tout en gardant en vue le coût en précision, la preuve décisionnelle exacte et le filtre de publication (release gate).
0.694 to 0.875
Évolution du DIR pour le groupe le plus défavorisé
Jeu de données synthétique fixe
480
Configurations évaluées
Recherche bornée à sélectivité égale
0.36%
Coût en précision mesuré
AUC 0.7823 to 0.7788
Tous les résultats principaux présentés ici proviennent d'un ensemble synthétique fixe de 9,000 dossiers de candidats. Equora est une démonstration technique, non un conseil juridique ou un système décisionnel en production.
Le problème
Un audit de sélection des locataires peut indiquer aux juristes et aux équipes de gestion des risques que les résultats diffèrent selon les groupes protégés. Le travail difficile commence alors : déterminer si une alternative d'apparence neutre réduit la disparité, préserve des performances de modèle utiles et peut être rejouée ultérieurement.
Le règlement amiable de SafeRent en novembre 2024 fournit un contexte essentiel expliquant la surveillance étroite dont font l'objet les systèmes de filtrage. L'accord de $2.275 million ne comportait aucune reconnaissance de culpabilité, et cette démonstration ne reproduit pas cette affaire.
Sources : Page de l'affaire de la DOJ Civil Rights Division et l' Final Approval Order déposée le 20 novembre 2024.
Comment ça fonctionne
La mesure, la recherche, la recommandation et les contrôles de publication demeurent déterministes.
Mesurer
Equora calibre ScreenScore v3 (référence orientée crédit) sur le groupe synthétique intégré et restitue le taux d'approbation, le ratio d'impact disparate (DIR), la différence de parité statistique et l'écart des chances égalisées. La race et le statut de bénéficiaire de bon de logement sont des champs d'audit, non des variables du modèle.
Rechercher
La recherche de l'alternative la moins discriminatoire (Least Discriminatory Alternative, LDA) évalue 480 combinaisons de sous-ensembles optionnels de variables, de plafonds de score de crédit, de traitement des revenus garantis et d'intensité de régularisation. L'espace de recherche est explicite et borné.
Sélectionner
Le moteur trace la frontière de Pareto précision-DIR minimal, puis sélectionne le candidat éligible présentant la plus faible perte d'AUC mesurée dans la limite du budget configuré de 0.03. Si aucun candidat n'est éligible, il ne renvoie aucune alternative sûre.
Filtrer
L'attribution exacte par modèle linéaire identifie les trois principaux facteurs contributifs négatifs. Un critique de concordance des variables compare ces moteurs avec les motifs de la notification et oriente les explications génériques ou non étayées vers un examen humain.
Preuves issues de la démonstration
Ces écrans montrent la démonstration locale réelle sur son jeu de données synthétique fixe.
État des lieux objectif
Equora est conçu pour rendre inspectable une décision de remédiation bornée, et non pour transformer une métrique isolée en un verdict juridique.
| Question | Un score d'équité seul | Démonstration Equora |
|---|---|---|
| Qu'a-t-on mesuré ? | Une disparité sur une configuration de modèle unique | DIR, SPD, écart EO, taux d'approbation et intervalles de confiance sur le jeu fixe |
| Que pourrait-on changer ? | Non spécifié | Une grille déclarée de configurations d'apparence neutre comparées à sélectivité égale |
| Pourquoi cette recommandation ? | Aucun journal de sélection | La plus faible perte d'AUC mesurée parmi les candidats éligibles dans la recherche bornée |
| Les motifs de notification peuvent-ils être vérifiés ? | Hors du périmètre du score | Les variables citées sont comparées avec les trois principaux facteurs contributifs négatifs exacts |
Equora n'établit pas la conformité juridique, ne certifie pas un modèle comme équitable, n'explore pas tous les modèles possibles et ne valide pas les performances réelles en production locative. Son seuil de 0.80 correspond au filtre de politique des quatre cinquièmes configuré pour la démo.
Le vivier de candidats est synthétique, le pack de règles est statique et les connecteurs de production ne sont pas développés. Le critique de notification vérifie uniquement la concordance des variables, tandis que l'exécution UCI Adult constitue un benchmark public d'équité sur les revenus du recensement plutôt que des données de locataires.
Equora évalue 480 configurations explicites et d'apparence neutre à sélectivité égale. Il recommande le candidat éligible présentant la plus faible perte d'AUC mesurée respectant le filtre des quatre cinquièmes et le budget de précision, ou ne renvoie aucune alternative sûre si aucun ne convient.
Non. Equora utilise 0.80 comme filtre de politique des quatre cinquièmes configuré pour la démo, et non comme une conclusion juridique. L'heuristique des quatre cinquièmes provient des directives de sélection dans l'emploi et ne caractérise pas à elle seule une responsabilité légale en matière de logement.
Sur le jeu synthétique fixe, l'AUC passe de 0.7823 à 0.7788. La perte mesurée est de 0.0036, affichée dans l'interface sous forme d'un coût de précision de 0.36%, tandis que le DIR du groupe le plus défavorisé passe de 0.694 à 0.875.
Non. Un code déterministe calcule les métriques, applique les seuils, évalue les alternatives et retient la recommandation. Un modèle de langage, lorsqu'il est activé, se limite à la rédaction du texte de notification, et le mode hors ligne emploie un modèle déterministe.
Non. Le critique de concordance des variables vérifie si les motifs cités correspondent aux trois principales contributions négatives du modèle. Il oriente les motifs génériques ou non étayés vers un examen humain, mais ne vérifie pas chaque exigence légale de notification ni n'établit la suffisance juridique.
Non. Le jeu de données principal est un vivier synthétique fixe et intégré de 9,000 dossiers de sélection de locataires. L'exécution distincte UCI Adult Census Income est un benchmark public d'équité qui sollicite le même code d'audit, et non un jeu de validation pour le logement.
La recherche derrière cette démonstration — l'architecture, la conception de la vérification et le modèle pour l'entreprise.
Réunissez le modèle, la frontière de conformité et les obligations de preuve dans un examen unique.
Si votre équipe définit des contrôles d'audit, de remédiation et de mise en production pour l'IA du logement, contactez-nous pour examiner les preuves que l'audit doit conserver.
