Votre IA de sélection des locataires a réussi le test d'équité. Elle discriminait quand même.

La première fois que je me suis assis avec l'équipe de conformité d'une société de gestion immobilière, j'ai commis une erreur que la plupart des ingénieurs commettent, je crois. J'ai supposé que j'étais là pour corriger un seul algorithme.

Ils avaient un modèle de sélection des locataires qui notait les candidats et un outil de gestion des revenus qui fixait les loyers. Pour moi, en arrivant, il s'agissait de deux fonctionnalités de la même pile logicielle — toutes deux « l'IA », toutes deux mon problème à rendre défendable. Au moment où je suis reparti, j'avais compris ce qui a organisé tout notre travail de conformité de l'IA immobilière depuis lors : il ne s'agit pas d'un seul problème à deux visages. Ce sont deux procès complètement différents en attente d'éclater, régis par deux corpus de droit sans rapport, et la même entreprise est exposée aux deux à la fois.

Cet écart — entre la façon dont un concepteur voit ces systèmes et la façon dont un tribunal les voit — est précisément ce qui rend la conformité de l'IA immobilière si facile à mal gérer. Je veux donc revenir sur ce que j'ai d'abord mal fait, car l'échec est plus instructif que la solution.

La règle des quatre cinquièmes qui nous a menti

Nous avons commencé là où tout le monde commence : l'équité dans la sélection. L'ancrage juridique ici est le Fair Housing Act, et le test opérationnel que la plupart des équipes utilisent est la règle des quatre cinquièmes — si votre taux d'approbation pour un groupe protégé quelconque tombe en dessous de 80 % de votre groupe au taux d'approbation le plus élevé, vous avez un problème présomptif d'impact disparate.

Nous avons donc construit un audit qui calculait exactement ce ratio à travers les décisions du modèle. Les chiffres agrégés sont revenus impeccables. Les taux d'approbation entre groupes raciaux se situaient confortablement au-dessus du seuil de 80 %. Je me souviens du soulagement dans la salle. Nous étions prêts à rédiger un rapport le déclarant conforme.

Puis l'un de nos ingénieurs a isolé les détenteurs de bons de logement dans leur propre colonne.

L'image s'est inversée. Parmi les candidats payant avec des bons de choix de logement — un revenu public garanti — le modèle refusait à un taux qui aurait été indéfendable devant n'importe quel régulateur. La règle des quatre cinquièmes avait été validée parce que la disparité se cachait à l'intérieur du groupe approuvé. Une fois les locataires subventionnés désagrégés, elle apparaissait clairement, en rouge.

Un modèle de sélection peut réussir la règle des quatre cinquièmes en agrégé tout en encodant la discrimination exacte que la règle est censée détecter.

C'est presque précisément ce qui est arrivé à SafeRent. Leur algorithme Registry ScorePLUS notait faiblement les détenteurs de bons parce qu'il pondérait fortement l'historique de crédit sans tenir compte du flux de revenu garanti qu'offre un bon. Le modèle traitait un score de crédit comme un prédicteur neutre. Il n'est pas neutre. Les scores FICO médians se répartissent selon des lignes raciales — 727 pour les candidats blancs, 667 pour les hispaniques, 627 pour les noirs — et plus de la moitié des ménages blancs se situent au-dessus de 700 alors que seulement environ un cinquième des ménages noirs le font. Introduisez l'historique de crédit comme caractéristique principale et vous déversez ces disparités directement dans vos taux d'approbation.

SafeRent a réglé cette action collective pour 2,275 millions de dollars en novembre 2024. La partie qui devrait empêcher les fournisseurs de dormir n'est pas le montant en dollars. C'est que le tribunal a rejeté purement et simplement la défense du « fournisseur neutre » de SafeRent. Ils ont plaidé qu'ils ne faisaient que fournir un score ; le propriétaire prenait la décision. Le tribunal n'y a pas cru. Si un propriétaire s'appuie principalement sur un score tiers, le fournisseur de ce score partage la responsabilité du résultat discriminatoire.

Cette décision a tué une hypothèse confortable que j'avais apportée : que le fait d'être le fournisseur d'outillage, à un pas de la décision de bail, constituait un bouclier juridique. Ce n'est pas le cas. Le modèle est la décision.

Quand votre moteur de tarification devient-il un cartel ?

Voici la partie qui m'a véritablement surpris, et c'est pourquoi je refuse désormais de cadrer une mission immobilière autour de la seule sélection.

Pendant que nous avions le nez plongé dans l'impact disparate, le plus grand séisme juridique se produisait du côté de la tarification — et il n'avait rien à voir avec l'équité. Les produits de gestion des revenus de RealPage, AIRM et YieldStar, collectaient des taux de location non publics, des conditions de bail et des données d'occupation auprès de propriétaires concurrents, puis utilisaient ces données mutualisées pour générer des recommandations de prix conçues pour faire évoluer les loyers, selon les termes du DOJ, « à l'unisson ».

Le ministère de la Justice n'a pas traité cela comme un problème de confidentialité ou d'équité. Il l'a traité comme un cartel en étoile en vertu de la Section 1 du Sherman Act. RealPage était le moyeu. Chaque propriétaire alimentant la plateforme en données de concurrents était un rayon. La forme de la théorie antitrust est ce qu'il faut intérioriser : personne n'avait besoin de s'asseoir dans une pièce pour convenir de fixer les prix. L'algorithme était l'accord.

Ce qui aggravait les choses, c'étaient les paramètres d'automatisation par défaut. AIRM acceptait automatiquement ses propres recommandations de prix dans une variation quotidienne de 3 % et hebdomadaire de 8 % — et la plupart des propriétaires n'ont jamais touché à ces réglages. L'algorithme fixait effectivement les loyers sans humain dans la boucle. L'analyse de ProPublica, citée dans les dépôts du DOJ, chiffrait le coût pour les locataires à environ 70 dollars par mois, soit environ 4 % du loyer, pour un total d'environ 3,8 milliards de dollars de coûts locatifs supplémentaires pour la seule année 2023.

Ce sont les propriétaires qui ont payé. Greystar a réglé pour 50 millions de dollars, plus 7 millions supplémentaires versés aux États. BH Management pour 15 millions de dollars. Simpson Property Group pour 6,5 millions de dollars. Ajoutez les plus petits et vous dépassez les 140 millions de dollars de règlements d'actions collectives des propriétaires en octobre 2025. FPI Management a payé 2,8 millions de dollars rien que pour avoir utilisé l'outil de tarification de Yardi. L'algorithme du fournisseur ; la responsabilité de l'exploitant.

Ainsi, l'entreprise assise en face de moi ne faisait pas face à un seul profil de risque. Elle faisait face à une exposition à l'impact disparate du Fair Housing du côté de la sélection et à une exposition antitrust du Sherman Act du côté de la tarification, simultanément, provenant de deux systèmes que ses propres ingénieurs considéraient comme « l'IA ».

Ce qui a réellement gagné une affaire : l'architecture, pas l'intention

Pendant un temps, j'ai supposé que le problème de tarification relevait du comportement — ne pas mutualiser les données de concurrents, ne pas accepter automatiquement, documenter ses bonnes intentions. Puis j'ai lu comment Yardi avait réellement gagné.

Dans l'affaire de l'État de Californie, Yardi a obtenu un jugement sommaire en sa faveur. Non pas parce qu'il a plaidé la pureté de ses intentions, mais parce que son produit Revenue IQ pouvait prouver quelque chose d'architectural : il « n'utilise pas et, de par sa conception, ne peut pas utiliser les informations de tarification confidentielles d'un client pour un autre client ». Les données étaient isolées au niveau du système. La contamination inter-clients n'était pas simplement contraire à la politique — elle était structurellement impossible.

Cette seule phrase a réorganisé ma façon de penser l'ingénierie de la conformité.

L'isolation des données n'est pas une promesse que vous faites dans un document de politique. C'est une propriété que vous pouvez prouver dans un schéma d'architecture.

L'affaire fédérale de Yardi est toujours en cours, et un juge y a laissé les allégations antitrust se poursuivre — il ne s'agit donc pas d'un tour d'honneur sans tache. Mais le contraste est la leçon. La posture défendable n'était pas l'intention. C'était un système qui, lorsqu'un régulateur exigeait « prouvez-moi que vous ne pouvez pas partager les données de concurrents entre clients », pouvait tracer la frontière d'isolation sur un tableau blanc et montrer qu'aucun chemin de données ne la traversait. La plupart des équipes que je rencontre ont construit l'inverse : un modèle partagé, un lac de données partagé et une présentation pleine d'assurances sur la façon dont elles l'utilisent de manière responsable.

La même logique traverse désormais le décret de consentement de RealPage que le DOJ a obtenu fin 2025. Regardez au-delà du titre et les crocs sont opérationnels : l'entraînement du modèle est limité aux données historiques vieilles d'au moins 12 mois. La tarification en temps réel ne peut pas intégrer de statistiques non publiques de rivaux. Les fonctions de « gouverneur » qui plafonnent les changements de prix doivent être symétriques — un poids égal aux baisses et aux hausses, pas un cliquet à sens unique vers le haut. Et les fonctions d'acceptation automatique doivent être configurables et réglées manuellement par un humain. Ce dernier point compte plus qu'il n'y paraît. L'ancien flux de travail — régler à 3 % par jour, 8 % par semaine, et s'en aller — est désormais lui-même la violation. Le règlement court sur sept ans, sans pénalité financière ni reconnaissance de faute, ce qui vous indique que le DOJ voulait faire changer l'architecture, pas encaisser un chèque.

C'est à ce moment que notre travail est passé de l'audit des modèles à leur ingénierie. Vous ne pouvez pas greffer ces propriétés après coup. Le vieillissement des données sur douze mois, l'isolation prouvable des clients, les gouverneurs symétriques, un contrôle humain sur l'acceptation automatique — ce sont des décisions de conception que vous prenez avant qu'un seul prix ne soit publié, sinon vous les plaidez plus tard.

Pourquoi la conformité de l'IA immobilière est-elle une carte, et non un modèle ?

Quand les gens demandent ce que nous livrons réellement, la réponse honnête est que le livrable le plus difficile n'est pas un modèle. C'est une matrice réglementaire qu'un responsable de la conformité peut apporter à une réunion interne et à laquelle il peut se fier.

La conformité de l'IA immobilière n'est pas une seule réglementation. C'est un patchwork qui se durcit rapidement, et le droit fédéral et le droit des États évoluent en sens inverse en même temps. Au niveau fédéral, l'application s'affaiblit — les orientations du HUD sur l'IA ont été retirées du site web, le CFPB a perdu du personnel, et il y a eu une pression exécutive pour déprioriser l'application de l'impact disparate. Si vous ne regardiez que Washington, vous concluriez que le risque reculait.

Ne regardez que Washington et vous penserez que le risque recule. Les États sont désormais là où il réside réellement.

Les États racontent l'histoire inverse, et c'est là que réside désormais l'exposition. L'AB 325 de Californie, en vigueur au 1er janvier 2026, modifie le Cartwright Act pour interdire les algorithmes de tarification « communs » — définis comme des outils utilisés par deux parties ou plus — qui s'appuient sur des données de concurrents, et il rejette la norme de plaidoyer fédérale plus stricte, ce qui rend nettement plus facile l'accès des plaignants aux tribunaux. Le S.7882 de New York, en vigueur en décembre 2025, va plus loin : une interdiction générale des outils de tarification résidentielle dotés d'une « fonction de coordination », sans distinction entre données publiques et non publiques, et un droit d'action privé pour les locataires en vertu du Donnelly Act. RealPage le conteste sur le fondement du Premier Amendement, de sorte que l'application est suspendue dans l'attente de cette bataille — mais vous ne pouvez pas présumer que vous gagnerez l'affaire constitutionnelle d'un autre. Le SB 205 du Colorado, en vigueur au 30 juin 2026, classe la sélection des locataires comme une « décision conséquente » et exige des évaluations d'impact annuelles, des programmes de gestion des risques et des divulgations de décision défavorable qui décrivent comment l'IA a contribué, quelles données elle a utilisées et comment un candidat peut faire appel.

Sous tout cela court une loi fédérale que la plupart des équipes oublient être même en jeu : le Fair Credit Reporting Act. Tout score algorithmique qui fonctionne comme un rapport de solvabilité doit se conformer au processus d'action défavorable en deux étapes du FCRA — ce qui signifie que lorsque votre modèle refuse quelqu'un, vous lui devez des raisons précises, et non « l'algorithme a dit non ». Cette seule exigence est incompatible avec un modèle de sélection en boîte noire, et c'est pourquoi le modèle de notification d'action défavorable est l'un des premiers documents que je demande à voir.

Il y a un détail dans l'AB 325 qui change discrètement tout le calcul de conception : il ne mord que sur les outils utilisés par deux parties ou plus. Un produit de tarification partagé et multi-locataire est carrément dans le champ d'application. Un modèle sur mesure à exploitant unique ne l'est pas. La réglementation vous paie, en effet, pour abandonner l'architecture SaaS de données mutualisées qui a créé le problème antitrust en premier lieu.

Et pour quiconque a des locataires européens, l'EU AI Act traite à la fois la sélection et la tarification comme des usages à haut risque, avec des amendes pouvant atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial — et ses obligations à haut risque entrent progressivement en vigueur sur 2025 et 2026, de sorte que le compte à rebours a déjà commencé pour tout exploitant ayant une exposition dans l'UE. Ajoutez par-dessus les pénalités du Fair Housing — 26 262 dollars pour une première infraction, jusqu'à 131 308 dollars pour les récidives selon les ajustements de 2025 — et le coût d'une mauvaise lecture de la carte n'est pas théorique.

Je tiens une seule feuille de calcul pour cela, à code couleur par date d'entrée en vigueur, parce que la question qu'un directeur juridique pose réellement n'est pas « sommes-nous conformes ? ». C'est « lesquelles de ces lois sont en vigueur dans les États où nous opérons, et qu'exige spécifiquement chacune d'elles ? ». Produire cette réponse, de manière défendable, pour l'empreinte d'un exploitant donné, constitue l'essentiel de la valeur.

Les plateformes horizontales de gouvernance de l'IA — Credo AI, Holistic AI, FairNow et les autres — sont réellement bonnes en gestion des politiques et en surveillance de l'équité, mais elles sont conçues pour être agnostiques au secteur. Aucune d'elles ne relie un modèle de sélection des locataires aux orientations du HUD, à la règle des quatre cinquièmes, à l'action défavorable du FCRA, et à la posture antitrust de votre moteur de tarification en même temps. Cette intersection est tout le travail dans l'immobilier, et c'est précisément ce qu'un outil polyvalent vous laisse gérer. Nous avons construit la pratique de conformité de l'IA immobilière autour de la livraison de cette carte exacte aux côtés des modèles audités — parce que le modèle ne vaut rien si vous ne pouvez pas dire au conseil d'administration en vertu de quelle loi il est jugé.

Ne suffit-il pas de retirer les attributs protégés ?

C'est l'objection que j'entends le plus, et elle est erronée d'une manière intéressante. L'intuition est : retirez la race, retirez le genre, et le modèle ne peut pas discriminer. Mais le score de crédit, l'historique d'expulsions et les données d'antécédents judiciaires sont tous des variables de substitution qui réintroduisent la disparité — c'est exactement ainsi que la pondération de crédit « neutre » de SafeRent a produit un biais racial sans jamais voir la race.

Le véritable outil est moins célèbre et plus puissant : une recherche d'alternative la moins discriminatoire, ou LDA. Le postulat découle de l'observation que, pour un problème de prédiction donné, il n'y a pas un seul modèle — il existe des millions de modèles qui atteignent une précision à peu près égale mais des profils d'équité radicalement différents. Vous utilisez donc la programmation en nombres entiers — le type d'optimisation exhaustive que font tourner des solveurs comme CPLEX ou Gurobi — pour explorer tout cet espace et cartographier le compromis entre précision et impact disparate sous forme de frontière de Pareto. Vous pouvez alors montrer, preuves à l'appui, que vous n'avez pas seulement choisi un modèle qui fonctionnait ; vous avez choisi le modèle le moins discriminatoire qui atteignait tout de même votre seuil de performance.

Le CFPB a explicitement appelé à « des tests réguliers de l'impact disparate, y compris des recherches d'alternatives moins discriminatoires ». C'est une pratique mature dans le crédit équitable. Presque personne ne la propose pour l'immobilier. Lorsqu'un régulateur demande pourquoi vous avez choisi le modèle que vous avez choisi, « il était précis » n'est pas une défense — c'est la brèche par laquelle un plaignant fait passer une plainte pour impact disparate. « Voici la frontière, et voici le point que nous avons sélectionné et pourquoi » est la réponse qui tient sous une déposition.

Location agentique : là où la conformité de l'IA immobilière cède ensuite

La raison pour laquelle je pense que cela devient plus difficile, et non plus facile, réside déjà dans environ un logement multifamilial américain sur douze : l'IA de location agentique.

La prochaine vague de logiciels de gestion immobilière n'est pas un score de sélection ni une recommandation de prix. Ce sont des agents autonomes qui traitent les demandes, planifient les visites, présélectionnent les candidats et négocient les conditions de bail sans humain dans la boucle. Une plateforme revendique une réduction de 65 % du délai entre le prospect et le bail. L'efficacité est réelle. L'exposition l'est tout autant.

Chaque décision qu'un agent autonome prend est une violation potentielle du Fair Housing ou un point de contact antitrust. Un agent qui fait varier la qualité de sa réponse selon les caractéristiques démographiques d'un candidat, ou qui oriente certains candidats vers certains immeubles, ou qui applique des concessions tarifaires de manière inégale, génère une responsabilité qui s'échelonne avec chaque interaction — à la vitesse de la machine, à travers des milliers de conversations, sans aucun humain qui puisse dire plus tard « je l'aurais repéré ». L'architecture de conformité pour la location agentique n'existe pas encore, de la même manière que l'architecture d'isolation des données pour la tarification existait à peine jusqu'à ce que les avocats de Yardi en aient besoin.

C'est la frontière vers laquelle nous construisons maintenant. Non pas un tableau de bord d'équité greffé sur un modèle entraîné par quelqu'un d'autre, mais des systèmes où la logique de sélection peut survivre à un audit désagrégé des quatre cinquièmes, la logique de tarification peut prouver l'isolation des clients dans un schéma d'architecture, et chaque décision d'un agent autonome laisse une trace qu'un régulateur peut lire. L'image complète de notre approche se trouve sur notre page de conformité de l'IA immobilière.

Je suis arrivé dans ce domaine en pensant que mon travail était de rendre un algorithme équitable. Ce que je dirais à tout exploitant immobilier aujourd'hui est plus simple et plus difficile : vous exploitez deux algorithmes, et un tribunal jugera chacun d'eux selon une loi différente que vous n'avez probablement jamais entendu vos propres ingénieurs mentionner. Les avocats de SafeRent ont appris qu'un score de crédit n'est pas neutre. Ceux de RealPage ont appris qu'un algorithme peut être une entente. L'endroit le moins coûteux pour apprendre ces deux leçons est un tableau blanc — avant qu'un régulateur ne se tienne devant le vôtre et vous demande de tracer la frontière d'isolation et de prouver qu'aucune donnée ne l'a jamais franchie.