Je AI voor huurderscreening slaagde voor de eerlijkheidstoets. Toch discrimineerde ze.

De eerste keer dat ik aanschoof bij het complianceteam van een vastgoedbeheerder, maakte ik een fout die volgens mij de meeste engineers maken. Ik ging ervan uit dat ik daar was om één algoritme te repareren.

Ze hadden een huurderscreeningmodel dat aanvragers scoorde en een revenue-managementtool die de huren bepaalde. Toen ik binnenkwam, waren dat voor mij twee onderdelen van dezelfde softwarestack — allebei "de AI", allebei mijn probleem om verdedigbaar te maken. Tegen de tijd dat ik wegging, begreep ik wat sindsdien al ons werk rond AI-compliance in de huisvesting heeft bepaald: het is niet één probleem met twee gezichten. Het zijn twee volledig verschillende rechtszaken die staan te wachten om uit te barsten, beheerst door twee ongerelateerde rechtsgebieden, en hetzelfde bedrijf is op beide tegelijk blootgesteld.

Juist die kloof — tussen hoe een bouwer deze systemen ziet en hoe een rechtbank ze ziet — maakt AI-compliance in de huisvesting zo makkelijk om verkeerd aan te pakken. Daarom wil ik eerst doorlopen wat ik zelf verkeerd deed, want de mislukking is leerzamer dan de oplossing.

De vier-vijfderegel die tegen ons loog

We begonnen waar iedereen begint: eerlijkheid in de screening. Het juridische anker is hier de Fair Housing Act, en de operationele toets waar de meeste teams naar grijpen is de vier-vijfderegel — als je goedkeuringspercentage voor een beschermde groep onder 80% van je groep met het hoogste goedkeuringspercentage zakt, heb je een vermoedelijk probleem met disparate impact.

Dus bouwden we een audit die precies die ratio berekende over de beslissingen van het model. De geaggregeerde cijfers kwamen schoon terug. De goedkeuringspercentages over de raciale groepen zaten comfortabel boven de drempel van 80%. Ik herinner me de opluchting in de kamer. We stonden op het punt het als compliant te bestempelen.

Toen lichtte een van onze engineers de voucherhouders eruit in een eigen kolom.

Het beeld keerde om. Onder aanvragers die betaalden met housing-choice vouchers — gegarandeerd overheidsinkomen — wees het model af tegen een percentage dat onverdedigbaar zou zijn geweest voor welke toezichthouder dan ook. De vier-vijfderegel was geslaagd doordat de ongelijkheid zich verborg binnen de goedgekeurde groep. Zodra je de gesubsidieerde huurders uitsplitste, stond het daar gewoon in het rood.

Een screeningmodel kan geaggregeerd voldoen aan de vier-vijfderegel en toch precies de discriminatie coderen die de regel bedoeld is te vangen.

Dit is bijna precies wat SafeRent overkwam. Hun Registry ScorePLUS-algoritme scoorde voucherhouders laag omdat het de kredietgeschiedenis zwaar liet meewegen zonder rekening te houden met de gegarandeerde inkomstenstroom die een voucher biedt. Het model behandelde een kredietscore als een neutrale voorspeller. Die is niet neutraal. Mediane FICO-scores lopen uiteen langs raciale lijnen — 727 voor witte aanvragers, 667 voor Hispanic, 627 voor zwarte aanvragers — en meer dan de helft van de witte huishoudens zit boven de 700, terwijl slechts ongeveer een vijfde van de zwarte huishoudens dat doet. Voer kredietgeschiedenis in als een primaire feature en je giet die ongelijkheden regelrecht in je goedkeuringspercentages.

SafeRent schikte die class action voor $2.275 million in november 2024. Wat leveranciers 's nachts wakker zou moeten houden, is niet het dollarbedrag. Het is dat de rechtbank het "neutrale leverancier"-verweer van SafeRent botweg verwierp. Ze voerden aan dat ze slechts een score leverden; de verhuurder nam de beslissing. De rechtbank trapte er niet in. Als een verhuurder primair leunt op een score van derden, deelt de aanbieder van die score in de aansprakelijkheid voor de discriminerende uitkomst.

Die uitspraak maakte een comfortabele aanname kapot die ik had meegebracht: dat je als leverancier van de tooling, één stap verwijderd van de huurbeslissing, juridisch beschermd was. Dat is niet zo. Het model is de beslissing.

Wanneer wordt jouw pricing engine een kartel?

Dit is het deel dat me oprecht verraste, en het is de reden waarom ik nu weiger een huisvestingsopdracht enkel rond screening af te bakenen.

Terwijl wij ons vastbeten in disparate impact, vond de grotere juridische aardbeving plaats aan de prijskant — en die had niets met eerlijkheid te maken. RealPage's revenue-managementproducten, AIRM en YieldStar, verzamelden niet-openbare huurprijzen, huurvoorwaarden en bezettingsgegevens van concurrerende verhuurders en gebruikten die gebundelde data vervolgens om prijsadviezen te genereren die bedoeld waren om huren, in de woorden van het DOJ, "in koor" te bewegen.

Het ministerie van Justitie behandelde dat niet als een privacyprobleem of een eerlijkheidsprobleem. Ze behandelden het als een hub-and-spoke-kartel onder Section 1 van de Sherman Act. RealPage was de hub. Elke verhuurder die concurrentiegegevens door het platform voedde, was een spaak. De vorm van de kartelrechttheorie is wat je moet internaliseren: niemand hoefde in een kamer te zitten en af te spreken de prijzen te fixeren. Het algoritme wás de afspraak.

Wat het erger maakte, waren de automatiseringsstandaarden. AIRM accepteerde zijn eigen prijsadviezen automatisch binnen een dagelijkse wijziging van 3% en een wekelijkse van 8% — en de meeste verhuurders raakten die instellingen nooit aan. Het algoritme bepaalde de huren feitelijk zonder mens in de loop. De analyse van ProPublica, aangehaald in de DOJ-stukken, becijferde de kosten voor huurders op ruwweg $70 a month, ongeveer 4% van de huur, in totaal zo'n $3.8 miljard aan extra huurkosten in 2023 alleen al.

De verhuurders betaalden ervoor. Greystar schikte voor $50 miljoen plus nog eens $7 miljoen aan staten. BH Management voor $15 miljoen. Simpson Property Group voor $6.5 miljoen. Tel de kleinere erbij op en je zit voorbij de $140 million in landlord class-action settlements tegen oktober 2025. FPI Management betaalde $2.8 miljoen alleen al voor het gebruik van Yardi's prijstool. Het algoritme van de leverancier; de aansprakelijkheid van de exploitant.

Het bedrijf dat tegenover me zat, had dus niet te maken met één risicoprofiel. Het had te maken met disparate-impactblootstelling onder de Fair Housing Act aan de screeningkant en kartelrechtblootstelling onder de Sherman Act aan de prijskant, tegelijkertijd, vanuit twee systemen die de eigen engineers zagen als "de AI".

Wat een zaak echt won: architectuur, niet intentie

Een tijdlang ging ik ervan uit dat het prijsprobleem draaide om gedrag — bundel geen concurrentiegegevens, accepteer niet automatisch, documenteer je goede bedoelingen. Toen las ik hoe Yardi de zaak werkelijk won.

In de zaak voor de staat Californië kreeg Yardi een summary judgment in zijn voordeel. Niet omdat ze aanvoerden dat hun hart zuiver was, maar omdat hun product Revenue IQ iets kon bewijzen wat architectonisch van aard was: het "gebruikt niet, en kan door zijn ontwerp niet, de vertrouwelijke prijsinformatie van welke klant dan ook gebruiken voor een andere klant." De data was op systeemniveau geïsoleerd. Kruisbesmetting tussen klanten was niet louter in strijd met het beleid — het was structureel onmogelijk.

Die ene zin herordende hoe ik over compliance-engineering denk.

Data-isolatie is geen belofte die je doet in een beleidsdocument. Het is een eigenschap die je kunt bewijzen in een architectuurdiagram.

Yardi's federale zaak loopt nog, en een rechter liet daar kartelrechtelijke beschuldigingen doorgaan — dus dit is geen smetteloze overwinningsronde. Maar het contrast is de les. De verdedigbare houding was niet intentie. Het was een systeem dat, toen een toezichthouder eiste "laat me zien dat je concurrentiegegevens niet tussen klanten kunt delen", de isolatiegrens op een whiteboard kon tekenen en kon aantonen dat geen enkel datapad die grens overstak. De meeste teams die ik tegenkom, hebben het tegenovergestelde gebouwd: een gedeeld model, een gedeeld data lake en een presentatie vol garanties over hoe verantwoord ze het gebruiken.

Dezelfde logica loopt nu door het RealPage-schikkingsdecreet dat het DOJ eind 2025 binnenhaalde. Kijk voorbij de kop en de tanden zijn operationeel: modeltraining is beperkt tot historische data van minstens 12 maanden oud. Runtime-prijsstelling mag geen niet-openbare statistieken van rivalen verwerken. De "governor"-functies die prijswijzigingen begrenzen moeten symmetrisch zijn — gelijk gewicht aan verlagingen en verhogingen, niet een eenrichtingsratel omhoog. En de auto-accept-functies moeten configureerbaar zijn en handmatig door een mens worden ingesteld. Die laatste doet er meer toe dan het lijkt. De oude workflow — zet hem op 3% per dag, 8% per week, en loop weg — is nu zelf de overtreding. De schikking loopt zeven jaar, zonder financiële boete en zonder erkenning van schuld, wat je vertelt dat het DOJ wilde dat de architectuur veranderde, niet een cheque.

Dit is het moment waarop ons werk verschoof van het auditen van modellen naar het engineeren ervan. Je kunt deze eigenschappen er niet achteraf op vastschroeven. Data van twaalf maanden oud, aantoonbare klantisolatie, symmetrische governors, een menselijke poort op auto-accept — dat zijn ontwerpbeslissingen die je neemt voordat een enkele prijs live gaat, of je procedeert er later over.

Waarom is AI-compliance in de huisvesting een kaart, geen model?

Als mensen vragen wat we eigenlijk leveren, is het eerlijke antwoord dat het moeilijkste product geen model is. Het is een regelgevingsmatrix die een compliance officer mee kan nemen naar een interne vergadering en kan vertrouwen.

AI-compliance in de huisvesting is niet één regeling. Het is een lappendeken dat snel verhardt, en federale en staatswetgeving bewegen tegelijkertijd in tegengestelde richtingen. Federaal verzwakt de handhaving — de AI-richtlijn van HUD verdween van de website, de CFPB heeft personeel afgestoten, en er is een druk vanuit de uitvoerende macht geweest om handhaving op disparate impact te deprioriteren. Als je alleen naar Washington keek, zou je concluderen dat het risico afnam.

Kijk alleen naar Washington en je denkt dat het risico afneemt. De staten zijn waar het nu werkelijk leeft.

De staten vertellen het tegenovergestelde verhaal, en daar leeft de blootstelling nu. Californië's AB 325, van kracht op 1 januari 2026, wijzigt de Cartwright Act om "gemeenschappelijke" prijsalgoritmen — gedefinieerd als tools die door twee of meer partijen worden gebruikt — die op concurrentiegegevens leunen te verbieden, en verwerpt de strengere federale pleitnorm, waardoor het voor eisers wezenlijk makkelijker wordt om een rechtszaak aan te spannen. New Yorks S.7882, van kracht in december 2025, gaat verder: een algeheel verbod op prijstools voor woningen met een "coördinerende functie", zonder onderscheid tussen openbare en niet-openbare data, en een privaat vorderingsrecht voor huurders onder de Donnelly Act. RealPage betwist die wet op grond van het First Amendment, dus de handhaving is opgeschort in afwachting van die strijd — maar je mag er niet van uitgaan dat je andermans constitutionele zaak wint. Colorado's SB 205, van kracht op 30 juni 2026, classificeert huurderscreening als een "consequentiële beslissing" en eist jaarlijkse impactbeoordelingen, risicomanagementprogramma's en openbaarmakingen bij nadelige beslissingen die beschrijven hoe de AI heeft bijgedragen, welke data het gebruikte, en hoe een aanvrager in beroep kan gaan.

Onder dat alles loopt een federale wet waarvan de meeste teams vergeten dat die überhaupt meespeelt: de Fair Credit Reporting Act. Elke algoritmische score die functioneert als een consumentenrapport moet voldoen aan het tweestaps adverse-actionproces van de FCRA — wat betekent dat wanneer je model iemand afwijst, je hem specifieke redenen verschuldigd bent, niet "het algoritme zei nee". Die ene eis is onverenigbaar met een black-box-screeningmodel, en daarom is het adverse-action-notice-sjabloon een van de eerste documenten die ik wil zien.

Er zit een detail in AB 325 dat de hele bouwafweging stilletjes verandert: het bijt alleen tools die worden gebruikt door twee of meer partijen. Een gedeeld, multi-tenant prijsproduct valt er ruimschoots onder. Een op maat gemaakt model voor één exploitant niet. De regelgeving betaalt je in feite om de SaaS-architectuur met gebundelde data — die het kartelprobleem in de eerste plaats creëerde — los te laten.

En voor iedereen met Europese huurders behandelt de EU AI Act zowel screening als prijsstelling als hoog-risicotoepassingen, met boetes tot €35 million or 7% of global turnover — en de hoog-risicoverplichtingen worden gefaseerd ingevoerd over 2025 en 2026, dus de klok is al gaan lopen voor elke exploitant met blootstelling in de EU. Stapel daar de Fair Housing-boetes bovenop — $26,262 voor een eerste overtreding, tot $131,308 voor herhaalde overtredingen onder de aanpassingen van 2025 — en de kosten van een verkeerde kaart zijn niet theoretisch.

Ik houd hiervoor één spreadsheet bij, met kleurcodering per ingangsdatum, want de vraag die een General Counsel eigenlijk stelt is niet "zijn we compliant?" Het is "welke hiervan is live in de staten waar we actief zijn, en wat vereist elke wet specifiek?" Dat antwoord produceren, verdedigbaar, voor de voetafdruk van een bepaalde exploitant, is het grootste deel van de waarde.

De horizontale AI-governanceplatforms — Credo AI, Holistic AI, FairNow en de rest — zijn oprecht goed in beleidsbeheer en het monitoren van eerlijkheid, maar ze zijn gebouwd om branche-agnostisch te zijn. Geen van hen koppelt een huurderscreeningmodel aan HUD-richtlijnen, de vier-vijfderegel, FCRA adverse action, en de kartelrechtelijke houding van je pricing engine tegelijkertijd. Dat snijvlak is de hele klus in de huisvesting, en het is precies wat een generiek hulpmiddel aan jou overlaat. Wij bouwden de praktijk voor AI-compliance in de huisvesting rond het leveren van precies die kaart naast de geauditeerde modellen — want het model is waardeloos als je het bestuur niet kunt vertellen tegen welke wet het wordt beoordeeld.

Kun je de beschermde attributen er niet gewoon uithalen?

Dit is het bezwaar dat ik het vaakst hoor, en het is op een interessante manier onjuist. De intuïtie is: verwijder ras, verwijder geslacht, en het model kan niet discrimineren. Maar kredietscore, uitzettingsgeschiedenis en gegevens over strafrechtelijke achtergrond zijn allemaal proxy's die de ongelijkheid meteen weer binnenbrengen — precies zo produceerde SafeRents "neutrale" kredietweging een raciale scheefheid zonder ooit ras te zien.

Het echte instrument is minder bekend en krachtiger: een zoektocht naar het minst discriminerende alternatief, oftewel LDA. Het uitgangspunt komt voort uit de observatie dat er voor elk gegeven voorspellingsprobleem niet één model is — er zijn miljoenen modellen die ruwweg gelijke nauwkeurigheid bereiken maar wild uiteenlopende eerlijkheidsprofielen hebben. Dus gebruik je integer programming — het soort uitputtende optimalisatie dat solvers als CPLEX of Gurobi uitvoeren — om die hele ruimte te doorzoeken en de afweging tussen nauwkeurigheid en disparate impact in kaart te brengen als een Pareto-front. Vervolgens kun je met bewijs aantonen dat je niet zomaar een model koos dat werkte; je koos het minst discriminerende model dat toch aan je prestatienorm voldeed.

De CFPB heeft expliciet opgeroepen tot "regelmatig testen op disparate impact, inclusief zoektochten naar minder discriminerende alternatieven." In fair lending is het volwassen. Bijna niemand biedt het aan voor de huisvesting. Wanneer een toezichthouder vraagt waarom je het model koos dat je koos, is "het was nauwkeurig" geen verweer — het is het gat waar een eiser een disparate-impactclaim doorheen jaagt. "Hier is het front, en hier is het punt dat we selecteerden en waarom" is het antwoord dat standhoudt bij een getuigenverhoor.

Agentic leasing: waar AI-compliance in de huisvesting hierna breekt

De reden waarom ik denk dat dit moeilijker wordt, niet makkelijker, zit al in ruwweg één op de twaalf Amerikaanse meergezinswoningen: agentic leasing-AI.

De volgende golf vastgoedbeheersoftware is geen screeningscore of prijsadvies. Het zijn autonome agents die vragen afhandelen, bezichtigingen inplannen, aanvragers voorscreenen en huurvoorwaarden onderhandelen zonder mens in de loop. Eén platform claimt een reductie van 65% in de lead-to-leasetijd. De efficiëntie is echt. De blootstelling ook.

Elke beslissing die een autonome agent neemt, is een mogelijke overtreding van de Fair Housing Act of een kartelrechtelijk raakvlak. Een agent die zijn responskwaliteit laat variëren naar de demografie van een aanvrager, of bepaalde aanvragers naar bepaalde gebouwen stuurt, of prijsconcessies ongelijk toepast, genereert aansprakelijkheid die met elke afzonderlijke interactie meeschaalt — op machinesnelheid, over duizenden gesprekken, zonder mens die achteraf kan zeggen "dat had ik eruit gehaald". De compliance-architectuur voor agentic leasing bestaat nog niet, op dezelfde manier waarop data-isolatiearchitectuur voor prijsstelling nauwelijks bestond totdat Yardi's advocaten haar nodig hadden.

Dat is de grens waar we nu naartoe bouwen. Geen eerlijkheidsdashboard dat op een model wordt vastgeschroefd dat iemand anders trainde, maar systemen waarin de screeninglogica een uitgesplitste vier-vijfde-audit kan doorstaan, de prijslogica klantisolatie kan bewijzen in een architectuurdiagram, en elke beslissing van een autonome agent een spoor achterlaat dat een toezichthouder kan lezen. Het volledige beeld van hoe we dat aanpakken staat op onze pagina over AI-compliance in de huisvesting.

Ik begon hieraan met de gedachte dat mijn taak was om één algoritme eerlijk te maken. Wat ik nu tegen elke vastgoedexploitant zou zeggen, is eenvoudiger en moeilijker: je draait twee algoritmen, en een rechtbank zal elk ervan beoordelen aan de hand van een andere wet die je je eigen engineers waarschijnlijk nooit hebt horen noemen. De advocaten van SafeRent leerden dat een kredietscore niet neutraal is. Die van RealPage leerden dat een algoritme een samenzwering kan zijn. De goedkoopste plek om beide lessen te leren is een whiteboard — voordat een toezichthouder aan het jouwe staat en je vraagt de isolatiegrens te tekenen en te bewijzen dat er nooit data overheen is gegaan.