Ihre KI zum Mieter-Screening hat den Fairness-Test bestanden. Sie hat trotzdem diskriminiert.
Als ich mich zum ersten Mal mit dem Compliance-Team einer Hausverwaltungsgesellschaft zusammensetzte, machte ich einen Fehler, den meiner Meinung nach die meisten Ingenieure machen. Ich ging davon aus, dass ich dort war, um einen einzigen Algorithmus zu reparieren.
Sie hatten ein Modell zum Mieter-Screening, das Bewerber bewertete, und ein Revenue-Management-Tool, das die Mieten festlegte. Für mich, als ich hereinkam, waren das zwei Funktionen desselben Software-Stacks — beide "die KI", beide mein Problem, das ich verteidigungsfähig machen sollte. Als ich ging, hatte ich das begriffen, was seither unsere gesamte Arbeit im Bereich Compliance für Wohnungs-KI geordnet hat: Das ist kein Problem mit zwei Gesichtern. Es sind zwei völlig unterschiedliche Klagen, die nur darauf warten zu geschehen, geregelt durch zwei nicht verwandte Rechtsgebiete, und dasselbe Unternehmen ist bei beiden gleichzeitig exponiert.
Genau diese Lücke — zwischen der Art, wie ein Entwickler diese Systeme sieht, und der Art, wie ein Gericht sie sieht — ist es, die die Compliance für Wohnungs-KI so fehleranfällig macht. Deshalb möchte ich zuerst durchgehen, was ich falsch gemacht habe, denn das Scheitern ist lehrreicher als die Lösung.
Die Vier-Fünftel-Regel, die uns belog
Wir begannen dort, wo alle beginnen: bei der Fairness im Screening. Der rechtliche Anker ist hier der Fair Housing Act, und der operative Test, zu dem die meisten Teams greifen, ist die Vier-Fünftel-Regel — wenn Ihre Zustimmungsrate für eine geschützte Gruppe unter 80 % Ihrer Gruppe mit der höchsten Zustimmungsrate fällt, haben Sie ein mutmaßliches Problem der mittelbaren Diskriminierung (disparate impact).
Also bauten wir ein Audit, das genau dieses Verhältnis über die Entscheidungen des Modells hinweg berechnete. Die aggregierten Zahlen kamen sauber zurück. Die Zustimmungsraten über die ethnischen Gruppen hinweg lagen bequem über der 80-%-Schwelle. Ich erinnere mich an die Erleichterung im Raum. Wir waren bereit, es als konform zu dokumentieren.
Dann zog einer unserer Ingenieure die Inhaber von Wohnungsgutscheinen in eine eigene Spalte heraus.
Das Bild kehrte sich um. Unter den Bewerbern, die mit Wohnungsgutscheinen (Housing-Choice-Vouchers) zahlten — garantiertes staatliches Einkommen —, lehnte das Modell mit einer Rate ab, die vor keinem Regulierer verteidigungsfähig gewesen wäre. Die Vier-Fünftel-Regel war bestanden worden, weil sich die Ungleichheit innerhalb des zugelassenen Pools versteckte. Sobald man die subventionierten Mieter disaggregierte, lag sie deutlich rot vor Augen.
Ein Screening-Modell kann die Vier-Fünftel-Regel im Aggregat bestehen und dennoch genau jene Diskriminierung kodieren, die die Regel aufdecken soll.
Genau das ist SafeRent fast wortgleich passiert. Ihr Algorithmus Registry ScorePLUS bewertete Gutscheininhaber niedrig, weil er die Kredithistorie stark gewichtete, ohne den garantierten Einkommensstrom zu berücksichtigen, den ein Gutschein bietet. Das Modell behandelte einen Kredit-Score als neutralen Prädiktor. Er ist nicht neutral. Die Median-FICO-Scores verlaufen entlang ethnischer Linien — 727 für weiße Bewerber, 667 für hispanische, 627 für schwarze — und über die Hälfte der weißen Haushalte liegt über 700, während dies nur bei etwa einem Fünftel der schwarzen Haushalte der Fall ist. Speisen Sie die Kredithistorie als primäres Merkmal ein, und Sie gießen diese Ungleichheiten direkt in Ihre Zustimmungsraten.
SafeRent legte diese Sammelklage im November 2024 für 2,275 Millionen US-Dollar bei. Der Teil, der Anbieter nachts wachhalten sollte, ist nicht die Dollarsumme. Es ist, dass das Gericht SafeRents Verteidigung als "neutraler Anbieter" rundweg zurückwies. Sie argumentierten, sie hätten lediglich einen Score geliefert; der Vermieter habe die Entscheidung getroffen. Das Gericht kaufte ihnen das nicht ab. Wenn ein Vermieter sich in erster Linie auf einen Score eines Dritten verlässt, teilt der Anbieter dieses Scores die Haftung für das diskriminierende Ergebnis.
Dieses Urteil tötete eine bequeme Annahme, die ich mit hineingebracht hatte: dass es ein rechtlicher Schutzschild sei, der Tooling-Anbieter zu sein, einen Schritt von der Mietentscheidung entfernt. Ist es nicht. Das Modell ist die Entscheidung.
Wann wird Ihre Pricing-Engine zu einem Kartell?
Hier kommt der Teil, der mich wirklich überraschte, und deshalb weigere ich mich inzwischen, ein Wohnungs-/Beratungsmandat allein rund um das Screening zuzuschneiden.
Während wir tief in der mittelbaren Diskriminierung steckten, ereignete sich das größere rechtliche Erdbeben auf der Pricing-Seite — und es hatte nichts mit Fairness zu tun. Die Revenue-Management-Produkte von RealPage, AIRM und YieldStar, sammelten nicht öffentliche Mietsätze, Vertragsbedingungen und Belegungsdaten von konkurrierenden Vermietern und nutzten diese gebündelten Daten dann, um Preisempfehlungen zu erzeugen, die darauf ausgelegt waren, die Mieten — in den Worten des DOJ — "im Gleichklang" zu bewegen.
Das Justizministerium behandelte das nicht als Datenschutzproblem oder als Fairnessproblem. Es behandelte es als Hub-and-Spoke-Kartell nach Section 1 des Sherman Act. RealPage war der Hub. Jeder Vermieter, der Wettbewerberdaten durch die Plattform einspeiste, war ein Spoke. Die Form der Kartelltheorie ist das, was man verinnerlichen muss: Niemand musste in einem Raum sitzen und sich darauf einigen, Preise festzusetzen. Der Algorithmus war die Absprache.
Was es schlimmer machte, waren die Automatisierungs-Standardeinstellungen. AIRM akzeptierte automatisch seine eigenen Preisempfehlungen innerhalb einer Änderung von 3 % pro Tag und 8 % pro Woche — und die meisten Vermieter rührten diese Einstellungen nie an. Der Algorithmus setzte faktisch die Mieten ohne einen Menschen im Entscheidungsprozess fest. Die Analyse von ProPublica, die in den DOJ-Eingaben zitiert wird, bezifferte die Kosten für die Mieter auf rund 70 US-Dollar pro Monat, etwa 4 % der Miete, was sich allein im Jahr 2023 auf so etwas wie 3,8 Milliarden US-Dollar an zusätzlichen Mietkosten summierte.
Die Vermieter zahlten dafür. Greystar einigte sich auf 50 Millionen US-Dollar plus weitere 7 Millionen an Bundesstaaten. BH Management auf 15 Millionen. Simpson Property Group auf 6,5 Millionen. Rechnet man die kleineren hinzu, liegt man bis Oktober 2025 über 140 Millionen US-Dollar an Sammelklage-Vergleichen der Vermieter. FPI Management zahlte 2,8 Millionen US-Dollar allein für die Nutzung des Pricing-Tools von Yardi. Der Algorithmus des Anbieters; die Haftung des Betreibers.
Das Unternehmen, das vor mir saß, stand also nicht einem einzigen Risikoprofil gegenüber. Es stand gleichzeitig einer Exposition durch mittelbare Diskriminierung nach dem Fair Housing Act auf der Screening-Seite und einer kartellrechtlichen Exposition nach dem Sherman Act auf der Pricing-Seite gegenüber — durch zwei Systeme, die die eigenen Ingenieure als "die KI" begriffen.
Was tatsächlich einen Fall gewann: Architektur, nicht Absicht
Eine Zeit lang nahm ich an, das Pricing-Problem drehe sich um Verhalten — bündle keine Wettbewerberdaten, akzeptiere nicht automatisch, dokumentiere deine guten Absichten. Dann las ich, wie Yardi tatsächlich gewann.
Im kalifornischen Landesverfahren erwirkte Yardi ein Summary Judgment zu seinen Gunsten. Nicht, weil sie argumentierten, ihre Herzen seien rein, sondern weil ihr Produkt Revenue IQ etwas Architektonisches beweisen konnte: Es "nutzt nicht und kann konstruktionsbedingt nicht die vertraulichen Preisinformationen eines Kunden für einen anderen Kunden nutzen." Die Daten waren auf Systemebene isoliert. Eine kundenübergreifende Kontamination verstieß nicht bloß gegen eine Richtlinie — sie war strukturell unmöglich.
Diese eine Zeile ordnete neu, wie ich über Compliance-Engineering denke.
Datenisolation ist kein Versprechen, das man in einem Richtliniendokument abgibt. Es ist eine Eigenschaft, die man in einem Architekturdiagramm beweisen kann.
Yardis Bundesverfahren läuft noch, und ein Richter ließ dort kartellrechtliche Vorwürfe zu — das ist also keine saubere Ehrenrunde. Aber der Kontrast ist die Lehre. Die verteidigungsfähige Haltung war nicht die Absicht. Es war ein System, das, wenn ein Regulierer verlangte "zeigen Sie mir, dass Sie Wettbewerberdaten nicht über Kunden hinweg teilen können", die Isolationsgrenze auf einem Whiteboard einzeichnen und zeigen konnte, dass kein Datenpfad sie kreuzte. Die meisten Teams, die ich treffe, haben das Gegenteil gebaut: ein geteiltes Modell, einen geteilten Data Lake und einen Foliensatz voller Zusicherungen darüber, wie verantwortungsvoll sie es nutzen.
Dieselbe Logik zieht sich nun durch das RealPage-Zustimmungsdekret (Consent Decree), das sich das DOJ Ende 2025 sicherte. Sieht man über die Schlagzeile hinweg, sind die Zähne operativ: Das Modelltraining ist auf historische Daten beschränkt, die mindestens 12 Monate alt sind. Das Runtime-Pricing darf keine nicht öffentlichen Statistiken von Rivalen einbeziehen. Die "Governor"-Funktionen, die Preisänderungen deckeln, müssen symmetrisch sein — gleiches Gewicht für Senkungen und Erhöhungen, nicht eine Einweg-Ratsche nach oben. Und die Auto-Accept-Funktionen müssen konfigurierbar und von einem Menschen manuell eingestellt sein. Letzteres ist wichtiger, als es aussieht. Der alte Workflow — auf 3 % pro Tag, 8 % pro Woche einstellen und weggehen — ist jetzt selbst der Verstoß. Der Vergleich läuft sieben Jahre, ohne finanzielle Strafe und ohne Schuldeingeständnis, was Ihnen sagt, dass das DOJ die Architektur verändert haben wollte, nicht einen Scheck.
Das ist der Punkt, an dem sich unsere Arbeit vom Auditieren von Modellen zum Engineering von Modellen verschob. Diese Eigenschaften lassen sich nicht nachträglich anschrauben. Zwölfmonatige Datenalterung, nachweisbare Kundenisolation, symmetrische Governors, ein menschliches Tor beim Auto-Accept — das sind Design-Entscheidungen, die man trifft, bevor ein einziger Preis ausgeliefert wird, oder man führt später einen Rechtsstreit darüber.
Warum ist Compliance für Wohnungs-KI eine Landkarte und kein Modell?
Wenn Leute fragen, was wir tatsächlich liefern, ist die ehrliche Antwort, dass das schwierigste Ergebnis kein Modell ist. Es ist eine regulatorische Matrix, die ein Compliance-Verantwortlicher in eine interne Besprechung mitnehmen und der er vertrauen kann.
Compliance für Wohnungs-KI ist nicht eine Regulierung. Es ist ein Flickenteppich, der sich schnell verhärtet, und Bundes- und Landesrecht bewegen sich zugleich in entgegengesetzte Richtungen. Auf Bundesebene wird die Durchsetzung schwächer — der KI-Leitfaden des HUD verschwand von der Website, das CFPB hat Personal abgebaut, und es gab einen Vorstoß der Exekutive, die Durchsetzung bei mittelbarer Diskriminierung zu depriorisieren. Wenn Sie nur Washington beobachteten, würden Sie schließen, das Risiko sei am Abklingen.
Beobachten Sie nur Washington, und Sie werden denken, das Risiko sei am Abklingen. Die Bundesstaaten sind der Ort, an dem es jetzt tatsächlich lebt.
Die Bundesstaaten erzählen die entgegengesetzte Geschichte, und dort liegt jetzt die Exposition. Kaliforniens AB 325, wirksam ab dem 1. Januar 2026, ändert den Cartwright Act, um "gemeinsame" Pricing-Algorithmen zu verbieten — definiert als Tools, die von zwei oder mehr Parteien genutzt werden —, die sich auf Wettbewerberdaten stützen, und es verwirft den strengeren bundesrechtlichen Klagestandard, was es für Kläger erheblich einfacher macht, vor Gericht zu gelangen. New Yorks S.7882, wirksam ab Dezember 2025, geht weiter: ein pauschales Verbot von Pricing-Tools für Wohnraum mit einer "koordinierenden Funktion", ohne Unterscheidung zwischen öffentlichen und nicht öffentlichen Daten, sowie ein privates Klagerecht für Mieter nach dem Donnelly Act. RealPage ficht es aus Gründen des Ersten Verfassungszusatzes an, sodass die Durchsetzung bis zum Ausgang dieses Streits ausgesetzt ist — aber man kann nicht einfach annehmen, dass man den Verfassungsprozess eines anderen gewinnen wird. Colorados SB 205, wirksam ab dem 30. Juni 2026, stuft das Mieter-Screening als "folgenreiche Entscheidung" ein und verlangt jährliche Folgenabschätzungen, Risikomanagement-Programme und Offenlegungen bei nachteiligen Entscheidungen, die beschreiben, wie die KI beigetragen hat, welche Daten sie verwendet hat und wie ein Bewerber Einspruch einlegen kann.
Unter all dem läuft ein Bundesgesetz, das die meisten Teams gar nicht mehr auf dem Schirm haben: der Fair Credit Reporting Act. Jeder algorithmische Score, der als Verbraucherauskunft (Consumer Report) fungiert, muss den zweistufigen Adverse-Action-Prozess des FCRA einhalten — was bedeutet, dass Sie, wenn Ihr Modell jemanden ablehnt, ihm konkrete Gründe schulden, nicht "der Algorithmus hat Nein gesagt". Diese eine Anforderung ist mit einem Blackbox-Screening-Modell unvereinbar, und deshalb ist die Vorlage für die Adverse-Action-Mitteilung eines der ersten Dokumente, das ich zu sehen verlange.
Es gibt ein Detail in AB 325, das die gesamte Build-Kalkulation still verändert: Es greift nur bei Tools, die von zwei oder mehr Parteien genutzt werden. Ein geteiltes, mandantenfähiges Pricing-Produkt fällt genau in den Anwendungsbereich. Ein maßgeschneidertes Modell für einen einzigen Betreiber nicht. Die Regulierung zahlt Ihnen faktisch dafür, die Pooled-Data-SaaS-Architektur aufzugeben, die das Kartellproblem überhaupt erst geschaffen hat.
Und für jeden mit europäischen Mietern behandelt der EU AI Act sowohl Screening als auch Pricing als Hochrisiko-Anwendungen, mit Geldbußen von bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes — und seine Hochrisiko-Pflichten treten über 2025 und 2026 gestaffelt in Kraft, sodass die Uhr für jeden Betreiber mit EU-Exposition bereits zu ticken begonnen hat. Stapeln Sie die Fair-Housing-Strafen obendrauf — 26.262 US-Dollar für einen Erstverstoß, bis zu 131.308 US-Dollar für wiederholte Verstöße gemäß den Anpassungen von 2025 —, und die Kosten dafür, die Landkarte falsch zu lesen, sind nicht theoretisch.
Ich führe dafür eine einzige Tabelle, farbcodiert nach Inkrafttretensdatum, denn die Frage, die ein Chefsyndikus (GC) tatsächlich stellt, ist nicht "Sind wir konform?". Sie lautet "Welche davon ist in den Bundesstaaten, in denen wir tätig sind, in Kraft, und was verlangt jede einzelne konkret?". Diese Antwort verteidigungsfähig für den Fußabdruck eines bestimmten Betreibers zu produzieren, ist der Großteil des Werts.
Die horizontalen KI-Governance-Plattformen — Credo AI, Holistic AI, FairNow und die übrigen — sind aufrichtig gut im Richtlinienmanagement und in der Fairness-Überwachung, aber sie sind darauf ausgelegt, branchenunabhängig zu sein. Keine von ihnen bildet ein Mieter-Screening-Modell auf HUD-Leitlinien, die Vier-Fünftel-Regel, FCRA-Adverse-Action und die kartellrechtliche Haltung Ihrer Pricing-Engine zugleich ab. Diese Schnittstelle ist im Wohnungsbereich die gesamte Aufgabe, und genau das überlässt ein Allzweck-Tool Ihnen. Wir bauten die Praxis für Compliance im Bereich Wohnungs-KI eben darum herum auf, genau diese Landkarte neben den auditierten Modellen zu liefern — denn das Modell ist wertlos, wenn Sie dem Vorstand nicht sagen können, an welchem Gesetz es gemessen wird.
Kann man nicht einfach die geschützten Attribute herausstreichen?
Das ist der Einwand, den ich am häufigsten höre, und er ist auf eine interessante Weise falsch. Die Intuition lautet: Entfernen Sie ethnische Zugehörigkeit, entfernen Sie das Geschlecht, und das Modell kann nicht diskriminieren. Aber Kredit-Score, Räumungshistorie und Daten zum Vorstrafenregister sind allesamt Proxys, die die Ungleichheit direkt wieder hereintragen — genau so erzeugte SafeRents "neutrale" Kreditgewichtung eine ethnische Schieflage, ohne je die ethnische Zugehörigkeit zu sehen.
Das eigentliche Werkzeug ist weniger bekannt und mächtiger: eine Suche nach der am wenigsten diskriminierenden Alternative, oder LDA. Die Prämisse ergibt sich aus der Beobachtung, dass es für jedes gegebene Vorhersageproblem nicht ein Modell gibt — es gibt Millionen von Modellen, die eine annähernd gleiche Genauigkeit erreichen, aber völlig unterschiedliche Fairness-Profile aufweisen. Also nutzt man Integer-Programmierung — die Art erschöpfender Optimierung, die Solver wie CPLEX oder Gurobi ausführen —, um diesen gesamten Raum zu durchsuchen und den Zielkonflikt zwischen Genauigkeit und mittelbarer Diskriminierung als Pareto-Grenze abzubilden. Dann können Sie mit Belegen zeigen, dass Sie nicht bloß ein Modell gewählt haben, das funktionierte; Sie haben das am wenigsten diskriminierende Modell gewählt, das dennoch Ihre Leistungsschwelle erreichte.
Das CFPB hat ausdrücklich "regelmäßige Tests auf mittelbare Diskriminierung, einschließlich Suchen nach weniger diskriminierenden Alternativen" gefordert. Im fairen Kreditgeschäft (Fair Lending) ist es ausgereift. Fast niemand bietet es für den Wohnungsbereich an. Wenn ein Regulierer fragt, warum Sie das Modell gewählt haben, das Sie gewählt haben, ist "es war genau" keine Verteidigung — es ist die Lücke, durch die ein Kläger einen Anspruch wegen mittelbarer Diskriminierung treibt. "Hier ist die Grenze, und hier ist der Punkt, den wir ausgewählt haben, und warum" ist die Antwort, die einer Zeugenvernehmung standhält.
Agentisches Leasing: Wo die Compliance für Wohnungs-KI als Nächstes bricht
Der Grund, warum ich denke, dass dies schwieriger wird, nicht einfacher, sitzt bereits in etwa einer von zwölf US-Mehrfamilieneinheiten: agentische Leasing-KI.
Die nächste Welle von Hausverwaltungssoftware ist kein Screening-Score oder eine Preisempfehlung. Es sind autonome Agenten, die Anfragen bearbeiten, Besichtigungen terminieren, Bewerber vorprüfen und Vertragsbedingungen aushandeln, ohne einen Menschen im Entscheidungsprozess. Eine Plattform beansprucht eine Reduzierung der Zeit von der Anfrage bis zum Mietvertrag um 65 %. Die Effizienz ist real. Die Exposition ebenso.
Jede Entscheidung, die ein autonomer Agent trifft, ist ein potenzieller Verstoß gegen den Fair Housing Act oder ein kartellrechtlicher Berührungspunkt. Ein Agent, der die Qualität seiner Antwort nach der Demografie eines Bewerbers variiert oder bestimmte Bewerber zu bestimmten Gebäuden lenkt oder Preisnachlässe ungleich anwendet, erzeugt eine Haftung, die mit jeder einzelnen Interaktion skaliert — in Maschinengeschwindigkeit, über Tausende von Gesprächen hinweg, ohne einen Menschen, der später sagen könnte "das hätte ich erwischt". Die Compliance-Architektur für agentisches Leasing existiert noch nicht, so wie die Datenisolations-Architektur für das Pricing kaum existierte, bis Yardis Anwälte sie brauchten.
Das ist die Grenze, auf die wir jetzt hinbauen. Kein Fairness-Dashboard, das auf ein Modell geschraubt ist, das jemand anderes trainiert hat, sondern Systeme, in denen die Screening-Logik ein disaggregiertes Vier-Fünftel-Audit überleben kann, die Pricing-Logik die Kundenisolation in einem Architekturdiagramm beweisen kann und jede Entscheidung eines autonomen Agenten eine Aufzeichnung hinterlässt, die ein Regulierer lesen kann. Das vollständige Bild davon, wie wir es angehen, findet sich auf unserer Seite zur Compliance für Wohnungs-KI.
Ich kam in dies hinein und dachte, meine Aufgabe sei es, einen Algorithmus fair zu machen. Was ich jedem Immobilienbetreiber jetzt sagen würde, ist einfacher und schwerer: Sie betreiben zwei Algorithmen, und ein Gericht wird jeden davon nach einem anderen Gesetz beurteilen, von dem Sie Ihre eigenen Ingenieure wahrscheinlich nie haben sprechen hören. SafeRents Anwälte lernten, dass ein Kredit-Score nicht neutral ist. RealPages lernten, dass ein Algorithmus eine Verschwörung sein kann. Der günstigste Ort, um beide Lektionen zu lernen, ist ein Whiteboard — bevor ein Regulierer an Ihrem steht und Sie auffordert, die Isolationsgrenze einzuzeichnen und zu beweisen, dass nie Daten sie gekreuzt haben.
