你的租户筛查AI通过了公平性测试，它却仍在歧视

我第一次坐下来与一家物业管理公司的合规团队会面时，犯了一个我认为大多数工程师都会犯的错误。我以为自己是去修复一个算法的。

他们有一个为申请人评分的租户筛查模型，还有一个设定租金的收益管理工具。在我走进去时，这在我看来只是同一套软件栈中的两个功能——都是“AI”，都是我要负责让其站得住脚的问题。等我离开时，我理解了自那以后一直统领我们全部住房AI合规工作的那件事：这不是一个有两副面孔的问题。它们是两桩完全不同、随时可能爆发的诉讼，受两套毫不相关的法律体系管辖，而同一家公司同时在两方面都面临风险。

这道鸿沟——在于建造者如何看待这些系统与法院如何看待它们之间——正是住房AI合规如此容易出错的原因。所以我想先讲讲我当初错在哪里，因为失败比修正更有教益。

对我们撒了谎的“五分之四规则”

我们从每个人都会开始的地方入手：筛查中的公平性。这里的法律依据是《公平住房法》，而大多数团队会采用的操作性检验是五分之四规则——如果任何受保护群体的批准率低于批准率最高群体的80%，你就存在推定的差别性影响问题。

于是我们建立了一套审计，精确计算模型各项决策中的这一比率。汇总数字看起来很干净。各族裔群体的批准率都稳稳地高于80%的门槛。我记得当时房间里那种松了口气的感觉。我们准备把它认定为合规。

然后我们的一位工程师把持有住房券的申请人单独拉出来，列为一列。

画面反转了。在使用住房选择券（有政府保障收入）支付的申请人中，模型的拒绝率之高，放在任何监管机构面前都无法自圆其说。五分之四规则之所以通过，是因为这种差异一直藏在获批的申请池内部。一旦你把受补贴的租户拆分开来，它就赫然以红色显现在那里。

一个筛查模型可以在汇总层面通过五分之四规则，却依然编码着这条规则本应捕捉的那种歧视。

这几乎正是SafeRent所遭遇的情形。他们的Registry ScorePLUS算法给持券者打出低分，因为它大量加权信用历史，却没有考虑住房券所提供的有保障的收入来源。模型把信用评分当作一个中立的预测因子。它并不中立。FICO评分中位数沿种族界线分化——白人申请人为727，西班牙裔为667，黑人为627——超过一半的白人家庭高于700，而黑人家庭只有约五分之一如此。把信用历史作为一项主要特征输入，你就是在把这些差异直接倒进你的批准率里。

SafeRent就那起集体诉讼达成和解，金额为227.5万美元，时间是2024年11月。真正应该让供应商夜不能寐的，不是这个金额数字。而是法院当场彻底驳回了SafeRent的“中立供应商”抗辩。他们辩称自己只是提供了一个评分；作出决定的是房东。法院不买账。如果房东主要依赖第三方评分，那么该评分的提供方就要为歧视性结果分担责任。

那项裁决击碎了我一直抱持的一个令人安心的假设：作为工具供应商，与租约决定隔着一步之遥，就是一道法律护盾。并非如此。模型即是决定。

你的定价引擎何时会变成一个卡特尔？

下面这一点真正让我吃惊，也正是我如今拒绝把住房项目的范围只框定在筛查上的原因。

当我们埋头于差别性影响之时，更大的法律地震正发生在定价这一侧——而它与公平性毫无关系。RealPage的收益管理产品AIRM和YieldStar，从相互竞争的房东那里收集非公开的租金水平、租约条款和入住率数据，然后利用这些汇集起来的数据生成定价建议，用司法部的话说，其目的是让租金“齐步”变动。

司法部并没有把这当作隐私问题或公平性问题来处理。他们把它当作一个轴辐式卡特尔——依据《谢尔曼法》第一条。RealPage是轴心。每一个通过该平台输入竞争对手数据的房东都是一根辐条。反垄断理论的这个形态才是需要内化理解的：没有人必须坐在一个房间里达成操纵价格的协议。算法本身就是那个协议。

让情况更糟的是自动化默认设置。AIRM会在每日3%、每周8%的变动幅度内自动采纳它自己的价格建议——而大多数房东从未动过这些设置。算法实际上是在没有任何人参与的情况下设定租金。ProPublica的分析（被司法部的诉状引用）估算，给租客带来的成本大约为每月70美元，约占租金的4%，仅2023年一年，累加的额外租金成本就达到约38亿美元。

为此买单的是房东们。Greystar以5000万美元达成和解，另加向各州支付的700万美元。BH Management为1500万美元。Simpson Property Group为650万美元。再加上那些较小的案子，你就超过了1.4亿美元的房东集体诉讼和解金，截至2025年10月。FPI Management仅仅因为使用了Yardi的定价工具就支付了280万美元。供应商的算法；运营方的责任。

所以，坐在我面前的这家公司面对的并不是一种风险画像。它同时面对着筛查一侧的《公平住房法》差别性影响风险，和定价一侧的《谢尔曼法》反垄断风险——而这两者来自它自己的工程师都视之为“那个AI”的两套系统。

真正赢下官司的是什么：架构，而非意图

有一阵子，我以为定价问题关乎的是行为——别汇集竞争对手数据，别自动采纳，把你的良好意图记录在案。然后我读到了Yardi究竟是如何赢的。

在加州的州级案件中，Yardi获得了有利于自己的简易判决。不是因为他们辩称自己心地纯洁，而是因为他们的Revenue IQ产品能够证明某种架构层面的事实：它“不会、且在设计上就不可能，将任何客户的机密定价信息用于任何其他客户”。数据在系统层面被隔离。跨客户污染不仅仅是违反政策——它在结构上就是不可能的。

就这一句话，重新组织了我对合规工程的思考方式。

数据隔离不是你在一份政策文件里作出的承诺。它是你能够在一张架构图上证明的属性。

Yardi的联邦案件仍在进行中，那里的一位法官允许反垄断指控继续推进——所以这并不是一场干净利落的凯旋。但对比本身就是教训所在。站得住脚的姿态不是意图。而是这样一套系统：当监管机构要求“拿出证据证明你无法在客户之间共享竞争对手数据”时，它能在白板上画出隔离边界，并表明没有任何数据路径跨越了它。我遇到的大多数团队搭建的恰恰相反：一个共享模型、一个共享数据湖，外加一叠满是关于他们如何负责任地使用它的保证的幻灯片。

同样的逻辑如今贯穿于司法部在2025年末达成的RealPage同意令中。越过标题往下看，其锋芒是操作层面的：模型训练被限制在至少12个月前的历史数据上。运行时定价不能纳入非公开的竞争对手统计数据。那些为价格变动设上限的“调速器”功能必须是对称的——对降价和涨价给予同等权重，而不是一个只朝上走的单向棘轮。而且自动采纳功能必须可配置，并由人工手动设定。最后这一条比看上去更重要。旧的工作流程——把它设成每日3%、每周8%，然后一走了之——如今本身就成了违规。这份和解持续七年，既没有经济处罚，也没有承认过错，这告诉你司法部想要改变的是架构，而不是一张支票。

正是从这时起，我们的工作从审计模型转向了设计模型。你无法事后把这些属性硬拴上去。十二个月的数据滞后、可证明的客户隔离、对称的调速器、自动采纳环节上的人工关卡——这些都是你在任何一个价格发布之前就要作出的设计决策，否则你就得在日后为它们打官司。

为什么住房AI合规是一张地图，而不是一个模型？

当人们问我们究竟交付什么时，诚实的回答是：最难的交付物不是一个模型。而是一张合规官可以带进内部会议、并且信得过的监管矩阵。

住房AI合规不是一条法规。它是一块正在迅速硬化的拼布，而联邦法律和州法律正同时朝相反的方向移动。在联邦层面，执法正在减弱——HUD的AI指南从网站上撤下了，CFPB裁减了人员，还出现了一股行政层面的推动力，要把差别性影响的执法降为次要。如果你只盯着华盛顿，你会断定风险正在消退。

只盯着华盛顿，你就会以为风险正在消退。而各州才是它如今真正栖身之地。

各州讲述的是相反的故事，而风险如今就栖身于此。加州的AB 325，自2026年1月1日起生效，修订了《卡特赖特法》，禁止依赖竞争对手数据的“通用”定价算法——被定义为由两方或更多方使用的工具——并且它摒弃了更严苛的联邦诉状标准，这使得原告进入法院实质性地容易得多。纽约州的S.7882，自2025年12月起生效，走得更远：全面禁止具有“协调功能”的住宅定价工具，不区分公开数据与非公开数据，并依据《唐纳利法》赋予租户私人诉权。RealPage正以第一修正案为由对其提出挑战，因此在那场较量了结之前，执法被暂缓——但你可没资格假定自己会赢下别人的宪法官司。科罗拉多州的SB 205，自2026年6月30日起生效，把租户筛查归类为“后果重大的决定”，并要求进行年度影响评估、风险管理方案，以及不利决定披露——披露内容需说明AI如何起了作用、使用了哪些数据，以及申请人如何申诉。

在这一切之下，还运行着一部大多数团队忘了它也在场的联邦法规：《公平信用报告法》。任何充当消费者报告的算法评分，都必须遵守FCRA的两步不利行动流程——这意味着当你的模型拒绝某人时，你欠他们具体的理由，而不是“算法说不行”。这一条要求就与黑箱式筛查模型格格不入，也正因如此，不利行动通知模板是我最先要求查看的文件之一。

AB 325里有一个细节，悄然改变了整个搭建思路：它只对由两方或更多方使用的工具下手。一个共享的、多租户的定价产品，正好落在适用范围内。一个量身定制的、单一运营方的模型则不然。这项法规实际上是在花钱请你放弃那种一开始就制造出反垄断问题的汇集数据式SaaS架构。

而对于任何拥有欧洲租户的人来说，欧盟《AI法案》把筛查和定价都视为高风险用途，罚款最高可达3500万欧元或全球营业额的7%——而且它的高风险义务在2025年和2026年分阶段生效，所以对任何有欧盟风险敞口的运营方而言，时钟已经开始走了。再把《公平住房法》的处罚叠加上去——依据2025年的调整，初次违规为26,262美元，屡次违规最高可达131,308美元——把地图看错的代价就不再是纸上谈兵了。

为此我保留着一张电子表格，按生效日期用颜色编码，因为总法律顾问真正问的问题不是“我们合规吗？”而是“这些之中，哪些在我们经营的州里已经生效，每一条又具体要求什么？”为某个特定运营方的经营版图，站得住脚地给出那个答案，就是价值的大部分所在。

那些横向的AI治理平台——Credo AI、Holistic AI、FairNow等等——在政策管理和公平性监测方面确实做得不错，但它们被打造成与行业无关。它们中没有一个能把一个租户筛查模型映射到HUD指南、五分之四规则、FCRA不利行动，以及你定价引擎的反垄断姿态之上——并且是同时完成这一切。那个交叉点才是住房领域的全部活计，而这恰恰是通用型工具留给你自己去做的部分。我们打造了这项住房AI合规实践，正是围绕着在交付经过审计的模型的同时，也交付那张确切的地图——因为如果你无法告诉董事会你的模型正被哪条法律评判，那模型就一文不值。

难道你不能直接把受保护属性剔除掉吗？

这是我听得最多的反对意见，而它错得很有意思。直觉是这样的：去掉种族，去掉性别，模型就无法歧视了。但信用评分、驱逐历史和犯罪背景数据全都是代理变量，会把那种差异原封不动地带回来——这正是SafeRent“中立”的信用加权在从未看到过种族的情况下，却产生了种族偏斜的方式。

真正的工具没那么出名，却更有力量：最小歧视替代方案搜索，即LDA。它的前提源自这样一个观察：对于任何给定的预测问题，并不存在唯一一个模型——而是有数以百万计的模型，它们达到的精度大致相当，公平性画像却千差万别。于是你使用整数规划——就是CPLEX或Gurobi这类求解器所运行的那种穷尽式优化——去搜索整个空间，并把精度与差别性影响之间的权衡描绘成一条帕累托前沿。然后你就能拿出证据表明：你不是随便挑了一个管用的模型；你挑的是在仍然满足你性能门槛的前提下歧视性最小的模型。

CFPB已明确呼吁“定期检测差别性影响，包括搜索歧视性更小的替代方案”。它在公平信贷领域已相当成熟。几乎没有人为住房领域提供它。当监管机构问你为什么选了你所选的那个模型时，“它很准确”不是一个抗辩——它是原告用来推进差别性影响主张的那道缺口。“这是那条前沿，这是我们选定的那个点，以及为什么”才是能在庭外取证中站得住脚的答案。

代理式租赁：住房AI合规下一个崩裂之处

我认为这件事会变得更难而非更容易，原因已经坐落在大约每十二套美国多户住宅单元中的一套里：代理式租赁AI。

下一波物业管理软件不是一个筛查评分或一条价格建议。而是自主代理——它们在无人参与的情况下应对咨询、安排看房、预筛申请人，并协商租约条款。某个平台声称把从潜在客户到签约的时间缩短了65%。效率是真实的。风险也是真实的。

自主代理作出的每一个决定，都是一次潜在的《公平住房法》违规，或者一个反垄断的接触点。一个会根据申请人的人口统计特征改变其回应质量、或把某些申请人引导向某些楼盘、或不均等地给予定价让步的代理，正在制造随每一次交互而扩张的责任——以机器的速度，横跨成千上万次对话，而且没有一个人事后能说“那个我本会发现的”。代理式租赁的合规架构还不存在，就像定价的数据隔离架构在Yardi的律师需要它之前也几乎不存在一样。

那就是我们如今正朝之搭建的前沿。不是硬拴在别人训练好的模型上的一块公平性仪表盘，而是这样的系统：其筛查逻辑能经受住一次拆分后的五分之四审计，其定价逻辑能在一张架构图上证明客户隔离，而一个自主代理的每一个决定都会留下监管机构可以读取的记录。关于我们如何着手的完整图景，就在我们的住房AI合规页面。

我最初介入这件事时，以为我的工作是让一个算法变得公平。而我如今会对任何一位物业运营方说的话更简单，也更难：你运行的是两个算法，而法院会用两条不同的法规分别评判它们——这些法规你多半从没听过自己的工程师提起。SafeRent的律师明白了信用评分并不中立。RealPage的律师明白了一个算法可以是一场共谋。学到这两个教训最便宜的地方是一块白板——赶在监管机构站在你的白板前、要求你画出隔离边界并证明没有任何数据曾跨越它之前。