テナント審査AIは公平性テストに合格した。それでも差別していた。
初めて、ある不動産管理会社のコンプライアンス・チームと腰を据えて向き合ったとき、私はほとんどのエンジニアが犯すと思う間違いを犯した。私は、自分が一つのアルゴリズムを直すためにそこにいるのだと思い込んでいた。
彼らには、応募者をスコアリングするテナント審査モデルと、家賃を設定するレベニューマネジメントツールがあった。入っていく私にとって、それらは同じソフトウェアスタックの二つの機能だった――どちらも「AI」であり、どちらも私が弁護可能にすべき問題だった。立ち去るころには、それ以来私たちのすべての住宅AIコンプライアンス業務を方向づけてきたことを、私は理解した。すなわち、それらは二つの顔を持つ一つの問題ではない。二つのまったく別個の訴訟が起こるのを待っており、二つの無関係な法体系によって規律され、しかも同じ会社が両方に同時にさらされているのだ。
このギャップ――構築者がこれらのシステムをどう見るかと、裁判所がそれらをどう見るかとの間のギャップ――こそが、住宅AIコンプライアンスをこれほど誤りやすいものにしている当のものだ。だからまず、私が何を間違えたのかをたどっていきたい。というのも、その失敗のほうが解決策よりも示唆に富むからだ。
私たちを欺いた5分の4ルール
私たちは誰もが始める場所から始めた。すなわち審査における公平性だ。ここでの法的な拠りどころは公正住宅法(Fair Housing Act)であり、ほとんどのチームが手を伸ばす運用上のテストが5分の4ルールだ――ある保護対象グループの承認率が、最も承認率の高いグループの80%を下回れば、推定的な差別的インパクトの問題があることになる。
そこで私たちは、モデルの判断全体にわたってまさにその比率を計算する監査を構築した。集計値はクリーンな結果を返してきた。人種グループ間の承認率は、80%のしきい値を余裕をもって上回っていた。あの部屋の安堵を覚えている。私たちはそれをコンプライアンス適合として文書化する準備ができていた。
そのとき、エンジニアの一人がバウチャー保有者を独立した列に取り出した。
光景は反転した。住宅選択バウチャー――政府による保証付き収入――で支払う応募者のあいだでは、モデルはどの規制当局の前でも弁護しようのない率で却下していた。5分の4ルールが通ったのは、その格差が承認されたプールの内側に隠れていたからだった。補助を受けるテナントを切り分けて集計すれば、それは赤い印としてまさにそこにあった。
審査モデルは、集計上は5分の4ルールを通過しながら、なおもそのルールが捕捉するために存在するまさにその差別を組み込んでいることがある。
これは、SafeRentに起きたこととほぼ正確に一致する。同社のRegistry ScorePLUSアルゴリズムは、バウチャーが提供する保証付きの収入の流れを考慮せずに信用履歴を重く重み付けしたため、バウチャー保有者を低くスコアリングした。モデルは信用スコアを中立的な予測変数として扱っていた。それは中立ではない。FICOスコアの中央値は人種の線に沿って分かれる――白人の応募者は727、ヒスパニックは667、黒人は627――そして白人世帯の半数超が700を上回るのに対し、黒人世帯ではおよそ5分の1にとどまる。信用履歴を主要な特徴量として投入すれば、それらの格差をそのまま承認率へと注ぎ込むことになる。
SafeRentはその集団訴訟を$2.275 millionで和解した。2024年11月のことだ。ベンダーを夜も眠れなくさせるべき部分は、その金額ではない。裁判所がSafeRentの「中立的ベンダー」という抗弁を真っ向から退けたことだ。彼らは、自分たちは単にスコアを供給しただけであり、判断を下したのは家主だと主張した。裁判所はそれを受け入れなかった。家主が主として第三者のスコアに依拠するのであれば、そのスコアの提供者は差別的な結果について責任を分担するのだ。
その判決は、私が抱えて入ってきた心地よい思い込みを打ち砕いた――ツールのベンダーであり、賃貸の判断から一歩離れていることが、法的な盾になるという思い込みを。そうではない。モデルこそが判断なのだ。
あなたの価格設定エンジンは、いつカルテルになるのか?
ここからが、私を本当に驚かせた部分であり、いまや私が住宅案件を審査だけを軸に切り出すことを拒む理由だ。
私たちが差別的インパクトに没頭しているあいだに、より大きな法的な地震は価格設定の側で起きていた――そしてそれは公平性とは何の関係もなかった。RealPageのレベニューマネジメント製品であるAIRMとYieldStarは、競合する家主から非公開の賃料、賃貸条件、稼働率のデータを収集し、そのプールしたデータを用いて、司法省(DOJ)の言葉を借りれば家賃を「足並みをそろえて」動かすよう設計された価格推奨を生成していた。
司法省はそれをプライバシーの問題としても公平性の問題としても扱わなかった。彼らはそれをハブ・アンド・スポーク型カルテルとして、シャーマン法第1条の下で扱った。RealPageがハブだった。プラットフォームを通じて競合データを供給するすべての家主がスポークだった。この反トラスト理論の形こそ、腑に落とすべきものだ。すなわち、誰も一室に集まって価格を固定することに合意する必要はなかった。アルゴリズムこそが合意だったのだ。
事態をいっそう悪くしたのは、自動化のデフォルト設定だった。AIRMは、日次3%・週次8%の変動幅の範囲内で、自らの価格推奨を自動的に受け入れていた――そしてほとんどの家主はそれらの設定に一度も手を触れなかった。アルゴリズムは事実上、人間が介在しないまま家賃を設定していた。DOJの提出書類で引用されたProPublicaの分析は、借り手が負担するコストをおよそ月$70、家賃の約4%と見積もった。2023年だけで、追加された賃貸コストの総額はおよそ$3.8 billionに上る。
そのツケを払ったのは家主たちだった。Greystarは$50 millionに加え、州向けにさらに$7 millionで和解した。BH Managementは$15 million。Simpson Property Groupは$6.5 million。小規模なものを足せば、家主の集団訴訟和解金は$140 millionを、2025年10月までに超える。FPI Managementは、Yardiの価格設定ツールを使ったというだけで$2.8 millionを支払った。ベンダーのアルゴリズム、しかし運営者の責任だ。
つまり、私の目の前に座っていたその会社は、一つのリスクプロファイルに直面していたのではない。審査の側では公正住宅法の差別的インパクトのエクスポージャーに、価格設定の側ではシャーマン法の反トラストのエクスポージャーに、同時に直面していた――しかも、その会社自身のエンジニアが「AI」だと考えていた二つのシステムから。
実際に訴訟に勝ったもの――意図ではなく、アーキテクチャ
しばらくのあいだ、私は価格設定の問題が振る舞いの問題だと思い込んでいた――競合データをプールするな、自動受け入れをするな、善意を文書化せよ、と。そのとき私は、Yardiが実際にどう勝ったのかを読んだ。
カリフォルニア州の訴訟で、Yardiは自らに有利なサマリージャッジメント(略式判決)を得た。心が清らかだと主張したからではなく、同社のRevenue IQ製品が証明できたからだ――アーキテクチャに関わる、あることを。すなわち、それは「いかなるクライアントの機密の価格情報も、他のいかなるクライアントのためにも使用しないし、設計上、使用できない」というものだ。データはシステムレベルで隔離されていた。クライアント間の混入は、単にポリシーに反するというだけではなかった――構造的に不可能だったのだ。
そのたった一文が、コンプライアンス・エンジニアリングについての私の考え方を再構成した。
データの隔離とは、ポリシー文書の中で交わす約束ではない。それは、アーキテクチャ図の中で証明できる性質なのだ。
Yardiの連邦訴訟はいまなお継続中であり、そこでは裁判官が反トラストの申し立ての続行を認めた――だからこれは、きれいな勝利の凱旋ではない。しかし、その対比こそが教訓だ。弁護可能な姿勢は、意図ではなかった。それは、規制当局が「クライアントをまたいで競合データを共有できないことを示せ」と求めたときに、ホワイトボードの上に隔離の境界線を描き、どのデータ経路もそれを越えていないと示せるシステムだった。私が出会うほとんどのチームは、その正反対のものを構築してきた。すなわち、共有されたモデル、共有されたデータレイク、そしてそれをいかに責任をもって使っているかについての保証で埋め尽くされたスライド資料だ。
同じ論理が、いまやDOJが2025年後半に取り付けたRealPageの同意判決(consent decree)を貫いている。見出しの先を見れば、その牙は運用に関わるものだ。モデルの訓練は、少なくとも12か月以上前の過去データに限定される。実行時の価格設定は、非公開のライバル統計を組み込むことができない。価格変動に上限を設ける「ガバナー(調速機)」機能は対称的でなければならない――引き下げと引き上げに等しい重みを与えるものでなければならず、上方への一方向のラチェットであってはならない。そして自動受け入れ機能は、設定可能であり、人間が手動で設定するものでなければならない。この最後の点は、見た目以上に重要だ。かつてのワークフロー――日次3%、週次8%に設定して、あとは放置する――が、いまやそれ自体が違反なのだ。この和解は7年間続き、金銭的な制裁も不正の自認もない。このことは、DOJが求めたのがアーキテクチャの変更であって、小切手ではなかったことを物語っている。
これが、私たちの仕事がモデルを監査することから、モデルを設計することへと移った瞬間だった。これらの性質を、後から取って付けることはできない。12か月のデータエイジング、証明可能なクライアント隔離、対称的なガバナー、自動受け入れに対する人間のゲート――これらは、たった一つの価格が世に出る前に下す設計上の判断であり、さもなければ後から法廷で争うことになる。
なぜ住宅AIコンプライアンスは、モデルではなく地図なのか?
私たちが実際に何を提供するのかと尋ねられたとき、正直な答えは、最も難しい成果物はモデルではないというものだ。それは、コンプライアンス責任者が社内会議に持ち込んで信頼できる、規制のマトリクスなのだ。
住宅AIコンプライアンスは、一つの規制ではない。それは急速に固まりつつあるパッチワークであり、しかも連邦法と州法が同時に正反対の方向へと動いている。連邦レベルでは、執行が弱まっている――HUDのAIガイダンスはウェブサイトから取り下げられ、CFPBは職員を減らし、差別的インパクトの執行を優先順位から外そうとする政権の動きもあった。ワシントンだけを見ていたら、リスクは後退していると結論づけるだろう。
ワシントンだけを見ていれば、リスクは後退していると思うだろう。だが、それが実際に息づいているのは、いまや州なのだ。
州は正反対の物語を語っており、いまやエクスポージャーが息づいているのは州だ。2026年1月1日に施行されるカリフォルニア州のAB 325は、カートライト法を改正し、競合データに依拠する「共通の(common)」価格設定アルゴリズム――二者以上によって使用されるツールと定義される――を禁止し、より厳しい連邦の申立基準を退ける。これにより、原告が裁判に持ち込むことが実質的にかなり容易になる。2025年12月に施行されるニューヨーク州のS.7882は、さらに踏み込む。すなわち、「協調機能」を持つ住宅向け価格設定ツールへの全面的な禁止であり、公開データと非公開データの区別はなく、ドネリー法の下でテナントに私的訴権を認める。RealPageはこれを憲法修正第1条を根拠に争っており、そのためこの争いが決着するまで執行は停止されている――だが、他人の憲法訴訟に自分が勝つと決めてかかることはできない。2026年6月30日に施行されるコロラド州のSB 205は、テナント審査を「重大な決定(consequential decision)」に分類し、年次のインパクト評価、リスク管理プログラム、そしてAIがどのように寄与したか、どのデータを使用したか、応募者がどのように不服申立てできるかを説明する不利益決定の開示を求める。
そのすべての底流には、ほとんどのチームが関係していることすら忘れている連邦法が流れている。公正信用報告法(Fair Credit Reporting Act)だ。消費者報告として機能するアルゴリズムのスコアはいずれも、FCRAの二段階の不利益措置プロセスに準拠しなければならない――つまり、あなたのモデルが誰かを却下するとき、あなたはその人に「アルゴリズムがノーと言った」ではなく、具体的な理由を負っているのだ。この一つの要件がブラックボックスの審査モデルと相容れないからこそ、不利益措置通知のテンプレートは、私が最初に見せてほしいと頼む文書の一つなのだ。
AB 325には、構築の計算全体を静かに変えてしまう一つの細部がある。それが牙をむくのは、二者以上の当事者によって使用されるツールに対してのみだ。共有されたマルチテナントの価格設定製品は、まさにその範囲内にある。あつらえの、単一運営者向けのモデルはそうではない。この規制は、事実上、そもそも反トラスト問題を生み出したプールデータ型のSaaSアーキテクチャを捨てることに対して、あなたに報酬を払っているのだ。
そして、欧州にテナントを持つ者にとっては、EU AI法が審査と価格設定の両方を高リスクの用途として扱っており、制裁金は最大で€35 million、または全世界売上高の7%に上る――そして、その高リスクの義務は2025年と2026年にかけて段階的に適用されるため、EUへのエクスポージャーを持つ運営者にとって、時計はすでに動き始めている。その上に公正住宅法の罰則を積み重ねれば――2025年の調整の下で、初回違反は$26,262、反復違反は最大$131,308――地図を読み違えることのコストは、机上のものではなくなる。
私はこのために、施行日で色分けした一枚のスプレッドシートを保持している。というのも、法務責任者(GC)が実際に問うのは「私たちはコンプライアンスに適合しているか?」ではないからだ。それは「私たちが事業を営む州で、これらのうちどれが有効で、それぞれが具体的に何を求めているのか?」という問いだ。ある運営者の事業範囲について、その答えを弁護可能な形で生み出すことこそが、価値の大半なのだ。
横断的なAIガバナンス・プラットフォーム――Credo AI、Holistic AI、FairNow、その他――は、ポリシー管理と公平性のモニタリングに本当に長けている。だが、それらは業界を問わない汎用として作られている。それらのどれ一つとして、テナント審査モデルを、HUDのガイダンス、5分の4ルール、FCRAの不利益措置、そしてあなたの価格設定エンジンの反トラスト上の姿勢とに、同時に対応づけることはしない。その交差点こそが住宅における仕事のすべてであり、まさに汎用ツールがあなたに委ねてしまう部分だ。私たちは住宅AIコンプライアンスの実務を、まさにその地図を監査済みのモデルとともに提供することを中心に据えて構築した――なぜなら、そのモデルがどの法律に照らして判断されているのかを取締役会に伝えられないなら、モデルには価値がないからだ。
保護対象の属性を取り除いてしまえばいいだけでは?
これは、私が最もよく耳にする反論であり、そして興味深い形で間違っている。その直感はこうだ。人種を取り除き、性別を取り除けば、モデルは差別できない、と。しかし、信用スコア、立ち退き履歴、犯罪歴のデータは、いずれもその格差をそのまま連れ戻す代理変数(プロキシ)だ――それこそが、SafeRentの「中立的」な信用の重み付けが、人種を一度も見ることなく人種的な偏りを生み出したまさにその仕組みだ。
本当のツールは、もっと知られておらず、もっと強力だ。すなわち、最小差別代替案の探索、略してLDAだ。その前提は、ある予測問題が与えられたとき、モデルは一つではない――おおむね同等の精度を達成しながら、公平性のプロファイルは大きく異なる何百万ものモデルが存在する、という観察から生まれる。そこで整数計画法――CPLEXやGurobiのようなソルバーが実行する、あの網羅的な最適化――を用いて、その空間全体を探索し、精度と差別的インパクトのあいだのトレードオフをパレートフロンティアとして描き出す。そうすれば、あなたが単にうまくいくモデルを選んだのではないことを、証拠をもって示せる。すなわち、性能の基準をなお満たしつつ、最も差別の小さいモデルを選んだのだ、と。
CFPBは明示的に「差別的インパクトの定期的なテスト。これには、より差別の小さい代替案の探索を含む」ことを求めてきた。これは公正貸付の分野では成熟している。だが、住宅向けにこれを提供する者はほとんどいない。規制当局が、なぜあなたが選んだそのモデルを選んだのかと問うとき、「精度が高かったから」は抗弁にはならない――それは、原告が差別的インパクトの主張を突き通してくる隙間なのだ。「これがフロンティアであり、これが私たちが選んだ点であり、その理由はこうだ」というのが、宣誓証言(deposition)に耐える答えだ。
エージェント型リーシング――住宅AIコンプライアンスが次に崩れる場所
これが楽になるどころか難しくなると私が考える理由は、すでにアメリカの集合住宅のおよそ12戸に1戸に存在している。すなわち、エージェント型リーシングAIだ。
不動産管理ソフトウェアの次の波は、審査スコアでも価格推奨でもない。それは、問い合わせに対応し、内見の予約を取り、応募者を事前審査し、そして人間を介さずに賃貸条件を交渉する自律型エージェントだ。あるプラットフォームは、リードから契約までの時間を65%削減すると謳う。その効率化は本物だ。そして、エクスポージャーもまた本物だ。
自律型エージェントが下すあらゆる判断は、潜在的な公正住宅法違反であり、あるいは反トラストの接点だ。応募者の属性によって応答の質を変えたり、特定の応募者を特定の建物へと誘導したり、価格上の譲歩を不均等に適用したりするエージェントは、一つひとつのやり取りごとに拡大していく責任を生み出している――機械の速度で、何千もの会話にわたって、しかも後から「私なら気づいていた」と言える人間は一人もいないまま。エージェント型リーシングのためのコンプライアンス・アーキテクチャは、まだ存在していない。ちょうど、価格設定のためのデータ隔離アーキテクチャが、Yardiの弁護士がそれを必要とするまでほとんど存在していなかったのと同じように。
それが、私たちがいま構築へと向かっているフロンティアだ。誰か他人が訓練したモデルに取って付けた公平性ダッシュボードではなく、審査のロジックが分解された5分の4監査を生き延びられ、価格設定のロジックがアーキテクチャ図の中でクライアント隔離を証明でき、そして自律型エージェントのあらゆる判断が、規制当局が読める記録を残す――そうしたシステムだ。私たちがそれにどう取り組むのかの全体像は、私たちの住宅AIコンプライアンスのページにある。
私はこの仕事に、自分の役割は一つのアルゴリズムを公平にすることだと考えて入ってきた。いま、どの不動産運営者にも私が伝えたいことは、もっと単純で、もっと難しい。すなわち、あなたは二つのアルゴリズムを動かしており、裁判所はそれぞれを、あなた自身のエンジニアが口にするのをおそらく一度も聞いたことのない別々の法律によって裁くのだ、と。SafeRentの弁護士は、信用スコアが中立ではないことを学んだ。RealPageの弁護士は、アルゴリズムが共謀になりうることを学んだ。この両方の教訓を学ぶのに最も安上がりな場所は、ホワイトボードだ――規制当局があなたのホワイトボードの前に立ち、隔離の境界線を描いて、どのデータもそれを越えたことがないと証明せよと求めてくる、その前に。
