Sua IA de Triagem de Inquilinos Passou no Teste de Equidade. Ainda Assim Discriminava.

A primeira vez que me sentei com a equipe de conformidade de uma administradora de imóveis, cometi um erro que acho que a maioria dos engenheiros comete. Presumi que estava ali para consertar um único algoritmo.

Eles tinham um modelo de triagem de inquilinos que pontuava candidatos e uma ferramenta de gestão de receita que definia os aluguéis. Para mim, ao entrar ali, aquilo eram dois recursos da mesma pilha de software — ambos "a IA", ambos problema meu para tornar defensável. Quando saí, eu havia entendido a coisa que organizou todo o nosso trabalho de conformidade de IA habitacional desde então: aquilo não é um problema com duas faces. São dois processos judiciais completamente diferentes prestes a acontecer, regidos por dois corpos jurídicos sem relação entre si, e a mesma empresa está exposta a ambos ao mesmo tempo.

Essa lacuna — entre como um construtor enxerga esses sistemas e como um tribunal os enxerga — é exatamente o que torna a conformidade de IA habitacional tão fácil de errar. Por isso quero percorrer o que eu errei primeiro, porque a falha é mais instrutiva do que a correção.

A Regra dos Quatro Quintos Que Nos Enganou

Começamos onde todo mundo começa: equidade na triagem. A âncora jurídica aqui é o Fair Housing Act, e o teste operacional que a maioria das equipes usa é a regra dos quatro quintos — se a sua taxa de aprovação para qualquer grupo protegido cair abaixo de 80% do seu grupo de maior aprovação, você tem um problema presumido de impacto desproporcional.

Então construímos uma auditoria que calculava exatamente essa proporção em todas as decisões do modelo. Os números agregados voltaram limpos. As taxas de aprovação entre grupos raciais ficaram confortavelmente acima do limiar de 80%. Lembro do alívio na sala. Estávamos prontos para relatar como estando em conformidade.

Então um dos nossos engenheiros separou os portadores de vouchers em uma coluna própria.

O quadro se inverteu. Entre os candidatos que pagavam com vouchers de escolha habitacional — renda governamental garantida — o modelo estava recusando a uma taxa que teria sido indefensável diante de qualquer regulador. A regra dos quatro quintos havia passado porque a disparidade estava escondida dentro do grupo aprovado. Assim que você desagregava os inquilinos subsidiados, ela aparecia ali, em vermelho.

Um modelo de triagem pode passar na regra dos quatro quintos no agregado e ainda assim codificar exatamente a discriminação que a regra existe para detectar.

Foi quase precisamente o que aconteceu com a SafeRent. O algoritmo Registry ScorePLUS pontuava os portadores de vouchers baixo porque atribuía peso elevado ao histórico de crédito sem considerar o fluxo de renda garantida que um voucher proporciona. O modelo tratava a pontuação de crédito como um preditor neutro. Ela não é neutra. As medianas de FICO se dividem por linhas raciais — 727 para candidatos brancos, 667 para hispânicos, 627 para negros — e mais da metade dos domicílios brancos fica acima de 700, enquanto apenas cerca de um quinto dos domicílios negros fica. Insira o histórico de crédito como uma variável primária e você estará despejando essas disparidades diretamente nas suas taxas de aprovação.

A SafeRent fechou um acordo naquela ação coletiva por US$ 2,275 milhões em novembro de 2024. A parte que deveria tirar o sono dos fornecedores não é a cifra em dólares. É que o tribunal rejeitou de imediato a defesa de "fornecedor neutro" da SafeRent. Eles argumentaram que apenas forneceram uma pontuação; o locador é quem tomou a decisão. O tribunal não aceitou. Se um locador se baseia principalmente em uma pontuação de terceiros, o fornecedor dessa pontuação compartilha a responsabilidade pelo resultado discriminatório.

Aquela decisão matou uma suposição confortável que eu carregava: a de que ser o fornecedor da ferramenta, um passo distante da decisão de locação, era um escudo jurídico. Não é. O modelo é a decisão.

Quando o Seu Mecanismo de Precificação Vira um Cartel?

Aqui está a parte que genuinamente me surpreendeu, e é por isso que agora me recuso a delimitar um trabalho no setor habitacional em torno apenas da triagem.

Enquanto estávamos concentrados no impacto desproporcional, o terremoto jurídico maior acontecia no lado da precificação — e não tinha nada a ver com equidade. Os produtos de gestão de receita da RealPage, AIRM e YieldStar, coletavam taxas de aluguel não públicas, termos de contrato e dados de ocupação de locadores concorrentes, e então usavam esses dados agrupados para gerar recomendações de preço concebidas para mover os aluguéis, nas palavras do DOJ, "em uníssono".

O Departamento de Justiça não tratou aquilo como um problema de privacidade ou de equidade. Tratou como um cartel do tipo hub-and-spoke sob a Seção 1 do Sherman Act. A RealPage era o hub. Cada locador que alimentava dados de concorrentes pela plataforma era um spoke. O formato da teoria antitruste é o que se deve internalizar: ninguém precisou se sentar numa sala e concordar em fixar preços. O algoritmo era o acordo.

O que piorava era o padrão de automação. O AIRM aceitava automaticamente suas próprias recomendações de preço dentro de uma variação diária de 3% e semanal de 8% — e a maioria dos locadores nunca mexia nessas configurações. O algoritmo estava, na prática, definindo aluguéis sem nenhum humano no circuito. A análise da ProPublica, citada nos autos do DOJ, estimou o custo para os locatários em cerca de US$ 70 por mês, em torno de 4% do aluguel, totalizando algo como US$ 3,8 bilhões em custos de aluguel adicionais só em 2023.

Os locadores pagaram por isso. A Greystar fechou acordo por US$ 50 milhões mais outros US$ 7 milhões para estados. A BH Management por US$ 15 milhões. A Simpson Property Group por US$ 6,5 milhões. Some os menores e você ultrapassa US$ 140 milhões em acordos de ações coletivas envolvendo locadores até outubro de 2025. A FPI Management pagou US$ 2,8 milhões apenas por usar a ferramenta de precificação da Yardi. O algoritmo é do fornecedor; a responsabilidade é do operador.

Então a empresa sentada à minha frente não enfrentava um único perfil de risco. Enfrentava exposição a impacto desproporcional sob o Fair Housing no lado da triagem e exposição antitruste sob o Sherman Act no lado da precificação, simultaneamente, a partir de dois sistemas que os próprios engenheiros dela consideravam "a IA".

O Que Realmente Ganhou um Caso: Arquitetura, Não Intenção

Por um tempo presumi que o problema da precificação fosse uma questão de comportamento — não agrupar dados de concorrentes, não aceitar automaticamente, documentar suas boas intenções. Então li como a Yardi realmente venceu.

No caso estadual da Califórnia, a Yardi obteve julgamento sumário a seu favor. Não porque argumentaram que seus corações eram puros, mas porque seu produto Revenue IQ conseguia provar algo arquitetural: ele "não usa e, por design, não pode usar as informações confidenciais de precificação de nenhum cliente para nenhum outro cliente". Os dados eram isolados no nível do sistema. A contaminação entre clientes não era apenas contra a política — era estruturalmente impossível.

Aquela única frase reorganizou meu modo de pensar sobre engenharia de conformidade.

Isolamento de dados não é uma promessa que você faz em um documento de política. É uma propriedade que você pode provar em um diagrama de arquitetura.

O caso federal da Yardi ainda está em andamento, e um juiz ali permitiu que as alegações antitruste prosseguissem — então não se trata de uma volta olímpica tranquila. Mas o contraste é a lição. A postura defensável não era a intenção. Era um sistema que, quando um regulador exigia "mostre-me que você não pode compartilhar dados de concorrentes entre clientes", conseguia desenhar a fronteira de isolamento num quadro branco e demonstrar que nenhum caminho de dados a cruzava. A maioria das equipes que encontro construiu o oposto: um modelo compartilhado, um data lake compartilhado e uma apresentação repleta de garantias sobre como usam tudo isso de forma responsável.

A mesma lógica agora percorre o acordo de consentimento da RealPage que o DOJ garantiu no fim de 2025. Olhe além da manchete e os dentes são operacionais: o treinamento do modelo fica limitado a dados históricos com pelo menos 12 meses de idade. A precificação em tempo de execução não pode incorporar estatísticas não públicas de rivais. Os recursos "governadores" que limitam variações de preço têm de ser simétricos — peso igual a cortes e aumentos, não uma catraca de mão única para cima. E os recursos de aceitação automática têm de ser configuráveis e definidos manualmente por um humano. Esse último importa mais do que parece. O fluxo antigo — configurar em 3% ao dia, 8% por semana, e ir embora — é agora, ele próprio, a violação. O acordo dura sete anos, sem penalidade financeira e sem admissão de culpa, o que lhe diz que o DOJ queria a arquitetura mudada, não um cheque.

É neste ponto que nosso trabalho passou de auditar modelos para engenhá-los. Você não consegue acrescentar essas propriedades depois. Envelhecimento de dados de doze meses, isolamento de cliente comprovável, governadores simétricos, uma barreira humana na aceitação automática — essas são decisões de projeto que você toma antes de um único preço entrar no ar, ou você as litiga depois.

Por Que a Conformidade de IA Habitacional é um Mapa, Não um Modelo?

Quando as pessoas perguntam o que realmente entregamos, a resposta honesta é que a entrega mais difícil não é um modelo. É uma matriz regulatória que um responsável por conformidade possa levar a uma reunião interna e confiar.

Conformidade de IA habitacional não é uma única regulação. É uma colcha de retalhos que está endurecendo rápido, e a lei federal e a estadual estão se movendo em direções opostas ao mesmo tempo. No âmbito federal, a fiscalização está enfraquecendo — a orientação de IA do HUD saiu do site, o CFPB perdeu equipe, e houve um empurrão do executivo para despriorizar a fiscalização de impacto desproporcional. Se você só observasse Washington, concluiria que o risco estava recuando.

Observe apenas Washington e você achará que o risco está recuando. Os estados são onde ele de fato vive agora.

Os estados contam a história oposta, e é neles que a exposição vive agora. A AB 325 da Califórnia, em vigor a partir de 1º de janeiro de 2026, altera o Cartwright Act para proibir algoritmos de precificação "comuns" — definidos como ferramentas usadas por duas ou mais partes — que dependem de dados de concorrentes, e rejeita o padrão federal mais rígido de petição, o que torna materialmente mais fácil para os autores levarem a causa ao tribunal. A S.7882 de Nova York, em vigor em dezembro de 2025, vai além: uma proibição total de ferramentas de precificação residencial com uma "função de coordenação", sem distinção entre dados públicos e não públicos, e um direito privado de ação para inquilinos sob o Donnelly Act. A RealPage está contestando a lei com base na Primeira Emenda, então a fiscalização está suspensa enquanto essa disputa não se resolve — mas você não pode presumir que vencerá a causa constitucional de outra pessoa. A SB 205 do Colorado, em vigor a partir de 30 de junho de 2026, classifica a triagem de inquilinos como uma "decisão consequencial" e exige avaliações anuais de impacto, programas de gestão de risco e divulgações de decisões adversas que descrevam como a IA contribuiu, quais dados utilizou e como um candidato pode recorrer.

Por baixo de tudo isso corre uma lei federal que a maioria das equipes esquece que sequer está em jogo: o Fair Credit Reporting Act. Qualquer pontuação algorítmica que funcione como um relatório de consumo tem de cumprir o processo de ação adversa em duas etapas do FCRA — o que significa que, quando o seu modelo recusa alguém, você lhe deve razões específicas, não "o algoritmo disse não". Essa única exigência é incompatível com um modelo de triagem de caixa-preta, e é por isso que o modelo de aviso de ação adversa é um dos primeiros documentos que peço para ver.

Há um detalhe na AB 325 que muda silenciosamente todo o cálculo de construção: ela só atinge ferramentas usadas por duas ou mais partes. Um produto de precificação compartilhado, multi-inquilino, está claramente no escopo. Um modelo sob medida, de operador único, não está. A regulação está, com efeito, pagando você para abandonar a arquitetura SaaS de dados agrupados que criou o problema antitruste em primeiro lugar.

E para quem tem inquilinos europeus, a Lei de IA da UE trata tanto a triagem quanto a precificação como usos de alto risco, com multas de até €35 milhões ou 7% do faturamento global — e suas obrigações de alto risco entram em vigor gradualmente ao longo de 2025 e 2026, então o relógio já começou a correr para qualquer operador com exposição na UE. Empilhe as penalidades do Fair Housing por cima — US$ 26.262 por uma primeira infração, até US$ 131.308 por violações reincidentes sob os ajustes de 2025 — e o custo de errar o mapa não é teórico.

Mantenho uma única planilha para isso, codificada por cores conforme a data de vigência, porque a pergunta que um diretor jurídico de fato faz não é "estamos em conformidade?". É "qual destas está em vigor nos estados onde operamos, e o que cada uma exige especificamente?". Produzir essa resposta, de forma defensável, para a área de atuação de um dado operador, é a maior parte do valor.

As plataformas horizontais de governança de IA — Credo AI, Holistic AI, FairNow e as demais — são genuinamente boas em gestão de política e monitoramento de equidade, mas foram construídas para serem agnósticas de setor. Nenhuma delas mapeia um modelo de triagem de inquilinos para a orientação do HUD, a regra dos quatro quintos, a ação adversa do FCRA e a postura antitruste do seu mecanismo de precificação ao mesmo tempo. Essa interseção é o trabalho inteiro no setor habitacional, e é exatamente o que uma ferramenta de propósito geral deixa por sua conta. Construímos a prática de conformidade de IA habitacional em torno de entregar exatamente esse mapa ao lado dos modelos auditados — porque o modelo não vale nada se você não puder dizer ao conselho contra qual lei ele está sendo julgado.

Não Basta Simplesmente Remover os Atributos Protegidos?

Esta é a objeção que mais ouço, e ela está errada de um jeito interessante. A intuição é: remova raça, remova gênero, e o modelo não consegue discriminar. Mas pontuação de crédito, histórico de despejos e dados de antecedentes criminais são todos proxies que trazem a disparidade de volta — foi exatamente assim que a ponderação de crédito "neutra" da SafeRent produziu um viés racial sem nunca ver raça.

A ferramenta real é menos famosa e mais poderosa: uma busca por alternativa menos discriminatória, ou LDA. A premissa surge da observação de que, para qualquer problema de predição dado, não existe um modelo — existem milhões de modelos que atingem acurácia aproximadamente igual, mas perfis de equidade radicalmente diferentes. Então você usa programação inteira — o tipo de otimização exaustiva que solucionadores como CPLEX ou Gurobi executam — para buscar todo esse espaço e mapear o trade-off entre acurácia e impacto desproporcional como uma fronteira de Pareto. Aí você pode mostrar, com evidências, que não escolheu apenas um modelo que funcionou; escolheu o modelo menos discriminatório que ainda atendia à sua barra de desempenho.

O CFPB pediu explicitamente por "testes regulares para impacto desproporcional, incluindo buscas por alternativas menos discriminatórias". Isso é maduro em crédito justo. Quase ninguém oferece no setor habitacional. Quando um regulador pergunta por que você escolheu o modelo que escolheu, "ele era acurado" não é uma defesa — é a brecha pela qual um autor conduz uma reivindicação de impacto desproporcional. "Aqui está a fronteira, e aqui está o ponto que selecionamos e por quê" é a resposta que se sustenta sob um depoimento.

Locação Agêntica: Onde a Conformidade de IA Habitacional Quebra a Seguir

A razão pela qual acho que isso fica mais difícil, não mais fácil, já está presente em cerca de uma a cada doze unidades multifamiliares dos EUA: IA de locação agêntica.

A próxima onda de software de administração de imóveis não é uma pontuação de triagem ou uma recomendação de preço. São agentes autônomos que respondem a consultas, agendam visitas, pré-selecionam candidatos e negociam termos de contrato sem nenhum humano no circuito. Uma plataforma afirma uma redução de 65% no tempo de lead até locação. A eficiência é real. A exposição também.

Cada decisão que um agente autônomo toma é uma potencial violação do Fair Housing ou um ponto de contato antitruste. Um agente que varia a qualidade da sua resposta conforme a demografia de um candidato, ou direciona certos candidatos para certos prédios, ou aplica concessões de preço de forma desigual, está gerando responsabilidade que escala a cada interação — em velocidade de máquina, em milhares de conversas, sem nenhum humano que possa depois dizer "eu teria percebido isso". A arquitetura de conformidade para locação agêntica ainda não existe, do mesmo modo que a arquitetura de isolamento de dados para precificação mal existia até que os advogados da Yardi precisaram dela.

É essa a fronteira para a qual estamos construindo agora. Não um painel de equidade parafusado sobre um modelo que outra pessoa treinou, mas sistemas onde a lógica de triagem consiga sobreviver a uma auditoria desagregada dos quatro quintos, a lógica de precificação consiga provar o isolamento de cliente em um diagrama de arquitetura, e cada decisão de um agente autônomo deixe um registro que um regulador possa ler. O quadro completo de como abordamos isso está na nossa página de conformidade de IA habitacional.

Entrei nisto pensando que meu trabalho era tornar um algoritmo justo. O que eu diria a qualquer operador de imóveis agora é mais simples e mais difícil: você está operando dois algoritmos, e um tribunal julgará cada um por uma lei diferente que você provavelmente nunca ouviu seus próprios engenheiros mencionar. Os advogados da SafeRent aprenderam que uma pontuação de crédito não é neutra. Os da RealPage aprenderam que um algoritmo pode ser uma conspiração. O lugar mais barato para aprender ambas as lições é um quadro branco — antes que um regulador esteja diante do seu e lhe peça para desenhar a fronteira de isolamento e provar que nenhum dado jamais a cruzou.