Tu IA de evaluación de inquilinos superó la prueba de equidad. Seguía discriminando.

La primera vez que me senté con el equipo de cumplimiento de una empresa de administración de propiedades, cometí un error que creo que cometen la mayoría de los ingenieros. Supuse que estaba allí para arreglar un solo algoritmo.

Tenían un modelo de evaluación de inquilinos que puntuaba a los solicitantes y una herramienta de gestión de ingresos que fijaba los alquileres. Para mí, al entrar, eran dos funciones del mismo stack de software: ambas "la IA", ambas mi problema para volverlas defendibles. Cuando me fui, entendí aquello que ha organizado todo nuestro trabajo de cumplimiento de la IA en vivienda desde entonces: no se trata de un problema con dos caras. Son dos demandas judiciales completamente distintas a punto de estallar, regidas por dos cuerpos legales sin relación entre sí, y la misma empresa está expuesta a ambas a la vez.

Esa brecha —entre cómo ve estos sistemas quien los construye y cómo los ve un tribunal— es exactamente lo que hace que el cumplimiento de la IA en vivienda sea tan fácil de equivocar. Por eso quiero repasar primero en qué me equivoqué, porque el fracaso es más instructivo que la solución.

La regla de los cuatro quintos que nos mintió

Empezamos donde empieza todo el mundo: la equidad en la evaluación. El anclaje legal aquí es la Fair Housing Act, y la prueba operativa a la que recurren la mayoría de los equipos es la regla de los cuatro quintos: si tu tasa de aprobación para cualquier grupo protegido cae por debajo del 80% de tu grupo con mayor aprobación, tienes un problema presunto de impacto dispar.

Así que construimos una auditoría que calculaba exactamente esa proporción en todas las decisiones del modelo. Los números agregados salieron limpios. Las tasas de aprobación entre los grupos raciales se situaban cómodamente por encima del umbral del 80%. Recuerdo el alivio en la sala. Estábamos listos para declararlo conforme.

Entonces uno de nuestros ingenieros separó a los titulares de vales en su propia columna.

El panorama se invirtió. Entre los solicitantes que pagaban con vales de elección de vivienda —ingresos garantizados por el gobierno— el modelo rechazaba a una tasa que habría sido indefendible ante cualquier regulador. La regla de los cuatro quintos se había superado porque la disparidad estaba escondida dentro del grupo aprobado. Una vez que se desagregaba a los inquilinos subsidiados, estaba ahí mismo, en rojo.

Un modelo de evaluación puede superar la regla de los cuatro quintos en el agregado y aun así codificar la discriminación exacta que la regla existe para detectar.

Esto es casi exactamente lo que le pasó a SafeRent. Su algoritmo Registry ScorePLUS puntuaba bajo a los titulares de vales porque ponderaba fuertemente el historial crediticio sin tener en cuenta el flujo de ingresos garantizado que proporciona un vale. El modelo trataba la puntuación crediticia como un predictor neutral. No es neutral. Las puntuaciones FICO medianas se dividen según líneas raciales —727 para solicitantes blancos, 667 para hispanos, 627 para negros— y más de la mitad de los hogares blancos se sitúan por encima de 700, mientras que solo alrededor de una quinta parte de los hogares negros lo hace. Introduce el historial crediticio como una característica primaria y estarás vertiendo esas disparidades directamente en tus tasas de aprobación.

SafeRent resolvió esa demanda colectiva por $2.275 millones en noviembre de 2024. La parte que debería quitar el sueño a los proveedores no es la cifra en dólares. Es que el tribunal rechazó de plano la defensa de "proveedor neutral" de SafeRent. Alegaron que simplemente suministraban una puntuación; el arrendador tomaba la decisión. El tribunal no lo aceptó. Si un arrendador se basa principalmente en una puntuación de un tercero, el proveedor de esa puntuación comparte la responsabilidad por el resultado discriminatorio.

Esa sentencia acabó con una cómoda suposición que yo traía conmigo: que ser el proveedor de la herramienta, a un paso de la decisión de arrendamiento, era un escudo legal. No lo es. El modelo es la decisión.

¿Cuándo se convierte tu motor de precios en un cártel?

Esta es la parte que genuinamente me sorprendió, y es la razón por la que ahora me niego a definir un proyecto de vivienda en torno a la evaluación por sí sola.

Mientras estábamos concentrados en el impacto dispar, el mayor terremoto legal estaba ocurriendo en el lado de los precios, y no tenía nada que ver con la equidad. Los productos de gestión de ingresos de RealPage, AIRM y YieldStar, recopilaban tarifas de alquiler no públicas, condiciones de arrendamiento y datos de ocupación de arrendadores competidores, y luego usaban esos datos agrupados para generar recomendaciones de precios diseñadas para mover los alquileres, en palabras del DOJ, "al unísono".

El Departamento de Justicia no lo trató como un problema de privacidad ni como un problema de equidad. Lo trató como un cártel de eje y radios bajo la Sección 1 de la Sherman Act. RealPage era el eje. Cada arrendador que alimentaba datos de la competencia a través de la plataforma era un radio. La forma de la teoría antimonopolio es lo que hay que interiorizar: nadie tuvo que sentarse en una sala y acordar fijar precios. El algoritmo era el acuerdo.

Lo que lo empeoraba eran las configuraciones automáticas por defecto. AIRM aceptaba automáticamente sus propias recomendaciones de precios dentro de un cambio del 3% diario y del 8% semanal, y la mayoría de los arrendadores nunca tocaban esos ajustes. El algoritmo estaba fijando los alquileres, en la práctica, sin ningún humano en el circuito. El análisis de ProPublica, citado en los escritos del DOJ, situó el costo para los inquilinos en aproximadamente $70 al mes, alrededor del 4% del alquiler, con un total de algo así como $3.8 mil millones en costos de alquiler adicionales solo en 2023.

Los arrendadores lo pagaron. Greystar llegó a un acuerdo por $50 millones más otros $7 millones para los estados. BH Management por $15 millones. Simpson Property Group por $6.5 millones. Suma los más pequeños y superas los $140 millones en acuerdos de demandas colectivas contra arrendadores para octubre de 2025. FPI Management pagó $2.8 millones solo por usar la herramienta de precios de Yardi. El algoritmo del proveedor; la responsabilidad del operador.

Así que la empresa que tenía enfrente no se enfrentaba a un solo perfil de riesgo. Se enfrentaba a una exposición por impacto dispar de la Fair Housing en el lado de la evaluación y a una exposición antimonopolio de la Sherman Act en el lado de los precios, simultáneamente, desde dos sistemas que sus propios ingenieros consideraban "la IA".

Lo que realmente ganó un caso: la arquitectura, no la intención

Durante un tiempo supuse que el problema de los precios tenía que ver con el comportamiento —no agrupar datos de la competencia, no autoaceptar, documentar tus buenas intenciones—. Luego leí cómo ganó Yardi en realidad.

En el caso del estado de California, Yardi obtuvo un fallo sumario a su favor. No porque argumentaran que sus corazones eran puros, sino porque su producto Revenue IQ podía demostrar algo arquitectónico: "no usa, y por diseño no puede usar, la información de precios confidencial de ningún cliente para ningún otro cliente". Los datos estaban aislados a nivel de sistema. La contaminación entre clientes no era simplemente contraria a la política, era estructuralmente imposible.

Esa sola frase reorganizó mi manera de pensar sobre la ingeniería de cumplimiento.

El aislamiento de datos no es una promesa que se hace en un documento de política. Es una propiedad que se puede demostrar en un diagrama de arquitectura.

El caso federal de Yardi sigue en curso, y allí un juez permitió que las acusaciones antimonopolio avanzaran, así que no se trata de una vuelta de la victoria impecable. Pero el contraste es la lección. La postura defendible no fue la intención. Fue un sistema que, cuando un regulador exigió "demuéstrame que no puedes compartir datos de la competencia entre clientes", podía dibujar el límite de aislamiento en una pizarra y mostrar que ninguna ruta de datos lo cruzaba. La mayoría de los equipos que conozco han construido lo contrario: un modelo compartido, un lago de datos compartido y una presentación llena de garantías sobre cómo lo usan de forma responsable.

La misma lógica recorre ahora el decreto de consentimiento de RealPage que el DOJ obtuvo a finales de 2025. Mira más allá del titular y verás que los dientes son operativos: el entrenamiento del modelo se limita a datos históricos de al menos 12 meses de antigüedad. La fijación de precios en tiempo de ejecución no puede incorporar estadísticas no públicas de rivales. Las funciones de "regulador" que limitan los cambios de precio tienen que ser simétricas —igual peso a las reducciones que a los aumentos, no un trinquete de un solo sentido hacia arriba—. Y las funciones de autoaceptación tienen que ser configurables y establecidas manualmente por un humano. Esta última importa más de lo que parece. El antiguo flujo de trabajo —fijarlo en 3% diario, 8% semanal y desentenderse— es ahora, en sí mismo, la infracción. El acuerdo dura siete años, sin penalización económica ni admisión de culpa, lo que te dice que el DOJ quería la arquitectura cambiada, no un cheque.

Fue entonces cuando nuestro trabajo pasó de auditar modelos a diseñarlos. No puedes añadir estas propiedades después. El envejecimiento de datos a doce meses, el aislamiento demostrable de clientes, los reguladores simétricos, una compuerta humana en la autoaceptación: esas son decisiones de diseño que tomas antes de que se publique un solo precio, o las litigas más tarde.

¿Por qué el cumplimiento de la IA en vivienda es un mapa, no un modelo?

Cuando la gente pregunta qué entregamos realmente, la respuesta honesta es que el entregable más difícil no es un modelo. Es una matriz regulatoria en la que un responsable de cumplimiento pueda confiar y llevar a una reunión interna.

El cumplimiento de la IA en vivienda no es una sola regulación. Es un mosaico que se está endureciendo rápidamente, y la ley federal y la estatal se mueven en direcciones opuestas al mismo tiempo. A nivel federal, la aplicación se está debilitando: la guía de IA del HUD desapareció del sitio web, la CFPB ha reducido personal y ha habido un impulso ejecutivo para restar prioridad a la aplicación del impacto dispar. Si solo observaras Washington, concluirías que el riesgo estaba disminuyendo.

Observa solo Washington y pensarás que el riesgo está disminuyendo. Los estados son donde realmente reside ahora.

Los estados cuentan la historia opuesta, y son donde reside ahora la exposición. La AB 325 de California, en vigor el 1 de enero de 2026, modifica la Cartwright Act para prohibir los algoritmos de precios "comunes" —definidos como herramientas usadas por dos o más partes— que se basan en datos de la competencia, y rechaza el estándar federal de alegación más estricto, lo que facilita materialmente que los demandantes lleguen a los tribunales. La S.7882 de Nueva York, en vigor en diciembre de 2025, va más allá: una prohibición total de las herramientas de fijación de precios residenciales con una "función de coordinación", sin distinción entre datos públicos y no públicos, y un derecho privado de acción para los inquilinos bajo la Donnelly Act. RealPage la está impugnando por motivos de la Primera Enmienda, así que su aplicación está suspendida a la espera de esa batalla, pero no puedes dar por sentado que ganarás el caso constitucional de otro. La SB 205 de Colorado, en vigor el 30 de junio de 2026, clasifica la evaluación de inquilinos como una "decisión consecuente" y exige evaluaciones anuales de impacto, programas de gestión de riesgos y divulgaciones de decisiones adversas que describan cómo contribuyó la IA, qué datos usó y cómo puede apelar un solicitante.

Por debajo de todo eso corre una ley federal que la mayoría de los equipos olvidan que siquiera está en juego: la Fair Credit Reporting Act. Cualquier puntuación algorítmica que funcione como un informe del consumidor tiene que cumplir con el proceso de acción adversa de dos pasos de la FCRA, lo que significa que cuando tu modelo rechaza a alguien, le debes razones específicas, no "el algoritmo dijo que no". Ese único requisito es incompatible con un modelo de evaluación de caja negra, y es la razón por la que la plantilla del aviso de acción adversa es uno de los primeros documentos que pido ver.

Hay un detalle en la AB 325 que cambia silenciosamente todo el cálculo de la construcción: solo afecta a las herramientas usadas por dos o más partes. Un producto de precios compartido y multiinquilino queda de lleno dentro del alcance. Un modelo a medida, de un solo operador, no. La regulación, en efecto, te paga por abandonar la arquitectura SaaS de datos agrupados que creó el problema antimonopolio en primer lugar.

Y para cualquiera con inquilinos europeos, la EU AI Act trata tanto la evaluación como la fijación de precios como usos de alto riesgo, con multas de hasta €35 millones o el 7% de la facturación global —y sus obligaciones de alto riesgo entran en vigor de forma escalonada a lo largo de 2025 y 2026, así que el reloj ya ha empezado a correr para cualquier operador con exposición en la UE—. Añade encima las sanciones de la Fair Housing —$26,262 por una primera infracción, hasta $131,308 por infracciones reincidentes según los ajustes de 2025— y el costo de equivocarse con el mapa no es teórico.

Mantengo una única hoja de cálculo para esto, codificada por colores según la fecha de entrada en vigor, porque la pregunta que un director jurídico realmente hace no es "¿cumplimos?". Es "¿cuál de estas está vigente en los estados donde operamos, y qué exige específicamente cada una?". Producir esa respuesta, de forma defendible, para la presencia de un operador dado, es la mayor parte del valor.

Las plataformas horizontales de gobernanza de IA —Credo AI, Holistic AI, FairNow y las demás— son genuinamente buenas en la gestión de políticas y el monitoreo de la equidad, pero están construidas para ser agnósticas respecto a la industria. Ninguna de ellas mapea un modelo de evaluación de inquilinos con la guía del HUD, la regla de los cuatro quintos, la acción adversa de la FCRA, y la postura antimonopolio de tu motor de precios al mismo tiempo. Esa intersección es todo el trabajo en vivienda, y es exactamente lo que una herramienta de propósito general te deja a ti. Construimos la práctica de cumplimiento de la IA en vivienda en torno a ofrecer exactamente ese mapa junto con los modelos auditados, porque el modelo no vale nada si no puedes decirle al consejo bajo qué ley se le está juzgando.

¿No basta con eliminar los atributos protegidos?

Esta es la objeción que más escucho, y está equivocada de una manera interesante. La intuición es: elimina la raza, elimina el género, y el modelo no puede discriminar. Pero la puntuación crediticia, el historial de desalojos y los datos de antecedentes penales son todos proxies que reintroducen la disparidad de nuevo, y así es exactamente como la ponderación crediticia "neutral" de SafeRent produjo un sesgo racial sin ver nunca la raza.

La herramienta real es menos famosa y más poderosa: una búsqueda de alternativa menos discriminatoria, o LDA. La premisa surge de la observación de que, para cualquier problema de predicción dado, no hay un solo modelo: hay millones de modelos que logran una precisión aproximadamente igual pero perfiles de equidad enormemente distintos. Así que usas programación entera —el tipo de optimización exhaustiva que ejecutan solucionadores como CPLEX o Gurobi— para buscar en todo ese espacio y trazar el compromiso entre precisión e impacto dispar como una frontera de Pareto. Entonces puedes demostrar, con evidencia, que no elegiste simplemente un modelo que funcionaba; elegiste el modelo menos discriminatorio que aún cumplía tu umbral de rendimiento.

La CFPB ha pedido explícitamente "pruebas periódicas de impacto dispar, incluidas búsquedas de alternativas menos discriminatorias". Está madura en los préstamos justos. Casi nadie la ofrece para la vivienda. Cuando un regulador pregunta por qué elegiste el modelo que elegiste, "era preciso" no es una defensa: es la brecha por la que un demandante hace pasar una reclamación por impacto dispar. "Aquí está la frontera, y aquí está el punto que seleccionamos y por qué" es la respuesta que se sostiene en una declaración jurada.

Arrendamiento agéntico: dónde se rompe a continuación el cumplimiento de la IA en vivienda

La razón por la que creo que esto se vuelve más difícil, no más fácil, ya está presente en aproximadamente una de cada doce unidades multifamiliares de EE. UU.: la IA de arrendamiento agéntico.

La próxima ola de software de administración de propiedades no es una puntuación de evaluación ni una recomendación de precio. Son agentes autónomos que atienden consultas, programan visitas, preseleccionan solicitantes y negocian las condiciones de arrendamiento sin ningún humano en el circuito. Una plataforma afirma una reducción del 65% en el tiempo de captación a arrendamiento. La eficiencia es real. La exposición también.

Cada decisión que toma un agente autónomo es una posible violación de la Fair Housing o un punto de contacto antimonopolio. Un agente que varía la calidad de su respuesta según la demografía de un solicitante, o dirige a ciertos solicitantes hacia ciertos edificios, o aplica concesiones de precio de forma desigual, está generando una responsabilidad que escala con cada interacción individual: a velocidad de máquina, a través de miles de conversaciones, sin ningún humano que pueda decir después "yo lo habría detectado". La arquitectura de cumplimiento para el arrendamiento agéntico aún no existe, de la misma manera que la arquitectura de aislamiento de datos para la fijación de precios apenas existía hasta que los abogados de Yardi la necesitaron.

Esa es la frontera hacia la que estamos construyendo ahora. No un panel de equidad atornillado a un modelo que entrenó otra persona, sino sistemas donde la lógica de evaluación pueda sobrevivir a una auditoría de los cuatro quintos desagregada, la lógica de precios pueda demostrar el aislamiento de clientes en un diagrama de arquitectura, y cada decisión de un agente autónomo deje un registro que un regulador pueda leer. La imagen completa de cómo lo abordamos se encuentra en nuestra página de cumplimiento de la IA en vivienda.

Entré en esto pensando que mi trabajo era hacer que un algoritmo fuera justo. Lo que le diría a cualquier operador inmobiliario ahora es más simple y más difícil: estás ejecutando dos algoritmos, y un tribunal juzgará cada uno según una ley distinta que probablemente nunca has oído mencionar a tus propios ingenieros. Los abogados de SafeRent aprendieron que una puntuación crediticia no es neutral. Los de RealPage aprendieron que un algoritmo puede ser una conspiración. El lugar más barato para aprender ambas lecciones es una pizarra, antes de que un regulador se plante ante la tuya y te pida que dibujes el límite de aislamiento y demuestres que ningún dato lo cruzó jamás.