Provas da demonstração
O compromisso permanece visível desde a linha de base até a recomendação.
Estas telas exibem a demonstração local real sobre seu conjunto de teste sintético fixo.
Conformidade de IA no setor habitacional
O Equora transforma uma disparidade medida em uma busca reproduzível por uma alternativa de menor disparidade, mantendo em vista o custo de acurácia, a evidência decisória exata e o gate de liberação.
0.694 to 0.875
Evolução do DIR no grupo mais desfavorecido
Conjunto de teste sintético fixo
480
Configurações avaliadas
Busca delimitada com igual seletividade
0.36%
Custo de acurácia medido
AUC 0.7823 to 0.7788
Todos os resultados primários apresentados aqui provêm de um banco sintético fixo de 9,000 registros de candidatos. O Equora é uma demonstração de engenharia, não consultoria jurídica ou um sistema decisório de produção.
O problema
Uma auditoria de triagem de locatários pode alertar a assessoria jurídica e as equipes de risco de modelo de que os resultados divergem entre grupos protegidos. O trabalho árduo começa em seguida: determinar se uma alternativa aparentemente neutra reduz a disparidade, preserva o desempenho útil do modelo e pode ser reproduzida posteriormente.
O acordo da SafeRent de novembro de 2024 fornece um contexto essencial sobre por que os sistemas de triagem estão sob escrutínio rigoroso. O acordo de $2.275 million não conteve admissão de irregularidades, e esta demonstração não reproduz aquele litígio.
Fontes: Página do caso da DOJ Civil Rights Division e a Final Approval Order protocolada em 20 de novembro de 2024.
Como funciona
A medição, a busca, a recomendação e as verificações de liberação permanecem determinísticas.
Medir
O Equora ajusta o ScreenScore v3 (linha de base orientada a crédito) no grupo sintético integrado e relata taxa de aprovação, razão de impacto desproporcional (DIR), diferença de paridade estatística e lacuna de equalized odds. Raça e condição de beneficiário de auxílio-aluguel (voucher) são campos de auditoria, não variáveis do modelo.
Buscar
A busca pela alternativa menos discriminatória (Least Discriminatory Alternative, LDA) avalia 480 combinações de subconjuntos opcionais de variáveis, tetos de pontuação de crédito, tratamento de renda garantida e força de regularização. O espaço de busca é explícito e delimitado.
Selecionar
O mecanismo mapeia a fronteira de Pareto entre acurácia e DIR mínimo, selecionando em seguida o candidato qualificado com a menor perda de AUC medida dentro do orçamento configurado de 0.03. Se nenhum candidato se qualificar, ele não retorna nenhuma alternativa segura.
Gate
A atribuição exata do modelo linear identifica os três principais fatores determinantes negativos. Um crítico de ancoragem de atributos compara esses fatores com as justificativas da notificação e encaminha explicações genéricas ou não fundamentadas para revisão humana.
Provas da demonstração
Estas telas exibem a demonstração local real sobre seu conjunto de teste sintético fixo.
Cenário transparente
O Equora foi projetado para tornar inspecionável uma decisão de remediação delimitada, não para transformar uma única métrica em um veredito judicial.
| Pergunta | Uma pontuação de equidade isolada | Demonstração do Equora |
|---|---|---|
| O que foi medido? | Uma disparidade em uma única configuração de modelo | DIR, SPD, lacuna EO, taxas de aprovação e intervalos de confiança no conjunto de teste fixo |
| O que poderia mudar? | Não especificado | Uma grade declarada de configurações aparentemente neutras comparadas com igual seletividade |
| Por que esta recomendação? | Nenhum registro de seleção | A menor perda de AUC medida entre os candidatos qualificados na busca delimitada |
| As justificativas das notificações podem ser verificadas? | Fora do escopo da pontuação | As variáveis citadas são confrontadas com os três principais fatores determinantes negativos exatos |
O Equora não estabelece conformidade jurídica, não certifica um modelo como justo, não vasculha todos os modelos concebíveis e não valida o desempenho em produção imobiliária real. Seu limiar de 0.80 é o gate de política dos quatro quintos configurado na demo.
O conjunto de candidatos é sintético, o pacote de regras é estático e os conectores de produção não foram desenvolvidos. O crítico de notificações verifica apenas a fundamentação em variáveis, enquanto a execução com UCI Adult é um benchmark público de equidade em renda do censo, não dados de locatários.
O Equora avalia 480 configurações explícitas e aparentemente neutras com igual seletividade. Ele recomenda o candidato qualificado com a menor perda de AUC medida dentro do gate dos quatro quintos e do orçamento de acurácia configurados na demo, ou não retorna nenhuma alternativa segura caso nenhum atenda aos critérios.
Não. O Equora adota 0.80 como o gate de política dos quatro quintos configurado na demo, não como uma conclusão jurídica. A heurística dos quatro quintos tem origem em diretrizes de seleção de pessoal e, por si só, não determina responsabilidade sob o direito habitacional.
No conjunto de teste sintético fixo, o AUC passa de 0.7823 para 0.7788. A perda medida é de 0.0036, exibida na interface como um custo de acurácia de 0.36%, enquanto o DIR do grupo mais desfavorecido evolui de 0.694 para 0.875.
Não. Código determinístico calcula métricas, aplica limiares, avalia alternativas e seleciona a recomendação. Um modelo de linguagem, quando ativado, limita-se a redigir o texto da notificação, e o modo offline utiliza um modelo determinístico.
Não. O crítico de ancoragem de atributos verifica se as justificativas citadas correspondem às três principais contribuições negativas do modelo. Ele encaminha justificativas genéricas ou sem respaldo para revisão humana, mas não verifica todos os elementos estatutários da notificação nem estabelece suficiência jurídica.
Não. O conjunto de dados principal é um banco sintético fixo e integrado de 9,000 registros de triagem de locatários. A execução separada com UCI Adult Census Income é um benchmark público de equidade que executa o mesmo código de auditoria, e não um dataset de validação habitacional.
A pesquisa por trás desta demonstração: a arquitetura, o modelo de verificação e a estrutura corporativa.
Reúna o modelo, os limites de conformidade e as obrigações probatórias em uma única revisão.
Se a sua equipe está definindo controles de auditoria, remediação e liberação para IA habitacional, entre em contato conosco para discutir quais evidências a revisão deve reter.
