Evidenze dalla dimostrazione
Il compromesso rimane visibile dalla baseline alla raccomandazione finale.
Queste schermate mostrano la dimostrazione locale effettiva sul suo dataset sintetico fisso.
Conformità dell'IA per il settore abitativo
Equora trasforma una disparità misurata in una ricerca riproducibile di un'alternativa a minore disparità, tenendo costantemente sotto controllo il costo in termini di accuratezza, l'evidenza decisionale esatta e il gate di rilascio.
0.694 to 0.875
Evoluzione del DIR per il gruppo più svantaggiato
Dataset sintetico fisso
480
Configurazioni valutate
Ricerca vincolata a parità di selettività
0.36%
Costo di accuratezza misurato
AUC 0.7823 to 0.7788
Tutti i risultati primari illustrati in questa pagina derivano da un bacino sintetico fisso di 9,000 profili di richiedenti. Equora è una dimostrazione ingegneristica, non una consulenza legale né un sistema decisionale di produzione.
Il problema
Un audit sullo screening dei locatari può segnalare all'ufficio legale e ai team di rischio modello che gli esiti divergono tra gruppi protetti. Il compito più complesso inizia subito dopo: stabilire se un'alternativa apparentemente neutra riduca la disparità, preservi prestazioni utili del modello e possa essere rieseguita in seguito.
L'accordo transattivo di SafeRent del novembre 2024 fornisce un contesto essenziale sui motivi per cui i sistemi di screening sono sottoposti a severi controlli. L'accordo da $2.275 million non conteneva alcuna ammissione di illecito e questa dimostrazione non riproduce tale contenzioso.
Fonti: Pagina del caso della DOJ Civil Rights Division e la Final Approval Order depositata il 20 novembre 2024.
Come funziona
Misurazione, ricerca, raccomandazione e controlli di rilascio rimangono deterministici.
Misurare
Equora adatta ScreenScore v3 (baseline orientata al credito) sul bacino sintetico aggregato e restituisce tasso di approvazione, rapporto di impatto disparato (DIR), differenza di parità statistica e divario di equalized odds. Etnia e possesso di sussidi abitativi (voucher) sono campi di audit, non variabili del modello.
Cercare
La ricerca dell'alternativa meno discriminatoria (Least Discriminatory Alternative, LDA) valuta 480 combinazioni di sottoinsiemi opzionali di variabili, massimali di punteggio creditizio, trattamento del reddito garantito e intensità di regolarizzazione. Lo spazio di ricerca è esplicito e vincolato.
Selezionare
Il motore traccia la frontiera di Pareto tra accuratezza e DIR minimo, quindi seleziona il candidato qualificato con la minore perdita di AUC misurata all'interno del budget configurato di 0.03. Se nessun candidato si qualifica, non restituisce alcuna alternativa sicura.
Gate
L'attribuzione esatta del modello lineare individua i tre principali fattori determinanti negativi. Un critico di ancoraggio delle feature confronta questi fattori con le motivazioni presenti nella notifica e instrada spiegazioni generiche o non supportate alla revisione umana.
Evidenze dalla dimostrazione
Queste schermate mostrano la dimostrazione locale effettiva sul suo dataset sintetico fisso.
Quadro trasparente
Equora è progettato per rendere ispezionabile una decisione di remediation vincolata, non per tramutare una singola metrica in un verdetto giuridico.
| Domanda | Un punteggio di equità da solo | Dimostrazione Equora |
|---|---|---|
| Cosa è stato misurato? | Una disparità su una singola configurazione del modello | DIR, SPD, divario EO, tassi di approvazione e intervalli di confidenza sul dataset fisso |
| Cosa potrebbe cambiare? | Non specificato | Una griglia dichiarata di configurazioni apparentemente neutre confrontate a parità di selettività |
| Perché questa raccomandazione? | Nessun registro di selezione | La minore perdita di AUC misurata tra i candidati qualificati nella ricerca vincolata |
| È possibile verificare le motivazioni della notifica? | Fuori dal perimetro del punteggio | Le feature citate vengono confrontate con i tre principali fattori determinanti negativi esatti |
Equora non stabilisce conformità legale, non certifica un modello come equo, non esamina ogni modello concepibile e non convalida prestazioni abitative reali in produzione. La sua soglia di 0.80 rappresenta il gate di policy dei quattro quinti configurato nella demo.
Il bacino dei richiedenti è sintetico, il pacchetto di regole è statico e i connettori di produzione non sono integrati. Il critico delle notifiche verifica soltanto l'ancoraggio alle feature, mentre l'esecuzione con UCI Adult è un benchmark pubblico di equità sui redditi del censimento e non un set di dati sui locatari.
Equora valuta 480 configurazioni esplicite e apparentemente neutre a parità di selettività. Raccomanda il candidato qualificato con la minore perdita di AUC misurata entro il gate dei quattro quinti e il budget di accuratezza della demo, oppure non restituisce alcuna alternativa sicura qualora nessuno soddisfi i criteri.
No. Equora adotta 0.80 come gate di policy dei quattro quinti configurato per la demo, non come conclusione legale. L'euristica dei quattro quinti ha origine nelle linee guida di selezione del personale e di per sé non determina responsabilità ai sensi del diritto dell'alloggio.
Sul dataset sintetico fisso, l'AUC passa da 0.7823 a 0.7788. La perdita misurata è pari a 0.0036, esposta nell'interfaccia come costo di accuratezza dello 0.36%, mentre il DIR del gruppo più svantaggiato passa da 0.694 a 0.875.
No. Un codice deterministico calcola le metriche, applica le soglie, valuta le alternative e seleziona la raccomandazione. Un modello linguistico, qualora abilitato, si limita a redigere il testo della notifica e la modalità offline impiega un modello deterministico.
No. Il critico di ancoraggio delle feature controlla se i motivi citati coincidano con i tre principali contributi negativi del modello. Instrada motivazioni generiche o prive di riscontro alla revisione umana, ma non verifica ogni elemento formale di legge né accerta la sufficienza giuridica.
No. Il set di dati primario è un bacino sintetico fisso e integrato di 9,000 profili di screening locatari. L'esecuzione separata con UCI Adult Census Income è un benchmark pubblico di equità che aziona il medesimo codice di audit, non un dataset di convalida per l'edilizia abitativa.
La ricerca alla base di questa dimostrazione: l'architettura, il modello di verifica e il blueprint aziendale.
Raccorda il modello, il perimetro di conformità e gli oneri probatori in un'unica revisione.
Se la tua organizzazione sta definendo controlli di audit, remediation e rilascio per l'IA abitativa, contattaci per valutare quali evidenze la revisione debba trattenere.
