알고리즘 무결성 & 딥 AI 의무

SafeRent Solutions에 대한 $2.275 million 규모의 합의는 AI 공급업체가 배치자와 책임을 분담하는 의사결정 사슬 참여자임을 확립했습니다. SafeRent의 'Registry ScorePLUS'는 보장된 바우처 소득을 무시한 채 신용 점수(백인 중앙값 725 vs. 흑인 중앙값 612)에 크게 의존하여, 흑인·히스패닉 바우처 수급자를 주거에서 체계적으로 배제했습니다. 법원은 SafeRent의 '중립적 공급업체' 방어를 기각하고, 임대인이 제3자 점수에 주로 의존하는 경우 공급업체가 공정주택법(Fair Housing Act)상 책임을 분담한다고 판결했습니다. 이 합의에는 $1.175M의 직접 배상, $1.1M의 소송 비용, 알고리즘 재설계를 명하는 5년간의 법원 감시 강제명령, 그리고 독립적인 공정성 검증 없이는 바우처 수급자에 대한 자동 승인/거절을 전국적으로 금지하는 조항이 포함되어 있습니다. 이 선례는 규제 환경에서 자동화 의사결정 시스템을 배치하는 모든 기업에게까지 확장됩니다.

공정성은 세 파이프라인 단계에 걸쳐 수학적 제약조건으로 관리됩니다: 기둥 1(사전 처리 데이터 보정)은 성공적인 바우처 수급자 같은 과소 대표 집단의 재표집, 학습 분포에서의 인구통계 영향 재가중, 대표성 공백을 메우는 합성 데이터 생성을 통해 모델 학습 전에 편향을 완화합니다. 기둥 2(처리 중 최적화 제약)는 공정성 페널티를 모델의 손실 함수에 직접 추가합니다 — 적대적 판별자 네트워크가 예측으로부터 보호 속성을 예측하려 시도하고, 판별자가 무작위 추측 수준에 머물 때까지 주 모델에 페널티가 부과되어 차별적 출력이 수학적으로 제약됩니다. 기둥 3(사후 처리 결과 정렬)은 Equalized Odds를 통해 출력을 보정합니다. 여기서 결정 임계값이 집단별로 조정되어 위양성률과 위음성률이 모든 인구통계 집단에서 동일해집니다 — 모든 비율에서 델타 0.5% 미만의 균형을 달성합니다.

어떤 데이터셋이든 정확도는 같지만 공정성 프로파일은 크게 다른 수백만 개의 모델이 존재합니다. 대안을 명시적으로 탐색하지 않으면 개발자는 역사적 데이터 편향을 물려받는 최초의 '정확한' 모델에 만족하고 맙니다. HUD의 2024년 5월 가이던스는 이제 비즈니스 목표를 달성하는 가장 편향이 적은 모델을 채택할 것을 요구합니다. Veriprajna의 LDA Discovery는 수백만 개의 후보 아키텍처에 걸쳐 이 탐색을 자동화하며, 성능을 유지하면서 모든 보호 계층에서 차별적 영향 비율(DIR)을 최대화합니다. LDA Refutation은 더 공정한 모델이 존재하지 않을 때 포렌식 증명을 제공합니다 — 현재의 격차가 합법적 비즈니스 필요를 위해 불가피함을 문서화하여 핵심적인 소송 방어를 만들어 냅니다. Alternative Features는 신용 점수 같은 편향된 대리 지표를 직접적인 임대료 납부 이력, 바우처 사용 기간, 또는 주거 지원 대상 인구를 위해 설계된 모델로 대체합니다.