거울 너머

반사실적 공정성은 Judea Pearl의 인과의 사다리(Ladder of Causation) 3단계 — '상상'의 단계에서 작동합니다. '이 후보자가 다른 인구통계 집단에 속했다면 예측이 달라질까요?'라고 질문합니다. 구조적 인과 모델(Structural Causal Models)을 사용하여 보호 속성(인종, 성별)만 변경하고 모든 인과적 성과 요인(스킬, 경력, 시험 점수)은 일정하게 유지되는 대안적 현실을 시뮬레이션합니다. 채용 점수가 변한다면 모델이 편향된 경로를 학습한 것이므로 공정성 페널티가 발동됩니다. Veriprajna는 99%의 반사실적 공정성 점수를 달성하며, 이는 예측에서 인구통계 특성의 인과 가중치가 0임을 의미합니다.

LLM 래퍼는 세 가지 수준에서 실패합니다. 첫째, 학습 데이터로부터 인터넷 규모의 편향을 물려받습니다 — 워싱턴대(University of Washington) 연구에 따르면 LLM은 85%의 경우 백인 연관 이름을 선호했고, 일부 실행에서는 흑인 남성 이름이 1위로 선정된 적이 전혀 없었습니다. 둘째, 과거 채용 데이터로 학습된 예측 모델은 과거의 동질성 편향을 결정화합니다(Amazon의 AI는 '여성 체스 클럽'에 불이익을 주었고 여자대학 졸업생을 평가 하향했습니다). 셋째, LLM은 '왜 A를 B보다 위에 두었는가?'를 설명할 수 없는 블랙박스입니다 — 이는 NYC Local Law 144와 EU AI Act 제13조의 투명성 요건을 위반합니다. 이들은 인과의 1단계(패턴 관찰)에서만 작동하며 상관관계와 인과관계를 구분하지 못합니다.

적대적 디바이어싱은 이중 목적 함수를 사용합니다: 한 구성 요소는 직무 성과(재직률, 성과) 예측의 정확도를 최대화하고, 다른 구성 요소는 모델의 내부 표현으로부터 보호 속성(인종, 성별)을 예측할 수 있는 능력을 최소화합니다. 모델이 인구통계 특성과 상관관계가 있는 '우편번호'나 '라크로스' 같은 프록시 피처에 의존하면, 적대자가 후보자의 보호 속성을 추측할 수 있음을 감지하고 페널티가 발동됩니다. 모델은 이러한 프록시 연결을 '언러닝'하도록 강제되며, 인구통계를 드러내지 않으면서 성과를 예측하는 진짜 인과 피처(스킬, 경력, 시험 점수)를 찾아냅니다. SCM은 또한 특정 인과 경로를 매핑하고 차단합니다: 정당한 경로(우편번호 → 통근 시간 → 재직률)는 보존되고, 차별적 경로(우편번호 → 인구통계 → 편향)는 절단됩니다.