문제 정의
한 지원자가 워크데이(Workday) 플랫폼을 통해 100개 이상의 일자리에 지원했습니다. 그는 거의 모든 지원에서 거절당했으며, 대다수는 영업시간 외에 불과 몇 분 만에 처리되었습니다. 인사 담당자 중 누구도 그의 이력서를 검토하지 않았습니다. 장애를 가진 40세 이상의 아프리카계 미국인 남성 데릭 모블리(Derek Mobley)는 소송을 제기했고, 이는 미국의 고용법 지형을 근본적으로 바꾸어 놓았습니다. 2025년 5월, 미 연방법원은 워크데이의 AI 스크리닝 툴을 통해 채용 추천을 받지 못한 40세 이상의 잠재적 지원자 수백만 명을 포괄하는 전국 단위 집단소송(collective action)을 승인했습니다.
관련 수치는 충격적입니다. 소송 대상 기간 동안 워크데이(Workday) 자체 제출 자료에 따르면 자사 소프트웨어가 처리한 입사 지원 거절 건수는 약 11억 건에 달했습니다. 오타가 아닙니다. 유의미한 인간의 감독 없이 수십억 건의 자동화된 결정이 내려진 것입니다.
귀사의 비즈니스 관점에서 변화된 핵심은 다음과 같습니다. 2024년 7월, 캘리포니아 북부 연방지방법원의 리타 린(Rita Lin) 판사는 워크데이(Workday)와 같은 AI 벤더사가 중립적인 소프트웨어 공급업체가 아니라고 판결했습니다. 이들은 해당 소프트웨어를 사용하는 고용주의 "대리인(agents)"입니다. 이는 벤더사가 귀사와 동일한 연방 차별금지법인 민권법 제7조(Title VII), 미국장애인법(ADA), 고용상 연령차별금지법(ADEA)에 따른 직접적인 법적 책임을 부담함을 의미합니다. 귀사의 AI 채용 툴이 차별을 유발할 경우 귀사와 벤더사 모두 책임을 지게 됩니다. 법원은 명확한 기준을 제시했습니다. 지원자를 적극적으로 점수화하고 순위를 매기며 추천하는 AI 시스템은 단순한 스프레드시트 정리가 아닌 핵심적인 채용 기능을 직접 수행하는 것입니다.
귀사의 비즈니스에 중요한 이유
이번 판결은 세 가지 구체적인 측면에서 귀사의 리스크 프로필을 변화시킵니다.
재무적 익스포저는 막대하며 계속 증가하고 있습니다. 워크데이(Workday) 집단소송은 2020년 9월 이후 채용 추천을 거절당한 40세 이상의 모든 지원자를 포괄합니다. 법원은 2025년 7월 워크데이가 인수한 기술인 하이어드스코어 AI(HiredScore AI)를 거친 지원자까지 포함하도록 적용 범위를 확대했습니다. 귀사의 잠재적 법적 책임은 AI 툴이 지원서를 거절할 때마다 비례하여 늘어납니다.
규제 과태료는 이미 현실화되었습니다. 뉴욕시 지방법 144호(Local Law 144)는 자동화된 고용 의사결정 도구에 대해 매년 독립적인 편향 감사를 실시하도록 의무화하고 있습니다. 과태료는 1차 위반 시 500달러부터 시작하여 반복 위반 시 위반 건당 하루 1,500달러까지 부과됩니다. 다수의 도시와 주에서도 뉴욕시의 선례를 따르고 있습니다.
평판 훼손은 숨겨진 비용입니다. 법원은 기업에 피해를 입은 수백만 명의 지원자에게 개별 통지하도록 명령할 수 있습니다. AI가 거절한 모든 사람에게 발송되는 법원 명령 통지서에 귀사의 사명이 기재되는 상황을 상상해 보십시오. 미국 평등고용기회위원회(EEOC)의 2023년 5월 가이드라인은 고용주의 의무를 명확히 규정하고 있습니다. 알고리즘 도구를 제3자가 설계하거나 운영했더라도 그 결과에 대한 책임은 전적으로 기업에 있습니다.
예산 관점에서 직결되는 핵심 수치는 다음과 같습니다:
- 일일 500~1,500달러 — 편향 감사 미실시에 따른 뉴욕시 과태료
- 11억 건의 거절 — 소송 대상 기간 동안 단일 플랫폼을 통해 처리된 수치
- 100건 이상의 거절 — 단 한 명의 지원자에게 종종 몇 분 만에 발생한, 모든 사건의 발단이 된 패턴
- 40세 이상의 모든 지원자 — 2020년 9월 이후 본 소송의 잠재적 원고에 해당
벤더사가 특정 지원자의 거절 이유를 설명하지 못하거나 편향에 대한 모든 책임을 부인하는 경우, 귀사가 그 리스크를 100% 떠안게 됩니다.
내부에서 실제로 일어나는 일
대다수 AI 채용 툴은 대규모 언어 모델(LLM)을 기반으로 작동합니다. 이는 공정한 결정을 내리기 위해서가 아니라 가장 그럴듯한 다음 단어를 예측하도록 설계된 시스템입니다. 대규모로 작동하는 자동완성 엔진으로 생각하면 이해하기 쉽습니다. 이들은 정확성이 아닌 그럴듯함(plausibility)을 위해 구축되었습니다. 이러한 모델에 얇은 애플리케이션 레이어만 씌운 채 "채용 솔루션"이라고 부를 때 세 가지 치명적인 오류 모드가 발생합니다.
첫째, 문서 중간의 정보를 유실합니다. 연구에 따르면 표준 AI 모델은 문서의 시작과 끝부분에는 높은 주의를 기울이지만 중간 부분에서는 연구진이 부르는 이른바 "주의력 저하 구간(attention trough)"을 형성합니다. 10페이지 분량의 이력서에서 중간 페이지에 위치한 핵심 자격증이나 최근 성과는 통계적으로 간과될 확률이 훨씬 높습니다.
둘째, 사실이 아닌 내용을 지어냅니다. LLM은 특정 자격 요건을 찾지 못할 때 주변 문맥을 바탕으로 그럴듯한 가정을 생성하는 경우가 많습니다. 그 결과 시스템은 실제 서류 어디에도 존재하지 않는 임의의 "사실"에 기반하여 적격한 지원자를 탈락시킬 수 있습니다.
셋째, 대리 변수를 통해 차별합니다. AI 모델은 지원자의 연령을 직접 보지 않고도 얼마든지 이를 추론할 수 있습니다. @aol.com 이메일 주소, 15년 이상의 경력, 로터스 노츠(Lotus Notes)와 같은 구형 기술 언급, 1990년대의 초기 직함 등이 모두 40세 초과와 상관관계가 있음을 학습하기 때문입니다. 모델이 우연히 젊은 층에 편중된 기업의 "고성과자" 데이터를 바탕으로 학습되면 이러한 대리 신호를 부정적인 지표로 취급합니다. 이는 시스템이 제거해야 할 바로 그 편향을 그대로 복제하고 증폭시키는 피드백 루프를 만듭니다.
EEOC는 차별 여부를 판별하기 위해 "5분의 4 규칙(Four-Fifths Rule)"을 적용합니다. 보호 집단의 선발률이 가장 높은 집단 선발률의 80% 미만으로 떨어지면 이는 불리한 영향(adverse impact)으로 간주됩니다. 워크데이(Workday) 소송에서 연령대별 탈락 패턴은 정확히 이러한 위험 신호를 나타냈습니다.
효과적인 접근법 (그리고 실패하는 방식)
규제 대상 채용 환경에서 실패하는 세 가지 흔한 접근법부터 살펴보겠습니다.
"AI에게 공정하라고 시스템 프롬프트를 추가했습니다." 시스템 프롬프트는 제안일 뿐 규칙이 아닙니다. 쉽게 우회되며 법적 방어력을 전혀 제공하지 못합니다. 판사는 "AI에게 친절하게 굴라고 지시했다"는 말을 컴플라이언스 전략으로 인정하지 않습니다.
"우리는 1년에 한 번 감사를 받습니다." 연례 감사는 피해가 이미 발생한 후에야 문제를 발견합니다. 감사 주기 사이에 모델 드리프트(drift)가 발생하면(실제로 모델은 드리프트합니다), 모니터링하지 않는 매일매일 법적 책임이 누적됩니다.
"컴플라이언스는 벤더사가 처리합니다." Mobley v. Workday 소송에서 법원은 채용 기능을 자동화 시스템에 위임하는 것이 책임의 사슬을 확장할 뿐 끊어내지 못한다고 판결했습니다. 벤더사의 컴플라이언스는 곧 귀사의 컴플라이언스입니다.
실제로 효과를 발휘하는 것은 언어 처리와 의사결정을 분리하는 아키텍처입니다. 3단계 작동 방식은 다음과 같습니다:
입력 및 번역(Input and Translation). 특화된 AI가 이력서나 면접 기록을 읽고 구체적인 사실을 추출합니다(예: "지원자는 Python 경력 5년을 보유함"). 이 단계에서 입력 가드레일(guardrails)은 데이터 품질 문제, 개인 식별 정보 유출, 적대적 조작 시도를 검사합니다. AI는 번역자일 뿐 의사결정자가 아닙니다.
구조화된 추론(Structured Reasoning). 추출된 사실은 역량, 직무, 요구사항 간의 관계를 정의하는 구조화된 맵인 지식 그래프(knowledge graph)에 매핑됩니다. 그런 다음 규칙 엔진(rule engine)이 비즈니스 로직을 결정론적으로 적용합니다(예: IF 경력 ≥ 5년 AND 기술 == Python, THEN 적격 == True). 규칙이 예측에 의해 생성되는 것이 아니라 코드로 작성되어 있기 때문에 AI가 정책을 "환각(hallucinate)"할 수 없습니다.
감사 가능한 출력(Auditable Output). 모든 추천 결과는 어떤 문서의 어떤 데이터 항목에 의해 어떤 규칙이 트리거되었는지를 정확하게 보여주는 명확한 논리 추적 경로(logic trail)를 생성합니다. 출력 가드레일은 결과가 채용 담당자에게 전달되기 전에 편향, 오류, 정책 위반을 검사합니다. 결정의 각 요소에 구체적인 기여도 값을 할당하는 SHAP과 같은 기법을 통해 규제 당국이나 판사에게 "해당 지원자의 점수에 역량 X가 +15만큼 기여했으며" 그 외 다른 요인은 결과에 영향을 미치지 않았음을 명확히 입증할 수 있습니다.
이것이 바로 귀사의 컴플라이언스 팀에게 중요한 차이점입니다. 규제 당국이 "이 사람이 탈락한 이유가 무엇인가"라고 질문할 때, 특정 사실에 적용된 구체적인 규칙을 직접 지목할 수 있습니다. 사후에 AI에게 스스로의 추론 과정을 추측해보라고 요청할 필요가 없습니다.
조직은 모델 학습 과정에서 적대적 편향 제거(adversarial debiasing) 기법도 구현해야 합니다. 이 기법은 보조 모델을 학습시켜 주 모델의 출력이 인종이나 연령과 같은 보호 특성을 드러내는지 감지하도록 합니다. 보조 모델이 이를 감지해내면 주 모델에 페널티를 부여하고 재학습을 진행합니다. 그 결과 차별적 패턴이 나타나지 않기를 막연히 기대하는 대신 능동적으로 제거하는 시스템이 완성됩니다.
마지막으로, AI 리스크 관리를 위한 3선 방어 모델을 구축하십시오. 현업 부서는 학습 데이터 선정 및 지원자 익명화를 포함한 일상적인 AI 리스크를 직접 관리합니다. 리스크 및 컴플라이언스 조직은 모델 레지스트리를 유지관리하고 선발률을 지속적으로 모니터링합니다. 독립 감사 조직은 뉴욕시 지방법 144호(NYC Local Law 144) 등 관련 법률에서 요구하는 의무적 연례 편향 감사를 포함하여 모든 요소를 검증합니다.
써드파티 API 대신 자체 인프라 내부에서 모델을 직접 구동하는 소버린 AI(Sovereign AI) 도입으로의 전환은 데이터 출처 및 추적 가능성에 대한 완전한 통제권을 부여합니다. 귀사 고유의 채용 데이터는 온전히 귀사의 소유로 유지됩니다. 벤더사의 일방적인 업데이트로 인해 모델이 예측 불가능하게 변경되는 일도 없습니다.
현재 HR 및 인재 관리 기술 산업 은 자동화에서 검증 중심으로 전환되고 있습니다. 사후 대증요법이 아니라 공정성 감사 및 편향 완화 체계 를 핵심 아키텍처에 내재화한 기업만이 다음 사법적 판결이 내려질 때 온전히 살아남을 것입니다. 자세한 내용은 기술 심층 분석 전문 을 확인하시거나, 인터랙티브 버전 을 통해 법적 판례 및 기술 아키텍처에 관한 세부 정보를 살펴보실 수 있습니다.
핵심 요점
- 2024년 미국 연방법원은 AI 채용 벤더사가 법적 "대리인(agents)"에 해당한다고 판결하여, 민권법 제7조(Title VII), 미국장애인법(ADA), 고용상 연령차별금지법(ADEA)에 따른 차별에 대해 벤더사에 직접적인 법적 책임을 부과했습니다.
- 소송 대상 기간 동안 워크데이(Workday) 플랫폼을 통해 약 11억 건의 지원 거절이 처리되었으며, 현재 전국 단위 집단소송은 잠재적으로 40세 이상의 수백만 지원자를 포괄하고 있습니다.
- AI 모델은 지원자의 연령을 직접 확인하지 않고도 이메일 도메인, 총 경력 연수, 구형 기술 언급과 같은 대리 변수를 통해 차별을 유발합니다.
- 연례 편향 감사만으로는 불충분합니다. 법정에서 채용 결정을 방어하려면 지속적인 모니터링, 결정론적 규칙 엔진, 감사 가능한 논리 추적 경로가 반드시 필요합니다.
- 뉴욕시 지방법 144호(NYC Local Law 144)의 과태료는 위반 건당 하루 500달러에서 1,500달러에 이르지만, 진정한 비용은 수백만 명의 거절 지원자에게 발송되는 법원 명령 통지서에 귀사의 사명이 명시되는 것입니다.
결론
Mobley v. Workday 판결은 AI 채용 벤더사의 차별이 곧 귀사의 차별로 직결됨을 의미합니다. 귀사가 구체적으로 설명할 수 없는 모든 자동 거절 결정은 잠재적 법적 책임입니다. 벤더사에 반드시 질문하십시오. 각 지원자의 거절을 유발한 정확한 데이터 항목과 그에 적용된 명확한 규칙을 제시할 수 있는지, 그리고 그 논리 추적 경로를 법정에서 증거로 제출할 수 있는지 확인해야 합니다.