HR 및 인재 기술

귀사의 채용 AI는 이미 하나의 법적 책임 요인입니다. 유일한 문제는 귀사가 그 사실을 아직 인지하고 있느냐일 뿐입니다. 잠들어 있던 집행이 이제 활성화되었고, 진행 중인 집단소송이 기업에서 가장 널리 배포된 HCM 플랫폼에까지 미치고 있으며, NYC, 캘리포니아, 콜로라도, EU, 일리노이 전역에서 지원자를 심사하는 전국 규모 고용주에게는 정책 문서가 아니라 컴플라이언스 아키텍처가 필요합니다. 우리의 일은 채용 AI가 감사, 소송, 그리고 다음 법률을 견뎌내도록 설계된 공정성 및 감사 인프라를 구축하는 것입니다.

NYC 지역법 144(Local Law 144) 집행의 전환점

뉴욕주 감사원(New York State Comptroller)은 2025년 12월 지역법 144의 집행을 감사하여 문서와 실무 사이의 간극을 발견했습니다. 32개 기업을 대상으로, 시 자체 소비자 보호 기관(DCWP)은 정확히 한 건의 미준수 사례를 확인했으나, 감사원의 검토관들은 동일한 표본에서 최소 17건의 잠재적 위반을 발견했습니다. 75% 의 자동 채용 도구 관련 불만 전화가 잘못 라우팅되어 집행 기관에 결코 도달하지 못했습니다. 이 법은 다음 시점 이후 집행 가능한 상태였습니다: 2023년 7월, 그럼에도 이를 집행할 책임이 있는 기관은 사실상 제 기능을 하지 못하고 있었습니다.

그 시대는 끝나가고 있습니다. DCWP는 EEOC 및 FTC 제출 자료를 집행 단서로 활용하기로 약속했으며, 벌금은 다음 수준까지 부과됩니다: 위반 건당 하루 $1,500.

다중 관할권 컴플라이언스 지도

NYC는 하나의 관할권에 불과합니다. 전국 규모 고용주는 각각 고유의 정의, 기한, 벌칙을 가진 다섯 개의 중첩되는 규제 체제에 직면합니다:

이러한 규제 체제들 간의 정의상 충돌을 다섯 개의 개별 정책 문서가 아니라 단일한 운영 아키텍처로 해소하는 것이 실제 컴플라이언스 문제입니다.

Mobley v. Workday: 벤더 계약이 귀사를 보호해주지 못하는 이유

Mobley v. Workday는 모든 CHRO가 읽어야 할 사건입니다. Derek Mobley는 Workday의 AI 심사 기능을 사용하는 기업들에 100개 이상의 일자리에 지원했고 매번 탈락했습니다. 시점: 2025년 5월, 연방 법원은 다음을 포함할 것으로 여겨지는 집단을 대표하여 연령 차별 청구에 대해 조건부 집단 인증을 부여했습니다: 수백만 명의 구직 지원자. 시점: 2025년 7월, 그 범위는 Workday가 2024년에 인수한 HiredScore의 AI 기능으로 처리된 지원자를 포함하도록 확대되었습니다.

법원은 AI 서비스 제공업체가 "대리인(agent)" 이론에 따라 고용 차별에 대해 직접 책임을 질 수 있다 고 판시했습니다(자세한 내용은 다음 참조: AI 채용에서의 알고리즘 대리인 책임에 관한 우리의 연구). 이것은 추상적인 법적 위험이 아닙니다. 기업에서 가장 널리 배포된 HCM 플랫폼을 상대로 한 진행 중인 집단소송입니다.

AI 심사에서 문서로 입증된 편향 문제

근저에 있는 편향 문제는 충분히 문서로 입증되어 있습니다:

• 한 워싱턴 대학교(University of Washington) 연구는 AI 이력서 심사 도구가 백인과 연관된 이름을 선호했음을 발견했습니다: 85%의 비율로 500개 이상의 채용 공고에 걸쳐.
• 스탠퍼드(Stanford) 연구진은 AI 심사가 동일한 자격을 갖춘 여성 또는 젊은 지원자보다 나이 든 남성 지원자에게 체계적으로 더 높은 평점을 부여했음을 발견했습니다.
• 대리 차별(Proxy discrimination)은 UI에서는 중립적으로 보이지만 통계적으로 보호 대상 특성과 상관관계가 있는 신호를 통해 작동합니다: 우편번호는 인종에, 졸업 연도는 연령에, 이름 패턴은 출신 국가에 대응됩니다.

다음 규정상의 5분의 4 규칙: 고용 선발 절차에 관한 통일 지침(Uniform Guidelines on Employee Selection Procedures, UGESP) 은 표준 검정을 제공하지만, 이는 실무적 유의성 임계값에 불과합니다. 법원은 그와 함께 통계적 유의성 검정을 점점 더 요구하고 있으며, 두 검정 중 어느 것을 수행하든 대부분의 ATS 플랫폼이 기본적으로 수집하지 않는 세분화 수준의 인구통계 데이터가 필요합니다. 교란 신호로부터 진정한 편향을 분리하는 우리의 엔지니어링 접근법은 다음에 제시되어 있습니다: 공정한 채용을 위한 인과 AI에 관한 우리의 기술 백서.

플랫폼 통합이 독립 감사를 더 어렵게 만들고 있다

독립 HR AI 벤더 시장은 채용 AI, ATS, HCM 데이터가 모두 동일한 장벽 뒤에 존재하는 플랫폼 생태계로 통합되고 있습니다:

• Workday는 다음을 인수했습니다: 45억 달러에 Paradox 2025년 10월에, 그리고 HiredScore 를 2024년 3월에 인수하여, 대화형 심사, 지원자 스코어링, 인재 인텔리전스를 단일 플랫폼에 통합한 채용 AI 스택을 구축했습니다.
• SAP는 다음을 인수했습니다: 15억 달러 이상에 SmartRecruiters 를 2025년 1월에.
• Dayforce 는 다음 규모로 비상장 전환했습니다: 123억 달러 규모의 Thoma Bravo와의 거래로.

이러한 통합은 일반적인 벤더 종속과는 구별되는 컴플라이언스 문제를 야기합니다. 편향 모니터링 도구가 그것이 모니터링하는 채용 AI와 동일한 벤더에서 나온다면, 그 감사는 독립적이지 않습니다. 인구통계 데이터가 벤더의 테넌트 아키텍처 안에 그들의 접근 제어 하에 존재한다면, LL144와 FEHA가 요구하는 교차성 분석을 그들의 API를 거치지 않고서는 수행할 수 없습니다. 벤더가 모델 업데이트를 배포하면 귀사의 마지막 편향 감사는 무효가 되지만, 어떤 선발 기준이 변경되었는지 알 수 있을 만큼 세분화된 통지를 받지 못할 수도 있습니다.

지속적 모니터링에는 다음 위치에 존재하는 인프라가 필요합니다: 외부에 벤더의 스택 외부에 존재하며, 다수의 데이터 소스로부터 읽어들이고, 귀사의 일정에 맞춰 귀사의 방법론으로 공정성 계산을 실행하는 인프라.

채용에서의 에이전트형 AI(Agentic AI)는 기존의 모든 감사 프레임워크를 무너뜨린다

인재 리더의 52%가 2026년에 파이프라인 단계에 대한 종단 간 책임을 갖는 AI 에이전트를 배포할 계획입니다. 이들은 지원자 질문에 답하는 챗봇이 아닙니다. 에이전트형 AI 시스템은 여러 채널에서 자율적으로 지원자를 발굴하고, 동적 기준에 따라 자격을 평가하며, 개인화된 아웃리치를 발송하고, 면접 일정을 잡고, 각 단계마다 인간의 트리거 없이 지원자를 파이프라인 단계로 진행시킵니다. Paradox의 Olivia는 이미 다음을 처리하고 있습니다: 100건 이상의 동시 지원자 대화 그리고 다음 시간 내에 심사 워크플로를 완료합니다: 48시간 이는 이전에 일주일이 걸리던 일입니다.

거버넌스 문제는 기존의 편향 감사 프레임워크가 인간이 결정을 트리거하고 모델이 권고를 산출한다고 가정한다는 점입니다. 에이전트형 시스템은 한 에이전트의 출력이 다음 에이전트의 입력으로 이어지는 일련의 결정을 내립니다. 이 사슬에서 어느 결정이 불리한 영향을 초래했습니까? 어떤 인간도 중간 단계를 검토하지 않았을 때 Title VII(제7편) 목적상 의사결정자는 누구입니까? 우리는 이 결정 귀속 문제를 다음에서 다룹니다: 엔터프라이즈 AI를 위한 책임성 아키텍처에 관한 우리의 연구.

OWASP는 다음의 첫 번째 판을 발표했습니다: 에이전트형 애플리케이션을 위한 Top 10(Top 10 for Agentic Applications) 을 2026년 3월에 발표하며, 목표 탈취(goal hijacking), 도구 오용, 악성 에이전트를 포함한 위험을 식별했습니다. 그러나 다단계 자율 채용 파이프라인을 위한 편향 감사 방법론은 아직 표준으로 존재하지 않습니다. 처음부터 결정 귀속 및 재정의(override) 아키텍처를 구축하지 않고 에이전트형 채용 도구를 배포하는 조직은, 집단소송의 증거개시 요청이 도래할 때 소급적으로 표면화될 책임을 만들어내고 있는 것입니다.

역량 기반 채용이 자동으로 공정한 것은 아니다

자격 증명 기반에서 역량 기반 채용으로의 전환은 인재 확보 분야에서 가장 중대한 변화 중 하나입니다. AI 역량 매칭 도구는 직무 성과 예측에서 다음을 주장합니다: 78% 정확도 그리고 기업들은 다음을 보고합니다: 첫해 유지율 25~35% 향상. 그러나 역량 온톨로지는 그 자체의 편향을 부호화합니다(우리가 다음에서 검토하는 문제입니다: 지식 그래프를 활용한 채용 AI 공정성에 관한 우리의 연구). 어떤 경험이 "역량"을 입증하는 것으로 간주되는지는 그 분류 체계를 설계한 사람에 달려 있습니다. 온톨로지가 동등한 실무 경험보다 공식 인증을 더 높게 가중한다면, 비전통적 배경을 가진 지원자에게 불리하게 작용합니다. 특정 도구 숙련도(Tableau, Python)를 근저의 분석 역량과 상호 교환 가능한 것으로 취급한다면, 매칭에서 거짓된 정밀성을 만들어냅니다.

내부 이동성은 이를 가중시킵니다. Mastercard는 다음을 절감했다고 보고했습니다: 2,100만 달러 외부 채용 비용을 다음만큼 줄인 AI 인재 마켓플레이스로: 30%. 그러나 역량 프로필을 기반으로 수평 이동과 성장 과제를 추천하는 내부 이동성 AI는, 역량 데이터가 그 직무를 수행할 수 있었던 사람이 아니라 역사적으로 개발 기회를 얻었던 사람을 반영한다면 기존 패턴을 고착시킬 수 있습니다. 인재 마켓플레이스 시장은 다음 속도로 성장하고 있습니다: 연간 25%로 2033년까지 100억 달러 규모로. 지금 이러한 시스템을 구축하는 조직은 향후 수년간 지속될 인력 구조 결정을 부호화하고 있는 것입니다.

우리가 HR 및 인재 기술을 위해 구축하는 것

우리의 접근법은 귀사의 채용 AI(어떤 벤더를 사용하든)와 귀사의 규제 의무(어떤 관할권에서 운영하든) 사이에 위치하는 컴플라이언스 및 공정성 인프라를 구축하는 것입니다. 이것은 평가 작업이 아니라 아키텍처 작업입니다. 하나의 계약(engagement)은 슬라이드 덱이 아니라 작동하는 시스템을 산출하도록 범위가 설정됩니다. 하나의 계약은 다음을 산출하도록 설계됩니다:

• 교차 플랫폼 편향 모니터링 벤더 중립적 데이터 계층을 통해 Workday, SuccessFactors, Oracle HCM, Greenhouse, Lever 및 독립형 ATS 플랫폼에 연결됩니다.
• 지속적 불리한 영향 계산 5분의 4 규칙과 통계적 유의성 방법을 모두 사용하며, 자기 식별 데이터가 불충분할 때 인구통계 대체를 위해 베이지안 개선 성씨 지오코딩(Bayesian Improved Surname Geocoding, BISG)을 활용합니다.
• 다중 관할권 컴플라이언스 매핑 LL144의 AEDT 프레임워크, 캘리포니아 FEHA의 ADS 규칙, 콜로라도 SB 24-205의 중대 결정 기준, EU AI법의 부속서 III 고위험 분류 사이의 정의상 충돌을 단일한 운영 아키텍처로 해소합니다.
• 감사 추적 시스템 에이전트형 채용 파이프라인 전반에 걸쳐 결정 출처(provenance)를 포착하여, 각 심사, 스코어링, 진행 결정을 그것을 산출한 특정 모델 버전, 입력 데이터, 선발 기준에 귀속시킵니다.
• 접근 가능한 평가 아키텍처 신경다양성(neurodivergent) 의사소통 방식, 비정형적 면접 행동, 또는 장애 관련 편의 제공에 불이익을 주지 않으면서 직무 관련 역량을 평가하며, 이는 우리가 다음에서 다루는 영역입니다: AI 거버넌스에서의 알고리즘 장애차별(ableism) 위기에 관한 우리의 연구.

우리는 채용 AI를 판매하지 않습니다. 우리의 계약은 채용 AI를 감사 가능하고, 컴플라이언트하며, 방어 가능하게 만들도록 설계됩니다.