95%의 고용주가 AI 채용법을 준수하지 못하는 이유

문제

뉴욕시는 미국 최초 수준의 AI 채용법을 만들었습니다. 그러나 감사관들은 그 법이 안팎으로 무너져 있음을 입증했습니다. 2025년 12월, 뉴욕주 회계감사관(New York State Comptroller)은 채용에 사용되는 AI 도구에 대한 편향 감사(bias audit)를 요구하는 규정인 지방법 144(Local Law 144)의 시 행정 집행 실태를 감사했습니다. 시 자체의 32개 고용주 검토에서는 잠재적 불준수 사례가 단 1건 발견되었습니다. 주 감사관들이 동일한 32개 고용주를 검토한 결과 17건의 위반이 발견되었습니다. 이는 시가 적발한 것과 실제 상황 사이에 1,600%의 격차가 존재한다는 뜻입니다.

상황은 더 심각합니다. 감사관들은 시의 311 핫라인 — 즉 구직자가 AI 차별을 신고할 때 사용하는 시스템 — 을 테스트했습니다. 테스트 통화의 75%가 잘못 연결되어 올바른 기관에까지 도달하지 못했습니다. 알고리즘이 자신의 지원서를 부당하게 기각했다고 의심했더라도, 이 시스템은 말 그대로 그 불만을 접수 기록할 수 없었습니다.

귀사가 채용, 승진 또는 후보자 스크리닝에 AI를 사용한다면, 이번 감사는 정확히 귀사를 겨눈 경고탄입니다. 주 회계감사관은 선제적·연구 기반의 집행을 권고했고, 시도 이를 채택하기로 동의했습니다. 규제기관은 더 이상 민원을 기다리지 않을 것입니다. 그들이 직접 찾아올 것입니다. 그리고 눈앞의 AI 도구를 평가할 역량이 부족하다고 스스로 인정했던 시 공무원들보다 더 높은 기술 전문성을 갖고 찾아올 것입니다.

왜 이것이 귀사의 비즈니스에 중요한가

코넬대학교, Data & Society, Consumer Reports가 별도로 수행한 연구는 지방법 144의 적용 대상인 391개 고용주를 조사했습니다. 그 결과는 예산 권한이나 컴플라이언스 책임을 가진 모든 경영자에게 우려를 줄 수밖에 없습니다:

• 391개 고용주 중 단 18개만 법적으로 요구되는 편향 감사를 공개했습니다.
• 단 13개만 구직자에게 요구되는 투명성 고지를 게시했습니다.
• **적용 대상 고용주의 약 95%**가 규제 불이행 상태로 영위되고 있었습니다.

기업들은 어째서 고의로 법을 무시할까요? 연구진은 우려스러운 논리를 파악했습니다: 법률 자문가들이 편향 감사 결과를 공개하는 것보다 불준수가 위험도가 낮다고 기업에 조언할 수 있다는 것입니다. 지방법 144는 인구통계학적 집단 간 선발률을 비교하는 수치인 임팩트 비율(impact ratio)을 게시하도록 요구합니다. AI 도구가 0.80 임계값(EEOC의 4/5 규칙) 미만의 임팩트 비율을 산출한다면, 귀사는 배별적 영향(disparate impact)의 증거를 공개하는 셈입니다. 그것은 원고측 변호사들에게 바치는 선물입니다.

이것은 뉴욕만의 문제가 아닙니다. 2026년 중반까지 귀사는 콜로라도 AI법(2026년 6월 30일 시행), 일리노이 HB 3773(2026년 1월 1일 시행), EU AI법이 요구하는 상충되는 의무들에 직면할 수 있습니다. 이 법들은 지표, 데이터 요건, 적용 범위에서 서로 충돌합니다. 콜로라도는 알고리즘 차별을 주 법무장관(Attorney General)에게 의무적으로 보고할 것을 요구합니다. 일리노이는 우편번호를 보호 집단의 대리 변수로 사용하는 것을 금지합니다 — 중소기업에 대한 예외도 없이. EU는 고위험 시스템에 대해 완전한 기술 문서화와 데이터 계보(data lineage)를 요구합니다. 귀사의 컴플라이언스 팀은 이 문제를 스프레드시트 하나로 해결할 수 없습니다.

실제로 내부에서 일어나는 일

오늘날 대부분의 엔터프라이즈 AI 도구는 '래퍼(wrapper)'로 만들어져 있습니다 — GPT-4, Claude, Gemini 같은 대형 범용 모델 위에 얹힌 얇은 소프트웨어 층입니다. 래퍼를 즉흥 연기자 위에 덧씌운 콜센터 스크립트라고 생각해 보십시오. 스크립트는 연기자가 주제를 벗어나지 않게 하려 하지만, 연기자의 반응은 여전히 규칙이 아니라 본능에서 나옵니다. 래퍼가 AI에게 '성별을 무시하고 이 이력서를 평가하라'고 지시해도 모델은 여전히 차별할 수 있습니다. 모델은 학습 데이터에서 성별과 통계적으로 연결된 잠재 신호 — 대학 이름, 문장 표현 스타일, 심지어 특정 스포츠까지 — 를 포착합니다.

연구자들이 말하는 '이국적 편향(Exotic Bias)'이 바로 이것입니다. 소재 선택과 공학 분야의 연구에서 대형 언어 모델은 맥락상 잘못된 결과임에도 학습 데이터에 더 자주 등장한다는 이유만으로 그 결과를 선호하는 것이 발견되었습니다. 채용에서 이는 AI가 실제로 귀사의 직무 요건에 부합하는 후보자가 아니라, 자신이 학습한 기술 중심 텍스트와 닮은 이력서를 가진 후보자에게 끌린다는 의미입니다.

더 근본적인 문제는 감사 가능성 격차(auditability gap)입니다. 콜로라도나 EU가 귀사에 불리한 채용 결정을 설명하라고 요구할 때, 래퍼는 결정론적인 답을 내놓을 수 없습니다. 기반 모델의 가중치는 독점 정보입니다. 래퍼가 할 수 있는 일은 결정이 왜 그렇게 이루어졌는지에 대한 사후적(post-hoc) 설명을 생성하는 것뿐입니다. 그것은 설명이 아닙니다. 답으로 치장한 추측일 뿐입니다. 그리고 17 대 1의 감사 격차가 증명했듯이, 규제기관은 그 차이를 구별하는 법을 배워가고 있습니다.

효과가 있는 것과 없는 것

검증 과정에서 실패하는 세 가지 흔한 접근 방식:

• 편향 통제 수단으로서의 프롬프트 엔지니어링: 텍스트 지시로 AI에게 '공정하라'고 말하는 것은 취약합니다. 모델은 여전히 규칙이 아닌 통계적 패턴으로 작동합니다. 엣지 케이스 하나면 가드레일이 무너집니다.
• 컴플라이언스 증빙으로서의 연 1회 편향 감사: 1년에 한 번 찍는 스냅샷은 단 한 순간만 포착합니다. 모델은 그 다음 날이라도 차별적 임계값으로 표류할 수 있습니다. 회계감사관의 감사는 수행되던 감사조차 기술적으로 불충분했다는 사실을 보여주었습니다.
• 법 적용 회피를 위한 자체 분류: 많은 고용주가 자사 AI 도구가 의사결정을 '실질적으로 보조(substantially assist)'하지 않는다며 감사 요건의 적용을 받지 않는다고 주장했습니다. 회계감사관의 보고서는 AI 영향에 대한 더 넓은 기능적 정의를 요구함으로써 이 허점을 사실상 닫았습니다.

실제로 효과가 있는 것은 모든 의사결정을 특정 규칙이나 데이터 포인트로 추적할 수 있는 AI 시스템을 구축하는 것입니다. 그 아키텍처가 실무에서 작동하는 방식은 다음과 같습니다:

1. 엄격한 제약 조건을 갖춘 입력 계층: 시스템이 지원자의 지원 서류를 접수하면 비즈니스 로직과 규제 요건에 따라 운영되는 규칙 엔진이 금지된 데이터 포인트를 제거하거나 차단합니다. 일리노이에서는 이것이 곧 우편번호가 평가에 결코 들어가지 않는다는 의미입니다. 이는 AI에 대한 제안이 아니라 벽입니다.

2. 분리된 추론을 통한 처리: 시스템은 패턴 인식(스킬과 경험 식별)을 의사결정 로직(법적·비즈니스 규칙 적용)으로부터 분리합니다. 신경망이 첫 번째 작업을 담당합니다. 두 번째 작업은 결정론적 규칙 엔진 — 엔지니어들이 기호 풀이기(symbolic solver)라고 부르는 것 — 가 담당합니다. 규칙 엔진이 위반을 감지하면 시스템은 출력을 차단하고 어떤 규칙이 발동되었는지 그 규칙을 명시합니다.

3. 완전한 감사 추적을 갖춘 출력: 모든 의사결정은 추적 가능한 논리 사슬을 남깁니다. '모델이 그렇게 판단했습니다'가 아니라 '이 지원자는 다섯 개 데이터 포인트를 근거로 스킬 매칭에서 82점을 기록했으며, 해당 결정은 LL144, 콜로라도 SB 24-205, 일리노이 HB 3773 제약을 준수했습니다'라는 형태입니다. 귀사의 컴플라이언스 팀 은 이 논리 사슬을 규제기관에 직접 제출할 수 있습니다.

이 감사 추적이야말로 AI 의사결정을 방어하는 것과 당황하며 해명하느라 부산하는 것의 차이입니다. 시스템이 서드파티 API가 아니라 귀사의 자체 인프라에서 실행된다면, 모델 가중치를 귀사가 통제하고, 데이터는 환경 밖으로 결코 나가지 않으며, 귀사는 지속적인 공정성 모니터링 을 연간 스냅샷에 의존하지 않고 실행할 수 있습니다. 최고 리스크 책임자(CRO)는 모델이 차별적 임계값으로 표류하는 순간 실시간 알림을 받습니다.

2025년 12월의 감사는 수동적 컴플라이언스 시대가 끝났음을 증명했습니다. 2026년 집행 물결에서 살아남을 기업은 자사의 AI 시스템을 유리 상자처럼 열어 보일 수 있는 기업들 — 모든 의사결정이 왜 그렇게 이루어졌는지를 서사가 아닌 수학으로 정확히 보여줄 수 있는 기업들 — 입니다.

이러한 아키텍처 요건에 대한 전체 기술 분석과 상세한 규제 비교표 및 구현 로드맵을 포함한 내용은 완성된 백서에서 확인하십시오. 또한 대화형 버전 살펴보기 에서 안내형 워크스루를 경험할 수 있습니다.