여섯 개 AI 채용 법을 만족시킬 하나의 편향 감사를 만들었다. 출시한 바로 그 주에 실패했다.
지난겨울 어느 최고인사책임자에게 내가 가장 먼저 설명해야 했던 것은, 그녀의 회사가 이제 팀 내 누구도 설명할 어휘조차 갖지 못한 방식으로 법을 위반하고 있다는 사실이었다.
그녀는 뉴욕, 시카고, 덴버, 오스틴, 그리고 런던 사무소에 걸쳐 채용을 총괄했다. 그녀의 기술 스택은 특별할 것이 없었다 — 지원자 추적 시스템, 거기에 덧붙인 AI 스크리닝 계층, 화상 면접 벤더, 일정 조율 챗봇. 표준적인 2024년식 조달이었다. 문제는 2025년 10월부터 2026년 8월 사이에 여섯 개의 서로 다른 정부가, 다소 독립적으로, 바로 이 스택을 규제 대상 고위험 활동으로 규정했다는 점이었다. 그리고 그들 각자는 규칙을 조금씩 다르게 써 놓았다.
이것이 바로 AI 채용 컴플라이언스가 지금 실제로 보이는 모습이다: 따라야 할 하나의 법이 아니라, 때로는 서로 모순되는 겹겹의 법들이 무더기로 쌓여, 애초에 감사받도록 설계된 적 없는 채용 파이프라인 위에 얹혀 있는 것. 이 문제를 파고들기 시작했을 때 나는 이 일이 좋은 편향 감사를 잘 수행하는 것이라고 가정했다. 나는 틀렸고, 내가 어떻게 틀렸는지가 이야기의 전부다.
점심 전에 이미 여섯 개 규제 체제의 적용을 받던 CHRO
그녀가 실제로 직면하고 있던 상황을 펼쳐 보이겠다. 사람들이 과소평가하는 부분이 바로 이 수렴이기 때문이다.
자동화 의사결정 시스템에 관한 캘리포니아 FEHA 개정안은 2025년 10월 1일 시행되었다 — 모든 입력, 출력, 편향 검사 결과에 대해 4년간 의무 보관, 그리고 차별이 의도적이었는지 여부와 무관하게 부과되는 책임을, 본사가 어디에 있든 상관없이 캘리포니아에서 채용하는 모든 고용주에게 적용한다. 일리노이 HB 3773은 2026년 1월 1일 시행되었고, 우편번호를 보호 대상 계층의 대리 지표로 사용하는 것을 명시적으로 금지한다. 텍사스 TRAIGA는 같은 날 시행되었다 — 다만 텍사스는 차별적 영향(disparate impact) 이론을 의도적으로 배제하고 오직 의도적인 차별만 처벌하며, 치유 가능한 위반에 대해서는 12,000달러부터, 치유 불가능한 위반에 대해서는 200,000달러까지 벌금을 부과한다 — 벌칙이 확정되기 전 60일의 치유 기간을 두는데, 이 세부 사항은 텍사스 통지와 뉴욕 통지의 우선순위를 어떻게 정할지를 바꿔 놓는다. 콜로라도 AI법은 2026년 6월 30일 발효된다. EU AI법은 2026년 8월 2일부터 채용을 부속서 III의 고위험으로 취급하며, 벌칙은 3,500만 유로 또는 전 세계 연간 매출의 7%에 이른다.
따라서 그 다섯 도시와 런던에 사무소를 둔 단일 회사는 여섯 개 규제 체제의 적용을 받으며, 그중 셋은 이미 시행 중이고 셋은 여름이 끝나기 전에 발효된다. 동일한 채용 결정. 그것을 불법으로 만드는 것에 대한 여섯 개의 서로 다른 정의.
뉴욕, 시카고, 덴버, 오스틴, 런던에서 채용하는 회사는 하나의 채용 프로세스를 운영하는 것이 아니다. 그것은 여섯 개 정부가 각자 자기 것이라고 믿는 하나의 프로세스를 운영하는 것이다.
그리고 이어서 회의실을 조용하게 만든 부분: 그들 대부분이 안전을 지키기 위해 의존해 오던 바로 그것이 방금 작동을 멈춘 것이다.
"우리 벤더가 AEDT가 아니라고 말한다"는 것이 여전히 방어가 되는가?
2년 동안 뉴욕에서 조용히 통용되던 전략은 연구자들이 널 컴플라이언스(Null Compliance)라고 이름 붙인 것이었다 — 그리고 일단 그것을 보고 나면, 어디서나 그것이 보인다. 뉴욕시 지역법 144(Local Law 144)는 고용주가 자신들의 도구가 채용 결정을 "실질적으로 보조"하는지 여부를 스스로 결정하도록 허용한다. 그래서 고용주들은 그렇지 않다고 결정했다. 2024년 FAccT에서 발표된 코넬대학교, Data & Society, Consumer Reports의 연구는 이 도구들을 운영하는 391개 뉴욕시 고용주를 조사했고, 법이 요구하는 편향 감사를 게시한 곳은 4.6%에 불과하다는 것을 발견했다. 투명성 통지를 게시한 곳은 3.3%뿐이었다. 나머지는 사실상 스스로를 적용 범위 밖으로 자체 분류해 버린 것이다.
그것은 하나의 메모였다. 법무팀 어딘가에, "우리 벤더가 이것은 AEDT가 아니라고 말했으니, LL144는 적용되지 않는다"고 적힌 2024년의 한 페이지짜리 메모가 있었다.우리 벤더가 이것은 AEDT가 아니라고 말했으니, LL144는 적용되지 않는다. 그 메모가 곧 컴플라이언스 프로그램이었다.
그러다 2025년 12월 2일이 왔다. 뉴욕주 감사원장이 시의 집행을 감사했고 다음을 발견했다: 시 자체 기관이 한 건을 발견했던 바로 그 32개 회사 표본에서 잠재적 LL144 위반 17건. 민원 전화의 75%가 잘못 배정되어 있었다. 기관은 기록상 그 직원들이 이 도구들을 평가할 기술적 전문성이 부족했음을 인정했고 — 선제적이고 연구 기반의 집행으로 전환하기로 합의했다. 벌칙 구조는 바뀌지 않았다: 위반 건당 하루 최대 1,500달러. 뉴욕에서 감사받지 않은 도구 하나를 계속 운영하면, 누군가 개인 소송을 제기하기도 전에 연간 50만 달러가 넘는 금액을 마주하게 된다.
"널 컴플라이언스"는 결코 법적 입장이 아니었다. 그것은 아무도 확인하지 않을 것이라는 도박이었다. 2025년 12월 2일, 누군가 확인하기 시작했다.
나는 어느 일요일에 감사원장의 감사 PDF를 읽으며 이런 생각을 했던 것을 기억한다: 저 2024년 자체 분류 메모 하나하나가 방금 증거개시 자료가 되었다고. 그리고 알고 보니, 그것은 비유가 아니었다.
조용히 책임 소재를 다시 쓰고 있는 소송들
왜냐하면 병행하여 벌어지고 있는 또 다른 일은, 법원이 벤더의 의견이 당신을 보호해 준다는 관념을 해체하고 있다는 것이기 때문이다.
다음 사건에서, Mobley 대 Workday에서, 리타 F. 린(Rita F. Lin) 판사는 소송 기각을 거부하며, AI 채용 벤더가 그 도구가 후보자를 추천하거나 걸러낼 때 — 고용주의 메모가 그 도구가 무엇을 한다고 주장하든 무관하게 — 고용주의 "대리인(agent)"으로서 직접 책임을 질 수 있다고 판시했다. 법원은 2025년 5월 예비 집단 인증을 승인했고, 40세 이상 지원자를 위한 옵트인 기간은 2026년 3월 7일 마감되었다. 이어 판사는 Workday에게 자사의 HiredScore 스크리닝 제품을 활성화한 모든 고용주의 전체 목록을 제출하도록 명령하며, 인수 후 도구들을 사건에서 배제하려는 시도를 기각했다. 법원 자체의 계산에 따르면, 10억 명이 넘는 지원자가 그 파이프라인을 거쳐 갔을 수 있다.
그리고 2026년 1월 20일, 새로운 전선이 열렸다. Kistler 대 Eightfold 사건은 HR 테크 업계의 누구도 묻고 싶어 하지 않던 질문을 던진다: 이 플랫폼들은 공정신용보고법(Fair Credit Reporting Act)상 소비자 신용정보기관(consumer reporting agencies)인가? 소장은 Eightfold가 LinkedIn, GitHub, Stack Overflow를 스크래핑하여 "15억 개가 넘는 전 세계 데이터 포인트"로부터 후보자 서류철을 조립하고, 후보자 통보도, 공개도, 이의 제기 절차도 없이 0에서 5까지의 "성공 가능성" 점수를 산출했다고 주장한다. 만약 법원이 동의한다면, 모든 유사 플랫폼은 점수가 매겨진 모든 후보자에게 불이익 조치 통지와 이를 다툴 수 있는 수단을 제공해야 한다 — 그리고 FCRA 법정 손해배상액은 소비자당, 위반당 100달러에서 1,000달러에 이른다. 여기에 플랫폼이 지금까지 점수를 매긴 모든 후보자 수를 곱해 보라.
그러니까 그것이 내 고객이 서 있던 지형이었다. 여섯 개 규제 체제, 책임을 재정의하는 두 건의 진행 중인 소송, 방금 감사하는 법을 배운 규제 기관. 나의 직감은 — 그리고 이것은 내가 한 달을 대가로 치렀으니 내 책임으로 인정하겠다 — 답이 정말로 훌륭한 범용 편향 감사라는 것이었다.
존재할 수 없었던 범용 감사
내가 처음에 만든 것은 설명할 가치가 있다. 바로 그곳이 전체 접근법이 무너진 지점이기 때문이다.
계획은 우아했다: DCI Consulting과 ORCAA 같은 독립 감사기관이 사용하는 방법론에 따라 수행하는 하나의 엄격한 불이익 영향(adverse-impact) 분석을, 여섯 개 관할권 전체에 매핑하는 것. 한 번 통과하고, 잘 문서화하고, 모두를 만족시킨다. 우리는 파이프라인을 구축하고, 채용 데이터를 끌어오고, 5분의 4 영향 비율을 계산했으며, 뉴욕이 특별히 요구하는 인종×성별 교차 분석까지 수행했다.
그런 다음 나는 그 단일 결과를 여섯 개 규제 체제에 매핑하려고 앉았는데, 그것이 내 눈앞에서 무너졌다.
뉴욕은 교차적 영향 비율을 요구한다. 콜로라도는 교차적 요건이 전혀 없이 "합리적 주의(reasonable care)"를 요구한다. 텍사스는 애초에 차별적 영향을 이론으로 인정하지 않으므로, 그곳에서는 통계적 작업 전체가 법적으로 무의미하다 — 오직 의도만이 중요하다. EU AI법에는 5분의 4 규칙이 없다; 제10조에 따른 데이터 대표성 의무가 있다. 한 가지 방식으로 수행된 하나의 감사는, 한 관할권에는 정확하지만 다른 관할권들에는 불충분하거나 무의미한 산출물을 만들어 낸다.
가장 깊은 문제는 — 나를 진정으로 멈춰 세운 문제는 — 우편번호였다. 일리노이 HB 3773은 우편번호를 보호 대상 계층의 대리 지표로 사용하는 것을 명시적으로 금지한다; 그것을 제거하면 준수하는 것이다. 그러나 EU AI법 제10조(3)은 학습 데이터가 "관련성 있고, 대표성 있으며, 오류가 없어야" 한다고 요구하는데, 데이터셋을 대표성 있게 만드는 지리적 커버리지는 흔히 바로 우편번호가 담아내는 것이다. 필드를 제거하면 유럽의 대표성 검사를 통과하지 못한다. 유지하면 일리노이를 통과하지 못한다.
동일한 데이터 필드가 일리노이에서는 금제품이고 브뤼셀에서는 필수 증거다. 두 곳 모두에서 동시에 깨끗한 데이터셋의 버전은 존재하지 않는다.
법 안의 모순은 감사로 빠져나갈 수 없다. 나는 하나의 질문에 답하기 위한 도구를 만드느라 몇 주를 썼는데, 진짜 문제는 그 질문에 여섯 개의 서로 다른 정답이 있고, 그중 둘은 상호 배타적이라는 것이었다. 그것이 전환점이었다. 제품은 더 나은 감사 엔진이 아니었다. 제품은 감사들 위에 자리하여 그것들을 조화시키는 것이었다 — 그리고 어떤 충돌은 조화될 수 없는지를 정직하게 알려주어, 당신의 법무 총괄이 충돌이 없는 척하는 대신 법적 전략 판단을 내릴 수 있게 하는 것이었다.
누구의 편향 감사도 잡아내지 못하던 노출
하나의 감사를 만들려는 시도를 멈추고 나자, 나는 그 감사들이 결코 다루지 못한 공백들을 보기 시작했다. 그중 둘은 크다.
첫째는 접근성이며, 그것은 그 자체로 하나의 법적 우주다. 2025년 3월, ACLU는 원주민 청각장애 지원자 "D.K."를 대리하여, AI 기반 화상 면접 프로세스가 ADA, 민권법 제7편, 그리고 콜로라도의 시민권법에 따라 그녀를 차별했다고 주장하는 진정을 제기했다. 법령을 걷어내고 보면 피해는 명백하다: 자격을 갖춘 후보자가 기계가 말 그대로 그녀의 말을 들을 수 없다는 이유로 걸러졌고 — HR의 누구도 그 탈락이 일어나는 것을 결코 보지 못했다. 그 주장 밑에 깔린 기술적 현실은 참혹하다: 자동 음성 인식은 여전히 장애인의 말에서 훨씬 더 나쁜 성능을 보인다. OpenAI의 Whisper 모델은 다국어 및 비표준 음성에서 대략 세 배의 단어 오류율을 기록하며, 심지어 2025년 인터스피치 음성 접근성 프로젝트 챌린지의 우승팀조차도 — 500명이 넘는 음성 장애 화자로부터 400시간 이상 학습받았음에도 — 손상된 음성에 대해 8.11%의 단어 오류율에 그쳤는데, 이는 여전히 표준 영어 벤치마크의 몇 배에 달한다. 인종과 성별의 영향 비율을 확인하는 편향 감사는, 청각장애 후보자를 체계적으로 이해하지 못하는 도구를 통과시킬 것이다. 왜냐하면 그것은 거의 아무도 수행하지 않는 다른 검사를 지닌 다른 법적 이론이기 때문이다. 나는 이제 접근성 테스트를 그 자체의 산출물을 지닌 별개의 분야로 취급한다. 그것이 실제로 그러하기 때문이다.
둘째는 보안이며, 나는 McHire 사건 이후로 그것을 논의 대상에 올려야 한다는 것을 배웠다. 2025년 6월, 연구자 이언 캐럴(Ian Carroll)과 샘 커리(Sam Curry)는 Paradox.ai 위에 구축된 맥도날드의 채용 플랫폼이 약 6,400만 명의 지원자 기록을 노출시켰음을 발견했다 — 이름, 이메일, 전화번호, 챗봇 면접 전문 전체. 근본 원인은 사용자명과 비밀번호가 둘 다 123456이었던 2019년의 테스트 관리자 계정으로, 다중 인증이 전혀 없었고, 게다가 누구나 지원자 ID를 순차적으로 훑을 수 있게 하는 API 결함이 있었다. 당신의 컴플라이언스 스택은 약한 고리가 벤더의 잊혀진 테스트 계정이었다는 것에 신경 쓰지 않는다. 유출 통지 의무, 집단 소송 노출, 그 데이터를 계속 처리할 적법한 근거의 상실 — 그 모든 것이 고용주에게 떨어진다. 그 공개 이후, CISO는 모든 HR 테크 구매에 참석하며, 범용 SOC 2 서한은 AI를 인지한 보안 검토가 아니다.
이걸 위해 그냥 도구를 사면 되지 않나요?
사람들은 항상 내게 이런 식의 질문을 한다: 그냥 이걸 위한 도구를 사면 안 되나요? 그리고 나는 그 직감을 이해한다. 시장에는 그럴듯해 보이는 선택지가 가득하기 때문이다. 정직한 답은 아니오이며, 돈을 쓰기 전에 왜 그런지 알 가치가 있다.
전용 거버넌스 플랫폼들 — FairNow, Holistic AI, 그리고 약 4,500만 달러를 조달한 Credo AI — 은 자신들이 하는 일에서 진정으로 뛰어나다. 그러나 각각은 본질적으로 하나의 방법론만 제공하며 당신의 데이터 위에서 실행된다; 그중 어느 것도 당신과 Workday 사이에 앉아 당신의 실제 벤더 계약이 무엇을 보호하고 무엇을 보호하지 않는지를 추출해 내지 못한다. DCI와 ORCAA 같은 독립 감사기관은 시스템당 연간 5만 달러에서 20만 달러에 훌륭한 결과물을 만들어 내지만, 그것은 연 단위 주기의 스냅숏이지, 여섯 개의 움직이는 규제 체제에 대한 상시적 답이 아니다. 그리고 빅4는 분명히 그 업무를 맡을 것이다 — 50만 달러에서 수백만 달러에 — 하지만 기술을 만들지 않고 당신의 스크리닝 모델이 왜 그렇게 작동하는지의 기술적 세부에는 파고들 수 없는 자문 팀들과 함께다.
그 공백은 빠진 감사 벤더가 아니다. 그것은 당신의 후보 명단에 있는 누구도 CHRO, GC, CISO, 그리고 모든 HR 테크 벤더 사이에 동시에 앉을 수 없다는 것이며 — 그리고 법이 도저히 충족될 수 없는 지점이 어디인지를 기꺼이 당신에게 말해 줄 사람이 없다는 것이다.
우리가 Veriprajna에서 구축한 것은 바로 그 공백에 사는 것이다: 당신의 채용에 관여하는 모든 도구를 목록화하고, 하나의 범용 감사 대신 당신이 해당되는 각 규제 체제에 맞는 감사를 수행하며, 접근성과 보안을 각자의 분야로 테스트하고, 당신의 법무 총괄에게 CFO를 상대로 예산을 방어할 비용 수치와 소송 타임라인을 제공하는 관할권 조화 및 AEDT 실사 실무다. 결코 쓰지 않기를 바라는 보험이 아니라 — 뉴욕의 선제적 집행이나 Mobley의 증거개시 목록이 찾아올 때 갖고 있어 매우 다행이라고 여길 문서화다.
이것을 결정하는 120일
내가 이것에 카운트다운을 두는 이유는 극적 연출이 아니다. 지금 이 순간 달력이 유난히 가차 없기 때문이다. 콜로라도의 마감은 대략 12주 앞이다. EU의 고위험 의무는 그로부터 약 4주 뒤에 떨어진다. 뉴욕의 집행 태세는 이미 뒤집혔다. Mobley의 증거개시는 당신이 이 글을 읽는 지금 고용주 목록을 산출해 내고 있다.
나 자신의 사고를 바꾼 것, 그리고 내가 CHRO나 법무 총괄이 이 모든 것에서 가져가기를 바라는 것은 좁고 구체적이다: 옛 방어 수단 — 벤더가 도구를 적용 범위 밖으로 규정하게 하고, 하나의 감사를 수행하고, 메모를 철하는 것 — 은 결코 컴플라이언스 프로그램이 아니었다. 그것은 기술적 역량을 갖춘 아무도 들여다보지 않을 것이라는 도박이었다. 이제는 모두가, 여섯 방향에서 들여다보고 있으며, 그중 두 방향은 당신이 도대체 무엇을 해야 하는지에 대해 서로 의견이 다르다. 이 일은 더 이상 감사를 통과하는 것이 아니다. 그것은 규제 체제별로, 당신이 정확히 어디에 서 있는지를 아는 것이다 — 정직한 답이 법이 스스로 모순되며 누군가는 어느 쪽으로 기울지 결정해야 한다는 것인 지점들을 포함해서. 그것은 당신이 사는 도구가 아니다. 그것은 그 일을 실제로 해내야만 얻을 수 있는 판단이다. 우리가 그것을 어떻게 하는지 여기에서 볼 수 있다.
