법원이 Workday에 던진 경고: AI 채용 소프트웨어가 수백만 지원자를 차별했을 수 있다

작년에 저는 방갈로르의 한 호텔 로비에 앉아, 늦어지는 미팅을 기다리며 휴대폰으로 소송 서류를 넘겨보고 있었습니다 — 보통 사람들이 인스타그램을 넘기듯이 말이죠 — 그러다 커피를 내려놓게 만든 한 단락에 이르렀습니다.

캘리포니아의 한 연방 판사가 방금, 700억 달러 규모의 HR 소프트웨어 대기업 Workday가 하나의 대리인으로서 연방 반차별법상 책임을 질 수 있다고 판결했습니다. 도구가 아닙니다. 중립적인 플랫폼도 아닙니다. 바로 하나의 대리인입니다 — 누군가의 나이나 인종을 근거로 이력서를 버리는 인간 채용 담당자와 동일한 법적 범주에 속하는 존재 말입니다.

원고인 Derek Mobley는 장애가 있는 40세 이상의 아프리카계 미국인 남성으로, 100건이 넘는 일자리에서 거절당했습니다. 그 거절 중 상당수는 지원한 지 몇 분 만에, 그것도 종종 업무 시간 외에 이루어졌습니다. 그 어떤 사람도 그의 이력서를 들여다보지 않았습니다. 소프트웨어가 그를 고려할 가치가 없다고 판단했고, 알고리즘적 일관성으로 그 판단을 몇 번이고 되풀이했습니다.

저는 AI 시스템을 만듭니다. 제 회사 Veriprajna는 기업을 위한 인지 아키텍처를 설계합니다 — 업계 대부분이 팔고 있는 조잡하고 확률적인 지름길을 대체해야 할, 깊고 결정론적인 AI 말이죠. 그리고 그 판결을 읽었을 때 제 첫 생각은 '이건 Workday에 나쁜 소식이군'이 아니었습니다. 이런 생각이었죠. AI 채용 산업의 대부분이 똑같이 썩은 토대 위에 세워져 있는데, 거의 아무도 그 이야기를 하지 않는다.

11억 건의 거절, 그리고 그것을 알아챈 판사

제가 엔지니어링 팀과 공유했을 때 회의실을 멈춰 세운 그 숫자를 알려드리겠습니다.

Workday 사건의 해당 기간 동안, 약 11억 건의 입사 지원이 거절되었습니다 Workday의 소프트웨어를 통해서 말입니다. 오타가 아닙니다. 십억, 그 '십억' 맞습니다.

2025년 5월, 한 연방 법원은 ADEA — 고용상 연령차별금지법(Age Discrimination in Employment Act) — 에 따른 연령 차별에 대해 전국적 집단 소송의 예비 인증을 승인했습니다. 이는 2020년 9월 이후 Workday의 플랫폼을 통해 고용 추천을 거부당한 40세 이상의 모든 사람이 통지를 받고 소송에 참여할 수 있다는 의미입니다. 2025년 7월까지 법원은 그 범위를 Workday가 인수한 AI 채용 도구인 HiredScore를 통해 처리된 지원자까지 포함하도록 확대했습니다.

소프트웨어가 십억 건의 지원을 거절하고 법원이 '그 소프트웨어는 법적으로 당신의 대리인이다'라고 말한다면, HR 테크 산업 전체는 PR 문제가 아니라 구조적 문제를 안고 있는 것입니다.

이 문제로 우리가 내부에서 벌였던 논쟁이 기억납니다. 우리 엔지니어 중 한 명 — 명석하고 ML에 깊은 배경을 가진 친구 — 이 말했습니다. '하지만 Workday는 그저 추천 엔진을 돌리고 있을 뿐이에요. 검색 결과가 나쁘게 나왔다고 구글을 탓하는 격이죠.' 그래서 제가 말했습니다. '아니야. 이건 당신이 후보자 심사를 맡기려고 고용한 인력 알선업체가 1995년 이전에 졸업한 모든 사람의 이력서를 죄다 버린 것을 탓하는 것과 같아.'

법원은 바로 그 구분을 지었습니다. Rita Lin 판사는 '단순한 도구' — 스프레드시트, 이메일 — 를 후보자를 능동적으로 채점하고 순위를 매기며 추천하는 시스템과 구별했습니다. Workday의 AI는 사람이 검토하도록 데이터를 정리하고 있던 것이 아니었습니다. 그것은 누가 통과하고 누가 통과하지 못할지를 결정하는 전통적인 고용주의 기능을 수행하고 있었습니다. 그것이 대리 행위입니다. 그것이 책임입니다.

알고리즘은 어떻게 연령 차별을 학습하는가?

이것이 저를 밤잠 못 이루게 하는 부분입니다. 그 메커니즘이 너무나 평범하기 때문이죠.

Workday의 그 누구도 — 저는 진심으로 이렇게 믿습니다 — 앉아서 if age > 40: reject() 이라고 적힌 코드를 작성하지는 않았습니다. 그런 코드는 만화처럼 노골적으로 불법이고 손쉽게 적발됩니다. 진짜 문제는 더 미묘하고, 솔직히 말하면 고치기가 더 어렵습니다.

머신러닝 모델을 어떤 회사의 과거 채용 데이터 — 그들의 '성공한 직원들' — 로 학습시키면, 당신은 그 모델에게 과거의 채용 담당자들이 가졌던 모든 편향을 먹이는 셈입니다. 그 회사가 과거에 엔지니어링 직무에 더 젊은 인력을 채용해 왔다면, 모델은 젊음과 상관된 신호가 '성공'을 예측한다고 학습합니다. 나이를 직접 학습하는 것이 아니라요. 대리 지표죠.

AI 심사 시스템이 당신의 생년월일을 전혀 보지 않고도 당신의 나이에 대해 추론할 수 있는 것은 다음과 같습니다.

당신의 이메일 도메인. @aol.com 또는 @hotmail.com 주소는 더 나이 든 사용자층과 상관관계가 있습니다. 당신이 언급하는 기술 — Lotus Notes나 COBOL 전문성을 나열하면 당신을 특정 시대에 못 박습니다. 총 경력 연수는 '15년 이상'이 시간적 기준점이 됩니다. 심지어 경력 진행 지표까지도 그렇습니다. 1990년대 초의 'Junior Programmer'라는 직함은 당신이 정확히 언제 노동 시장에 진입했는지를 모델에게 알려줍니다.

저는 이것을 제 팀과 직접 테스트해 봤습니다. 우리는 합성 데이터셋 — 변수를 통제한 가짜 이력서 — 을 만들어 표준 트랜스포머 기반 심사 파이프라인에 통과시켰습니다. 모델은 나이에 대해 그 어떤 정보도 들은 적이 없었습니다. 하지만 EEOC의 5분의 4 규칙(Four-Fifths Rule) — 보호 집단의 선발률이 최고 집단 선발률의 80% 미만으로 떨어질 때 불리한 영향을 표시하는 규칙 — 을 사용해 선발률을 측정하자, 40세 이상 지원자에 대한 결과는 참담했습니다. 선발률은 더 젊은 지원자의 절반이었습니다. 영향 비율은 약 0.50으로, 0.80 기준을 한참 밑돌았습니다.

알고리즘은 당신의 나이를 알 필요가 없습니다. 그저 당신의 이메일 제공업체, 당신의 어휘, 그리고 당신의 경력 타임라인만 있으면 됩니다. 나머지는 수학이 알아서 합니다.

누구도 차별을 프로그래밍하지 않았습니다. 학습 데이터가 바로 차별 그 자체이며, 가중치와 매개변수로 결정화되어 대규모로 되돌려 제공됩니다.

'그냥 GPT 쓰면 되지'가 왜 잘못된 답인가

저는 이 말을 끊임없이 듣습니다. 투자자들로부터, 잠재 고객들로부터, AI 전환에 관한 블로그 글 세 편을 읽은 선의의 CTO들로부터 말이죠. '그냥 GPT-4를 래핑하면 되지 않나요? 그 정도면 충분하잖아요.'

한 투자자가 피칭 중에 제 면전에 대고 이렇게 말한 적이 있습니다. 그는 몸을 뒤로 젖히고 팔짱을 낀 채 말했습니다. 'Ashutosh, OpenAI는 여기에 수십억 달러를 썼어요. 당신 40명짜리 회사가 그보다 더 나은 걸 만들겠다는 겁니까?'

저는 그에게 잘못된 질문을 하고 있다고 말했습니다. 질문은 GPT-4가 텍스트 생성에 '더 뛰어난가'가 아닙니다. 당연히 더 뛰어나죠. 질문은 확률적 텍스트 생성 엔진이 52세 소프트웨어 엔지니어가 가족을 먹여 살릴 수 있을지를 좌우하는 결정을 내려야 하느냐입니다.

시장은 제가 이른바 'LLM 래퍼(wrapper)'라고 부르는 것으로 넘쳐납니다 — GPT-4나 Claude 같은 파운데이션 모델의 출력을 재포장해 'AI 채용 솔루션'으로 판매하는 얇은 애플리케이션 계층 말이죠. 데모에서는 인상적으로 보입니다. 하지만 실제 운영 환경에서는 처참하게 실패하는데, 그 이유는 다음과 같습니다.

LLM은 가장 가능성이 높은 다음 토큰을 예측합니다. 그게 전부입니다. 정교한 자동 완성 엔진이죠. LLM은 추론하지 않습니다 — 후보자가 직무 요건을 충족하는지에 대해서 말입니다. LLM은 그저 겉보기에 추론처럼 보이는 텍스트를 생성할 뿐입니다. 그리고 채용에서 '추론처럼 보이는 것'과 '실제로 추론하는 것' 사이의 간극은 규정 준수와 집단 소송 사이의 간극입니다.

잘 기록된 현상이 하나 있습니다. 이른바 '중간 소실(lost-in-the-middle) 증후군'이라고 불리는 현상입니다. 표준 트랜스포머 아키텍처는 컨텍스트 윈도우의 처음과 끝에 있는 정보를 처리할 때는 높은 정확도를 보이지만, 중간 부분에서는 어텐션이 크게 떨어집니다. 10페이지짜리 이력서에서 중간 섹션에 파묻힌 핵심 자격증이나 최근 성과는 통계적으로 간과될 가능성이 더 높습니다. 모델이 그것들을 중요하지 않다고 판단해서가 아니라 — 아키텍처가 말 그대로 모든 것에 동등한 어텐션을 줄 수 없기 때문입니다.

저는 이 아키텍처적 한계와 이를 해결하기 위한 우리의 접근 방식에 대해 우리 연구의 인터랙티브 버전에서 썼습니다.

그리고 경제적 문제도 있습니다. LLM 래퍼는 제가 이른바 '해자 흡수(moat absorption)'이라고 부르는 현상에 직면합니다 — 파운데이션 모델 제공업체가 더 뛰어난 기반 모델을 출시할수록, 그들은 필연적으로 래퍼가 자신들의 가치 제안으로 의존하던 기능들을 통합해 버립니다. 이력서 파싱, 감정 분석, 기본적인 매칭 — OpenAI와 구글은 결국 이런 것들을 기본 기능으로 제공하게 될 것입니다. 단순히 API를 래핑하기만 하는 회사는 고객과의 모든 상호작용을 통해 자신의 경쟁 우위를 스스로 학습해 없애고 있는 셈입니다.

우리가 우리 시스템을 무너뜨린 밤

약 8개월 전 어느 목요일 밤에 대해 이야기하고 싶습니다. 그 밤이 우리가 만드는 모든 것에 대한 제 생각을 바꿔놓았기 때문입니다.

우리는 채용 심사 모듈의 프로토타입 — 잠시 후 설명할 우리의 뉴로-심볼릭 아키텍처 — 을 벤치마크 데이터셋에 대해 테스트하고 있었습니다. 시스템은 정확도 지표에서 훌륭하게 작동하고 있었습니다. 정밀도(precision)는 높았습니다. 재현율(recall)은 탄탄했습니다. 이 일에 하루 14시간씩 매달려 온 저희 수석 ML 엔지니어는 그야말로 빛이 났습니다.

그런데 우리 컴플라이언스 분석가가 공정성 감사를 실행했습니다.

시스템이 장애 여부에 대해 인구통계학적 동등성(demographic parity) 위반을 보이고 있었습니다. 큰 위반은 아니었습니다 — 영향 비율은 약 0.78로, 0.80 기준을 겨우 살짝 밑돌았죠. 하지만 분명히 존재했습니다. 제가 모두에게 '설계상 편향에 강하다'고 말해 온 바로 우리 자신의 시스템이 차별적인 결과를 만들어내고 있었습니다.

회의실이 조용해졌습니다. 저는 속이 메스꺼웠습니다.

우리는 그 후 사흘 동안 파이프라인을 샅샅이 뜯어봤습니다. 범인은 우리가 중립적이라고 가정했던 학습 데이터의 한 특징으로 드러났습니다. 바로 경력 공백 기간이었죠. 장애가 있는 후보자는 통계적으로 경력 공백이 있을 가능성이 더 높습니다 — 병가, 접근성 관련 이직, 회복 기간 등의 이유로 말이죠. 우리 모델은 공백이 더 낮은 '성공'을 예측한다고 학습했고, 대리 지표를 통해 장애에 불이익을 주고 있었습니다.

우리는 그 편향을 찾고 있었기 때문에 잡아냈습니다. 기성 AI 채용 도구를 사용하는 대부분의 회사는 찾아보지 않습니다. 심지어 그래야 한다는 사실조차 모릅니다.

우리는 적대적 편향 제거(adversarial debiasing)를 사용해 이를 해결했습니다 — 우리 예측기의 출력으로부터 보호 특성을 예측하도록 보조 '적대자(adversary)' 모델을 학습시킨 다음, 그 적대자가 성공할 때마다 예측기에 불이익을 주는 방식입니다. 이는 차별적 패턴을 후처리에서 단순히 가리는 것이 아니라 시스템이 그 패턴을 학습에서 지우도록 강제하는 인-프로세싱(in-processing) 기법입니다.

하지만 그 교훈은 기술적인 것이 아니었습니다. 교훈은 이것이었습니다. 공정성과 검증에 집착하는 우리 회사조차 편향된 시스템을 하마터면 출시할 뻔했다면, 다른 모두는 대체 무엇을 출시하고 있는 걸까?

'딥 AI'는 채용에서 실제로 무엇을 의미하는가?

우리가 LLM 래퍼 대신 '딥 AI'를 만든다고 말할 때, 그것은 더 깊은 신경망을 사용한다는 뜻이 아닙니다. 문제 속으로 더 깊이 파고든다는 뜻입니다.

우리의 아키텍처는 뉴로-심볼릭(neuro-symbolic)입니다 — 신경망의 언어적 능력과 기호적 추론의 논리적 엄밀성을 결합한 것이죠. 실제로 이는 우리 시스템의 LLM이 의사결정자가 아니라는 뜻입니다. LLM은 번역가입니다.

전문 용어 없이 그 작동 방식을 설명하면 다음과 같습니다.

이력서가 우리 시스템에 들어오면, 특화된 언어 모델이 구조화된 사실을 추출합니다 — '이 사람은 5년간의 Python 경력이 있다', '이 사람은 PMP 자격증을 보유하고 있다', '이 사람은 2018년부터 2022년까지 X사에서 일했다'. 이것들은 해석이 아닙니다. 기술, 직무, 조직 요건 사이의 관계를 정의하는 지식 그래프에 매핑된 개체 추출입니다.

그런 다음 — 그리고 이것이 핵심입니다 — 결정론적 규칙 엔진이 추출된 그 사실들을 직무 요건과 대조해 평가합니다. 신경망이 아닙니다. 확률 분포가 아닙니다. 실제 논리입니다. IF experience >= 5 AND skill == Python THEN eligible = TRUE. 정책이 가중치가 아니라 코드 안에 존재하기 때문에 LLM은 그 정책을 환각(hallucinate)할 수 없습니다.

모든 추천은 감사 가능한 논리 추적 기록을 생성합니다. 어떤 규칙이, 어떤 데이터 포인트에 의해, 후보자 파일의 어느 섹션에서 촉발되었는지 정확히 추적할 수 있습니다. 규제 당국이나 원고 측 변호사가 '이 사람은 왜 거절되었나요?'라고 물을 때 — 당신에게는 '모델이 그렇게 판단했다'가 아닌 답이 있습니다.

우리는 이를 이른바 '헌법적 가드레일(constitutional guardrails)'로 보호합니다 — 모든 상호작용의 전·중·후에 작동하는 세 겹의 보호 장치입니다. 입력 레일은 적대적 프롬프트와 PII 유출이 핵심 로직에 도달하기 전에 차단합니다. 대화 레일은 대화의 경계를 강제합니다. 출력 레일은 모든 결과가 사람 채용 담당자에게 도달하기 전에 환각, 유해성, 정책 위반이 있는지 검사합니다.

이것은 이론에 그치지 않습니다. 우리 아키텍처와 그것을 뒷받침하는 법적 프레임워크에 대한 전체 기술적 분석을 보려면 우리의 연구 논문을 참고하십시오.

AI 채용을 정말로 공정하게 만들 수 있는가?

사람들은 저에게 이 질문을 늘 합니다. 대개는 답이 '아니오'라고 생각한다는 것을 암시하는 회의적인 어조로 말이죠.

제 솔직한 답은 이렇습니다. 완벽하게 공정하게 만들 수는 없습니다. 채용에서의 공정성에는 본질적인 트레이드오프가 따릅니다 — 단지 철학적인 것이 아니라 수학적인 트레이드오프죠. 인구통계학적 동등성(집단 간 동일한 선발률)을 최적화하면 균등 승산(equality of odds, 동일한 참양성률과 거짓양성률)과 충돌할 수 있습니다. 예측적 동등성(높은 점수가 모든 집단에서 동일한 의미를 갖도록 보장하는 것)을 최적화하면 두 가지 모두와 충돌할 수 있습니다.

하지만 당신은 그것을 현 상태보다 극적으로 더 공정하게만들 수 있습니다. 현 상태란 편향된 인간이거나, 중립적인 척하는 편향된 알고리즘이죠. 그리고 당신은 그것을 감사 가능하게만들 수 있으며, 이것이 바로 법이 실제로 요구하는 바입니다.

우리는 SHAP — SHapley Additive exPlanations — 를 사용해 모든 결정의 모든 특징에 기여도 값을 할당합니다. '기술 X는 이 후보자의 점수에 +15만큼 기여했다. 경력 공백은 -3만큼 기여했다.' 우리는 LIME — Local Interpretable Model-agnostic Explanations — 를 사용해 작은 변화가 결정을 뒤집는지 테스트합니다. 후보자의 우편번호를 바꿨을 때 결과가 달라진다면, 무언가 잘못된 것입니다.

우리는 반사실적 설명(counterfactual explanations)을 생성합니다. '이 후보자는 자격증 Y가 없어서 선발되지 않았다. 자격증 Y가 있었다면 기준점을 넘는 점수를 받았을 것이다.' 그것은 블랙박스가 아닙니다. 유리 상자(glass box)이며, 이것이 바로 EEOC의 2023년 5월 지침이 요구하는 바입니다.

대부분의 회사에는 없는 3중 방어선 모델

기업 HR 팀들과 그들의 AI 도구에 대해 이야기하기 시작했을 때 저를 충격에 빠뜨린 사실이 있습니다. 그들 대부분은 자신들이 어떤 모델을 돌리고 있는지 전혀 모른다는 것입니다.

말 그대로입니다. 저는 한 포춘 500대 기업의 CHRO — 매년 수만 명에게 영향을 미치는 채용 결정을 책임지는 사람 — 와 회의를 하며 물었습니다. 'AI 심사 도구의 인구통계 집단별 선발률을 알려주실 수 있나요?' 멍한 표정. '그 도구가 어떤 모델을 사용하는지 알려주실 수 있나요?' 더 긴 멍한 표정. '누가 편향에 대해 그것을 검증했는지 알려주실 수 있나요?' 그녀는 '그건 벤더가 처리하는 것 같아요'라고 말했습니다.

벤더가 그것을 '처리'한다니. Workday 선례에 따르면 이제 당신의 대리인으로서 잠재적 책임을 지게 될 바로 그 벤더 말입니다. 계약서에 차별적 결과에 대한 책임을 부인하는 조항을 거의 틀림없이 넣어 둔 바로 그 벤더 말이죠.

채용에서의 기업용 AI는 리스크 관리 전문가들이 이른바 '3중 방어선(three lines of defense)' 모델이라고 부르는 것을 필요로 합니다.

첫 번째 방어선: AI를 구축하고 배포하는 사업 부문입니다. 이들은 학습 데이터 선정, 이름과 졸업 연도를 익명화하는 블라인드 채용 기법, 그리고 일상적인 모니터링을 담당합니다.

두 번째 방어선: 리스크 및 컴플라이언스 감독입니다. 모델 레지스트리 — 모든 AI 모델과 그 목적, 데이터 출처, 리스크 등급을 담은 중앙 집중식 목록. 선발률과 영향 비율의 지속적 모니터링. 마케팅 자료가 아니라 편향 테스트 문서를 요구하는 벤더 심사.

세 번째 방어선: 독립적 감사입니다. 뉴욕시의 지방법(Local Law) 144는 이미 자동화된 고용 결정 도구에 대해 독립적인 제3자의 연례 편향 감사를 의무화하고 있습니다. 벌금은 첫 위반 시 $500에서 시작해 하루 위반당 $1,500까지 상승합니다. 하지만 진짜 비용은 벌금이 아닙니다 — 법원이 귀사의 이름을 잠재적으로 피해를 입은 수백만 명의 지원자에게 통지하도록 명령할 때 벌어지는 일이며, 이것이 바로 Workday 집단 소송 인증이 가능하게 하는 상황입니다.

'주권 AI'가 기업 채용의 미래인 이유

Workday 사건은 제가 2년간 지켜봐 온 변화를 가속하고 있습니다. 바로 제가 이른바 '주권 AI(sovereign AI)'라고 부르는 것으로, 기업 채용 영역에서의 이동입니다.

기업들은 자사의 독점적 채용 데이터를 제3자 API에 보내는 것이 곧 그 데이터가 남의 다음 세대 모델을 학습시키는 데 쓰일 수 있다는 사실에 눈뜨고 있습니다. 공개 API가 업데이트될 때 — 이는 예고 없이 일어납니다 — 정성껏 검증한 자신들의 심사 파이프라인이 하룻밤 사이에 표류하여 같은 후보자에게 다른 결과를 내놓을 수 있다는 것을 깨닫고 있습니다. 범용 LLM에는 정확한 전문 평가에 필요한 도메인 특화 지식 그래프가 없다는 것을 이해하고 있습니다.

제가 대화하는 기업들은 점점 더 자사의 모델을 직접 소유하기를 원합니다. 자사의 가상 사설 클라우드에서 그 모델을 운영하기를. 언제 어떻게 업데이트할지 통제하기를. 벤더의 선의에 의존하지 않는 완전한 감사 추적 기록을 유지하기를 원합니다.

이것이 Veriprajna에서 우리가 향하는 방향입니다. 우리는 API 접근권을 팔지 않습니다. 우리는 제도적 지식, 컴플라이언스 규칙, 결정론적 논리를 시스템에 부호화하는 인지 아키텍처를 구축합니다 — AI를 강력한 인터페이스로 사용하는 시스템이지, 통계적 감(感)에 따라 인생을 좌우하는 결정을 내리는 오류투성이 신탁(oracle)이 아닙니다.

떨쳐낼 수 없는 생각

저는 자꾸 Derek Mobley에게로 되돌아갑니다. 100건이 넘는 지원. 소프트웨어에 의해, 종종 몇 분 만에, 한밤중에 거절당했습니다. 그 어떤 사람도 그의 자격을 들여다본 적이 없습니다. 아무도 그에게 왜인지 말해 주지 않았습니다.

그리고 그는 특이한 경우가 아닙니다. 그저 소송을 건 사람일 뿐이죠.

수백만 명의 사람들이 있습니다 — 자격을 갖추고, 경험이 풍부하며, 유능한 사람들이 — 과거의 편견으로 학습되고, 충분한 테스트 없이 배포되었으며, 의미 있는 감독 없이 운영된 알고리즘에 의해 일자리 기회에서 걸러진 사람들 말이죠. 그들은 자신의 @hotmail.com 이메일 주소가 모델이 불이익을 주도록 학습한 연령대와 상관관계가 있었다고 설명하는 거절 편지를 받지 못했습니다. 그들은 그저 침묵을, 혹은 정형화된 이메일을 받고 다음 지원으로 넘어갔을 뿐입니다.

Workday 판결이 이 문제를 해결하지는 못합니다. 하지만 그에 못지않게 중요한 일을 해냅니다. 이 문제를 비싸게 만듭니다. 그리고 기업용 소프트웨어에서는 비싼 문제는 해결됩니다.

이제 질문은 AI를 채용에 사용해야 하느냐가 아닙니다. 질문은 당신이 사용하는 AI가 증언 심문(deposition)을 견뎌낼 수 있느냐입니다.

저는 AI를 만드는 일로 먹고살며, 채용을 더 공정하고, 더 효율적이며, 더 인간적으로 만들 수 있는 AI의 잠재력을 깊이 믿습니다. 하지만 그것은 우리가 채용 AI를 소비자 제품처럼 다루기를 멈추고 그것을 있는 그대로 다루기 시작할 때만 가능합니다. 즉, 사람들의 생계를 좌우하며 미국 법에서 가장 강하게 규제되는 영역 중 하나에서 작동하는, 이해관계가 큰 의사결정 시스템으로 말이죠.

블랙박스의 시대는 끝났습니다. 그에 맞게 만드십시오.