기본 비밀번호 하나로 유출된 6,400만 건의 AI 채용 기록

문제

맥도날드의 AI 채용 챗봇 “올리비아”가 6,400만 명의 구직자 개인 기록을 노출했습니다. 시스템을 보호하던 관리자 비밀번호는 “123456”이었습니다. 과장이 아닙니다 — 사용자 이름과 비밀번호가 말 그대로 둘 다 “123456”이었고, 해당 계정은 2019년부터 다중 요소 인증도 없이 아무런 감시 없이 방치되어 있었습니다.

보안 연구원 이언 캐럴(Ian Carroll)과 샘 커리(Sam Curry)는 2025년 6월 이 취약점을 발견했습니다. 두 사람은 버그투성이 인터페이스에 대한 사용자 불만이 확산되고 있음을 알아차리고 조사를 시작했습니다 — 이는 종종 더 깊은 아키텍처 방치를 가리키는 신호입니다. 두 사람이 그 기본 자격 증명으로 관리 포털에 로그인하자 또 하나의 결함이 드러났습니다. 플랫폼의 API — 서로 다른 시스템을 연결하는 소프트웨어 계층 — 는 사용자가 특정 기록을 볼 권한이 있는지 확인하지 않았습니다. 브라우저 주소 표시줄에서 지원자 ID 번호만 바꾸면, 연구원들은 수백만 명의 실제 지원자에 대한 전체 지원 기록과 채팅 로그를 불러낼 수 있었습니다.

노출된 데이터에는 이름, 이메일, 전화번호, IP 주소, 가상 면접 전사본, 성격 평가 결과가 포함되어 있었습니다. 이것은 정교한 국가 주도 사이버 공격이 아니었습니다. AI 벤더의 현관에서 기초적인 보안 위생이 무너져 내린 사건이었습니다. 귀 조직이 서드파티 AI 도구에 의존하고 있다면, 이번 침해 사고는 깊이 신경 써야 할 문제입니다. 포춘 100대 기업의 보안이 전적으로 벤더의 자격 증명 관행에 좌우되어 있었던 것입니다.

귀사 비즈니스에 중요한 이유

이런 유형의 침해가 가져오는 재무적·법적 노출은 어마어마합니다. 2025년 데이터 침해 평균 비용은 444만 달러에 달했습니다. 그러나 여기서 진짜 리스크 증폭기는 규제입니다.

귀 조직은 아래 프레임워크 중 최소 하나에는 반드시 해당할 가능성이 높습니다:

• GDPR은 최대 €2,000만 또는 전 세계 연간 매출의 4% 중 더 높은 금액의 벌금을 부과할 수 있습니다.
• CCPA는 소비자 1인당 사건당 750달러의 법정 손해배상을 인정합니다. 여기에 6,400만 건의 기록을 곱하면, 수백억 달러 규모의 집단소송 노출을 마주하게 됩니다.
• EU AI법은 채용용 AI를 “고위험”으로 분류하며, 최대 €3,500만 또는 전 세계 매출의 7%에 달하는 제재를 가할 수 있습니다.

“123456”이라는 기본 비밀번호는 CCPA가 요구하는 “합리적인 보안 절차”의 정반대라고 해도 과언이 아닙니다. 그 비밀번호가 귀사 팀이 아니라 벤더의 것이었다 한들, 이 단 하나의 사실이 귀사에 대한 집단소송의 핵심 쟁점이 될 수 있습니다.

벌금을 넘어 인간적 비용도 실재합니다. 연구에 따르면 침해 피해자의 70%가 사건 이후 타인을 신뢰하지 못하게 되었다고 답합니다. 3분의 2는 깊은 무력감을 경험합니다. 피해자들은 수면 장애(85%), 스트레스 증가(77%), 만성 두통(57%)을 호소합니다. 유출된 데이터에 성격 검사 결과 — 한 사람의 내면적 성격을 정량화한다고 주장하는 문서 — 까지 들어 있다면, 그 심리적 피해는 도난당한 신용카드 번호와는 차원이 다릅니다. 신용카드는 해지할 수 있습니다. 유출된 성격 프로필은 그 사람을 무기한 따라다닙니다.

이사회는 알아야 합니다. AI 벤더 리스크는 더 이상 IT 문제가 아니라, 귀사의 대차대조표로 직접 넘어오는 재무적·법적·평판 문제라는 사실을.

후드 아래서 실제로 벌어지고 있는 일

핵심 문제는 업계에서 말하는 “AI 래퍼(wrapper)” 모델입니다. 이렇게 상상해 보십시오: 탁월한 컨설턴트를 고용해 놓고, 자물쇠가 고장 난 사무실과, 출입증도 없는 출입구와, 걸어 들어오는 누구에게나 열리는 파일 캐비닛을 준 것입니다. 컨설턴트는 훌륭한 일을 하지만, 그를 둘러싼 건물은 활짝 열려 있습니다.

맥도날드의 AI 챗봇에서 벌어진 일이 바로 그것입니다. 대화형 AI 자체는 의도대로 작동했습니다. “올리비아”는 지원자를 스크리닝하고, 면접 일정을 잡고, 성격 평가를 수행할 수 있었습니다. 그러나 그 주변 인프라 — 관리자 포털, API 접근 통제, 자격 증명 관리 — 는 허술했습니다.

악용된 취약점은 IDOR(Insecure Direct Object Reference, 안전하지 않은 직접 객체 참조) 결함이었습니다. 쉽게 말해, 시스템은 로그인만 되어 있으면 URL의 숫자를 바꾸는 것만으로 어떤 기록이든 접근할 수 있게 내버려 두었습니다. 그 사용자가 그 특정 지원자의 데이터를 볼 자격이 있는지 확인하는 절차는 전혀 없었습니다.

설상가상으로, 조사관들은 베트남의 Paradox.ai 개발자 한 명이 “Nexus Stealer”라는 악성코드에 감염되었음을 확인했습니다. 감염된 이 단말기 하나가 Pepsi, Lockheed Martin, Lowes, Aramark 등 고객사와 연결된 계정들의 수백 개 비밀번호 — 상당수는 재사용된 취약한 것들 — 를 새어 나가게 했습니다. 개발자 한 명의 잘못된 비밀번호 습관이 여러 포춘 500대 기업을 위태롭게 만든 것입니다.

이것이 바로 “휴먼 노드” 문제입니다. AI 모델 자체는 기술적으로 탄탄할 수 있습니다. 그러나 그 모델을 관리하는 사람들이 비밀번호를 재사용하고 다중 요소 인증을 생략한다면, AI 스택 전체의 보안은 가장 약한 인간 고리의 강도까지 무너집니다.

효과가 있는 것(그리고 없는 것)

먼저 여러분을 보호하지 못하는 것부터 보겠습니다:

• 덧대는 식 방화벽만으로는 부족합니다. 표준 웹 애플리케이션 방화벽은 프롬프트 인젝션이나 객체 참조 조작 같은 AI 특유의 위협을 이해하지 못합니다. 정문은 지키면서 옆창문은 활짝 열어 두는 격입니다.
• 즉흥적인 거버넌스. AI 벤더가 오래된 계정을 어떻게 퇴역시키는지까지 포함해 문서화된 자격 증명 수명주기를 보여 주지 못한다면, 귀사는 노출되어 있습니다. McHire 관리자 계정은 6년 동안 활성화된 채 아무런 감시 없이 방치되어 있었습니다.
• 벤더의 말을 믿는 것. 포춘 100대 브랜드의 보안이, 먼 나라의 서드파티 개발자가 강한 비밀번호를 사용했는지 여부에 전적으로 달려 있었습니다. 그것은 거버넌스가 아닙니다. 그것은 막연한 소망입니다.

실제로 효과가 있는 것은 — AI 시스템의 모든 부분을 잠재적으로 침해되었을 수 있는 것으로 취급하는 계층 방어입니다:

1. 입력 검증(게이트키퍼). AI 시스템에 들어오는 모든 프롬프트와 요청은 정제되고 정규화됩니다. 이 계층은 숨겨진 명령으로 오독될 수 있는 코드 유사 구문과 형식을 제거합니다. 위협이 모델에 도달하기 전에 잡아 냅니다.

2. 다중 모델 검증(버디 시스템). 더 작은 “카나리아” 모델이 기본 AI가 처리하기 전에 모든 요청에 악의적 의도가 없는지 분석합니다. 카나리아가 수상한 것에 깃발을 올리면, 두 번째 심판 모델이 최종 판단을 내립니다. 이것이 바로 견제와 균형입니다 — 그 어느 단일 모델도 검증 없이 행사할 수 있는 권한을 갖지 않습니다.

3. 출력 검증 및 삭제(필터). 모든 AI 응답은 신뢰할 수 없는 출력으로 취급됩니다. 분류기가 유해하거나 편향되거나 환각된 콘텐츠를 스캔합니다. PII 삭제 계층은 시스템이 사회보장번호, 성격 점수, 비공개 채팅 로그를 권한 없는 사용자에게 우발적으로 새어 보내는 일이 결코 없도록 보장합니다.

이 계층적 접근 방식의 결정적인 강점은 감사 추적입니다. 규정준수 팀이나 규제 기관이 “이 결정은 어떻게 내려졌습니까?”라고 묻는다면, 모든 입력과 모든 검증 단계, 모든 출력을 추적해 보여줄 수 있습니다. 방어 가능한 AI 시스템과 잠재적 책임을 가르는 것이 바로 이 추적입니다. 감사자에게 질문에서 답변에 이르는 논리 경로를 보여줄 수 없다면, 귀사에게는 AI 거버넌스가 있는 것이 아니라 — 블랙박스가 있는 것입니다.

또한 귀사의 보안 태세 에는 제로트러스트(Zero-Trust) 신원 관리도 포함되어야 합니다. 이는 시스템 안의 모든 인간과 모든 AI 에이전트가 지속적인 검증을 갖춘 고유한 암호학적 신원을 가져야 한다는 뜻입니다. 기본 비밀번호는 없애고, 공유 자격 증명은 없애고, 6년째 방치된 오래된 계정도 없애야 합니다.

ISO 42001 — AI 관리 시스템을 위한 최초의 국제 표준 — 과 NIST AI 리스크 관리 프레임워크 같은 프레임워크에 AI 스택을 정렬하면, 사후 대응식 패칭에서 선제적 거버넌스로 나아가게 됩니다. 이 프레임워크들은 팀에 구조화된 90일 로드맵을 제공합니다: 첫 30일 동안 AI 노출 현황을 파악하고, 31일부터 60일까지 기초적인 보안 위생을 구현하며, 61일부터 90일까지 고위험 운영을 위한 고급 모니터링과 사람의 승인 게이트를 배치합니다.

이 AI 보안 및 복원력 환경은 빠르게 변하고 있습니다. 2026년이 되면 AI 거버넌스는 있으면 좋은 것이 아니라 시장 참여의 필수 전제 조건이 될 것입니다.