디폴트의 역설

보안 연구진은 Paradox.ai의 관리 포털이 '123456'을 사용자 이름과 비밀번호로 동시에 사용하는 것을 발견했습니다 — 2019년부터 활성화된 계정으로, MFA도 감사 기록도 없었습니다. 인증에 성공한 후, 안전하지 않은 직접 객체 참조(IDOR) 취약점으로 인해 지원자 ID 열거가 가능해졌고, 이름, 이메일, 전화번호, 'Olivia' 챗봇과의 AI 채팅 기록, 성격 평가 점수를 포함한 전체 기록이 노출되었습니다. 근본 원인은 Nexus Stealer 멀웨어에 감염된 개발자의 장치였으며, 이를 통해 Pepsi, Lockheed Martin, Lowes 등 고객과 연결된 수백 개의 재사용된 비밀번호가 유출되었습니다.

이 프레임워크는 AI 모델을 내부적으로 패치할 수 없는 블랙 박스로 취급하고, 다섯 개의 동심원형 독립 보안 계층으로 감쌉니다: 1계층(코어)은 모델 동작 주변에 휴리스틱 가드레일을 제공하고, 2계층은 메타 수준의 프롬프트 및 컨텍스트 검증을 적용하며, 3계층은 적대적 탐지를 위한 카나리아 토큰과 허니팟을 배치하고, 4계층은 출력 스캐닝과 콘텐츠 필터링을 구현하며, 5계층은 ISO 42001 및 NIST AI RMF 정렬, MCP 서버 거버넌스, 자율 에이전트의 목표 드리프트 감지를 위한 행동 모니터링 대시보드를 갖춘 가장 바깥쪽 거버넌스 셸을 제공합니다.

신용카드 번호나 비밀번호와 달리, 성격 평가와 행동 프로파일은 개인의 신원에 영구적으로 묶여 있어 재설정하거나 재발급할 수 없습니다. 유출되면 '예측적 해악'을 가능하게 합니다 — 정치 성향, 건강 상태, 정서적 안정성 같은 추론된 특성이 무권한 제3자의 조작 도구가 되는 것이죠. 연구에 따르면 유출 피해자의 85%가 수면 장애를, 77%가 스트레스 증가를, 70%가 지속적인 신뢰 잠식을 경험합니다. 심리적 충격은 신체 공격만큼 심각한 경우가 많으며, 노출이 앞으로의 모든 취업 지원을 따라다닐 것이라는 인식이 이를 가중시킵니다.