블랙박스 트레이딩 AI가 하루 만에 1조 달러를 잃은 이유

문제점

2024년 8월 5일, 하루 만에 최상위 AI·기술 기업들의 약 1조 달러 규모의 시장 가치가 증발했습니다. 일본 니케이 225 지수는 12.4% 급락하여 1987년 블랙 먼데이 이후 최악의 하락세를 기록했습니다. 시장의 ‘공포 지수’라고 불리는 CBOE 변동성 지수(VIX)는 사상 최대의 하루폭 상승을 기록하며 65.73까지 치솟았습니다. 이 수준은 2008년 금융 위기와 2020년 팬데믹의 최악의 순간에만 넘어선 바 있는 수치였습니다.

방아쇠는 신비롭지 않았습니다. 일본은행(Bank of Japan)은 금리를 0.25% 인상했습니다. 미국의 부진한 고용 통계는 경기 침체 경고 신호를 활성화했습니다. 이것들은 실제 거시경제 이벤트였습니다. 그러나 폭락의 규모는 인간의 패닉성 의사결정 때문이 아니었습니다. 현재 전 세계 거래의 60~70%는 알고리즘에 의해 실행됩니다. 금리 인상이 현실이 되자 자동화된 시스템들은 매도 주문의 연쇄적인 피드백 루프에 진입했습니다. 이들은 유동성 소멸로 인한 노이즈와 실제 경제적 변화를 구분할 능력 없이 가격 신호에 반응했습니다.

귀사가 AI 기반 트레이딩, 리스크 모델 또는 AI 기반 시장 분석에 의존하고 있다면, 이번 사건은 가장 명확한 경고입니다. 알고리즘이 고장 난 것이 아니라 설계된 대로 정확히 작동했다는 점 — 그것이 바로 문제였습니다.

비즈니스에 중요한 이유

이것은 일회성 결함이 아니었습니다. 현 세대 AI가 처참하게 실패한 스트레스 테스트였습니다. 다음 수치들이 귀사의 노출도에 대해 말해주는 내용은 다음과 같습니다:

• AI·기술 기업에서만 단 하루의 거래일 동안 1조 달러의 시가총액이 소멸했습니다.
• 니케이 225는 단 하루에 12.4% 하락했으며, 광의의 TOPIX 지수도 이와 함께 12.23% 하락했습니다.
• VIX는 303% 이상 급등하여, 약 16.30에서 65.73으로 치솟으면서 수천 개의 변동성 목표형 펀드 전반에서 자동 매도 프로그램을 촉발했습니다.
• 이번 혼란 기간 동안 골드만삭스는 단 이틀 만에 6억 8,700만 달러의 손실을 기록했습니다.
• 단 일주일 만에 달러 대비 엔화 7.2% 절상이 발생했고, 이는 전 세계 레버리지 캐리 트레이드 포지션의 격렬한 청산을 강제했습니다.

규제 당국이 주목하고 있습니다. CFTC와 SEC는 파생상품 시장에서 AI 모델의 불투명성에 점점 더 집중하고 있습니다. 이해할 수 있는 근거 없이 1억 달러 규모의 매도 주문을 실행하는 트레이딩 시스템은 단순한 리스크가 아니라 — 귀사의 기관적 신뢰에 대한 책임(liability)입니다.

이사회의 질문은 이제 더 이상 “우리는 AI를 사용하고 있는가?”가 아닙니다. “우리의 AI가 무엇을 했고 왜 그렇게 했는지 설명할 수 있는가?”입니다. 현재 시스템이 감사 가능한 추적으로 그 질문에 답할 수 없다면, 귀사는 시장 충격이 있을 때마다 누적되는 규제 리스크와 평판 리스크를 안고 있는 것입니다.

내부에서 실제로 벌어지는 일

오늘날 대부분의 AI 트레이딩 및 리스크 시스템은 대규모 언어 모델이나 유사한 확률론적 엔진 위에 얹힌 얇은 ‘래퍼(wrapper)’로 작동합니다. 이 모델들은 학습 데이터의 패턴을 기반으로 다음으로 가장 가능성 높은 결과를 예측합니다. 이들은 설계상 논리의 엔진이 아니라 확률의 엔진입니다.

이렇게 생각해 보십시오: 귀사의 AI 시스템은 과거의 평년 평균값만 아는 날씨 앱과 같습니다. 지난 몇 년간의 8월을 바탕으로 비 올 확률을 말해줄 수는 있습니다. 하지만 지금 이 순간 형성되고 있는 특정 폭풍에 대해 추론할 수는 없습니다. 대기 물리학에 대한 모델이 없기 때문입니다. 조건이 진정으로 새로워질 때 — 캐리 트레이드 청산과 유동성 마름이 동시에 발생하는 것처럼 — 확률 엔진은 과거에 본 패턴을 근거로 추측할 수밖에 없습니다.

8월 폭락 당시, 특정한 기술적 실패가 사태를 악화시켰습니다. VIX는 실제 체결 가격이 아니라 S&P 500 옵션의 매수-매도 호가 중간값에서 계산됩니다. 유동성이 마르자 마켓메이커들은 자신들을 보호하기 위해 스프레드를 넓혔습니다. 실현 변동성이 그만큼 상승하지 않았음에도, 이 때문에 VIX는 장전 거래에서 기계적으로 180%나 부풀려졌습니다. 수천 개의 자동화 펀드는 이렇게 부풀려진 ‘공포 지수’를 실제 신호로 읽고 주식을 대량 매도했습니다.

AI 시스템들은 VIX 급등이 부분적으로는 스프레드 확대라는 기술적 인공물(artifact)이라는 것을 볼 수 없었습니다. 이들에게는 “이 신호에 따라 행동하기 전에, 기반이 되는 스프레드 데이터가 신뢰할 만한지 확인하라”는 규칙이나 제약이 전혀 없었습니다. 이 단 하나의 논리 계층 부재가 시장에 값비싼 대가를 치르게 했습니다.

한편, 많은 AI 기반 뉴스 분석 도구들도 실패했습니다. 이러한 시스템은 검색 증강 생성(RAG, Retrieval-Augmented Generation)이라는 방식을 사용합니다 — AI에게 실제 출처 문서를 제공하여 답변을 근거 있게 만드는 방식입니다. 그러나 기본적인 RAG 구현은 문서를 고정 크기 청크로 분할하고 ‘유사한’ 매치를 찾습니다. 여기서 세 가지 위험한 사각지대가 생깁니다: AI는 시간을 무시하고(2010년 폭락 보고서가 2024년 보고서와 똑같이 보임), 여러 기사에 걸친 진행 중인 사건의 흐름을 놓치며, 인과 관계의 이행적 연쇄를 연결하지 못합니다.

무엇이 통하고 무엇이 통하지 않는가

먼저, 스트레스 상황에서 견디지 못하는 세 가지 흔한 접근법입니다:

• 같은 블랙박스 모델 위에서 ‘더 영리한’ 프롬프트. 시장 규칙이나 유동성 제약에 대한 개념이 없는 시스템에서는 프롬프트 엔지니어링으로 빠져나올 수 없습니다. 백서가 이를 ‘프롬프트하고 기도하기(prompt-and-pray)’라고 부르는 이유입니다.
• 정적 상관관계 기반 리스크 모델(예: Value-at-Risk). 이들은 자산을 독립적인 것으로 취급하거나 고정된 상관관계 행렬을 사용합니다. 이러한 행렬은 플래시 크래시 도중 — 바로 가장 필요한 순간에 — 무너집니다.
• 같은 아키텍처에 더 많은 데이터 추가. 인과 관계를 추론할 수 없는 시스템에 더 많은 시장 데이터를 밀어 넣는 것은 환각(hallucination)의 재료만 더 많이 공급할 뿐입니다.

실제로 통하는 것은 AI가 ‘생각하는 것’과 허용된 행동을 분리하는 아키텍처입니다. 핵심 메커니즘은 다음 세 단계로 구성됩니다:

1. 입력 계층 — 지각(perception)을 위한 신경망 및 그래프 신경망(GNN). 시스템은 시장 데이터, 뉴스, 주문장 정보를 섭취합니다. GNN은 시장을 평면적인 스프레드시트가 아니라 연결된 자산들의 네트워크로 모델링합니다. 이를 통해 시스템은 엔화에 가해진 충격이 측정 가능한 전염 경로를 통해 미국 기술주로 전파되는 방식을 감지할 수 있습니다. 연구에 따르면 GNN은 전통적인 순차 모델에 비해 현저히 낮은 예측 오차(평균 제곱 오차 0.0025)를 달성합니다.

2. 처리 계층 — 규칙을 강제하는 심볼릭 제약 엔진. 신경망의 출력은 어떤 행동이 취해지기 전에 결정론적 논리 계층을 통과합니다. 이 계층은 증거금 요건, 규제 한도, 시장 안정성 규칙을 형식 논리로 인코딩합니다. 이는 방화벽 역할을 합니다: AI의 권고가 규칙을 위반하면 시스템이 해당 행동을 차단합니다. 이는 제안 계층이 아니라 하드 스톱입니다.

3. 출력 계층 — 구조화되고, 감사 가능하며, 스키마를 준수하는 행동. 시스템이 내리는 모든 의사결정은 그것을 허용한 특정 규칙과 대조하여 기록됩니다. 출력은 자유 형식의 텍스트가 아니라 기존의 원장 및 컴플라이언스 시스템이 파싱할 수 있는 구조화된 데이터입니다. 모든 거래 권고에는 어떤 입력이 이를 촉발했고, 어떤 규칙을 충족했으며, 어떤 제약을 존중했는지 보여주는 논리 추적이 담겨 있습니다.

이 아키텍처(일명 뉴로심볼릭 AI — 는 어떤 블랙박스도 제공할 수 없는 것을 귀사의 컴플라이언스 팀에 제공합니다: 모든 의사결정에 대한 완전하고 결정론적인 감사 추적입니다. 변동성 급등 중에 시스템이 왜 매도했는지 규제 당국이 묻는다면, 확률 분포가 아니라 정확한 규칙 경로를 보여줄 수 있습니다.

이 접근법은 유효하고, 신뢰할 수 있고, 안전하고, 보안이 확보되고, 설명 가능한 AI 시스템을 요구하는 NIST AI 리스크 관리 프레임워크와 부합합니다. Veriprajna는 모든 배포를 NIST의 네 가지 핵심 기능에 매핑합니다: Govern(정책과 책임 소재 설정), Map(리스크와 데이터 종속성 식별), Measure(시스템 행동과 드리프트 정량화), Manage(고위험 시나리오를 위한 자동화된 ‘킬 스위치’를 포함한 통제 구현).

보다 나아가야 하는 금융 서비스 분야의 조직에게는, 설명 가능성과 의사결정 투명성 방법론 — SHAP 특성 기여도나 반사실적 설명 같은 — 이 어떤 변수가 의사결정을 주도했는지, 그리고 다른 조건 아래에서 결과가 어떻게 달라졌을지 정확하게 보여줄 수 있습니다.

여기서 전체 기술 분석 읽기 를 통해 완전한 아키텍처 사양을 확인하거나, 또는 대화형 버전 탐색 을 통해 프레임워크의 안내형 워크스루를 경험할 수 있습니다.