1조 달러 증발의 날 — 그리고 "똑똑한" 알고리즘이 상황을 악화시킨 이유

팀원들과 통화 중이었는데 누군가 닛케이 지수 스크린샷을 공유했습니다. 8% 하락한 상태였습니다. 그리고 10%. 이어서 12.4%까지 떨어졌습니다.

2024년 8월 5일이었습니다. 일본 시장은 1987년 블랙 먼데이 이후 최악의 하루를 보내고 있었습니다. 월스트리트의 공포를 측정하는 지수인 VIX는 2008년 금융 위기와 코로나19 초기 외에는 본 적 없는 수준인 65.73까지 치솟았습니다. AI 및 기술주에서만 1조 달러의 시가총액이 증발하고 있었습니다.

우리 엔지니어 중 한 명이 반농담조로 했던 말이 기억납니다. "알고리즘들이 또 서로를 상대로 거래하고 있군요."

그의 말은 틀리지 않았습니다. 그리고 그 문장 — 서로를 상대로 거래 — 는 AI 업계의 누구도 소리 내어 말하고 싶어 하지 않는 숨겨진 진실입니다. 현재 전 세계 거래의 60%에서 70%가 알고리즘에 의해 실행됩니다. 이러한 알고리즘의 대부분은 확률적 시스템으로, 과거 데이터의 패턴을 기반으로 다음의 유력한 움직임을 예측합니다. 이들은 무슨 일이 일어나고 있는지 이해하지 못합니다. 엔화가 왜 강세를 보이는지, 캐리 트레이드 청산이 유동성에 어떤 의미가 있는지 알지 못합니다. 이들은 그저 가격 신호를 보고 반응할 뿐입니다.

8월 5일, 이들은 모두 부분적으로 기술적 오류인 신호에 같은 방향으로, 동시에 반응했습니다. 그 결과 어떤 인간 트레이더 혼자서는 결코 일으킬 수 없는 연쇄 반응이 나타났습니다.

그날은 우리가 Veriprajna에서 구축하고 있는 것에 대한 제 생각을 바꿔 놓았습니다. 제가 수년 동안 주장해 온 바를 확인시켜 주었습니다. 결정론적 가드레일이 없는 확률적 AI는 단지 신뢰할 수 없는 것에 그치지 않고, 위험하다는 것입니다.

8월 5일에 실제로 무슨 일이 일어났을까?

표면적인 이야기는 거시경제학적입니다. 일본은행(BOJ)은 0.25% 금리 인상으로 시장을 놀라게 했습니다. 같은 주, 미국의 부진한 고용 지표는 실업률 상승에 기반한 경기 침체 지표인 '샴 법칙'을 촉발했습니다. 두 가지 데이터 포인트. 어느 것도 그 자체로는 재앙적이지 않았습니다.

하지만 이 헤드라인 이면에는 10년 이상 축적되어 온 거대한 레버리지 베팅인 엔 캐리 트레이드가 있었습니다.

간단히 요약하면 이렇습니다. 일본은 수년간 금리를 제로에 가깝게 유지했습니다. 미국 연방준비제도는 금리를 5.5%까지 끌어올렸습니다. 따라서 헤지펀드, 기관 투자자, 심지어 개인 트레이더들까지 싼값에 엔화를 빌려 미국 기술주, 신흥 시장, 암호화폐 등 더 높은 수익률을 내는 자산에 자금을 쏟아부었습니다. 금리 차이는 엔화가 약세를 유지하는 한 공짜 돈이나 다름없었습니다.

경제 이론에 따르면 이는 통하지 않아야 합니다. 이자율 평가설은 환율 변동이 금리 이득을 상쇄해야 한다고 예측합니다. 하지만 실제로는 고금리 통화가 단기적으로 절상하는 경향이 있어 캐리 트레이드의 수익성을 더욱 높이는 '선도 프리미엄 퍼즐(Forward Premium Puzzle)'이라는 잘 알려진 변칙이 있습니다. 그래서 포지션은 커졌고, 또 커졌습니다.

일본은행이 금리를 인상하고 단 일주일 만에 엔화가 7.7% 강세를 보이자 '캐리'는 손실로 바뀌었습니다. 마진콜이 쏟아졌습니다. 디레버리징은 격렬했습니다.

하지만 제 마음에 걸리는 점은 이렇습니다. 거시적 촉발 요인은 전체 이야기의 절반 정도만 설명할 수 있습니다. 그 규모 — 속도, 전염성, 1조 달러 증발 — 는 알고리즘에 의한 것이었습니다.

공포 지수는 거짓말을 하고 있었다

이 부분이 아직도 저를 밤잠 설치게 합니다.

모두가 시장 공포의 확정적인 척도로 취급하는 VIX는 실제 거래 가격으로 계산되지 않습니다. 매수자가 부르는 호가와 매도자가 부르는 호가의 중간값인 S&P 500 옵션의 중간 호가에서 도출됩니다.

8월 5일 개장 전 시간대에는 유동성이 말랐습니다. 마켓 메이커들은 스스로를 보호하기 위해 매수-매도 스프레드를 넓혔습니다. 옵션 가격은 0 이하로 내려갈 수 없고 최소 호가는 보통 5센트 안팎으로 고정되어 있기 때문에, 이 스프레드 확대는 기계적으로 중간 호가를 높였습니다. VIX는 개장하기도 전에 180% 급등했습니다.

공포가 180% 더 커졌기 때문에 VIX가 치솟은 것이 아닙니다. 유동성이 180% 더 얇아졌기 때문에 치솟은 것입니다. 그리고 수천 개의 알고리즘은 그 차이를 구별할 수 없었습니다.

변동성 타겟팅 펀드, 상품 투자 고문(CTA) — 이 시스템들은 내재 변동성이 상승할 때 주식을 덤핑하도록 프로그래밍되어 있습니다. 이들은 VIX 수치를 보았습니다. 그리고 매도했습니다. 이들의 매도는 가격을 더 떨어뜨렸고, 이는 더 많은 알고리즘의 매도를 촉발하여 VIX를 더욱 밀어 올렸습니다.

그것은 측정 오류를 기반으로 구축된 피드백 루프였습니다. '공포 지수'는 부분적으로 자신의 반사를 측정하고 있었던 것입니다.

다음 주 팀 회의에서 제가 이 문제를 제기했고, 저희 데이터 과학자 중 한 명이 바로 이 메커니즘을 확인시켜주는 국제결제은행(BIS)의 분석 자료를 꺼냈습니다. 방 안이 조용해졌던 기억이 납니다. 우리는 세금 규정 준수, 건설 물류 등 기업 고객을 위해 신경-기호(neuro-symbolic) 시스템을 구축해 왔지만, 이 순간 저는 같은 구조적 결함이 글로벌 금융의 심장부에 자리 잡고 있다는 사실을 깨달았습니다.

"똑똑한" AI 시스템은 왜 이를 잡아내지 못했을까?

사람들은 항상 저에게 묻습니다. AI가 그렇게 강력하다면 왜 붕괴를 막지 못했을까요? 왜 거래 알고리즘은 VIX 이상을 인식하지 못했을까요?

그렇게 설계되지 않았기 때문입니다. 이들은 신호에 대해 반응하도록 설계되었지, 신호를 추론하도록 설계되지 않았습니다.

오늘날 대부분의 AI 기반 거래 시스템은 제가 확률론적 래퍼(wrapper)라고 부르는 형태입니다. 대규모 언어 모델이나 통계적 예측 엔진 위에 구축된 얇은 인터페이스입니다. 과거 데이터에서 상관관계를 찾고 단기적인 가격 변동을 예측하는 패턴 매칭에는 매우 능숙합니다. 하지만 상황이 왜발생하는지에 대한 내부 모델은 없습니다.

과거 VIX 데이터로 훈련된 확률적 시스템은 "VIX가 40을 넘으면 주식을 매도하라"고 학습할 것입니다. 이는 정상적인 시장에서는 유용한 휴리스틱(어림짐작)입니다. 8월 5일, 그것은 불난 데 기름을 붓는 격이었습니다. 이 시스템은 "잠깐, 이 VIX 급등이 실현된 변동성에 의해 주도된 것인가, 아니면 저유동성 환경에서 호가 기반의 측정 오류에 의한 것인가?"라고 질문할 수 없었습니다. 이 질문은 인과적 추론을 필요로 합니다. 시장 미시 구조에 대한 이해가 필요합니다. 이는 우리가 결정론적 논리라고 부르는 것을 필요로 하며, 확률적 모델에는 그것이 없습니다.

언젠가 한 투자자가 저에게 단호하게 말했습니다. "그냥 GPT를 쓰세요. 시장 데이터로 파인튜닝하면 되잖아요." 저는 다음으로 유력한 토큰을 예측하는 언어 모델은 "실현 변동성에서 3표준편차 이상 벗어난 VIX 수치에 의해 촉발된 매도 주문을 실행하지 말 것"이라는 제약을 강제할 수 있는 시스템과는 근본적으로 다르다고 설명하려 했습니다. 그는 제가 상황을 지나치게 복잡하게 만든다는 듯이 저를 쳐다보았습니다.

8월 5일은 1조 달러짜리 반박이었습니다.

"딥 AI"는 실제로 시장에 어떤 의미인가?

Veriprajna에서 우리는 시장에 넘쳐나는 AI 래퍼의 물결과 우리가 구축하는 것을 구별하기 위해 "딥 AI"라는 용어를 사용합니다. 이는 마케팅 용어가 아니라 구조적인 약속입니다. 저는 이 철학에 대해 우리 연구의 대화형 버전에서 깊이 있게 다루었지만, 핵심 아이디어는 다음과 같습니다.

신경망은 인식을 위한 것입니다. 기호 논리는 진실을 위한 것입니다.

우리는 이를 "신경-기호 샌드위치"라고 부릅니다. 신경망은 가격 피드, 뉴스, 호가창 역학 등의 데이터를 흡수합니다. 신경망은 이에 탁월합니다. 패턴 인식은 신경망이 태어난 목적입니다. 하지만 그 신경망의 출력이 의사결정 계층에 도달하기 전에 기호학적 제약 엔진 — 즉, 불변의 규칙을 강제하는 결정론적 계층을 통과합니다.

이러한 규칙은 데이터에서 학습되지 않습니다. 명시적으로 인코딩됩니다. 증거금 요건, 유동성 임계값, 규제 제약, 그리고 시간적 논리, 즉 7월의 BOJ 금리 결정이 다른 데이터 덩어리에 나타나더라도 8월의 마진콜보다 인과적으로 상류(선행)에 있다는 이해 등입니다.

신경-기호 시스템에서 진실은 통계적 가능성이 아닙니다. 논리로 뒷받침되는 검증된 확실성입니다. 신경망은 "이 패턴은 매도 신호처럼 보인다"고 말합니다. 기호 계층은 "이 매도 신호가 우리가 진실이라고 알고 있는 제약을 위반하는가?"라고 묻습니다. 위반한다면 신호는 차단됩니다. 타협의 여지는 없습니다.

이것은 이론적인 이야기가 아닙니다. 우리는 프롬프트가 아무리 설득력 있더라도 AI 에이전트가 제정법을 위반하는 신고 방식을 글자 그대로 추천할 수 없는 세금 규정 준수를 위해 이러한 제약 엔진을 구축했습니다. 동일한 구조가 거래에도 적용됩니다. 이상으로 식별할 수 있는 VIX 수치에 의해 촉발된 거래를 에이전트가 실행할 수 없는 것입니다.

현재의 AI 시스템은 왜 이 부분에서 실패할까?

8월 5일에 잘못된 일의 많은 부분을 설명하는 특정 기술적 실패 양식이 있으며, 이는 시중에 나와 있는 거의 모든 "AI 기반" 금융 상품에서 제가 보는 것과 동일한 실패 양식입니다.

이를 단순 RAG(Naive RAG) (검색 증강 생성)라고 부릅니다. 아이디어는 간단합니다. 대규모 언어 모델을 취하여 문서(시장 보고서, 뉴스, 공시 자료) 데이터베이스에 연결하고, 답변을 생성하기 전에 관련 문맥을 검색하게 하는 것입니다.

문제는 "관련 문맥"이 어떻게 선택되는지에 있습니다. 대부분의 RAG 시스템은 문서를 고정된 크기의 청크(덩어리)로 자르고 수치 벡터로 변환한 다음, 쿼리와 수학적으로 가장 유사한 청크를 검색합니다. 이는 세 가지 치명적인 사각지대를 만들어냅니다.

시간적 맹목성. 2010년의 "시장 붕괴"에 대한 청크와 2024년의 "시장 붕괴"에 대한 청크는 벡터로 볼 때 거의 똑같아 보입니다. 모델은 과거의 사건과 현재 진행 중인 사건을 구별할 수 없습니다. 8월 5일, AI 뉴스 분석 도구들은 10년 전 정책 대응을 실시간 조건과 혼동하고 있었습니다.

내러티브 분절화. 청킹은 진행 중인 이야기의 맥락을 끊어버립니다. BOJ의 금리 결정, 엔화의 절상, 그리고 한 헤지펀드의 마진콜은 세 개의 개별 기사에 담긴 세 개의 별개 청크입니다. AI는 이를 연결하지 못합니다.

다단계 추론 실패. 캐리 트레이드 붕괴는 이행적 논리를 필요로 했습니다. BOJ 금리 인상 → 엔화 강세 → 캐리 트레이드 포지션 수익성 악화 → 강제 매도로 인한 미국 기술주 타격 → VIX 급등 → 변동성 타겟팅 펀드의 추가 매도. 이는 6단계의 인과관계 사슬입니다. 단순 RAG는 이를 수행할 수 없습니다.

우리는 이를 지식 그래프로 대체합니다. 이는 경제 주체, 통화, 금융 상품 및 규제 기관 간의 관계를 명시적으로 나타낸 지도입니다. BOJ 금리 결정이 시스템에 입력되면, 지식 그래프는 이미 그것이 엔 캐리 트레이드 포지션과 연결되어 있고, 이는 미국 주식 노출로, 다시 VIX 민감 펀드로 연결되어 있다는 것을 알고 있습니다. 이 추론은 통계적이 아니라 구조적입니다.

전염 현상이 일어나기 전에 어떻게 모델링하는가?

바로 이 지점에서 그래프 신경망(GNN)이 금융 위험에 대한 제 생각을 바꿔 놓았습니다.

전통적인 위험 모델은 자산을 독립적인 데이터 포인트로 취급하거나 정적인 상관관계 행렬을 사용합니다. 이러한 행렬은 평온한 시장 동안에 보정됩니다. 플래시 크래시 동안 상관관계는 1로 급등하며(모든 것이 함께 매도됨) 모델은 붕괴됩니다.

GNN은 시장을 그 본질 그대로, 즉 네트워크로 취급합니다. 노드는 자산입니다. 간선(엣지)은 자산 간 정보 흐름의 강도입니다. 닛케이 225는 달러/엔 환율에, 달러/엔은 엔비디아에, 엔비디아는 VIX에 연결되어 있습니다. GNN은 각 노드의 상태뿐만 아니라 충격이 간선을 통해 어떻게 전파되는지 학습합니다.

우리 연구에 따르면 GNN은 변동성 예측에서 평균 제곱 오차 0.0025, 평균 제곱근 오차 0.050을 달성하여 전통적인 순환 신경망(RNN)과 트랜스포머 모델조차도 크게 능가합니다. 그 이유는 구조적입니다. GNN은 다단계 상호작용을 포착합니다. 가격 변동이 시계열에 나타나기 전에, GNN은 엔화에 가해진 충격이 캐리 트레이드 포지션을 통해 미국 기술주로 전파될 것임을 식별할 수 있습니다.

하지만 — 이것이 중요한 부분인데 — 우리는 GNN이 혼자 작동하도록 내버려 두지 않습니다. GNN의 출력은 기호학적 제약 계층으로 공급됩니다. GNN은 "JPY에서 나스닥으로의 전염 확률이 높아졌다"고 말합니다. 기호 엔진은 "현재의 캐리 트레이드 포지션이 우리의 위험 규칙에 인코딩된 임계값보다 높은가? VIX의 움직임이 실현 변동성과 일치하는가, 아니면 호가 기반의 이상 현상인가?"라고 점검합니다. 두 가지 점검을 모두 통과한 후에야 시스템은 추천을 생성합니다.

기호학적 제약이 없는 GNN은 매우 정확한 패닉 버튼입니다. 기호학적 제약이 있는 GNN은 위험 관리 시스템입니다.

마진을 인지하는 거래 에이전트를 위해 우리가 사용하는 강화 학습 프레임워크를 포함하여 이 구조에 대한 전체 기술적 분석을 보려면 우리의 연구 논문을 참조하십시오.

블랙박스 문제는 단지 기술적인 것이 아니다 — 그것은 법적 문제다

충분히 주목받지 못하는 사실이 하나 있습니다. 규제 당국이 불투명한 AI를 주시하고 있다는 것입니다.

상품선물거래위원회(CFTC)와 증권거래위원회(SEC)는 알고리즘 거래의 투명성에 점점 더 집중하고 있습니다. 1억 달러의 매도 주문을 실행하고도 그 이유를 설명할 수 없는 블랙박스는 기술적 위험을 넘어 컴플라이언스(규제 준수)의 법적 책임 문제입니다. 국제결제은행은 규제 당국이 금융 시장에서 AI 설명 가능성에 어떻게 접근해야 하는지에 대한 명확한 지침을 발표했습니다.

우리는 처음부터 아키텍처에 설명 가능성을 내장합니다. 기호학적 제약 계층은 본질적으로 해석 가능하므로 모든 의사 결정을 이를 허용하거나 차단한 특정 규칙까지 추적할 수 있습니다. 신경망 구성 요소(GNN, 강화 학습 에이전트)에 대해서는, 어떤 변수가 예측을 주도했는지 보여주는 SHAP 값, 그리고 다른 입력이 어떻게 출력을 변화시켰을지 보여주는 반사실적 설명 등의 사후 분석 기법을 적용합니다.

저는 중견 펀드의 한 컴플라이언스 담당자와 대화를 나눴는데, 그녀는 현재 자신들의 AI 거래 시스템이 감사할 수 없는 추천을 생성한다고 말했습니다. "우리는 그냥 믿어요." 그녀의 말이었습니다. "틀리기 전까진 말이죠. 틀리고 나면 우리는 왜 그것을 믿었는지 이사회에 설명해야 합니다."

이것이 한 문장으로 요약된 컴플라이언스 위기입니다. 그리고 이것이 우리가 모든 시스템 배포를 단순한 체크리스트 작성이 아닌 운영 아키텍처로서 NIST AI 위험 관리 프레임워크에 맞추는 이유입니다. 이 프레임워크의 4대 기둥(지배구조, 맵핑, 측정, 관리)은 우리가 구축하는 방식, 즉 시스템에 내장된 감독 정책, 모든 데이터 의존성의 위험 맵핑, 모델 드리프트에 대한 지속적인 측정, 그리고 시스템이 신뢰 가능한 범위를 벗어나 작동하고 있음을 감지할 때를 대비한 결정론적 킬 스위치 등에 직접적으로 대응됩니다.

"데이터만 더 추가하면 된다"는 주장은 어떤가?

사람들은 신경-기호 접근 방식에 반발합니다. 그들은 "8월 5일에 확률적 모델이 실패했다면 해답은 더 나은 확률적 모델입니다. 더 많은 훈련 데이터. 더 큰 컨텍스트 윈도우. 위기 시나리오에 대한 파인튜닝이죠."라고 말합니다.

그 매력을 이해합니다. 더 단순하니까요. 현재의 도구 체인에도 맞습니다. 하지만 그것은 틀렸습니다.

2024년 8월의 캐리 트레이드 청산은 새로운 사건이었습니다. BOJ의 금리 인상, 샴 법칙의 발동, VIX 호가 이상, 그리고 수조 달러 규모의 레버리지 포지션 동시 청산이라는 특정 조합 — 그 정확한 구성은 이전에는 결코 발생한 적이 없었습니다. 아무리 방대한 과거 훈련 데이터라 해도 그것을 포함하고 있지 않습니다.

확률적 모델은 과거로부터 추론합니다. 결정론적 제약 엔진은 현재를 지배하는 규칙을 인코딩합니다. 증거금 요건의 규칙은 위기 중에도 변하지 않습니다. VIX 계산의 메커니즘은 위기 중에도 변하지 않습니다. 금리 차이와 캐리 트레이드 수익성 간의 인과관계는 위기 중에도 변하지 않습니다. 이러한 것들이 특정 시나리오를 이전에 경험했는지 여부와 관계없이 기호 계층이 강제할 수 있는 사항들입니다.

새로운 위기를 훈련만으로 빠져나올 수는 없습니다. 오직 추론을 통해서만 그 위기를 헤쳐나갈 수 있으며, 추론에는 확률적 모델에 없는 구조가 필요합니다.

래퍼 시대의 종말

저는 지난 몇 년 동안 AI 업계가 동일한 확률론적 토대 위에 점점 더 정교한 외관을 구축하는 것을 지켜보았습니다. GPT-4 기반의 얇은 인터페이스. 실제로는 그저 API를 호출하는 프롬프트 템플릿에 불과한 "AI 기반" 대시보드들. 컨설팅 업계는 이것들을 "AI 솔루션"이라고 부릅니다. 저는 이를 모래성 위의 래퍼라고 부릅니다.

2024년 8월 5일은 그 모래성이 흔들린 날이었습니다. 펀더멘털이 무너져서가 아니라, 알고리즘이 자신들이 거래하고 있는 세계에 대해 추론할 수 없었기 때문에 1조 달러가 사라졌습니다. 이들은 유동성 이상 현상을 진짜 공포와 구별할 수 없었습니다. 도쿄에서 월스트리트로 이어지는 6단계의 인과관계 사슬을 추적할 수 없었습니다. VIX가 계산되는 기본 메커니즘을 기준으로 자신들의 출력을 검증할 수 없었습니다.

우리는 그렇게 할 수 있는 시스템을 구축합니다. 우리가 더 똑똑해서가 아니라, 다른 아키텍처의 선택을 했기 때문입니다. 우리는 AI를 어쩌다 한 번 운이 좋은 예측 엔진으로 취급하지 않고, 모든 출력이 명확하고 감사 가능한 논리에 의해 검증되는 엔지니어링 시스템으로 대우하기로 결정했습니다.

AI 골드 러시는 속도에 보상을 주었습니다. 다음 시대는 진실에 보상을 줄 것입니다. 그리고 금융, 법률, 의료, 인프라 등 중요한 모든 분야에서 진실은 확률 그 이상을 요구합니다. 진실은 증명을 필요로 합니다.

그것은 대비책(헤지)이 아닙니다. 그것은 기초입니다.