소비자에게 10억 달러 넘는 피해를 입힌 아마존의 비밀 알고리즘, 다음 차례는 귀사입니까?

문제점

아마존은 '프로젝트 네시(Project Nessie)'라는 비밀 가격 책정 알고리즘을 구축했습니다. 이 알고리즘은 경쟁사들을 속여 가격을 인상하도록 유도함으로써 소비자로부터 10억 달러 이상의 초과 이익을 편취했습니다. 이 알고리즘은 2014년부터 2019년까지 작동하며 800만 개가 넘는 개별 상품의 가격을 책정했습니다. 수백만 개의 경쟁사 가격 데이터를 실시간으로 모니터링하는 방식으로 작동했습니다. 월마트(Walmart)나 타깃(Target) 같은 경쟁사가 가격 인상을 따라올 것으로 예측되면, 아마존의 가격을 먼저 올렸습니다. 그러면 경쟁사의 자체 자동화 시스템들도 뒤따라 가격을 올렸습니다. 아마존 내부 임원들조차 이러한 관행을 "수상쩍다(shady)", "말 못 할 암적 존재(unspoken cancer)"라고 불렀던 것으로 알려졌습니다. 경쟁사가 가격 인상을 따르지 않을 경우 알고리즘은 가격을 자동으로 원래대로 되돌려, 시장의 최고 한도를 시험하면서도 아마존의 리스크를 제한했습니다.

하지만 여기서 그치지 않았습니다. 아마존은 다른 웹사이트에서 감히 더 낮은 가격을 제시한 제3자 판매자를 처벌하는 "가격 감시 그룹(price-surveillance group)"도 운영했습니다. 그 처벌은 무엇이었을까요? 바로 아마존 전체 매출의 98%가 발생하는 인터페이스인 '바이 박스(Buy Box)'에 대한 접근 권한을 박탈하는 것이었습니다. 판매자들은 사실상 모든 곳에서 아마존의 부풀려진 가격을 최저가로 유지하도록 강요받았습니다. 오늘날 귀사에서 어떠한 형태로든 알고리즘 가격 책정을 사용하고 있다면, 이 사건은 귀사를 향한 경고 사격입니다. 미국 연방거래위원회(FTC)는 2026년 10월 재판을 앞두고 있으며, 아마존에 제기되고 있는 법적 질문들은 머지않아 귀사에도 던져질 것입니다.

이것이 귀사의 비즈니스에 중요한 이유

여기서 발생하는 재무적·법적 위험 노출은 막대하며, 매우 빠른 속도로 확산되고 있습니다. 아마존을 상대로 한 FTC의 소송은 단순한 일개 기업에 관한 문제가 아닙니다. 경쟁사의 행동을 예측하고 유도하는 알고리즘이 불법적인 담합에 해당하는지 여부가 핵심 쟁점입니다. 만약 FTC가 승소한다면, 그 파급 효과는 동적 가격 책정(dynamic pricing) 도구를 사용하는 모든 기업에 직격탄이 될 것입니다.

귀사가 직면하게 될 실질적인 리스크는 다음과 같습니다:

• 직접적인 재정적 책임. 아마존의 프로젝트 네시는 10억 달러 이상의 초과 이익을 창출했습니다. FTC는 역사상 유례없는 25억 달러 규모의 합의금을 이끌어냈습니다. 귀사가 부담해야 할 위험 노출 규모는 매출에 비례하여 증가합니다.
• 강력한 실효성을 갖춘 새로운 주 법률. 2026년 1월 발효된 캘리포니아주의 개정 카트라이트 법(Cartwright Act)은 경쟁사 정보에 의존하면서 둘 이상의 사용자가 활용하는 모든 "공통 가격 책정 알고리즘(common pricing algorithm)"을 겨냥합니다. 또한 이 법은 원고의 입증 요건을 낮추어 — 소 각하 신청(motion-to-dismiss) 단계에서 피고가 독립적으로 행동하지 않았음을 원고가 입증할 필요를 없앴습니다.
• 2026년 6월 시행되는 콜로라도주 AI 법. 가격 책정 결정에 영향을 미치는 시스템을 포함한 "고위험(high-risk)" AI 시스템에 대한 영향 평가를 의무화합니다 — 기업은 위험과 한계를 문서화하고 공개해야 합니다.
• 뉴욕주는 이제 알고리즘이 가격 책정에 개인 데이터를 사용할 때 "명확한 경고(stark warning)"를 표시하도록 요구합니다. 이는 규제 당국이 추적할 수 있는 실시간 감사 로그(audit trail)를 형성합니다.

이사회에서 귀사의 가격 책정 도구가 2026년 규정을 준수하는지 묻는다면, 명확한 답을 내놓을 수 있어야 합니다. "우리는 제3자 공급업체 솔루션을 사용한다"는 말은 면책 사유가 되지 않습니다. 실제로 미국 제9순회항소법원은 알고리즘이 취합된 기밀 경쟁사 데이터를 기반으로 가격 추천을 생성할 때 법적 리스크가 급격히 증가한다는 신호를 보냈습니다.

실제로 내부에서 벌어지고 있는 일

대부분의 온라인 소매업체는 단순한 규칙 기반 가격 책정(rule-based pricing)을 사용합니다. 이를 일종의 조건 반사로 생각할 수 있습니다. 예컨대 "경쟁사가 가격을 5달러 내리면, 즉시 그 가격에 맞춘다"는 식입니다. 이러한 시스템은 예측 가능합니다. 그리고 고도화된 AI가 악용하는 것이 바로 이러한 예측 가능성입니다.

아마존의 알고리즘은 경쟁사 시스템의 이러한 반사적 패턴을 파악했습니다. 아마존이 가격을 올리면 경쟁사의 규칙 기반 도구가 자동으로 뒤따라온다는 사실을 학습한 것입니다. 전화 통화도, 비밀 회동도 없었습니다. 그저 두 대의 기계가 서로에게 반응했을 뿐입니다 — 하나는 똑똑했고, 다른 하나는 단순 반응형이었습니다. 카네기 멜런 대학교(Carnegie Mellon) 연구진은 강화학습 에이전트(시행착오를 통해 학습하는 AI)가 이러한 규칙 기반 시스템과 경쟁할 때 "팃포탯(tit-for-tat, 맞대응)" 패턴을 신속하게 파악한다는 사실을 밝혀냈습니다. 그런 다음 AI는 더 높은 시장 가격을 형성하도록 최적화하여, 소비자에게 피해를 입히면서 모든 판매자의 이익을 극대화합니다.

이를 암묵적 담합 또는 "침묵의 담합(silent collusion)"이라고 부릅니다. 전통적인 반독점법은 경쟁자 간의 실제 의사소통을 의미하는 "의사의 합치(meeting of the minds)"에 대한 증거를 요구합니다. 하지만 알고리즘을 통한 가격 조율은 이러한 법적 요건을 완전히 우회합니다. 귀사의 AI가 경쟁사의 AI에 전화를 걸 필요가 없습니다. 그저 상대 시스템이 무엇을 할지 예측하고 — 그에 맞춰 행동하기만 하면 됩니다.

차세대 AI는 이 문제를 더욱 악화시킵니다. 이제 "추론형 AI(Reasoning AI)" 시스템은 의사결정 시점에 추가 연산 자원을 투입하여 여러 가지 잠재적 조치를 시뮬레이션합니다. 체스 엔진처럼 몇 수 앞을 내다보며 계획을 세우는 것입니다. 웹사이트에서 단 하나의 가격이 바뀌기도 전에, 가격 인상을 가상으로 시험하고, 경쟁사들이 어떻게 반응할지 모델링하며, 전략을 조정할 수 있습니다. 이는 AI에 능동적인 문제 해결 능력을 부여합니다. 하지만 동시에 AI의 내부 "사고 과정(thought process)"이 규제 당국의 눈에 담합으로 비칠 수 있는 결과로 의도적으로 유도될 수 있음을 의미합니다.

무엇이 효과가 있고 (무엇이 없는가)

많은 기업이 GPT-4나 Claude 같은 상용 공개 API 위에 얇은 애플리케이션 계층을 얹는 방식으로 AI를 성급하게 도입해 왔습니다. 이러한 "래퍼(wrapper)" 접근법은 배포가 빠릅니다. 하지만 가격 책정과 같이 중대한 위험이 따르는 의사결정에는 근본적으로 부적합합니다. 실패할 수밖에 없는 이유는 다음과 같습니다:

• "메가 프롬프트(Mega-prompt)" 아키텍처. 비즈니스 규칙, 문서, 지침을 하나의 거대한 입력값에 몰아넣는 방식입니다. 미세한 문구 변경이나 API 제공업체의 모델 업데이트만으로도 완전히 다른 가격 책정 결과가 나올 수 있습니다. 안정적인 결과를 결코 보장할 수 없습니다.
• 타사 모델에 대한 블랙박스 의존. 귀사의 시스템이 왜 특정 가격 책정 결정을 내렸는지 증명할 수 없습니다. 규제 당국이 논리적 근거 경로(logic trail)를 요구할 때 제시할 수 있는 자료가 전무합니다. 또한 어떤 경쟁사든 귀사의 도구를 하루 만에 복제할 수 있어 — 경쟁 우위가 전혀 존재하지 않습니다.
• 거버넌스 계층의 부재. 공개 API에는 자체적인 컴플라이언스 통제 장치가 없습니다. 실제 운영 환경에서 규정을 위반하거나 차별적인 결과를 생성할 위험에 취약합니다. 캘리포니아주 카트라이트 법을 위반한 가격 책정 추천은 사람이 생성했든 API가 생성했든 법적으로 동일하게 취급됩니다.

실제로 효과를 발휘하는 것은 세 가지 원칙을 기반으로 구축된 아키텍처입니다:

1. 소버린 배포(자체 인프라 배포). 자체 하드웨어나 프라이빗 클라우드에서 AI 모델을 실행하십시오. 보안 컨테이너를 통해 조율되는 고성능 오픈소스 모델을 활용하십시오. 민감한 시장 데이터는 결코 사내 네트워크 밖으로 유출되지 않습니다. 어떤 제3자도 해당 데이터를 보유하거나 접근할 수 없습니다.
2. 거버넌스 기반 멀티 에이전트 워크플로우. 과부하가 걸린 단일 모델 대신 특화된 에이전트들을 활용하십시오 — 워크플로우를 결정하는 계획 에이전트, 모든 결과물을 규제 요건에 맞게 검증하는 컴플라이언스 에이전트, 정확성을 확인하는 검증 에이전트를 배치합니다. 각 에이전트는 독립적이며 관찰 가능한 모듈로 작동합니다.
3. 결정론적 감사 추적. 모든 의사결정은 입력값, 추론 단계, 출력값을 기록하는 시스템을 거칩니다. 사용자, 권한 및 데이터 임베딩을 관리하기 위해 pgvector가 적용된 PostgreSQL과 같은 단일 감사 가능 데이터베이스를 사용하십시오. 컴플라이언스 팀은 모든 가격 책정 결정을 원본 데이터와 논리까지 역추적할 수 있습니다.

이러한 감사 로그야말로 법적 방어력과 법적 위험 노출을 가르는 결정적 차이입니다. 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크는 설명 가능성, 책임성, 투명성을 포함하여 신뢰할 수 있는 AI의 7가지 특성을 정의합니다. 귀사의 시스템은 거버넌스(Govern: 책임성 설정), 매핑(Map: 영향 식별), 측정(Measure: 위험 정량화), 관리(Manage: 실시간 조치)라는 4가지 NIST 핵심 기능을 모두 구현해야 합니다. 규제 당국이나 이사회가 가격 책정 경위를 물을 때, 귀사의 답변은 문서화된 증거의 사슬이어야 하며 — 타사 API 탓으로 돌리며 어깨를 으쓱하는 것이어서는 안 됩니다.

특히 반독점 리스크를 완화하려면, 귀사의 가격 책정 도구가 공유된 비익명 경쟁사 데이터를 학습해서는 안 됩니다. 또한 귀사 팀이 아무런 불이익 없이 알고리즘의 추천을 거부할 수 있도록 항상 보장해야 합니다. 아울러 시뮬레이션 환경에서 알고리즘의 동작을 정기적으로 테스트하여 담합적 가격 책정 패턴을 생성하지 않는지 철저히 확인해야 합니다.