당신의 AI 가격 책정 도구가 카르텔을 돌리고 있을지도 모른다 — 당신도 모르는 사이에
지난가을 중견 부동산 관리 회사와 통화를 하던 중, 그 회사의 수익 담당 부사장이 내 가슴을 철렁하게 만드는 말을 했다.
"저희는 괜찮아요." 그녀가 말했다. "저희는 RealPage를 쓰지 않아요. 자체 가격 책정 도구를 만들었거든요." 잠시 침묵. "음 — 저희 데이터와 저희가 스크래핑한 경쟁사 매물 정보를 넣어서 GPT-4를 호출하긴 해요. 하지만 그건 우리 거예요."
그건 그들의 것이 아니었다. 적어도 의미 있는 어떤 방식으로도 아니었다. 그들은 경쟁적으로 민감한 임대 데이터 — 입주율, 임대 조건, 유닛 유형별 가격 — 를 제3자 API를 통해 전송하고 있었다. 그 API는 무엇으로 학습되었는지 알 수 없고, 누구와의 상호작용으로 다듬어졌는지도 알 수 없으며, 비슷한 질의가 오가는 시장 전체에서 흡수한 패턴으로 형성된 추천을 되돌려주고 있었다. 그들은 자신도 모르는 사이에, 법무부(DOJ)가 지난 2년 동안 해체하는 데 매달렸던 바로 그런 종류의 알고리즘 담합 메커니즘을 정확히 구축해 놓은 셈이었다.
그 대화는 우리가 Veriprajna에서 무엇을 만드는지에 대한 내 생각을 바꿔 놓았다. 문제는 어느 한 회사가 소프트웨어로 임대료를 담합하다 적발되었다는 데 있지 않기 때문이다. 문제는 기본 아키텍처 — 대부분의 기업이 AI에 쓰는, 당신의 데이터를 남의 모델로 보내고 추천을 돌려받는 그 방식 — 가 법무부가 방금 디지털 카르텔이라고 규정한 것과 구조적으로 구별되지 않는다는 점이다.
RealPage 사건에서는 실제로 무슨 일이 있었나?
구체적으로 짚어보자. 헤드라인보다 세부 사항이 더 중요하기 때문이다.
RealPage는 YieldStar와 AIRM이라는 소프트웨어를 만들어, 경쟁 관계인 임대주들로부터 비공개의 세분화된 거래 데이터 — 실시간 임대료, 임대 조건, 향후 입주율 전망 — 를 수집했고, 이를 이용해 일일 가격 추천을 생성했다. 법무부는 이것이 "허브 앤 스포크" 카르텔을 만들어냈다고 주장했다. RealPage가 허브였고, 임대주들이 스포크였으며, 알고리즘이 곧 연기 자욱한 밀실이었다는 것이다.
정부 제출 문서에서 내가 계속 곱씹게 되는 핵심 문구는 이것이다. 그 소프트웨어는 임대주들이 "서로 맞서기보다 함께 움직일 가능성이 높도록" 보장했다는 것.
알고리즘의 명시적 설계 목표가 경쟁사들이 서로 경쟁하지 못하게 막는 것이라면, 밀실에서의 악수는 필요 없다. 그 악수를 자동화해 버린 것이다.
2025년 11월 24일, 법무부는 기념비적인 합의에 도달했다. 2025년 9월에는 FPI Management가 이미 280만 달러에 합의한 상태였다. Yardi Systems는 소송이 진행 중이다. 그리고 갑자기, 부동산·호스피탈리티·리테일·물류 등에서 알고리즘 가격 책정을 운영하는 모든 회사가 한 번도 생각해본 적 없는 질문을 던져야 하게 되었다. 내 소프트웨어가 공모자인가?
부동산 업계가 아니라면 이것이 왜 중요한가?
여기서 RealPage 사건에 대한 대부분의 보도가 길을 잘못 든다. 논평가들은 이를 부동산 이야기로 취급한다. 아니다. 이것은 아키텍처 이야기다.
법무부의 최종 판결문은 모든 엔터프라이즈 AI 팀을 오싹하게 만들 만한 기술적 구분을 짓는다. 그것은 모델 학습과 런타임 운영을 분리한다. 모델은 여전히 과거의 집계된 추세 — 최소 12개월이 지났고 진행 중인 거래와 결부되지 않은 데이터 — 로부터 학습할 수 있다. 그러나 경쟁사의 현재 상태 — 그들의 입주율, 그들의 재고, 그들의 실시간 가격 — 를 실시간 추천의 입력값으로 사용하는 것은? 이제 셔먼법 제1조에 따른 디지털 담합의 한 형태로 취급된다.
다시 읽어보라. 이것은 의도의 문제가 아니다. 이것은 데이터 흐름 아키텍처의 문제다.
전체 기술적·법적 분석은 우리 연구의 인터랙티브 버전에 썼지만, 핵심 통찰은 이것이다. 당신의 AI 시스템이 비공개 경쟁사 데이터를 받아들여 시장 행동에 영향을 미치는 추천을 내놓는다면, 당신에게는 반독점 문제가 있다. 당신이 어떤 업종에 있는지는 무관하다. 셔먼법은 당신의 버티컬에 관심이 없다.
그리고 멀티테넌트 API — 당신과 당신의 경쟁사 양쪽에서 오는 데이터를 처리하는 API — 를 쓰고 있다면, 데이터가 뒤섞이는 위험은 구조적이다. 아키텍처 문제를 정책으로 빠져나갈 수는 없다.
"래퍼"는 끝났다는 것을 깨달은 밤
RealPage 합의 이전에 있었던 한 순간으로 되돌아가야겠다. 내게 이 논지가 결정화된 순간이기 때문이다.
우리는 호스피탈리티 부문 고객사를 위한 가격 책정 프로토타입을 스트레스 테스트하고 있었다. 시스템은 꽤 표준적인 구성이었다. 고객사의 예약 데이터를 LLM API로 흘려보내고, 스크래핑한 시장 요금과 결합해 동적 가격 제안을 만들어내는 방식. 깔끔한 인터페이스. 빠른 응답. 고객사는 마음에 들어 했다.
그때 우리 엔지니어 중 한 명인 Priya가 출처(provenance) 감사를 실행했다. 그녀는 추론 시점에 모델에 닿은 모든 입력의 데이터 계보를 추적했다. 어느 화요일 밤 11시, 그녀는 우리 Slack 채널에 한 줄을 남겼다. "모델이 무엇을 알고 있는지 우리는 증명할 수 없어요."
그녀가 옳았다. 공개 API를 통해 데이터를 보내는 순간, 무엇이 출력에 영향을 미쳤는지 보장할 능력을 잃는다. 그 모델은 다른 호스피탈리티 기업들과의 상호작용으로 파인튜닝되었을 수도 있다. 지난주에 같은 API를 쓴 경쟁사의 가격 패턴을 흡수했을 수도 있다. 정말로 알 길이 없다. 그리고 RealPage 이후의 세계에서 "우리는 정말 알 수 없다"는 말은 항변이 아니다 — 그것은 자백이다.
그날 밤 나는 팀에 이 프로젝트 전체를 프라이빗 배포로 전환한다고 말했다. 고객사는 반발했다. 시간이 더 걸리고, 초기 비용이 더 들고, 그들에게 없는 인프라가 필요했기 때문이다. 새벽 1시에 아파트에 앉아, 왜 우리가 양심상 우리가 만든 것을 출시할 수 없는지를 설명하는 이메일을 작성하던 기억이 난다. 창업자로서 해본 가장 힘든 고객 대화였다. 동시에 가장 중요한 대화이기도 했다.
문제는 당신의 AI가 좋은 추천을 내놓느냐가 아니다. 문제는 그 추천을 정확히 어떤 데이터가 형성했는지를 — 연방 판사 앞에서, 선서하에 — 증명할 수 있느냐다.
주 정부들은 어떻게 대응했나? 누구의 예상보다도 빠르게
연방 차원의 합의는 서막에 불과했다. 캘리포니아와 뉴욕은 리걸테크 업계 전체가 미처 대비하지 못한 속도로 움직였다.
캘리포니아의 AB 325는 2026년 1월 1일부터 시행되며, 거래를 제한하려는 공모의 일환으로 경쟁사 데이터를 사용해 가격을 추천하거나 가격에 영향을 미치는 공통 가격 알고리즘의 사용을 금지한다. 결정적인 뉘앙스는, 이 법이 둘 이상이 사용하는 도구에만 적용된다는 점이다. 단일 기업이 독점적으로 사용하려고 구축한 자체 알고리즘은 적용 대상에서 제외된다.
그 면제 조항을 자세히 읽어보라. 캘리포니아는 사실상 공유 SaaS 도구를 구독하는 대신 자체 AI를 구축할 법적 인센티브를 만들어낸 것이다.
뉴욕의 S. 7882는 2025년 12월 15일부터 시행되며, 주거용 부동산 관리자에 대해서는 한층 더 나아간다. 이 법은 "조율 기능(coordinating function)"을 수행하는 모든 알고리즘 도구를 겨냥하는데, 이는 복수의 부동산 소유주로부터 데이터를 수집하고 분석하는 것으로 정의된다. 추천을 직접 채택하지 않아도 책임이 발생할 수 있다. 기준은 그러한 도구를 사용하는 것 자체에 대한 "미필적 고의(reckless disregard)"다.
맨해튼의 한 부동산 전문 변호사와 나눈 대화에서 그는 이렇게 잘라 말했다. "뉴욕에서 멀티테넌트 가격 책정 도구를 쓰는 부동산 관리자라면, 당신은 리스크를 관리하는 게 아닙니다. 리스크를 제조하고 있는 겁니다."
"주권형 AI(Sovereign AI)"란 실무에서 실제로 무엇을 뜻하는가?
나는 "주권형"이라는 용어를 의도적으로 쓰며, 거창하게 들린다는 것도 안다. 하지만 개념은 정확하다. 당신의 AI 시스템은 당신이 소유하지 않은 데이터에 접근하거나, 그것을 받아들이거나, 그것에 영향을 받는 것이 아키텍처적으로 불가능해야 한다.
Veriprajna에서 우리는 우리의 접근법을 "Deep AI"라고 부른다. 그리고 이것은 당연해 보이지만 실무에서는 급진적인 것으로 드러나는 하나의 원칙 위에 세워져 있다. 목소리와 두뇌를 분리하라.
"목소리"는 신경망 언어 모델이다 — 자연어를 이해하고 유창한 응답을 생성하는 부분이다. 우리는 Llama 3나 Mistral 같은 오픈 모델을 고객사 자체의 가상 프라이빗 클라우드 안에 프라이빗하게 배포한다. 데이터는 결코 그들의 경계를 벗어나지 않는다.
"두뇌"는 결정론적 심볼릭 솔버다 — 지식 그래프, 룰 엔진, SQL 기반 로직 — 이것이 정책을 집행하고, 계산을 수행하며, 출력이 특정 규제 제약에 부합하도록 보장한다. 두뇌는 환각하지 않는다. 근사하지 않는다. 계산한다.
이것이 인지과학자들이 "시스템 2" 사고라고 부르는 것이다 — 느리고, 신중하며, 감사 가능한 추론 — 이를 "시스템 1"의 패턴 인식 위에 얹은 것이다. 신경망 모델은 모호함과 언어를 다룬다. 심볼릭 시스템은 진실과 컴플라이언스를 다룬다.
안전은 확률적일 수 없다. 안전은 아키텍처적이어야 한다.
법무부가 가격 "거버너(governor)"는 대칭적이어야 한다고 — 가격 인하와 가격 인상에 동일한 가중치를 주어야 한다고 — 요구할 때, 그것은 시스템 프롬프트로 강제할 수 있는 정책이 아니다. 그것은 심볼릭 계층에 인코딩하는 제약이며, 그곳에서는 통계적으로 그럴 법한 수준이 아니라 수학적으로 보장된다.
법을 어기지 않고도 시장 데이터를 쓸 수 있을까?
이것이 내가 가장 자주 받는 질문이고, 옳은 질문이다. 답은 '그렇다'이다 — 하지만 어떻게 하느냐가 엄청나게 중요하다.
기술적 메커니즘은 차등 프라이버시(differential privacy)다. 수학으로 깊이 들어가지 않더라도(이에 대해서는 우리의 기술 심층 분석에 자세히 썼다), 핵심 아이디어는 우아하다. 데이터에 정교하게 조정된 노이즈를 더해, 어느 단일 참여자의 정보가 포함되든 제외되든 알고리즘의 출력이 의미 있게 달라지지 않도록 하는 것이다.
이것은 가격 엔진이 광범위한 시장 추세 — "이 우편번호 지역의 수요가 오르고 있다" — 로부터 학습하되, 특정 경쟁사의 입주율이나 임대 조건을 결코 "보지" 않아도 된다는 뜻이다. 반독점 노출 없이 분석적 효용을 얻는 것이다.
우리는 여기에 합성 데이터 생성을 결합한다. 2024년 무렵 전망에 따르면 AI 학습 데이터의 60%가 합성 데이터가 될 것으로 예상되었다. 2026년 현재, 합성 데이터는 내가 "설계에 의한 컴플라이언스(compliance-by-design)"라고 부르는 것의 주된 메커니즘이 되었다. 우리는 생성 모델을 사용해 통계적 속성은 보존하면서 실제 경쟁적으로 민감한 정보는 전혀 담지 않은 고충실도 합성 시장 데이터를 만든다.
이것은 편법이 아니다. 더 나은 아키텍처다. 그리고 이것은 어떤 법적 면책 조항으로도 줄 수 없는 것을 제공한다. 바로 수학적 증명이다 — 당신의 시스템이 경쟁사와 담합하고 있지 않다는 사실에 대한.
"자동 수락"을 두고 내가 계속 벌이는 논쟁
RealPage 합의에는 충분히 주목받지 못한 세부 사항이 하나 있다. 자동 수락 기능에 대한 금지다.
RealPage의 소프트웨어는 사람의 검토 없이 가격 추천을 자동으로 실행할 수 있었다. 법무부는 이를 중대한 가중 요소로 봤다. 이번 합의는 이제 자동 수락 기능이 설정 가능해야 하고 사용자가 수동으로 지정하도록 요구한다.
이 문제로 잠재 고객사의 CTO와 논쟁한 적이 있다. 그는 완전 자율 가격 책정 에이전트를 원했다. 사람이 개입하지 않고, 시장 상황에 즉각 반응하며, 효율을 극대화하는 것. "그게 AI의 존재 이유잖아요." 그가 말했다.
나는 AI의 존재 이유는 더 나은 결정을 내리는 것이지, 누구도 검토할 수 없는 속도로 결정을 내리는 것이 아니라고 말했다. 그는 그 대답을 별로 좋아하지 않았다.
하지만 현실은 이렇다. Veriprajna에서 우리가 만드는 모든 시스템에는 내가 "Human-as-Capturer" 루프라고 부르는 것이 포함된다. 인간의 의도가 모든 핵심 계층에서 기계의 실행을 통제한다. 인간이 알고리즘보다 똑똑해서가 아니다 — 대개는 그렇지 않다 — 2026년의 법적·윤리적 프레임워크가 시장을 향한 모든 결정에 대해 인간이 책임을 지도록 요구하기 때문이다. 오버라이드 프로토콜, 필수 승인 절차, 규제 검토를 위해 보관되는 감사 로그.
사람들은 가끔 이 휴먼 인 더 루프 요건이 AI 가격 책정 도구를 무의미하게 만드는 것 아니냐고 묻는다. 그렇지 않다. 그것은 이들을 대체재가 아니라 도구로 만든다. AI는 인간 팀이라면 며칠 걸릴 분석을 몇 초 만에 해낸다. 판단은 인간이 내린다. 그것은 한계가 아니다 — 그것이 책임 있는 시장 참여의 아키텍처다.
"래퍼 함정"의 진짜 비용
돈 이야기를 해보자. 결국 대화를 움직이는 것은 돈이기 때문이다.
Tier 1 API 모델 — GPT-5, Claude 4 — 을 쓰는 기업들은 입력 토큰 100만 개당 $1.25에서 $15.00을, 출력 토큰 100만 개당 $10.00에서 $75.00을 지불하고 있다. 이 비용은 변동한다. 서비스 약관은 바뀐다. 그리고 당신이 보내는 모든 토큰은 데이터 주권 리스크를 안고 간다.
2025년 말 McKinsey와 BCG의 데이터에 따르면, AI를 성공적으로 확장한 기업은 동종 기업 대비 3년간 총주주수익률이 3.6배 높았다. 그러나 AI로부터 실질적인 재무적 이익을 거둔 조직은 5%에 불과하다. 대다수는 내세울 만한 방어 가능한 경쟁 우위도 없이, 남의 인프라에 갈수록 커지는 세금을 내는 데 갇혀 있다.
Deep AI는 비용 구조를 뒤집는다. 당신은 인프라에 투자하고 — 하드웨어 CapEx, 프라이빗 모델 배포, 심볼릭 추론 계층 — 자산을 만든다. 조직 고유의 워크플로, 정책, 시장 지능을 담아낸 맞춤형 기관 두뇌 말이다. 그것은 당신의 재무상태표에 올라간다. 가치가 복리로 쌓인다. 그리고 당신과 같은 API를 구독하는 경쟁사가 복제할 수 없다.
당신의 경쟁 우위가 남의 데이터센터에 살고 있다면, 그것은 경쟁 우위가 아니다. 그것은 구독이다.
여기서 앞으로 어디로 가는가?
다음 프론티어는 에이전틱 AI다. 도구를 선택하고, 다단계 추론을 수행하며, 현실 세계에서 행동을 실행하는 자율 시스템이다. 화물 예약. 가격 조정. 규제 문서 제출. 잠재력은 대단하다. 리스크도 그에 비례한다.
권한을 넘어서는 자율 가격 책정 에이전트 — 승인되지 않은 재무적 약정을 하거나, 인간의 감독 없이 시장 참여자들과 조율하는 에이전트 — 는 단순한 기술적 실패가 아니다. RealPage 이후의 법적 환경에서 그것은 잠재적으로 연방 범죄다.
우리가 만드는 모든 에이전틱 워크플로는 엄격한 루프를 따른다. 기업의 헌법(corporate constitution)에 비추어 추론하고, 적절한 도구를 선택하고, 출력을 검증하며, 어떤 컴플라이언스 경계도 넘지 않았음을 확인한 뒤에야 응답을 합성한다. 모든 행동은 로그로 남고 감사 가능하다. 심볼릭 두뇌는 헌법적 제약으로 작동한다 — 제안도 가이드라인도 아니라, 신경망 모델이 무시할 수 없는 아키텍처적 경계로서.
이것이 실무에서 주권이 의미하는 바다. 단지 당신의 데이터를 소유하는 것이 아니라, 그 데이터에 작용하는 추론 과정을 소유하는 것. 단지 AI를 배포하는 것이 아니라, 당신의 법, 당신의 윤리, 당신의 리스크 허용 범위를 반영하는 AI를 — 규제기관이 검사할 수 있고 판사가 이해할 수 있는 로직으로 인코딩해 — 배포하는 것.
RealPage 사건은 이례적인 사건이 아니었다. 그것은 새로운 법적 현실의 첫 명확한 신호였다. 즉, 당신의 AI 시스템의 아키텍처가 이제 당신의 반독점 노출을 결정하는 일차적 요인이다. 당신의 의도가 아니다. 당신의 정책이 아니다. 당신의 서비스 약관이 아니다. 당신의 아키텍처다.
알고리즘 가격 책정, 수익 관리, 또는 시장을 향한 추천을 운영하는 모든 기업은 단순한 질문 하나에 답해야 한다. 내일 법무부가 당신의 AI 시스템에 소환장을 발부한다면, 데이터 흐름, 모델 학습, 추론 로직의 수준에서 그것이 경쟁사와 독립적으로 작동한다는 것을 증명할 수 있는가?
답이 "아마도"라면, 당신에게는 문제가 있다. 답이 "API 제공업체에 확인해봐야 한다"라면, 당신에게는 위기가 있다.
연기 자욱한 밀실은 사라지지 않았다. 클라우드로 옮겨갔을 뿐이다. 그리고 이 새로운 시대에 번창할 기업은 최고의 알고리즘을 가진 기업이 아니다 — 자신의 알고리즘을 온전히 소유하고, 설계 단계부터 컴플라이언스를 갖추도록 아키텍처를 짜며, 선서하에 그것을 증명할 수 있는 기업이다.