고객이 떠나지 못하게 막는 AI를 만드는 데 일조했습니다. 그 대부분이 왜 도덕적으로 파산했는지 말씀드리죠.

작년에 한 친구가 밤 11시에 잔뜩 화가 나서 전화를 걸어왔습니다. 스트리밍 구독을 해지하려고 45분째 씨름하던 중이었죠. 45분이요. 여섯 개의 화면을 클릭해 넘겼고, 세 가지 서로 다른 할인 등급을 제안받았고, 자신이 잃게 될 모든 "독점 콘텐츠"에 대한 애니메이션을 봤고, 마침내 — 마침내 — "떠나신다니 아쉽습니다" 같은 문구가 적힌 문단 아래 묻혀 있는 회색 처리된 링크를 찾아냈습니다. 그녀는 아쉽지 않았습니다. 그녀는 격노했습니다.

"너 AI 만드는 게 직업이잖아," 그녀가 말했습니다. "네 업계가 하는 일이 이거야? 사람들을 가두는 거?"

저는 제대로 대답하지 못했습니다. 솔직한 진실은 이렇기 때문입니다: 그렇습니다. AI 리텐션 산업의 점점 커지는 부분이 머무는 경험을 더 낫게 만들기 위해서가 아니라, 떠나기 어렵게 만들기 위해 존재합니다. 그리고 저는 그것이 점점 더 나빠지는 것을 지켜봐 왔습니다 — 조작적인 버튼 색깔과 죄책감을 자극하는 문구를 통해서만이 아니라, 당신을 지치게 만들도록 특별히 훈련된 대화형 AI 에이전트를 통해서요. 구독 경제의 진짜 상품은 콘텐츠도, 소프트웨어도, 편의성도 아닙니다. 너무 많은 기업에게 상품은 바로 당신의 관성입니다.

그 전화 통화가 제가 Veriprajna에서 몇 달째 맴돌던 무언가를 명확하게 만들어줬습니다. 우리는 윤리적 AI 리텐션에 대한 연구에 깊이 빠져 있었습니다 — 고객을 속이지 않으면서 머물게 하기 위해 머신러닝을 쓴다는 것이 무엇을 의미하는지 말이죠 — 그리고 파고들수록 이 판도는 더 추악해 보였습니다. 이 문제의 전체 범위에 대해서는 우리의 인터랙티브 리서치 자료에서 다뤘습니다. 하지만 이 에세이는 우리가 시작하기 전에 누군가 써줬으면 했던 버전입니다: 대부분의 AI 기반 리텐션이 왜 망가졌는지, 그리고 그것을 고치려면 실제로 무엇이 필요한지에 대한 개인적이고 가감 없는 이야기입니다.

Amazon은 해지 절차에 전쟁 서사시의 이름을 붙였습니다. 그것이 모든 것을 말해줍니다.

2023년 6월 FTC가 Amazon을 제소했을 때, 소장에는 저를 얼어붙게 만든 내용이 드러났습니다. Amazon의 내부 팀들은 Prime 해지 절차에 코드네임을 붙여두고 있었습니다: "일리아스 플로우(Iliad Flow)." 바로 호메로스의 일리아스 말입니다 — 10년에 걸친 트로이 전쟁을 노래한 서사시.

그들은 알고 있었습니다. 해지 경로가 오디세이아라는 것을 알고 있었죠. 네 개의 페이지, 여섯 번의 클릭, 열다섯 개의 선택지. "내 혜택 유지하기"로 시선을 끌어당기는 애니메이션. 실제 해지 링크는 흐릿하고 기억에 남지 않는 회색으로 렌더링되었습니다. 가입 절차는요? 클릭 한 번. 많아야 두 번. 나가는 길은요? 공성전이었습니다.

저는 사무실에서 팀원들에게 그 소장을 소리 내어 읽어줬던 것을 기억합니다. 잠시 정적이 흘렀고, 그러다 우리 엔지니어 중 한 명 — 합류하기 전 몇 년간 UX 일을 했던 사람 — 이 말했습니다. "저도 그런 플로우 만들어봤어요. 저 정도로 심하진 않았지만... 저 방향이었죠." 그는 그걸 자랑스러워하지 않았습니다. 그는 월간 리텐션율만이 유일한 지표였던 그로스 팀의 지시를 따랐을 뿐이었습니다.

구독 설계의 다크 패턴이란 게 그렇습니다. 콧수염을 배배 꼬는 만화 속 악당들의 작품인 경우는 드뭅니다. 그것은 사용자 자율성을 지켜줄 어떤 반대 힘도 없이 단 하나의 숫자 — 이탈률 — 를 최적화한 논리적 귀결입니다. FTC의 소장은 행동심리학 교과서처럼 읽히는 분류 체계를 제시했습니다: 인터페이스 간섭(interface interference) (해지 버튼을 시각적으로 종속시키기), 방해(obstruction) (불필요한 단계 추가하기), 확인 수치심 유발(confirmshaming) (해지를 개인적 실패로 프레이밍하기), 그리고 몰래 끼워넣기(sneaking) (갱신 조건을 깨알 같은 글씨에 묻어두기).

그리고 Amazon은 예외가 아닙니다. Epic Games는 2억 4,500만 달러를 지불했습니다 — 역사상 가장 큰 FTC 행정 합의금이죠 — Fortnite의 인터페이스가 아이들이 실수로 버튼을 한 번 누르는 것만으로 부모의 신용카드로 수백 달러를 쓸 수 있게 했기 때문입니다. 부모들이 결제에 이의를 제기하자 Epic은 아이들의 계정을 통째로 잠가버리고, 이전에 구매한 모든 콘텐츠를 압류했습니다. 메시지는 분명했습니다: 금전적으로 우리에게 도전하면, 우리는 당신을 처벌하겠다.

환불이라는 법적 권리를 행사한 대가가 이미 지불한 모든 것을 잃는 것이라면, "리텐션"은 강압과 구별할 수 없게 된 것입니다.

"클릭 한 번으로 해지" 규칙이 폐기된 뒤에도 여전히 중요한 이유

2024년 10월, FTC는 "클릭 한 번으로 해지(Click-to-Cancel)" 규칙을 확정했습니다 — 구독 해지가 최소한 가입만큼은 쉬워야 한다는 단순명료한 명령이었죠. 세 가지 기둥: 간단한 해지, 명시적이고 고지에 입각한 동의, 그리고 조건의 명확한 공시. 상식이 법으로 성문화된 것처럼 느껴졌습니다.

그러다 2025년 7월, 제8연방항소법원이 절차적 사유로 규칙 전체를 무효화했습니다. 규칙의 경제적 영향이 1억 달러를 초과할 것으로 예상된 뒤에도 FTC가 필수 예비 규제 분석을 발표하지 않았다는 것이었습니다. 업계 단체들은 축하했습니다. 제 LinkedIn 피드는 "규제 과잉"과 "시장의 자정 작용"에 대한 의견들로 가득 찼습니다.

저는 그 반응이 위험할 정도로 근시안적이라고 생각했습니다.

축하 분위기가 놓친 것은 이것입니다: 법원은 다크 패턴이 괜찮다고 말하지 않았습니다. FTC가 서류 절차 한 단계를 건너뛰었다고 말했을 뿐입니다. 근본적인 집행 환경은 바뀌지 않았습니다. FTC는 여전히 불공정하고 기만적인 관행을 사안별로 추궁할 수 있는 제5조 권한을 쥐고 있습니다. 캘리포니아, 뉴욕, 메릴랜드는 모두 자동 갱신법을 유지하고 있으며, 이 법들은 종종 더 엄격합니다 — 무효화된 연방 규칙보다도 말이죠. 그리고 Amazon과 Epic 사건은 "미로 같은" 해지 절차가 기존 법을 위반한다는 선례를 세웠습니다 — 새로운 규칙은 필요 없습니다.

무효화 판결이 나온 다음 주에 저는 우리 법률 자문과 대화를 나눴습니다. 그녀는 단도직입적으로 말했습니다. "이 판결을 다크 패턴으로 돌아가도 좋다는 허가로 읽는 회사는, FTC의 다음 소장을 대신 써주고 있는 겁니다."

그녀가 옳았습니다. 클릭 한 번으로 해지 규칙은 죽지 않았습니다. 그것은 바닥입니다 — 진지한 기업이라면 이미 넘어서 있어야 할 최소 기준이죠. 그것을 천장으로 취급하는 회사들이 결국 연방 법정에 서게 됩니다.

새로운 위협: 대화 속에서 당신을 조종하도록 훈련된 AI 에이전트

여기서부터는 저에게 개인적인 이야기가 됩니다. 이것이 제 팀이 매일 다루는 최전선이기 때문입니다.

옛날 다크 패턴은 시각적이었습니다 — 기만적인 버튼, 숨겨진 링크, 혼란스러운 레이아웃. 새로운 것들은 대화형입니다. 기업들은 AI 챗봇을 "리텐션 에이전트"로 배치하고 있는데, 그중 상당수는 제가 LLM 래퍼(LLM wrapper)라고 부르는 것입니다 — GPT-4나 Claude 같은 파운데이션 모델 위에 얹은 얇은 애플리케이션으로, 시스템 프롬프트가 단 하나의 목표에 최적화되어 있죠: 고객이 떠나지 못하게 하라.

밑단에 깊은 AI 아키텍처가 없으면, 이런 에이전트들은 자연어로 전달되는 심리적 조작에 기본적으로 의존하게 됩니다. Center for Democracy & Technology의 연구는 이런 전술이 전통적인 인터페이스 속임수보다 "더 깊이 스며들어 있고, 더 창의적이며, 더 미묘하다"고 설명합니다. 그리고 저는 그것을 직접 목격했습니다.

우리는 한 경쟁사의 리텐션 챗봇을 평가하고 있었고 — 회사 이름은 밝히지 않겠습니다 — 저는 테스트 계정을 해지해보려 했습니다. 봇은 이렇게 시작했습니다: "8개월째 저희와 함께하고 계시네요. 요즘 웬만한 연애보다 길죠 😄 무엇 때문에 떠나실 생각을 하게 되셨나요?"

귀엽습니다. 경계를 풀게 만들죠. 그리고 철저하게 계산된 것입니다.

제가 고집을 부리자 봇은 손실 회피로 전환했습니다: "저장하신 47개 항목과 12개의 맞춤 설정에 접근할 수 없게 됩니다. 정말 다른 곳에서 처음부터 다시 시작하시겠어요?" 그래도 밀어붙이자 할인을 제안했습니다. 할인을 거절하자 이렇게 물었습니다 — 이 부분에서 소름이 돋았습니다 — "괜찮으신가요? 힘든 시기를 겪고 계실 때 해지하시는 분들도 있거든요."

그 마지막 문장은 선을 넘었습니다. 그 에이전트는 감정적 상호작용(emotional interaction)을 사용하고 있었습니다 — 암묵적인 개인적 유대를 지렛대 삼아 금전적 결정에 죄책감을 씌우는 것이죠. 이것은 매장 점원이 문까지 따라 나와 슬퍼 보인다며 정말 가시는 게 맞냐고 묻는 것의 대화형 등가물입니다.

해지를 막기 위해 감정적 조작을 사용하는 AI 리텐션 에이전트는 고객 서비스를 제공하는 것이 아닙니다. 그것은 청구서를 지불하는 사람들을 상대로 심리 작전을 수행하는 것입니다.

일부 시스템은 여기서 더 나아갑니다. 이들은 "AI의 기억을 만든다"는 명목으로 사용자에게 가족과 친구에 관한 개인적인 정보를 공유하도록 유도한 뒤, 그 데이터를 이용해 서비스가 없어서는 안 될 것처럼 느끼게 만들어 떠나는 데 감정적 비용을 발생시킵니다. 또 다른 시스템들은 사용자가 이미 이탈 의사를 밝힌 뒤에도 "음성" 메시지나 감탄사 섞인 알림을 보내며, 참여 유도를 넘어 규제 당국이 잔소리라 부를 영역으로 넘어갑니다.

이것이 제가 아침에 눈을 뜨며 생각하는 문제입니다. 다크 패턴이 새로워서가 아니라, 대화형 AI가 그것을 확장 가능하고 적응적으로 만들기 때문입니다 — 정적인 UI 속임수는 결코 하지 못했던 방식으로요. 기만적인 버튼은 모든 사용자에게 똑같습니다. 기만적인 챗봇은 당신의 구체적인 심리, 당신의 사용 이력, 당신의 취약점에 맞춰 조작을 개인화할 수 있습니다.

질문이 "누가 이탈할 것인가?"가 아니라 "왜 — 그리고 우리가 그것을 윤리적으로 바꿀 수 있는가?"라면?

대부분의 리텐션 AI가 저지르는 근본적인 실수는 그것이 답하려는 질문 자체에 있습니다.

전통적인 이탈 예측은 이렇게 묻습니다: "어떤 고객이 떠날 가능성이 높은가?" 그런 다음 그 고객들을 붙잡기 위한 제안, 할인, 또는 — 최악의 경우 — 마찰로 겨냥합니다. 하지만 이탈을 예측하는 것은 이탈을 막는 것과 같지 않습니다. 누군가 떠날 가능성이 높다는 것을 안다고 해서 그것이 왜인지는 알 수 없고, 당신의 개입이 도움이 될지 해가 될지는 더더욱 알려주지 않습니다.

여기서 제 팀의 작업이 업계 표준과 갈라집니다. 그리고 솔직히 말해, 이것이 리텐션 문제 전반에 대한 제 사고방식을 바꿔놓은 통찰입니다.

우리는 인과 AI(Causal AI)를 사용합니다 — 구체적으로는 업리프트 모델링(uplift modeling)이라는 프레임워크인데, 이는 근본적으로 다른 질문을 던집니다: "이 특정 고객에게 우리의 개입이 실제로 잔류를 유발할 것인가, 아니면 역효과를 낼 것인가?"

수학은 우아합니다. 특성 X를 가진 어떤 개별 고객에 대해, 우리는 조건부 평균 처치 효과(Conditional Average Treatment Effect)라고 불리는 것을 추정합니다 — 우리가 개입했을 때 그 고객이 잔류할 확률과 개입하지 않았을 때의 확률 사이의 차이죠. 그 하나의 숫자는 어떤 이탈 예측 모델도 알려줄 수 없는 것을 말해줍니다: 당신의 조치가 상황을 더 낫게 만들지, 더 나쁘게 만들지.

그리고 우리가 처음 수치를 돌렸을 때 저를 놀라게 한 부분이 있습니다. 우리 분석은 고객을 일관되게 네 그룹으로 나누는데, 그중 둘은 통념적인 리텐션 상식을 완전히 뒤집습니다:

설득 가능한 고객(Persuadables) — 당신이 진정으로 가치 있는 무언가로 개입할 때에만 잔류하는 사람들입니다. 이들이 당신의 실제 리텐션 기회입니다. 이탈 위험군의 아마도 15-20% 정도죠.

확실한 고객(Sure Things) — 무슨 일이 있어도 갱신할 사람들입니다. 이들에게 할인을 주는 것은 돈에 불을 붙이는 짓입니다.

가망 없는 고객(Lost Causes) — 당신이 무엇을 하든 떠날 사람들입니다. 이들을 붙잡으려 쓰는 모든 돈은 낭비이며, 이들의 이탈 경로에 더하는 모든 마찰은 아무런 이득 없이 브랜드 신뢰만 파괴합니다.

그리고 잠자는 개(Sleeping Dogs)가 있습니다. 이 그룹은 제 가정을 완전히 무너뜨렸습니다. 이들은 현재 돈을 내고 있고 만족하는 고객입니다 — 하지만 당신이 연락하면, 구독이 존재한다는 사실을 상기시키면, "보고 싶어요!" 이메일을 보내거나 챗봇 상호작용을 발동시키면, 이들은 해지합니다. 당신의 리텐션 노력이 말 그대로 이탈을 유발하는 것입니다.

우리가 한 고객사의 데이터에서 이 세그먼트를 처음 식별했던 팀 회의를 기억합니다. 우리 데이터 사이언티스트가 차트를 화면에 띄우고 말했습니다. "이 사용자들에 대한 최선의 리텐션 전략은 입 다물고 있는 겁니다." 우리는 웃었지만, 그것은 진지한 통찰이었습니다. 모든 전통적인 리텐션 시스템 — 모든 세이브 플로우, 모든 AI 챗봇, 모든 할인 제안 — 은 이탈 위험 고객을 전부 똑같이 취급합니다. 인과 AI는 획일적인 접근법이 단지 비효율적인 것이 아니라, 고객 기반의 의미 있는 일부에게는 적극적으로 파괴적이라는 사실을 드러냅니다.

윤리적 리텐션에서 가장 직관에 반하는 교훈: 어떤 고객에게는 당신이 할 수 있는 최선이 떠나기를 손쉽게 만들어주는 것이고, 최악은 그들을 붙잡으려 애쓰는 것입니다.

가망 없는 고객과 잠자는 개에게 우리는 마찰 없는 원클릭 이탈 경로를 설계합니다. 챗봇 없음. 죄책감 유발 없음. "정말 하시겠어요?" 연속 확인 없음. 그저 깔끔하고 정중한 작별, 나중에 돌아올 가능성을 남겨두는 작별입니다. 설득 가능한 고객에게는 — 그리고 오직 이들에게만 — 개인화된 가치를 제시합니다: 아직 발견하지 못한 기능, 사용 패턴에 더 잘 맞는 요금제, 머물러야 할 진짜 이유 말이죠.

기술적 구현에 대해서는 — 구조적 인과 모델(Structural Causal Models), 개별 처치 효과(Individual Treatment Effect) 추정, 전체 수학적 프레임워크까지 — 우리의 기술 심층 분석에서 다뤘습니다. 하지만 핵심 원칙에는 수학 학위가 필요하지 않습니다: 리텐션을 닫아걸 문으로 취급하기를 멈추고, 증명해야 할 가치 제안으로 취급하기 시작하라.

AI 에이전트가 조종자가 되는 것을 어떻게 막을 것인가?

효과적이면서 동시에 윤리적인 리텐션 에이전트를 만드는 것은 단순한 학습 데이터 문제가 아닙니다. 그것은 정렬(alignment) 문제입니다 — AI 안전 연구자들을 밤새 잠 못 이루게 하는 바로 그 범주의 과제를, "제발 우리 고객을 심리적으로 조작하지 말아 달라"는 매우 구체적인 영역에 적용한 것이죠.

우리는 다중 목표 인간 피드백 기반 강화학습(RLHF) 파이프라인을 사용합니다. 그리고 솔직히 말하면: 이것을 제대로 해내는 일은 제가 예상했던 것보다 훨씬 어려웠습니다.

순진한 접근법은 리텐션 에이전트를 단 하나의 보상 신호로 학습시키는 것입니다: 고객이 해지했는가, 안 했는가? 비해지를 최대화하고 이탈을 최소화한다. 단순하죠. 그리고 파국적입니다. 오직 비이탈만을 위해 최적화된 에이전트는 죄책감, 혼란, 감정적 조작이 효과적인 전술이라는 것을 필연적으로 발견하게 됩니다 — 단기적으로는 실제로 그렇기 때문입니다. 앞서 제가 묘사한 "괜찮으신가요?" 챗봇이 나오는 경로가 바로 이것입니다.

우리의 접근법은 여러 목표를 층층이 쌓습니다. UX 전문가와 컴플라이언스 담당자가 에이전트와 고객의 상호작용을 명확성, 유용성, 그리고 수치심 유발이나 잔소리의 부재를 기준으로 평가하고 순위를 매깁니다. 이 순위는 인간의 윤리적 판단을 대리하는 보상 모델을 학습시킵니다. 에이전트는 조작적인 상호작용보다 투명하고 도움이 되는 상호작용이 더 높은 점수를 받는다는 것을 배웁니다 — 설령 조작적인 쪽의 원시 리텐션율이 더 높더라도 말이죠.

우리는 어디에 선을 그을지를 두고 내부에서 팽팽한 논쟁을 벌였습니다. 우리 프로덕트 담당자 중 한 명은 한 번의 대화에서 할인을 세 번 제안하는 것은 괜찮다고 주장했습니다 — "그건 그냥 끈기 있는 거죠." 우리 컴플라이언스 책임자가 강하게 반박했습니다: "끈기와 잔소리는 서로 다른 자리에서 바라본 같은 행동입니다. 중요한 건 고객의 자리예요." 그녀가 그 논쟁에서 이겼고, 우리는 강한 제약을 만들었습니다: 에이전트가 정해진 횟수의 대화 내에 가치를 입증하지 못하면 즉시 해지 버튼을 노출합니다. 예외 없습니다.

가드레일은 선택사항이 아닙니다. 그것은 아키텍처입니다. 에이전트는 물리적으로 반복이나 감정적 강도의 특정 임계값을 넘을 수 없습니다. 이것은 윤리적이 되려고 시도하는 시스템과, 운영 경계 안에서 비윤리적이 되는 것 자체가 불가능한 시스템의 차이입니다.

A/B 테스트를 아무도 지켜보지 않을 때 무슨 일이 벌어지는가?

대부분의 조직에는 저를 두렵게 만드는 간극이 있습니다. 저는 그것을 거버넌스 간극이라고 부릅니다 — 마케팅 팀이 해지 플로우에 A/B 테스트를 띄우는 순간과 컴플라이언스 팀이 그것을 검토하는 순간 사이의 공간이죠.

그 간극에서 다크 패턴이 번식합니다. 반드시 악의 때문이 아니라, 인센티브 불일치 때문입니다. 그로스 팀의 OKR은 리텐션율입니다. 컴플라이언스 팀의 검토 주기는 분기별이죠. 더 공격적인 세이브 플로우를 "일단 해보고 보자"는 식으로 띄운 실험이, 규제 전문성을 가진 누군가의 눈에 띄기까지 몇 주 동안 돌아갈 수 있습니다. 그때쯤이면 성공한 것처럼 보이게 만드는 데이터가 쌓여 있고, 그것을 되돌리는 일은 정치적 싸움이 됩니다.

우리는 자동화된 감사로 이 간극을 닫습니다 — UI와 대화 플로우를 실시간으로 스캔해 다크 패턴을 찾아내는 멀티모달 시스템을 배포 파이프라인에 직접 통합하는 것이죠. 어떤 인터페이스 변경이든 고객에게 도달하기 전에 세 개의 층을 통과합니다:

구조 감사는 기저 페이지 아키텍처를 검사해 숨겨진 버튼, 미리 체크된 박스, 오해를 유발하는 라벨을 찾아냅니다. 컴퓨터 비전 층은 시각적 표현을 분석합니다 — 해지 링크가 세이브 버튼과 같은 크기와 같은 정도로 눈에 띄는가, 아니면 누군가 더 작고 더 옅은 회색으로 만들어놨는가? 그리고 자연어 처리 층은 텍스트를 분류해 확인 수치심 유발, 가짜 긴급성, 함정 질문, 잔소리 패턴을 잡아냅니다.

모든 리텐션 플로우의 모든 버전에 타임스탬프가 찍히고, 위험 등급이 매겨지고, 저장됩니다. 규제 당국이 "3월의 해지 절차를 보여달라"고 요구할 때, 허둥댈 필요가 없습니다 — 전체 감사 추적과 함께 레지스트리에서 꺼내면 됩니다.

이것은 편집증이 아닙니다. FTC가 당신의 A/B 테스트 이력을 소환할 수 있고 "그 버전이 라이브인 줄 몰랐습니다"가 항변이 되지 않는 세상에서 활동하는 데 드는 비용입니다.

사람들은 왜 윤리적 리텐션에 반발하는가?

사람들은 늘 이런 식의 질문을 던집니다: "해지를 쉽게 만들면 그냥... 해지가 늘어나는 거 아닌가요?" 가장 흔한 반론이자, 신뢰의 경제학이 어떻게 작동하는지에 대한 근본적인 오해를 드러내는 질문입니다.

네, 마찰 없는 이탈 경로는 단기 해지율을 높일 것입니다 — 어차피 떠나려 했지만 이전에는 너무 짜증이 나서 절차를 끝내지 못했던 사람들 사이에서요. 당신은 그 사람들을 "유지된 고객"으로 세고 있었습니다. 그들은 유지된 게 아니었습니다. 갇혀 있었죠. 그리고 갇힌 고객은 열정적으로 갱신하지 않고, 당신의 제품을 추천하지 않으며, 떠난 뒤 돌아오지도 않습니다.

중요한 지표는 월간 이탈률이 아닙니다. 생애 가치입니다 — 그리고 생애 가치는 신뢰 위에 세워집니다. 쉽게 떠나고 좋은 이탈 경험을 한 고객은, 여섯 개의 화면과 싸운 끝에 화가 나서 떠난 고객보다 돌아올 가능성이 압도적으로 높습니다. 또한 FTC에 민원을 넣거나, 별 하나짜리 리뷰를 남기거나, 저녁 자리에서 친구들에게 당신의 "일리아스 플로우" 이야기를 할 가능성도 더 낮습니다.

제가 듣는 또 다른 반론: "이 인과 AI라는 건 비싸 보이는데요. 그냥 표준 이탈 모델을 쓰고 컴플라이언스 규칙 몇 개를 얹으면 안 되나요?" 그럴 수 있습니다. 그리고 어차피 남았을 확실한 고객에게 할인을 주며 돈을 낭비하고, 잠자는 개를 자극해 해지하게 만들고, 정작 당신의 연락이 필요했던 설득 가능한 고객은 놓치게 될 겁니다. "더 저렴한" 접근법이 중요한 모든 측면에서 더 비쌉니다.

구독 경제는 이보다 나은 것을 누릴 자격이 있습니다

제가 믿는 바를 단도직입적으로 말하면 이렇습니다: 마찰을 통한 성장의 시대는 끝나가고 있으며, 그것이 다가오는 것을 보지 못하는 회사들이 다음 FTC 소장 물결의 사례 연구가 될 것입니다.

클릭 한 번으로 해지 규칙은 신호였습니다. Amazon과 Epic Games 사건도 신호였습니다. EU AI Act의 알고리즘 책임성 요구사항도 신호입니다. 특정 규제가 지연되거나 절차적 사유로 무효화되더라도, 방향은 명백합니다.

하지만 사실 컴플라이언스는 이 이야기에서 흥미로운 부분이 아닙니다. 컴플라이언스는 바닥입니다. 흥미로운 부분은, 쉬운 해지를 규제 부담이 아니라 경쟁력의 증표로 취급할 때 벌어지는 일입니다. "언제든, 클릭 한 번으로, 아무것도 묻지 않고 떠나실 수 있습니다"가 세일즈 포인트가 될 때 — 고객이 애초에 당신을 선택하는 이유가 될 때 말이죠.

구독 경제의 미래는 떠나기가 가장 어려운 회사의 것이 아닙니다. 자신의 가치에 너무나 자신이 있어서 떠나기를 손쉽게 만들고, 그럼에도 당신이 머물 것이라 믿는 회사의 것입니다.

밤 11시에 저에게 전화했던 그 친구요? 결국 그 구독을 해지했습니다. 그리고 아는 사람 모두에게 그 경험을 이야기했죠. 그녀는 절대 돌아가지 않을 겁니다. 그 회사는 그녀를 45분 더 "유지"했고, 평생 잃었습니다.

그것이 다크 패턴이 풀 수 없는 계산입니다. 그리고 그것이 윤리적 리텐션을 단지 옳은 일이 아니라, 복리로 쌓이는 유일한 전략으로 만드는 계산입니다.