맥도날드는 3년 동안 AI에게 드라이브스루 주문 받는 법을 가르쳤습니다. 260개의 치킨 맥너겟이 그 실험을 끝낸 이유.

2024년 6월 말, 호텔 방에 앉아 휴대폰을 넘겨보던 중 틱톡 영상 하나에 손이 멈췄습니다. 맥도날드 드라이브스루에서 한 여성이 스피커 박스에 대고 소리를 지르고 있었고, 그 사이 AI 음성은 그녀의 주문을 쾌활하게 확인하고 있었습니다. 스위트 티 아홉 잔, 베이컨을 올린 캐러멜 선디, 그리고 $222어치로 보이는 치킨 맥너겟. 그녀는 그중 무엇도 주문한 적이 없었습니다.

저는 그 영상을 세 번 봤습니다. 웃겨서가 아니라 — 물론 웃기기는 했지만 — 무엇이 잘못됐는지 정확히 알아봤기 때문이었습니다. 아키텍처였습니다. 모델도, 학습 데이터도, 프롬프트도 아니었습니다. 바로 아키텍처.

그 주에 맥도날드는 IBM과의 3년에 걸친 AI 드라이브스루 파트너십을 공식적으로 종료했습니다. 미국 내 100곳이 넘는 매장이 헤드셋을 쓴 사람 직원으로 되돌아갔습니다. 이 파일럿은 주문 정확도 약 80–85%에서 정체돼 있었습니다. 언뜻 괜찮게 들리지만, 사람 직원은 보통 90% 이상을 기록한다는 점, 그리고 마진이 종잇장처럼 얇은 패스트푸드 세계에서는 잘못된 주문 하나하나가 무료 음식과 사과로 진화해야 하는 작은 화재라는 점을 떠올리면 이야기가 달라집니다.

저는 Veriprajna에서 AI 시스템을 충분히 오래 만들어 왔기에 이것이 AI의 실패가 아니라는 걸 알 수 있었습니다. 이것은 철학의 실패였습니다. 맥도날드는 깊은 아키텍처 문제를 얕은 아키텍처적 해답으로 풀려고 했습니다. 그리고 260개의 맥너겟은 그런 방식은 통하지 않는다고 세상이 알려주는 방식이었습니다.

농담거리가 된 실험

배경이 중요합니다. 2019년 맥도날드는 음성 인식 스타트업 Apprente를 인수해 McD Tech Labs라는 조직에 편입시켰습니다. 2년 뒤에는 그 조직을 IBM에 매각하면서, 빅 블루(IBM)의 엔터프라이즈 인프라와 Watson NLP가 이 기술을 전 세계로 확장해 줄 것이라는 데 베팅했습니다.

논리는 그럴듯해 보였습니다. IBM에게는 서버가 있었고, NLP 파이프라인이 있었고, 엔터프라이즈 신뢰도가 있었습니다. 맥도날드에게는 전 세계 40,000개 매장과 인력 방정식을 반드시 풀어야 한다는 절박함이 있었습니다. 둘을 합치면 패스트푸드의 미래가 나온다는 계산이었습니다.

그런데 실제로 나온 것은 아이스크림 위에 얹힌 베이컨이었습니다.

실패는 가끔 발생하는 오류가 아니었습니다. 그것은 구조적이었습니다. AI는 어느 차가 말하고 있는지 구분하지 못해 옆 차선의 주문까지 받아들였습니다. 배경에서 흘러나오는 라디오 잡담을 메뉴 요청으로 해석했습니다. 손님이 한 말을 해석하지 못할 때 — 지역 억양, 문장 중간의 정정, 여러 탑승객이 동시에 말하는 상황에서 이런 일은 끊임없이 일어났습니다 — 시스템은 기본적으로 추측에 의존했습니다. 그리고 그 추측을 지배한 것은 상식이 아니라 토큰 확률이었습니다.

260개의 맥너겟이 터무니없다는 걸 모르는 AI는 맥너겟에 대해 아무것도 모르는 것입니다.

이 문장이 계속 머릿속을 맴돌았습니다. 문제는 모델이 멍청하다는 게 아니었기 때문입니다. GPT 시대의 언어 모델은 놀라울 만큼 유능합니다. 진짜 문제는 "잠깐, 그건 말이 안 되는데"라고 말해 주는 계층을 아무도 만들지 않았다는 점이었습니다.

맥도날드의 AI 드라이브스루는 왜 실패했을까?

여기서는 정확하게 짚고 넘어가고 싶습니다. "AI는 아직 현실 세계에 쓸 준비가 안 됐다"는 통념이 틀렸기 때문입니다. Google Cloud 위에 구축된 Wendy's의 FreshAI 시스템은 약 99%의 정확도를 기록하며 서비스 시간을 22초 단축했습니다. Nvidia 인프라에서 돌아가는 Taco Bell의 Byte 시스템은 500곳이 넘는 매장에서 200만 건이 넘는 주문을 성공적으로 처리했습니다. 기술은 작동합니다. 다만 맥도날드와 IBM이 만든 방식으로는 작동하지 않을 뿐입니다.

세 가지가 이 파일럿을 무너뜨렸습니다.

드라이브스루는 음향적 전쟁터입니다. 대부분의 언어 모델은 조용한 환경에서 학습됩니다. 드라이브스루 차선에는 엔진 소음, 마이크를 때리는 바람의 압력, 경쟁하듯 흘러나오는 차량 라디오 소리, 서로 겹쳐 소리치는 탑승객들이 있습니다. IBM 시스템에는 정교한 빔포밍 — 마이크 어레이를 사용해 운전자의 입에 공간적으로 초점을 맞추는 기법 — 이 없었습니다. 그것이 없으니 AI는 그저 들리는 모든 목소리를 처리했습니다. 한 차의 주문이 다른 차의 계산서에 올라간 이유가 바로 이것입니다.

사람의 말은 눈부시게 엉망입니다. 손님들은 "McDonald's" 대신 "Mickey D's"라고 부릅니다. 문장 중간에 마음을 바꿉니다. "콜라 주세요 — 아니, 잠깐, Dr. Pepper로요." 은어를 쓰고, 웅얼거리고, 학습 데이터가 한 번도 접한 적 없는 억양을 씁니다. IBM 시스템은 입력을 해석하지 못하면 그리디 디코딩을 사용했습니다. 되묻는 대신 통계적으로 가장 확률이 높은 다음 단어를 고르는 방식입니다. "물과 바닐라 아이스크림"이 "버터와 케첩을 곁들인 캐러멜 선디"가 된 이유가 바로 이것입니다. 시스템은 그 조합이 말이 되는지와 무관하게 음성 조각을 확률이 높은 메뉴 항목에 매칭했습니다.

상식 검증 계층이 없었습니다. 저를 가장 답답하게 하는 지점이 바로 이것입니다. 최대 수량 상한도 없었습니다. 아이스크림에 베이컨이면 "사람에게 물어보라"고 하는 규칙도 없었습니다. 고액 거래에 대한 에스컬레이션 트리거도 없었습니다. 언어 모델이 모든 결정을 내리고 있었는데, 언어 모델은 물리적 세계에 대해 추론하지 않습니다. 그저 다음 토큰을 예측할 뿐입니다. 그건 근본적으로 다른 일입니다.

래퍼 문제

이 무렵 어느 잠재 고객과 나눈 대화가 기억납니다. 중견 소매업체였는데, 그들은 자랑스럽게 "AI 기반 고객 서비스 시스템"이라고 부르는 것을 만들어 놓은 상태였습니다. 뚜껑을 열어 보니, 그것은 고객과 OpenAI의 API 사이에 놓인 얇은 소프트웨어 계층이었습니다. 입력을 포맷하고, 출력을 구조화하고, 자기네 로고를 붙인 것. 그게 전부였습니다.

"환각이 생기면 어떻게 하나요?" 제가 물었습니다.

"면책 조항이 있습니다." 그들이 답했습니다.

업계에서는 이런 것을 "래퍼(wrapper)"라고 부릅니다. 그리고 이것이 바로 맥도날드를 무너뜨린 아키텍처 패턴입니다. 래퍼는 강력한 파운데이션 모델을 가져다 그 위에 페인트칠을 한 것입니다. 데모용으로는 훌륭합니다. 프로토타입으로도 훌륭합니다. 하지만 이것은 치명적으로 부적합합니다 — 틀리는 것이 실제 결과를 낳는 모든 환경에서 말입니다.

맥도날드-IBM 시스템은 본질적으로 레거시 Watson NLP를 감싼 래퍼였습니다. 언어 모델이 모든 것을 처리했습니다. 음성 인식, 의도 해석, 메뉴 매칭, 주문 확인까지. 확률적이어야 하는 영역(엉망인 사람의 말을 이해하는 일)과 결정론적이어야 하는 영역(비즈니스 규칙을 집행하는 일) 사이에 분리가 없었습니다. 밑바닥까지 온통 확률이었습니다.

저는 이 아키텍처적 구분을 우리의 인터랙티브 연구 논문에서 깊이 다뤘습니다. 하지만 핵심 아이디어는 냅킨 한 장에 들어갈 만큼 단순합니다.

"결정론적 코어, 확률적 엣지"란 실제로 무슨 뜻인가?

Veriprajna에서 우리는 제가 늘 되돌아가는 하나의 원칙 위에 시스템을 만듭니다. AI가 잘하는 일에는 AI를 쓰고, 규칙이 잘하는 일에는 규칙을 쓴다.

언어 모델이 놀랍도록 잘 파악하는 것이 하나 있습니다. 바로 의도입니다. 엉망이고 모호하며 억양이 섞인 사람의 말 뒤에 놓인 것 말이죠. 그것이 바로 확률적 엣지입니다 — 현실 세계의 혼돈을 감당하는 유연한 바깥 계층입니다.

하지만 일단 의도를 파악했다면, 그다음 실행은 단단한 로직이 지배해야 합니다. 기호적 추론 엔진. 비즈니스의 지식 그래프. 통계적 확률로는 뒤집을 수 없는 규칙들 말입니다.

드라이브스루 맥락에서 이는 이런 뜻입니다:

LLM이 "너겟 한 백 개쯤 주세요"라는 말을 듣고 그 의도를 "손님이 치킨 맥너겟을 대량으로 원한다"고 올바르게 해석합니다. 그다음 결정론적 코어가 작동합니다. 맥너겟의 1회 주문 최대 수량은 40개입니다. 시스템은 이렇게 묻습니다. "맥너겟은 최대 40개까지 가능합니다 — 그렇게 해 드릴까요?" 2,510을 쾌활하게 계산에 올리는 대신에 말입니다.

언어 모델은 귀여야 합니다. 규칙 엔진이 뇌여야 합니다. 맥도날드는 귀에게 생각을 시켰습니다.

이것은 이론적인 이야기가 아닙니다. Wendy's의 FreshAI가 제대로 작동하는 이유는 바로 POS 시스템 및 주방 디스플레이와 깊이 통합돼 있기 때문입니다. AI는 손님이 무슨 말을 하는지 이해하지만, 그다음에 무슨 일이 일어날지는 비즈니스 로직이 결정합니다. Taco Bell의 시스템은 멀티 에이전트 오케스트레이션을 사용해, 서로 다른 전문화된 컴포넌트가 거래의 서로 다른 부분을 처리합니다. 이것들은 제대로 설계된 아키텍처를 갖춘 시스템이지, 래퍼가 아닙니다.

진짜 해자를 이해한 밤

늦은 저녁이었습니다 — 목요일이었던 것 같습니다 — 저와 팀원들은 어느 고객사 배포를 위한 오디오 처리 파이프라인을 디버깅하고 있었습니다. 벌써 몇 시간째였습니다. 시스템은 주변 소음을 자꾸 음성 입력으로 잘못 분류했고, 우리는 그 이유를 찾지 못했습니다.

밤 11시쯤, 엔지니어 한 명이 원본 스펙트로그램을 띄우더니 아무도 알아채지 못한 패턴 하나를 가리켰습니다. 고객사 시설의 HVAC(공조) 시스템이 특정 모음 소리의 주파수 대역에 정확히 걸치는 저주파 웅웅거림을 내고 있었던 것입니다. 모델은 말 그대로 에어컨 소리를 듣고 그 주문을 받으려 하고 있었습니다.

우리는 이후 2주 동안 맞춤형 스펙트럼 차감 계층을 만들었습니다. 그 시설의 소음 프로파일만을 대상으로 학습시킨 신경망으로, 오디오가 음성 인식 모델에 도달하기 전에 HVAC의 시그니처를 식별해 제거할 수 있는 것이었습니다.

그때 뭔가가 딱 맞아떨어졌습니다. 엔터프라이즈 AI의 진짜 해자는 모델이 아닙니다. 이제는 누구나 좋은 모델에 접근할 수 있습니다. 해자는 신호 처리에 있습니다 — 현실 세계가 AI의 뇌에 도달하기 전에 그것을 깨끗하게 다듬는, 화려하지 않고 고된 작업 말입니다.

맥도날드 시스템에는 이것이 전혀 없었습니다. 스탠퍼드의 연구에 따르면, 오디오와 함께 카메라가 입술 움직임을 추적하는 크로스모달 접근법은 소음이 많은 환경에서 단어 오류율을 28.8%에서 12.2%로 낮출 수 있습니다. 그것이 바로 작동하는 시스템과 엉뚱한 이유로 바이럴이 되는 시스템의 차이입니다.

뇌는 누구의 것인가?

맥도날드의 실패에는 틱톡 모음 영상에는 등장하지 않았지만 대단히 중요한 또 하나의 차원이 있습니다. 바로 데이터 주권입니다.

맥도날드는 동의 없이 고객의 성문(voiceprint)을 수집했다는 혐의로 이미 일리노이주 생체정보 프라이버시법(Illinois Biometric Information Privacy Act)에 따른 소송에 직면해 있었습니다. AI가 제3자의 클라우드에서 돌아가면, 모든 고객 상호작용 — 모든 목소리, 모든 주문, 모든 선호 패턴 — 이 여러분이 통제하지 못하는 인프라를 거쳐 흐릅니다.

이것은 단지 법적 리스크가 아닙니다. 전략적 리스크입니다. 지식 노동자의 50%가 이미 직장에서 승인되지 않은 AI 도구를 사용하고 있으며, 46%는 명시적으로 금지되더라도 계속 쓰겠다고 답합니다. 우리는 이것을 "섀도우 AI(Shadow AI)"라고 부르며, 이는 대부분의 기업이 아직 손도 대지 못한 거대하고 보이지 않는 데이터 유출을 뜻합니다.

대안은 우리가 주권적 지능(sovereign intelligence)이라 부르는 것입니다. 데이터가 건물 밖으로 결코 나가지 않도록 조직 자체 인프라 안에 모델을 배포하는 것이죠. 프라이빗 LLM 배포와 섀도우 AI 리스크에 대한 전체 기술 분석은 우리의 연구를 참고하시길 권합니다. 하지만 원칙 자체는 단순명료합니다. 뇌를 소유하지 않으면, 사업도 소유하지 못합니다.

왜 어떤 AI 드라이브스루는 작동하고 어떤 것은 그렇지 않을까?

사람들이 제게 이 질문을 끊임없이 합니다. 다들 복잡한 답을 기대하는 것 같습니다. 그렇지 않습니다.

작동하는 시스템들 — Wendy's, Taco Bell, White Castle — 은 통합된 아키텍처로, 바닥부터 새로 설계됐습니다. 이들은 AI를 신호 처리, 비즈니스 로직, 사람으로의 에스컬레이션 경로, 지속적 모니터링을 포함하는 더 큰 시스템의 한 구성 요소로 취급합니다. AI는 강력하지만 제약을 받습니다. 비즈니스의 실제 물리 법칙을 반영한 가드레일 안에서 작동합니다.

실패한 시스템은 나중에 덧붙여진 것이었습니다. AI를 직접 엔지니어링하는 역량이 아니라 구독하는 서비스로 취급했습니다. 언어 모델에게 모든 것 — 듣고, 이해하고, 결정하고, 실행하는 일 — 을 시켰습니다. 언어 모델이 애초에 설계된 적 없는 환경에서 말입니다.

2025 드라이브스루 조사(2025 Drive-Thru Study)는 이 분기를 확인해 줍니다. AI 기반 차선은 사람이 응대하는 차선보다 평균 22~29초 빠르며, "친절함" 점수는 더 낮았음에도 AI 매장은 전체 만족도 97%를 기록했습니다. 기존 평균보다 6포인트 높은 수치입니다. 손님은 AI가 따뜻하기를 바라지 않습니다. 손님에게 필요한 것은 정확함.

패스트푸드의 미래에서 접객의 척도는 목소리의 온기가 아닙니다. 실제로 주문한 것을 제대로 받았는지가 척도입니다.

"이 정도면 충분하다"를 두고 벌인 논쟁

Veriprajna 내부에서 있었던 일을 하나 공유하고 싶습니다. 모든 AI 기업이 마주하는 긴장을 잘 보여준다고 생각하기 때문입니다.

어느 고객사를 위한 시스템을 설계하던 중, 시니어 엔지니어 한 명이 우리가 결정론적 계층을 과도하게 설계하고 있다고 주장했습니다. "모델 정확도가 이미 92%입니다." 그가 말했습니다. "전체 거래의 8%에 해당하는 엣지 케이스를 위해 몇 주씩 규칙을 만들고 있어요. 그게 정말 그만한 가치가 있나요?"

저는 맥도날드 틱톡 모음 영상을 띄웠습니다. "이런 게 몇 개나 있어야 브랜드가 무너질 것 같나요?" 제가 물었습니다.

그는 두 개라고 답했습니다.

저는 하나라고 답했습니다.

우리는 규칙 계층을 만들었습니다. 일정이 3주 늘어났습니다. 그 고객사에는 바이럴 사고가 단 한 건도 없었습니다.

래퍼 모델이 틀리는 계산이 바로 이것입니다. 실험실에서 92% 정확도는 훌륭합니다. 현실 세계에서 8%의 실패율은 무작위로 흩어져 있지 않습니다. 가장 어려운 케이스, 가장 시끄러운 환경, 가장 화가 난 손님 주변에 몰려 있습니다. 그리고 그런 순간이야말로 소셜 미디어에 올라가는 순간입니다. 8%의 비용은 그 빈도에 비례하지 않습니다. 지수적으로 커집니다.

다음에 일어날 일

맥도날드는 AI를 포기하지 않았습니다. 새로운 파트너와 새로운 접근법을 검토하고 있다는 신호를 보내고 있습니다. 하지만 3년에 걸친 IBM 실험은 끝났고, 그것이 남긴 것은 AI 도입을 고민하는 모든 기업을 위한 분명한 교훈입니다.

실험 단계는 끝났습니다. 기존 프로세스에 언어 모델을 덧붙여 놓고 잘되기를 바라는 시대는 끝났습니다. 그다음에 오는 것 — 제가 딥 AI(Deep AI) 시대라고 부르는 것 — 은 더 어려운 일을 요구합니다. 기계 지능의 역량과 한계를 중심으로 시스템을 실제로 재설계하는 일입니다.

그것은 확률적 엣지를 갖춘 결정론적 코어를 뜻합니다. 자체 인프라를 직접 소유한다는 뜻입니다. 모델 선택에 투자하는 만큼 진지하게 신호 처리에 투자한다는 뜻입니다. 사람으로의 에스컬레이션 경로를 예비 수단이 아니라 하나의 기능으로 만든다는 뜻입니다. 그리고 화려하지 않은 엔지니어링 작업 — 소음 필터링, 규칙 엔진, 엣지 케이스 라이브러리 — 이야말로 진짜 경쟁 우위가 사는 곳임을 받아들인다는 뜻입니다.

이것을 이해하는 조직과 그러지 못하는 조직 사이의 격차는 곧 영구적인 것이 됩니다. 기술에 접근할 수 없어서가 아니라, 아키텍처 철학이 대부분의 조직이 차라리 건너뛰고 싶어 하는 종류의 규율을 요구하기 때문입니다.

맥도날드는 이것을 힘든 방식으로, 대규모로, 공개적으로 배웠습니다. 260개의 맥너겟은 버그가 아니었습니다. 그것은 애초에 "안 된다"고 말하도록 만들어진 적 없는 시스템이 낳은 필연적인 결과였습니다.