여러분의 회사가 사들인 AI는 아마 거짓말을 하고 있습니다 — 저희가 대신 만들고 있는 것

몇 달 전, 저는 포춘 500대 제조업체의 구매 담당 디렉터와 마주 앉았습니다. 그녀는 AI 기반 공급업체 선정 시스템에 230만 달러를 썼습니다 — "GPT의 힘으로 소싱에 혁명을 일으키겠다"고 약속한 번지르르한 플랫폼 중 하나였죠. 그녀는 노트북에서 대시보드를 열어 제 쪽으로 돌려놓고 이렇게 말했습니다. "똑같은 공급업체 세 곳만 계속 추천해요. 우리 네트워크에는 4,000곳이 있는데 말이죠. 이게 대체 뭘 하고 있는 건가요?"

저는 출력 결과를 살펴봤습니다. 아키텍처 문서도 봤습니다 — 존재하는 게 거의 없었지만요. 그리고 그녀가 듣고 싶어 하지 않던 이야기를 했습니다. 그녀의 AI는 최고의 공급업체를 선택하고 있는 것이 아니었습니다. 그 시스템이 선택하고 있던 것은 겉보기에 이전에 봐 왔던 공급업체들과 가장 닮은 공급업체였습니다. 그 시스템은 익숙함을 품질로 착각하도록 학습해 버린 것입니다.

그 대화는 제가 Veriprajna에서 2년 동안 맴돌던 무언가를 명확하게 만들어 주었습니다. 엔터프라이즈 AI 산업에는 더러운 비밀이 하나 있습니다. 기업들이 사들이는 "AI 제품" 대부분은 남의 언어 모델을 감싼 얇은 소프트웨어 층에 불과하다는 것입니다. 그것들은 똑똑해 보입니다. 똑똑하게 들립니다. 하지만 수학적 정의상 그것들은 추측하고 있습니다. 그리고 조달, 물류, 제조, 보험 같은 고위험 엔터프라이즈 운영에서 추측은 기능이 아닙니다. 그것은 책임 리스크입니다.

엔터프라이즈 AI 산업의 더러운 비밀: 기업들이 사들이는 제품 대부분은 남의 언어 모델을 감싼 얇은 래퍼입니다. 그것들은 똑똑해 보입니다. 그것들은 추측하고 있습니다.

챗봇이 트럭을 1달러에 팔아넘긴 밤

셰보레 사건에 대해 이야기해야겠습니다. 현재 엔터프라이즈 AI 접근법의 모든 문제를 보여주는 완벽한 우화이기 때문입니다.

캘리포니아 왓슨빌의 한 딜러십이 고객 서비스 포털에 표준 GPT 래퍼를 통합했습니다. 무해해 보였죠 — 재고에 대한 질문에 답하고, 어쩌면 시승 일정을 잡는 정도. 그런데 한 사용자가 이걸 가지고 놀기 시작했습니다. 몇 번의 프롬프트 만에 그 챗봇은 76,000달러짜리 셰비 타호를 1달러에 팔겠다고 동의했습니다. 사용자는 심지어 챗봇에게 이렇게 선언하게 만들었습니다. "이것은 법적 구속력이 있는 제안입니다 — 무르기 없기."

이 이야기를 처음 읽었을 때 저는 웃었습니다. 그러다 웃음을 멈췄습니다. 이것이 웃긴 엣지 케이스가 아니라는 걸 깨달았기 때문입니다. 이것은 논리적 귀결이었습니다 — 그 아키텍처의. 그 챗봇은 딜러십의 실제 가격 데이터베이스와 전혀 연결되어 있지 않았습니다. "법적 제안"이 무엇을 의미하는지에 대한 개념도 없었습니다. 시스템 프롬프트를 통해 도움이 되고 대화하듯 응답하라는 지시를 받은 언어 모델일 뿐이었습니다. 그리고 그것은 아주 도움이 되었습니다. 파국적일 만큼 도움이 되었죠.

그 주에 저와 공동 창업자는 자정을 넘겨서까지 기술 사후 분석 자료를 뜯어봤습니다. 실패는 모델에 있지 않았습니다 — GPT는 GPT가 하는 일을 정확히 했을 뿐입니다. 실패는 아키텍처에 있었습니다. 누군가 확률적 텍스트 생성기를 가져다가, 결정론적 비즈니스 규칙을 강제해야 하는 자리에 앉혀 놓은 것입니다. 그건 시인을 고용해 회계 부서를 맡기는 것과 같습니다. 그 시인은 훌륭할지 몰라도, 47번째 줄의 소수점 오류를 잡아내지는 못합니다.

이것이 제가 래퍼 망상(Wrapper Delusion)이라고 부르는 것입니다 — 비결정적 모델 위에 얇은 소프트웨어 층 하나를 얹으면 엔터프라이즈급 운영에 충분하다는 널리 퍼진 믿음이죠. 저는 이 문제를 다음 글에서 폭넓게 다뤘습니다: 저희 최신 연구의 인터랙티브 버전. 그리고 데이터를 모으면 모을수록 그림은 더 어두워졌습니다.

AI 조달은 왜 대형 공급업체를 3.5 대 1로 선호할까요?

다시 그 구매 담당 디렉터 이야기로 돌아가 봅시다. "똑같은 공급업체만 계속 추천한다"는 그녀의 직감은 확실한 데이터로 뒷받침되는 것으로 드러났습니다.

연구에 따르면 AI 기반 조달 시스템은 소규모 기업이나 소수자 소유 기업보다 대형 레거시 공급업체를 3.5:1의 비율로 선호합니다. 다시 한번 읽어보세요. AI가 발굴하는 자격 있는 소규모 공급업체 한 곳당 대형 기존 업체 세 곳 반을 추천한다는 뜻입니다.

그 메커니즘은 교묘합니다. 대부분의 조달 AI는 과거 구매 데이터로 학습합니다. 대기업은 더 오래 존재했고, 데이터셋에 더 많은 거래를 남겼으며, 그럴 인프라를 갖춰 왔기에 더 "깨끗한" 디지털 신호를 만들어냅니다. 알고리즘은 누가 최고인지를 학습하지 않습니다. 알고리즘이 학습하는 것은 누가 가장 많이 등장하는지입니다. 과거 거래량이 신뢰성의 대리 지표가 되어버리는 것이죠 — 어떤 식당 앞을 몇 번이나 지나쳤는지를 기준으로 그 식당을 판단하는 것과 같습니다.

저희 팀의 한 데이터 과학자와 이 문제로 논쟁했던 기억이 납니다. 그의 입장은 이 편향이 아키텍처 문제가 아니라 데이터 문제라는 것이었습니다. "더 나은 학습 데이터를 구하면 됩니다." 저는 반박했습니다. 완벽한 데이터가 있더라도 상관관계 기반 모델은 어떤 형태로든 규모의 대리 지표를 찾아낼 것이라고요. 규모는 수십 가지 다른 특성과 상관되어 있기 때문입니다. 근본적으로 상관관계 위에서 작동하는 시스템의 편향은 제거할 수 없습니다. 시스템이 던지는 질문 자체를 바꿔야 합니다.

근본적으로 상관관계 위에서 작동하는 시스템의 편향은 제거할 수 없습니다. 시스템이 던지는 질문 자체를 바꿔야 합니다.

그때 저희는 인과 AI(Causal AI)에 전념하기로 했습니다. "이전에 누구와 계약했는가?"를 묻는 대신, 저희의 구조적 인과 모델(Structural Causal Model)은 이렇게 묻습니다. "과거 거래량이라는 교란 변수를 수학적으로 제거한다면, 이 소수자 소유 공급업체의 성과 지표는 더 우수하다고 평가될까?" 이것은 반사실적 추론입니다 — AI는 운동장이 평평했던 세계를 상상하고, 바로 그 세계를 기준으로 공급업체에 점수를 매깁니다.

그 차이는 점진적인 것이 아닙니다. 배제를 영속화하는 시스템과, 간과된 인재를 능동적으로 발굴하는 시스템의 차이입니다. 그리고 세 곳의 초대형 공급업체에 의존하는 취약한 공급망과, 다양한 생태계에서 조달하는 회복력 있는 공급망의 차이이기도 합니다.

물류 AI의 77%가 스스로를 설명하지 못하면 어떤 일이 벌어질까요?

조달 편향은 하나의 위기입니다. 물류의 투명성 결핍은 또 다른 위기이며, 무언가 무너지기 전까지는 보이지 않기 때문에 어쩌면 더 위험합니다.

제가 밤잠을 설치게 만드는 숫자는 이것입니다: AI 기반 물류 시스템 중 의미 있는 의사결정 설명 가능성을 제공하는 것은 23%에 불과합니다. 이것은 경로 최적화, 재고 배분, 수요 예측 등 AI 주도 운영의 4분의 3 이상에서, 이를 책임지는 사람들이 왜 시스템이 특정 추천을 내놓았는지 명확히 이해하지 못한다는 뜻입니다.

제가 만난 한 최고공급망책임자는 이것을 완벽하게 표현했습니다. "저는 4,000만 달러짜리 AI 투자를 했는데, 그게 주는 답은 제가 따져 물을 수 없고 그 설명은 제가 이해할 수 없습니다. 맞았을 때는 제가 천재처럼 보입니다. 틀렸을 때는 무슨 일이 있었는지조차 알아낼 수 없습니다."

이것은 그저 답답한 정도가 아닙니다 — 경제적으로 파괴적입니다. 낮은 데이터 품질과 투명성 부족 때문에 기업들은 매출의 15%에서 25%를 인바운드 운영의 시스템적 오류만으로 잃습니다. 그리고 이것이 물류 리더의 42%가 에이전틱 AI — 인간의 승인 없이 의사결정을 실행할 수 있는 자율 시스템 — 도입을 주저하는 주된 이유입니다. 자율 에이전트가 무엇을 하고 있는지 감사할 수 없다면, 그 열쇠를 넘겨줄 수 없습니다.

저는 이렇게 생각합니다. 물류 산업은 자율주행 트럭 선단을 만들어 놓고 앞유리 다는 것을 잊어버렸습니다. 트럭은 올바른 방향으로 가고 있을지도 모릅니다. 다만 어디로 향하는지 볼 수 없을 뿐이죠.

확률론적 시스템의 함정 — 그리고 "더 똑똑한 프롬프트"가 여러분을 구해주지 못하는 이유

사람들은 항상 여기서 반박합니다. "아슈토시, 그냥 프롬프트를 더 잘 설계하면 되지 않나요? 가드레일을 더 추가하면요? 모델을 파인튜닝하면요?"

아닙니다. 그 이유는 이렇습니다.

대규모 언어 모델은 그 수학적 본질상 확률적입니다 — 학습 데이터의 통계적 패턴을 바탕으로 시퀀스에서 다음에 올 법한 토큰을 예측할 뿐이죠. 이들에게는 "진실"이라는 개념이 없습니다. 논리를 따져 추론하지도 않습니다. 이들이 만들어내는 텍스트는 통계적으로 그럴듯합니다. 그리고 이는 텍스트가 정확한 것과는 매우 다릅니다.

LLM은 조달 규칙에 대한 천 개의 질의에 정확히 답하다가, 천한 번째 질의에서 존재하지도 않는 할인 조항을 환각할 수 있습니다. 고위험 도메인에서의 환각률은 1.5%에서 6.4% 사이입니다. 작게 들리겠지만, 이는 스무 번의 중대한 의사결정 중 대략 한 번이 조작된 정보에 기반할 수 있다는 뜻임을 깨닫는 순간 얘기가 달라집니다.

프롬프트 엔지니어링 — 모델을 유도하기 위해 영리한 지시문을 만들어내는 관행 — 은 강에 표지판을 세워놓고 강물더러 거슬러 위로 올라가 달라고 부탁하는 것과 같습니다. 물살이 잔잔할 때는 표지판이 통할지도 모릅니다. 하지만 조건이 바뀌는 순간 — 낯선 질의, 적대적 사용자, 미묘한 맥락 변화 — 물은 물리 법칙이 정하는 곳으로 흘러갑니다.

셰보레 챗봇에도 가드레일이 있었습니다. 도움이 되되 딜러십 정책 안에 머물라고 지시하는 시스템 프롬프트가 있었습니다. 창의적인 사용자 한 명이 5분도 안 돼 그 전부를 우회했습니다. 아키텍처 수준에서 보면 시스템 프롬프트와 사용자 프롬프트는 그저... 텍스트이기 때문입니다. 모델은 그것들을 하나의 통합된 블록으로 처리합니다. "규칙"과 "대화" 사이에 구조적 분리가 존재하지 않습니다.

프롬프트 엔지니어링은 강에 표지판을 세워놓고 강물더러 거슬러 위로 올라가 달라고 부탁하는 것과 같습니다. 통하다가, 어느 순간 통하지 않게 됩니다 — 그리고 엔터프라이즈 AI에서 그 "통하지 않는 순간"은 수백만 달러의 대가를 치를 수 있습니다.

저희가 대신 실제로 만들고 있는 것

제가 Veriprajna를 창업했을 때, 저는 의도적으로 이 이름을 골랐습니다 — "Veri"는 진리를 뜻하는 라틴어에서, "Prajna"는 지혜를 뜻하는 산스크리트어에서 왔습니다. 영리한 브랜드 이름을 원해서가 아니라, 그 두 개념이 저희가 믿는 기술 아키텍처를 정의하기 때문입니다. 검증 가능하게 올바르고, 맥락적으로 지혜로운 시스템 말입니다.

저희는 이 접근법을 뉴로-심볼릭 아키텍처(Neuro-Symbolic Architecture)라고 부르며, 그 핵심 아이디어는 속을 만큼 단순해 보입니다. 언어 모델이 절대 최종 의사결정자가 되지 못하게 하는 것.

실제로 어떻게 작동하는지 설명하겠습니다. 저희의 신경망 엔진이 응답을 제안하면 — 예를 들어 공급업체 추천이나 물류 경로 — 그 출력은 누군가에게 도달하기 전에 심볼릭 검증 계층을 통과합니다. 이 계층은 기업의 실제 진실의 원천을 담고 있는 지식 그래프(Knowledge Graph)에 질의합니다. 법률 계약서, 가격 데이터베이스, 엔지니어링 사양, 규제 요건 같은 것들이죠. 신경망 계층이 내놓는 모든 주장은 확실한 증거와 대조 검증됩니다.

모델이 계약 그래프에 존재하지 않는 공급업체 혜택을 환각하려 하면, 심볼릭 검증기가 그것을 잡아냅니다. 가끔이 아닙니다. 매번입니다. 이 아키텍처는 근거가 있는 사실에 대해서는 환각을 구조적으로 불가능하게 만듭니다 — 저희는 데이터 추출에서 100% 정밀도를 달성하며, 이는 GPT-4 같은 단독 모델의 63–95%와 대비됩니다.

저희는 또한 헌법적 가드레일(Constitutional Guardrails)이라고 부르는 것을 구현합니다 — 여기서부터가 흥미로워집니다. 전통적인 래퍼는 텍스트 기반 지시문으로 나쁜 출력을 막으려 합니다. 저희는 제약된 디코딩(constrained decoding)으로 나쁜 출력을 막습니다. 모델의 출력이 특정 스키마나 도메인 온톨로지로 수학적으로 제한되는 방식이죠. 조달 맥락에서 AI는 말 그대로 할 수 없습니다 — 기업의 공정성 헌법을 위반하는 공급업체 점수를 만들어내는 일을 말입니다. 디코딩 계층은 불법적 편향을 끌어들이는 어떤 토큰 시퀀스도 거부합니다. 이것은 모델에게 주는 제안이 아닙니다. 모델이 말할 수 있는 것에 대한 물리적 제약입니다.

이 계층들이 어떻게 상호작용하는지에 대한 완전한 기술적 분석 — 지식 그래프, 인과 AI 모델, 제약된 디코딩 — 은 다음에서 확인하실 수 있습니다: 저희 기술 심층 분석.

현실이 되는 지점: 공장, 농장, 그리고 사기

"래퍼 AI"와 "딥 AI"의 차이가 학술적인 문제가 아니라 물리적인 문제가 되는 세 곳으로 여러분을 안내하고 싶습니다.

공장 현장에서는, 클라우드 기반 AI 검사 시스템이 800밀리초의 지연 시간에 직면합니다. 빠르게 들리겠지만, 초당 2미터로 움직이는 컨베이어 벨트는 이미 불량 부품을 검사 지점에서 1.6미터나 지나쳐 옮겨 놓은 뒤입니다. 생산 라인의 하드웨어에 직접 배포되는 저희의 엣지 네이티브 모델은 12밀리초 만에 응답합니다 — 98.5% 단축이죠. 저희는 특수 마이크로컨트롤러에서 음향 모델까지 돌려, 고장 나는 베어링의 스펙트럼 시그니처를 5밀리초 만에 탐지하고 기계가 스스로 부서지기 전에 물리적 킬스위치를 작동시킵니다. 실제 현장에서 이것을 어느 공장장에게 처음 시연했던 때가 기억납니다. 진동 센서가 이상을 감지하기도 전에 베어링 결함 경보가 울렸습니다. 그는 한참 동안 계측값을 바라보다가 이렇게 말했습니다. "그건 AI가 아니네요. 그건 육감입니다." 저희가 소프트웨어의 경계를 넘어 문제의 물리학을 진정으로 이해하는 무언가에 도달했다고 느낀 것은 그때가 처음이었습니다.

농업에서는, 표준 카메라로는 무엇이 작물을 죽이고 있는지 너무 늦기 전까지 볼 수 없습니다. 저희는 초분광 데이터 — 사람 눈이 감지할 수 있는 범위를 넘어서는 200개 이상의 파장 대역 — 를 처리하는 맞춤형 신경망 아키텍처를 구축합니다. 대기 간섭을 모델링하고 계산적으로 걷어냄으로써, 영양 결핍이나 해충 발생을 며칠 앞서, 눈에 보이기 전에 식별할 수 있으며, 이를 통해 사전 시각화 비용을 60% 절감할 수 있습니다.

보험에서는, 저희는 범용 이미지 분류를 포렌식 컴퓨터 비전으로 대체합니다. 픽셀 단위의 정확한 손상 경계를 식별하는 의미론적 분할, 3D 스캐너 없이 찌그러짐 부피를 계산하는 단안 깊이 추정, 조작된 사진을 탐지하는 정반사 분석이 그것입니다. 이 AI는 청구가 사기인지 추측하지 않습니다. 이미지의 빛 패턴이 왜 앞뒤가 맞지 않는지, 그 물리학을 보여줍니다.

여러분의 AI 아키텍처가 망가졌는지 어떻게 알 수 있을까요?

거의 모든 경영진 브리핑에서 받는 질문이 하나 있습니다. 대개 회의감과 진짜 우려가 섞인 어조로 이렇게 표현되죠. "우리는 이미 현재 AI 스택에 수백만 달러를 투자했습니다. 그게 실제로 문제인지 어떻게 알 수 있죠?"

제 솔직한 답변은 이렇습니다. 만약 여러분의 AI 시스템이 왜 특정 결정을 내렸는지 구체적인 데이터 포인트를 인용해 설명하지 못한다면, 그것은 문제입니다. 조달 AI를 도입한 뒤에도 공급업체 다양성 수치가 나아지지 않았다면, 그것은 문제입니다. 운영팀이 우회 수단을 만들어냈다면 — "혹시 몰라서" AI 시스템과 나란히 유지하는 스프레드시트 같은 것 — 그것은 문제입니다.

우회 수단이 결정적 단서입니다. 저는 한쪽 모니터에는 AI 대시보드가, 다른 쪽 모니터에는 "진짜" 의사결정 지원 스프레드시트가 떠 있는 조직들에 들어가 본 적이 있습니다. 아무도 그것을 대놓고 말하지 않습니다. 하지만 그것은 팀이 그 시스템을 신뢰하지 않는다는 뜻이고, 그들이 신뢰하지 않는 것은 옳습니다.

또 이런 질문도 듣습니다. "이건 그저 성숙도의 문제 아닌가요? 모델이 더 좋아지지 않을까요?" 모델은 언어에서는 더 좋아질 것입니다. 진실에서는 더 좋아지지 않을 것입니다. 더 강력한 LLM은 더 설득력 있는 추측꾼일 뿐, 더 신뢰할 수 있는 존재가 아닙니다. 아키텍처가 바뀌어야 합니다.

스포츠 일러스트레이티드(Sports Illustrated)의 붕괴, 그리고 이것을 잘못했을 때의 대가

저는 바탕화면에 스크린샷을 하나 저장해 두고 상기시키는 용도로 씁니다. 2023년 11월, 70년 역사의 미디어 기관인 스포츠 일러스트레이티드가 가짜 AI 생성 기명 필자 이름으로 기사를 발행하다 적발된 사건입니다. "Drew Ortiz" 같은 이름에, 조작된 프로필 사진과 지어낸 약력까지 딸려 있었습니다. 그 콘텐츠는 기계적이고 동어반복적이었으며, 어떤 검증 계층도 거치지 않고 발행되었습니다.

결과: 단 하루 만의 27% 주가 폭락. 라이선스 취소. 대규모 해고. 유서 깊은 브랜드가 껍데기만 남았습니다.

LLM은 LLM이 하는 일을 정확히 했습니다 — 패턴을 완성한 것이죠. 저자 약력은 제품 리뷰의 통계적으로 그럴법한 구성 요소이므로, 모델은 하나를 생성했습니다. 프로필 사진은 저자 약력에 따라붙으므로, 누군가 그것도 생성했습니다. 아무도 이렇게 묻는 시스템을 만들지 않았습니다. "이 사람은 실존하는가? 이 콘텐츠는 사실 검증을 거쳤는가? 모든 주장을 출처까지 추적할 수 있는가?"

그것이 대규모로 벌어진 래퍼 망상의 대가입니다. 웃긴 챗봇 사건이 아닙니다. 기업 멸종 사건입니다.

그냥 API를 계속 쓰면 안 되는 이유는 무엇일까요?

여기에는 대부분의 AI 벤더가 논의하고 싶어 하지 않는 마지막 차원이 하나 있습니다: 데이터 주권.

여러분의 기업이 서드파티 API — OpenAI, Google, Anthropic — 에 의존하는 순간, 여러분은 통제할 수 없는 지능을 임대하고 있는 것입니다. 모델의 학습 데이터에 대한 가시성이 전혀 없습니다. 벤더가 가중치를 업데이트할 때 아무런 예고도 받지 못하며, 그로 인해 시스템의 동작이 소리 없이 바뀔 수 있습니다(이것을 모델 드리프트라고 하며, 규제 산업에는 악몽입니다). 영업 비밀, 고객 정보, 경쟁 정보 같은 여러분의 독점 데이터가 감사할 수 없는 인프라에서 처리되지 않는다는 보장도 없습니다.

저희는 고객사 자체 인프라에 소버린 엔터프라이즈 모델을 배포합니다. 어떤 데이터도 방화벽을 벗어나지 않습니다. 외부 의존성도 없습니다. 독점 온톨로지와 규제 제약에 맞춘 커스텀 파인튜닝을 포함해, 전체 라이프사이클을 완전히 통제합니다.

API 구독보다 초기 비용은 더 큽니다. 하지만 데이터 유출이나 규제 과징금, 또는 샌프란시스코의 어느 벤더가 화요일 오후에 업데이트를 밀어 넣는 바람에 여러분의 AI 동작이 바뀌었다는 사실을 발견하는 것에 비하면 무한히 저렴합니다.

18개월이라는 기회의 창

여기서는 직설적으로 말하겠습니다. 타임라인이 중요하다고 생각하기 때문입니다.

2026년에 결정론적 AI 아키텍처로 이동하는 조직은 12~18개월의 진정한 경쟁 차별화 기간을 갖게 될 것입니다. 그 이후로 이 접근법은 기본 조건이 됩니다 — 규제 산업의 엔터프라이즈 AI에 대한 최소 기대치가 되는 것이죠.

3.5:1의 조달 편향은 저절로 고쳐지지 않습니다. 23%의 설명 가능성 비율은 프롬프트를 더 잘 쓴다고 개선되지 않습니다. 환각 문제는 다음 모델 출시로 사라지지 않습니다. 이것들은 아키텍처의 실패이며, 아키텍처의 해법을 요구합니다.

모든 기업이 저희가 만든 것을 똑같이 만들어야 한다는 말이 아닙니다. 제가 말하는 것은, 모든 기업이 이해해야 한다는 것입니다 — 자신이 실제로 무엇을 샀는지를 말입니다. 보닛을 열어보세요. 벤더에게 물어보세요. 검증 계층은 어디에 있습니까? 지식 그래프는 어디에 있습니까? 모델이 환각을 일으키면 어떻게 됩니까 — 구조적 제약이 있습니까, 아니면 그저 "환각하지 말아 주세요"라고 적힌 프롬프트뿐입니까?

만약 그 답이 프롬프트라면, 여러분에게는 AI 시스템이 없는 것입니다. 아주 비싼 건의함이 있을 뿐입니다.

여러분의 AI 벤더가 "환각을 어떻게 막느냐"는 질문에 더 나은 프롬프트라고 답한다면, 여러분에게는 AI 시스템이 없는 것입니다. 아주 비싼 건의함이 있을 뿐입니다.

확률론적 엔터프라이즈 AI의 시대는 끝나가고 있습니다 — 모델이 인상적이지 않아서가 아니라, 인상적인 것과 신뢰할 수 있는 것은 같지 않으며, 기업에서는 신뢰성만이 유일하게 중요한 것이기 때문입니다. 저희는 그럴듯하게 들리는 AI를 만들고 있지 않습니다. 저희가 만드는 것은 실제로 옳은 AI이며, 그것을 증명할 수 있는 AI입니다.

그것은 영업 멘트가 아닙니다. 그것은 엔지니어링 요구사항입니다. 그리고 그것을 가장 먼저 알아보는 기업들이야말로 래퍼들이 무너져 내릴 때 여전히 서 있는 기업이 될 것입니다.