Klarna 用 AI 取代 700 名員工，然後又全數請了回來：每一家企業都該學到的一課

Klarna 的消息傳出來時，我正在跟一位潛在的銀行業客戶通話。2025 年年中。我的手機震動了——一位同事轉來那篇報導，只附了一句話：「這根本就是你一直在說的事。」

那位客戶話說到一半，正在解釋他們如何在 GPT-4 之上打造了一個客服聊天機器人，以及它「運作得很好」。我問他 CSAT 分數看起來如何。一陣長長的停頓。「我們還沒有追蹤那個。」

那個停頓說明了一切。因為 Klarna 確實追蹤了。而他們發現的結果，慘烈到足以讓他們逆轉金融科技史上最受矚目的 AI 部署之一。

簡短版本是這樣的：Klarna，這家市值 146 億美元的瑞典先買後付巨頭，用一個建構在 OpenAI 之上的 AI 助理取代了大約 700 名客服人員。他們像在繞場慶功一樣宣布這件事——這個 AI 處理了跨 35 種語言、佔全部客戶對話 75% 的量。每筆交易成本下降 40%。華爾街愛死了。接著，客戶滿意度分數下跌 22%。這家公司在 2025 年第一季公布了 9,900 萬美元的淨虧損。而執行長 Sebastian Siemiatkowski 公開承認，對效率的追求掏空了服務品質，產出的內容被他形容為「千篇一律」，而且無法處理任何需要真正判斷力的事情。

他們開始重新招聘。他們甚至把軟體工程師和行銷人員調去接電話。

我在 Veriprajna 打造神經符號（neuro-symbolic）AI 系統已經好幾年了，眼看著一家又一家公司踏進同一個陷阱。並不是因為技術不好——大型語言模型確實了不起。而是因為在聽起來正確與真正正確之間，存在著一種根本性的混淆；而在受監管的產業裡，這種混淆最終會讓你付出一切代價。

我意識到「夠好」其實不夠好的那一晚

在談架構之前，我想先跟你說一個改變了我思考這個問題方式的時刻。

我們當時在為一套法律法遵系統做先導專案——不是客服，而是文件分析。那種需要解析監管申報文件、把內部政策對應到外部法令要求的工作。我們有一個原型，用的是標準的檢索增強生成（retrieval-augmented generation）配置。向量搜尋、top-k 檢索、由 GPT 生成摘要。速度很快。產出讀起來也很漂亮。

我們的一位工程師——Priya——留下來加班跑邊界案例。大約晚上 11 點，她在我們的 Slack 頻道貼了一張截圖。系統生成了一段完全流暢的文字，引用了某一條具體的法規條文。那條條文並不存在。不是引用錯誤，也不是改述——而是徹頭徹尾的捏造。而且它讀起來如此令人信服，如果你不是那部特定法規的專家，你永遠不會發現。

我記得自己坐在桌前盯著那張截圖，心裡想著：這就是我們即將交付的產品。一個能以律師事務所資深合夥人般的自信說謊的系統。

我們喊停了那個專案。從頭重建架構。損失了三個月。那是我們做過最好的決定。

當一套 AI 系統以完美的自信捏造出一則法律引用時，問題不是 bug——問題是架構。你無法靠提示工程擺脫一個本質上就是機率性的基礎。

什麼是「包裝層陷阱」？為什麼它一再讓聰明的公司中招？

讓我用技術語言解釋 Klarna 究竟發生了什麼事，因為商業媒體大多都搞錯了。他們把它定調為「AI 還沒準備好」。問題不在這裡。真正的問題是「哪一種 AI」，以及「它是如何被部署的」。

所謂「包裝層」（俗稱「套殼」，wrapper），是架在第三方大型語言模型之上的一層薄薄的軟體。它負責格式化、管理 API 呼叫，也許再加上一些結構化輸出的解析。但真正的思考——推理、判斷、決策——完全外包給了 LLM。你的包裝層送出一個提示詞，模型預測最可能的下一批 token，然後你拿回一個聽起來像答案的東西。

這種做法在展示（demo）時效果驚豔，在低風險任務上也還堪用。但只要任務需要的是確定性，它就會災難性地失敗。

驅動這些模型的 Transformer 架構，使用自注意力機制來衡量序列中各個 token 的相關性，並預測接下來會出現什麼。那就是模式比對——極其精密的模式比對，但終究還是模式比對。它內部沒有任何機制可以拿事實去對照外部的真實來源進行驗證。模型並不真的知道任何事。它只是在預測一個博學的回答應該長什麼樣子。

Klarna 的 AI 可以完美無瑕地重設密碼。但當一位客戶遇上牽涉部分退款、商家糾紛，以及跨兩個司法管轄區的消費者保護法規的複雜爭議時呢？模型就退回到我稱之為「廢話打轉」（slop-spinning）的模式——生成一堆聽起來合理、卻只是在原地繞圈、從未真正解決任何事的回覆，把客戶逼進一位分析師形容的「卡夫卡式迴圈」。

而下面這一點應該讓每一位企業領導者感到恐懼：成本指標看起來一直都很亮眼——而這整段期間，體驗其實正在惡化。每筆交易成本從 0.32 美元降到 0.19 美元。聊天解決時間從 11 分鐘縮短到 2 分鐘以內。如果你只盯著儀表板看，你會以為自己正在贏——直到你的客戶開始離開的那一刻為止。

為什麼不能直接幫 LLM 加上更好的護欄（guardrails）就好？

這是我最常被問到的問題，而它正好暴露了核心的誤解。人們以為解法是更好的提示詞、更多的少樣本範例、更嚴格的系統指令。「直接叫模型不要產生幻覺就好了啊。」

這就像叫一個天氣預報模型不要出錯一樣。機率性本質不是一個可以修補的缺陷——它就是這套系統運作的根本機制。

曾經有一位投資人直截了當地跟我說：「就用 GPT，然後在上面加一些規則就好了。」我問他，他會不會信任一台只有 95% 的時候算對的計算機。他笑了。我說：「你為銀行法遵提的方案就是這個。」他不笑了。

技術上的失效模式比幻覺更深層。包裝層缺少我稱之為「狀態綱要持久性」（state-schema persistence）的東西。隨著對話推進，上下文視窗會被填滿。對話早期的資訊會被壓縮或丟棄。模型可以在同一個工作階段內自相矛盾，而且完全沒有察覺自己這麼做了。在客服場景中，這意味著這個 AI 客服可能在第 3 輪驗證了你的身分，然後在第 15 輪又要你再驗證一次——或者更糟，因為對話流程「說服」了它驗證已經完成，於是它完全跳過驗證。

這就是我稱之為「無限自由謬誤」（Infinite Freedom Fallacy）的弱點。因為 LLM 對於自己能說什麼、能做什麼並沒有硬性的結構限制，一個夠聰明的使用者——或是一個夠複雜的情境——就能把它推進違反業務規則、法規要求或基本邏輯的狀態。這件事你無法靠提示詞解決。你需要的是一種完全不同的架構。

我在我們研究的互動版本中深入探討過這個問題，但核心洞見其實很簡單：你必須把「聲音」和「大腦」分開。

會毀掉一切的那 20%

在我們服務的每一個產業裡，我都看到同一種模式，而我認為它解釋了為什麼這麼多 AI 部署都走上了 Klarna 的軌跡。

2025 年的 AI 可以稱職地處理大約 80% 的例行、高頻互動。重設密碼、查詢訂單狀態、基本的常見問題回覆——這些都是已經被解決的問題。剩下的那 20% 互動，才是真正重要的。它們是複雜的爭議、邊界案例，是客戶感到沮喪、困惑或恐懼的時刻。而它們正是品牌聲譽與財務責任的主要驅動因素。

Klarna 為那 80% 做了最佳化，卻忽略了那 20%。這筆帳看起來很明顯：把簡單的事自動化，省下數百萬。但信任正是在那 20% 裡被建立或摧毀的。一個順利重設密碼的客戶不會跟任何人說。而一個為了解決一筆帳單錯誤、花了 45 分鐘困在 AI 迴圈裡的客戶，會告訴每一個人。

AI 處理得好的那 80% 互動，對你的品牌是隱形的。它處理得很糟的那 20%，才是唯一有人記得的互動。

諷刺的是，Klarna 一開始因裁減人力而省下的 1,000 萬美元，幾乎肯定被他們透過惡化的體驗所摧毀的客戶終身價值遠遠蓋過。當你是一家市值 146 億美元、正在準備 IPO 的公司時，客戶滿意度下跌 22% 就不是一個指標問題——而是一個存亡問題。

「確定性 AI」到底是什麼意思？

所以，如果包裝層才是問題，那解法是什麼？這裡我需要稍微談一點技術，但我保證會講得踏實。

在 Veriprajna，我們打造的是所謂的神經符號（neuro-symbolic）AI。這個名字聽起來很學術，但概念其實很直覺：你取用神經網路的語言流暢度，並把它約束在符號推理引擎的剛性邏輯之內。神經網路負責「軟」的工作——理解自然語言、生成人類可讀的回覆、詮釋模糊的查詢。符號引擎負責「硬」的工作——強制執行規則、驗證邏輯，確保每一個輸出都可以追溯到一個經過驗證的來源。

我們把這叫做「神經符號三明治」。在查詢抵達 LLM 之前，一個意圖驗證層會拿它去對照政策約束進行檢查，並篩掉對抗性輸入。在 LLM 生成回覆之後，一個驗證引擎——通常是有限狀態機或邏輯求解器——會拿每一項主張去對照知識圖譜檢查，拿每一個動作去對照業務規則檢查。如果回覆違反了任何一項約束，它就過不去。就這樣，沒有例外。

我們用的一項技術叫做約束解碼（constrained decoding）——也稱為 token 遮罩——我覺得它特別優雅。我們不是讓模型自由生成之後再檢查輸出，而是從一開始就直接阻止某些 token 被生成出來。如果模型正在產出一份稅務法遵報告，符號層會確保每一個數字都對應到一項經過驗證的計算。這個模型根本就不可能「幻覺」出一個數字，因為那些幻覺的 token 在生成發生之前，就已經被從機率分佈中遮蔽掉了。

這不是在「加上護欄」。這是一種根本上不同的架構：LLM 是聲音，符號引擎是大腦，而聲音在沒有大腦批准之前，絕不允許開口。

當知識圖譜救了我們，免於一個 200 萬美元的錯誤

標準 RAG——檢索增強生成（retrieval-augmented generation）——有一個大多數人不談的問題。它依賴向量相似度來找出相關文件。但向量相似度並不理解方向性。「A 公司控告 B 公司」和「B 公司控告 A 公司」的向量嵌入可能幾乎完全相同，但它們描述的是完全相反的法律情境。

我們是在一個法律先導專案中痛苦地發現這件事的。我們的系統當時正在為一家企業客戶分析訴訟歷史，而標準的 RAG 架構一直把原告和被告的角色搞混。那些輸出流暢、結構良好，卻錯得很危險。

就是在那時候，我們轉向了我們稱之為「引用強制型 GraphRAG」的做法。我們不是把文件一股腦丟進向量儲存庫，而是把它們解析成一張知識圖譜——由具型別、具方向的關係所連結的實體。當系統提出一項主張時，它必須把那項主張追溯回圖譜中特定的節點與邊。如果圖譜無法支持這項主張，系統就不會提出它。

準確度的提升非常顯著——在複雜的多跳推理任務上，比標準 RAG 高出 30–35%。但更重要的是，它給了我們再多提示工程也給不了的東西：一條稽核軌跡。每一個輸出都能沿著精確的推理路徑被回溯，從實體到實體、從關係到關係。一位法遵人員可以看到系統為什麼會得出這個結論，而不只是它得出了什麼結論。

想完整了解這套架構在不同領域——銀行、法律、製造——中如何運作的技術細節，請參閱我們的技術深度解析。

那場差點讓我的團隊分裂的爭論

我想誠實說一件事。用這種方式打造系統比較難。難很多。而且大約在十八個月前，我的團隊曾經真的為了「我們是不是過度設計了」而爭論過一場。

我們在一間會議室裡——白板上滿是架構圖——我們的一位資深工程師主張，我們應該為一位製造業客戶交付一個以包裝層為基礎的 MVP。「先把營收收進來，證明概念可行，架構之後再強化。」這是一個合理的論點。客戶很急。時程很緊。而且我們這個領域的每一個競爭對手都在交付包裝層產品、拿下案子。

我記得他說完之後的那陣沉默。接著 Priya——就是那位抓到幽靈引用的工程師——打開了一張她一直壓著沒拿出來的投影片。上面列出了前一季三個真實案例：以包裝層為基礎的 AI 系統所生成的輸出，如果真的被採納執行，就會違反法規要求。不是假設性的違規。是真實的違規，而且只因為剛好有人在流程之中，才被抓到。

我做了決定：堅持原路線。我們把那個案子輸給了一個出貨更快的競爭對手。六個月後，那家競爭對手的系統造成了一起法遵違規，讓他們的客戶付出了七位數的補救成本。那家客戶找上了我們。

沒有正確性的速度不是競爭優勢。它是一顆裝了延遲引信的負債炸彈。

我講這個故事不是為了顯得自己有先見之明。我講它，是因為「先快點出貨、之後再迭代」的壓力極其巨大，而在多數軟體情境中，這確實是對的直覺。但在受監管的產業裡——銀行、醫療、法律、製造——「之後再迭代」的意思是「等違規發生之後再修」。而這些領域的違規，並不附帶寬限期。

為什麼 2026 年是帳單到期的一年

來看看宏觀的格局。麥肯錫（McKinsey）發現，雖然有 88% 的組織正在使用 AI，卻只有 39% 能指出企業層級上的正向獲利影響。這個落差即將變得站不住腳。

AI 導入的「投資並學習」階段已經結束了。財務長們不再問：「我們有在用 AI 嗎？」他們問的是「對 EBIT 的影響是多少？」而對多數組織來說，誠實的答案是：「我們在行政作業上省了一些時間。」

這樣不夠。在電子郵件和簡報上省時間，是「生產力 AI」——有用，但只是漸進式的。企業真正需要的是「營運 AI」——能消除實體經濟中真金白銀的成本摩擦的系統。防止缺貨。在法遵違規發生之前就抓到它。透過提供準確的虛擬試穿——而不是那些看起來很美、卻無法反映布料在人體上實際垂墜方式的 AI 生成夢幻圖片——來降低每年 8,900 億美元的零售退貨成本。

Klarna 的故事在這裡很有啟發性，因為他們的指標看起來很像投資報酬率（ROI）。每筆交易成本下降 40%！但他們衡量錯了東西。他們衡量的是節省的時間和裁減的人力。他們沒有衡量流失的信任和離開的客戶。當你把重新招聘的成本、品牌傷害，以及第一季 9,900 萬美元的虧損一併計入後，那些「節省」就蒸發了。

會在 2026 年勝出的企業，是那些衡量「避免掉多少營運損失」而不是「省下多少工時」的企業。是那些部署了這種 AI 的企業：能在一夜之間模擬一萬種供應鏈中斷情境，建構出人類團隊十年也做不出來的危機復原劇本。是那些 AI 系統能向監管機關證明自己推理過程、而不只是產出一段讀來令人信服的文字的企業。

那人類怎麼辦？

人們總是會反駁這種說法：「如果 AI 變得這麼厲害，那人怎麼辦？」

我認為答案和多數人預期的正好相反。那些部署了深度、架構紮實的 AI 的組織，需要的並不是更少的人——他們需要的是不一樣的人。傳統的顧問業金字塔——底部有大量初階分析師負責資料綜整與簡報製作——正在崩塌。AI 做那些工作更快也更好。但對資深判斷力、策略思考、倫理監督與真正的人類同理心的需求，不只沒有消失——反而還在加劇。

正在浮現的，是業界所稱的「方尖碑（Obelisk）」模式：更精簡、專家密度更高的團隊，其中職涯初期的專業人士是「AI 促進者」（AI facilitators），負責設計與管理 AI 工作流程；職涯中期的專業人士是「專案架構師」（engagement architects），負責定義哪些問題值得解決；而資深領導者則專注於建立信任、駕馭模糊性這類深具人性的工作。

麥肯錫的內部 AI 助理「Lilli」有 72% 的員工在使用，並把研究時間縮短了 30%。BCG 的「Deckster」則把簡報製作自動化。但這兩家公司都沒有縮編。它們正在重組——用精準取代數量，用交付的成果取代計費的工時。

Klarna 的錯誤不在於使用 AI，而在於把 AI 當成人類的替代品，而不是人類能力的放大器。這個區別聽起來很細微。其實不然。它就是 1,000 萬美元的節省與 9,900 萬美元虧損之間的差別。

信任的架構

我想用一件事作結——自從 Priya 在那個深夜發現那則幽靈引用之後，這件事就一直在我心裡。

我們正身處一個這樣的時刻：AI 系統可以產出與人類專家作品難以區分的輸出——但它們同時又徹底地、且充滿自信地錯了。這不是一個會被 GPT-6 或 GPT-7 解決的暫時性限制。它是機率性語言模型運作方式的內在性質。它們最佳化的是「看似合理」，而不是「真實」。而在真實至關重要的領域裡——在那裡，一個錯誤答案意味著一次法遵違規、一次誤診、一則被捏造的法律判例——「看似合理」是世界上最危險的東西。

解法不是放棄 AI。解法是打造這樣的 AI 系統：真實是由架構強制保證的，而不是靠機率去期待的。在那裡，每一項主張都能追溯回一個經過驗證的來源。在那裡，系統根本無法生成違反其所處領域規則的輸出。在那裡，稽核軌跡不是一項功能——而是地基。

這就是我們在 Veriprajna 所打造的東西。不是因為確定性 AI 比較容易——它難得多。也不是因為它展示起來比較好看——包裝層展示起來漂亮極了。而是因為在那些承擔不起「猜測」的產業裡，唯一可持續的架構，就是讓猜測變得不可能的那一種。

Klarna 學到這一課的代價是 700 個工作機會、CSAT 下滑 22%，以及 9,900 萬美元的單季虧損。對每一位正在讀這篇文章的企業領導者來說，問題很簡單：你想從他們的故事裡學到這一課，還是從你自己的故事裡？

企業 AI 的未來，不在於讓語言模型變得更聰明。而在於讓它們可課責——在架構上、可證明地、不可變更地可課責。

包裝層的時代結束了。接下來的東西會更難打造、出貨更慢，但多花的每一個工程月都值得。因為說到底，唯一值得部署的 AI 系統，是那種你願意拿整家公司去賭的系統。而你永遠不該把公司押在一個無法展示其推導過程的系統上。