Klarna 用 AI 取代了 700 名员工，然后又把他们全招了回来。每家企业都该从中学到什么。
我正在和一位潜在的银行客户通电话时，Klarna 的消息传开了。那是 2025 年年中。我的手机震动起来——一位同事转发来一篇文章，只附了一句话：“这简直就是你一直在讲的事。”
那位客户话说到一半，正在解释他们如何在 GPT-4 之上搭建了一个客服聊天机器人，以及它“运行得非常好”。我问他 CSAT 分数是什么情况。长时间的沉默。“我们还没开始追踪那个。”
那个停顿说明了一切。因为 Klarna 确实追踪了这些数据。而他们发现的结果，糟糕到足以让他们推翻金融科技史上宣传最广的 AI 部署之一。
简短版本是这样的：Klarna，这家估值 146 亿美元的瑞典先买后付巨头，用一个基于 OpenAI 构建的 AI 助手取代了大约 700 名客服人员。他们像绕场庆功一样宣布了这件事——这个 AI 处理了全部客户对话的 75%，覆盖 35 种语言。每笔交易的成本下降了 40%。华尔街非常喜欢。然后客户满意度分数下跌了 22%。公司在 2025 年第一季度录得 9900 万美元的净亏损。CEO Sebastian Siemiatkowski 公开承认，对效率的追求掏空了服务质量，产出的内容被他称为“泛泛而谈”，无法处理任何需要真正判断力的事情。
他们开始重新招人。他们甚至把软件工程师和市场人员调去接电话。
我在 Veriprajna 构建神经符号 AI 系统已经有些年头了，我看着一家又一家公司走进同一个陷阱。并不是因为技术不好——大语言模型确实了不起。而是因为存在一种根本性的混淆：听起来正确与真的正确，而在受监管的行业里，这种混淆最终会让你付出一切代价。
我意识到“足够好”其实并不够的那一夜
在进入架构之前，我想先讲一个改变了我对这个问题看法的时刻。
我们当时在为一个法律合规系统做试点——不是客服，而是文档分析。那种需要解析监管备案文件、把内部政策与外部强制要求做匹配的工作。我们做了一个原型，用的是标准的检索增强生成方案。向量检索、top-k 召回、由 GPT 生成摘要。它很快。输出读起来漂亮极了。
我们的一位工程师——Priya——留到很晚跑边缘案例。大约晚上 11 点，她在我们的 Slack 频道里发了一张截图。系统生成了一段行文完美流畅的话，引用了某条具体的监管条款。那条条款并不存在。不是引用有误，也不是转述——是彻头彻尾的编造。而且它读起来太有说服力了，如果你不是那条具体法规的专家，你根本发现不了。
我记得我坐在桌前盯着那张截图，心里想：这就是我们马上要交付的产品。一个以律所资深合伙人般的自信撒谎的系统。
我们叫停了那个试点。从零重建了架构。损失了三个月。那是我们做过的最好的决定。
当一个 AI 系统以完美的自信编造出一条法律引证时，问题不是 bug——问题是架构。你没法靠提示词工程摆脱一个从根本上就是概率性的地基。
什么是“包装器陷阱”，为什么它总能套住聪明的公司？
让我用技术语言解释一下 Klarna 究竟发生了什么，因为商业媒体大多理解错了。他们把这件事框定为“AI 还没准备好”。问题不在这里。问题在于是哪一种 AI以及它是如何被部署的。
所谓“包装器”（wrapper），是坐在第三方大语言模型之上的一层薄薄的软件层。它负责格式化、管理 API 调用，也许再加一点结构化输出解析。但真正的思考——推理、判断、决策——完全外包给了 LLM。你的包装器发送一个提示词，模型预测出最可能的下一批 token，你拿回一段听起来像答案的东西。
这在演示里效果绝佳。对低风险任务来说也够用。而它会灾难性地失败——只要那件事需要的是确定性。
驱动这些模型的 Transformer 架构，使用自注意力机制来衡量序列中各个 token 的相关性，并预测接下来会出现什么。那是模式匹配——极其精妙的模式匹配，但终究还是模式匹配。它内部没有任何机制可以对照外部的真相来源去核实事实。模型并不知道任何事。它预测的是一个懂行的回答看起来是什么样。
Klarna 的 AI 可以完美无误地重置密码。但当一位客户遇到复杂纠纷，涉及部分退款、与商家的分歧，以及跨两个司法辖区的消费者保护法规时呢？模型退回到了我称之为“空转灌水”（slop-spinning）的模式——生成听起来合理却在原地打转的回复，什么也解决不了，把客户逼进一位分析师所形容的“卡夫卡式循环”。
而下面这一点，应该让每一位企业领导者不寒而栗：成本指标看起来很棒——在体验持续恶化的整段时间里，一直如此。每笔交易的成本从 $0.32 降到了 $0.19。聊天解决时长从 11 分钟降到 2 分钟以内。如果你只盯着仪表盘看，你会以为自己正在赢——直到你的客户开始离开的那一刻为止。
为什么不能直接给 LLM 加上更好的护栏？
这是我被问得最多的问题，而它恰恰暴露了核心的误解。人们以为解决方案是更好的提示词、更多的少样本示例、更严格的系统指令。“只要告诉模型不要产生幻觉就行了。”
这就好比告诉一个天气预报模型不要出错。概率性并不是一个可以打补丁修掉的缺陷——它就是这套系统运作的根本机制。
曾经有一位投资人直截了当地对我说：“直接用 GPT，然后在上面加一些规则就好了。”我问他，他会不会信任一台只有 95% 的时候算对的计算器。他笑了。我说：“这就是你为银行合规提出的方案。”他不笑了。
技术上的失效模式比幻觉更深。包装器缺少我称之为状态模式持久性（state-schema persistence）的东西。随着对话推进，上下文窗口被填满。对话早期的信息被压缩或丢弃。模型可以在同一次会话中自相矛盾，而且完全意识不到自己这么做了。在客服场景里，这意味着这个 AI 客服可能在第 3 轮验证了你的身份，然后在第 15 轮又要求你再验证一次——或者更糟，因为对话流程“说服”了它验证早已完成，于是它干脆完全跳过验证。
这就是我称之为“无限自由谬误”的脆弱点。因为 LLM 对自己能说什么、能做什么没有任何硬性的结构约束，一个足够聪明的用户——或者一个足够复杂的情境——就能把它推入违反业务规则、监管要求或基本逻辑的状态。这个问题靠提示词是解决不了的。你需要一种完全不同的架构。
我在我们研究的互动版中深入探讨过这个问题，但核心洞见很简单：你需要把声音和大脑分开。
毁掉一切的那 20%
在我们服务的每一个行业里，我都看到过一个模式，我认为它解释了为什么这么多 AI 部署都走上了 Klarna 的轨迹。
2025 年的 AI 可以胜任地处理大约 80% 的常规、高频交互。密码重置、订单状态查询、基础 FAQ 回复——这些都是已解决的问题。剩下的那 20% 交互，才是真正要紧的。它们是复杂的纠纷、边缘案例，是客户感到沮丧、困惑或害怕的时刻。而它们正是品牌声誉与财务责任的主要驱动因素。
Klarna 为那 80% 做了优化，却忽略了那 20%。这笔账看起来很明显：把简单的事自动化，省下几百万。但那 20% 才是信任被建立或被摧毁的地方。一位密码重置顺利完成的客户不会告诉任何人。而一位花了 45 分钟困在 AI 循环里、试图解决账单错误的客户，会告诉每一个人。
AI 处理得好的那 80% 交互，对你的品牌是隐形的。它处理得糟糕的那 20%，才是唯一有人记得住的。
讽刺的是，Klarna 最初因裁员省下的 1000 万美元，几乎肯定被他们通过糟糕体验摧毁的客户终身价值远远盖过。当你是一家准备 IPO 的 146 亿美元公司时，客户满意度下跌 22% 就不是一个指标问题——而是一个生存问题。
“确定性 AI”到底意味着什么？
那么，如果包装器是问题所在，解决方案是什么？接下来我需要稍微技术一点，但我保证会讲得实在。
在 Veriprajna，我们构建的是所谓的神经符号 AI。这个名字听起来很学术，但概念很直观：你把神经网络的语言流畅度，约束在符号推理引擎的刚性逻辑之内。神经网络负责“软”的部分——理解自然语言、生成人类可读的回复、解读含糊的查询。符号引擎负责“硬”的部分——执行规则、校验逻辑、确保每一条输出都可以追溯到一个经过验证的来源。
我们把这叫做神经符号三明治。在查询抵达 LLM 之前，一个意图校验层会对照政策约束检查它，并筛查对抗性输入。在 LLM 生成回复之后，一个校验引擎——通常是有限状态机或逻辑求解器——会对照知识图谱核查每一条陈述，对照业务规则核查每一个动作。如果回复违反了任何一条约束，它就过不去。没有例外。
我们用到一种叫做受约束解码（constrained decoding，也叫 token 掩码）的技术，我觉得它特别优雅。我们不是让模型自由生成、然后再检查输出，而是从物理上阻止某些 token 被生成出来。如果模型正在产出一份税务合规报告，符号层会确保每一个数字都对应一次经过验证的计算。模型是真的不可能幻觉出一个数字，因为在生成发生之前，那些幻觉 token 已经被从概率分布中掩掉了。
这不是“加护栏”。这是一种根本不同的架构：LLM 是声音，符号引擎是大脑，而声音在没有大脑批准之前，永远不被允许开口。
那次，知识图谱让我们免于一个 200 万美元的错误
标准 RAG——检索增强生成——有一个大多数人不谈的问题。它依赖向量相似度来找到相关文档。但向量相似度不理解方向性。“A 公司起诉了 B 公司”和“B 公司起诉了 A 公司”的向量嵌入可能几乎完全相同，但它们描述的是完全相反的法律情形。
我们是在一次法律试点中吃了苦头才发现这一点的。我们的系统当时在为一家企业客户分析诉讼历史，而标准的 RAG 方案不断把原告和被告的角色搞混。输出流畅、结构工整，却错得危险。
就是在那时，我们转向了我们称之为“引证强制型 GraphRAG”的做法。我们不再把文档倒进向量库，而是把它们解析成一张知识图谱——由带类型、带方向的关系连接起来的实体。当系统作出一条陈述时，它必须把这条陈述追溯回图谱中具体的节点和边。如果图谱支撑不了这条陈述，系统就不会说出来。
准确率的提升非常显著——在复杂的多跳推理任务上比标准 RAG 高出 30-35%。但更重要的是，它带给我们一样再多提示词工程也换不来的东西：审计轨迹。每一条输出都可以沿着确切的推理路径回溯，从实体到实体，从关系到关系。合规官可以看到系统为什么会得出某个结论，而不只是得出了什么结论。
关于这套架构在不同领域——银行、法律、制造业——如何运作的完整技术拆解，请参阅我们的技术深度解析。
那场差点让我的团队分裂的争论
有件事我想坦白。用这种方式构建更难。是难得多。而且大概在十八个月前，我的团队曾就我们是不是过度设计，发生过一场真正的争论。
我们在一间会议室里——白板上画满了架构图——我们的一位资深工程师提出，我们应该为一家制造业客户先发一个基于包装器的 MVP。“先把收入拿进门，验证概念，架构以后再加固。”这是个合理的论点。客户很急切。时间表很紧。而我们赛道上的每一个竞争对手都在发包装器产品、拿下订单。
我记得他说完之后的那阵沉默。然后 Priya——就是那位抓到幽灵引证的工程师——调出了一张她一直压着没拿出来的幻灯片。上面是上一个季度的三个真实案例：基于包装器的 AI 系统生成的输出，如果被照着执行，就会违反监管要求。不是假设性的违规。是真实的违规，只因为恰好有人类在环里才被拦住。
我拍板决定坚持原来的路线。我们把那笔单子输给了一个交付更快的竞争对手。六个月后，那个竞争对手的系统产生了一次合规违规，让他们的客户付出了七位数的整改代价。那位客户后来找到了我们。
没有正确性的速度不是竞争优势。那是一笔埋了延时引信的负债。
我讲这个故事不是为了显得自己有先见之明。我讲它，是因为“先发布、再迭代”的压力是巨大的，而在大多数软件场景里，这确实是对的直觉。但在受监管的行业里——银行、医疗、法律、制造——“以后再迭代”意味着“违规之后再修”。而这些领域的违规，是不给宽限期的。
为什么 2026 年是账单到期的一年
先看宏观图景。麦肯锡发现，虽然 88% 的组织都在使用 AI，但只有 39% 能指出在企业层面产生了正面的盈利影响。这个落差很快就会变得难以为继。
AI 采用的“投入与学习”阶段已经结束了。CFO 们不再问“我们用上 AI 了吗？”他们在问“对 EBIT 的影响是多少？”而对多数组织来说，诚实的答案是：“我们在行政事务上省下了一些时间。”
这不够。在邮件和幻灯片上省时间属于“生产力 AI”——有用，但只是增量。企业真正需要的是“运营 AI”——那种在实体经济中消除硬成本摩擦的系统。防止缺货。在合规违规发生之前就抓住它。通过提供准确的虚拟试穿，来降低每年 8900 亿美元的零售退货成本——而不是生成看起来很美、却根本反映不出面料在人体上如何垂坠的 AI 幻想图。
Klarna 的故事在这里很有教育意义，因为他们的指标看起来像是 ROI。每笔交易成本下降 40%！但他们衡量的是错误的东西。他们衡量了省下的时间和裁掉的人头。他们没有衡量被侵蚀的信任和流失的客户。当你把重新招聘的成本、品牌损害，以及第一季度 9900 万美元的亏损算进去，那些“节省”就蒸发了。
将在 2026 年胜出的企业，衡量的是被避免的运营损失，而不是省下的工时。它们部署的 AI 能在一夜之间模拟 10,000 种供应链中断情景，并构建出人类团队十年也做不出来的危机恢复剧本。它们的 AI 系统能向监管者证明自己的推理过程，而不只是产出一段有说服力的文字。
那么人怎么办？
人们总会对这个说法提出反驳。“如果 AI 变得这么好，人怎么办？”
我认为答案和大多数人预期的正相反。那些部署了深度、架构扎实的 AI 的组织，需要的不是更少的人——它们需要的是不同的人。传统的咨询金字塔——底部是大量做数据整合和演示文稿制作的初级分析师——正在坍塌。AI 把那些活干得更快也更好。但对资深判断力、战略思考、伦理监督和真正的人类共情的需求，不仅没有消失——反而在增强。
正在浮现的是业界称之为“方尖碑”（Obelisk）模型的东西：更精简、专家密度更高的团队——职业早期的专业人士是设计和管理 AI 工作流的“AI 引导者”（AI facilitators），职业中期的专业人士是定义哪些问题值得解决的“项目架构师”，而资深领导者则专注于建立信任、驾驭模糊性这类深度人性化的工作。
麦肯锡的内部 AI 助手“Lilli”被其 72% 的员工使用，并把研究时间缩短了 30%。BCG 的“Deckster”自动化了演示文稿制作。但这两家公司都没有在收缩。它们在重构——用精度取代数量，用交付的成果取代计费的工时。
Klarna 的错误不是使用 AI。而是把 AI 当作人类的替代品，而不是人类能力的放大器。这个区别听起来很微妙。其实不是。它就是省下 1000 万美元和亏掉 9900 万美元之间的差别。
信任的架构
有一件事，从 Priya 发现那条幽灵引证的那个深夜起，就一直萦绕在我心头。我想用它来收尾。
我们正处在这样一个时刻：AI 系统能产出与专家人类的工作难以区分的输出——却又可能完全地、自信地错着。这不是一个会被 GPT-6 或 GPT-7 解决的临时限制。这是概率性语言模型运作方式的固有属性。它们优化的是合理性，不是真相。而在真相至关重要的领域里——在一个错误答案意味着一次合规违规、一次误诊、一条捏造的法律判例的地方——合理性是世界上最危险的东西。
解决方案不是放弃 AI。解决方案是构建这样的 AI 系统：其中真相是由架构强制保证的，而不是靠概率去指望的。其中每一条陈述都能追溯回一个经过验证的来源。其中系统根本无法生成违反其所处领域规则的输出。其中审计轨迹不是一项功能——而是地基。
这就是我们在 Veriprajna 构建的东西。不是因为确定性 AI 更容易——它要难得多。也不是因为它演示效果更好——包装器的演示漂亮极了。而是因为在那些不容猜测的行业里，唯一可持续的架构，是让猜测变得不可能的架构。
Klarna 学到这一课的代价是 700 个工作岗位、CSAT 下跌 22%，以及一个季度 9900 万美元的亏损。对每一位读到这里的企业领导者来说，问题很简单：你是想从他们的故事里学到这一课，还是从你自己的故事里？
企业 AI 的未来不在于让语言模型更聪明。而在于让它们可被追责——在架构上、可证明地、不可动摇地可被追责。
包装器的时代结束了。接下来的东西会更难构建、发布更慢，也值得多花的每一个月工程时间。因为归根结底，唯一值得部署的 AI 系统，是你敢用整家公司去赌的那一个。而你永远不该把公司押在一个无法展示其推理过程的系统上。