我们在 AI 上砸了 350 亿美元，却几乎一无所获
那通电话是在一个周二的傍晚打来的。一家我们一直在为其提供咨询的中型医疗企业，刚刚砍掉了他们的旗舰 AI 项目。九个月的工作。六位数的投入。那位 CTO 的声音里是疲惫，而不是愤怒。“在演示里它运行得完美无缺，”他对我说，“每一次都是。然后我们把它接上真实的患者数据，它开始凭空捏造保险编码。”
我不知道该说什么，因为光是那一个季度，我就听过十几个版本的同类故事。在会议室里光彩夺目、到了生产环境却分崩离析的 AI。第一个月让人兴奋、第六个月引来预算审查的试点。生成式 AI 所承诺的，与它真正交付的——在一家真实企业内部——之间的差距，正是当下技术领域最具决定性的张力。
而现在，我们有数据可以证明这一点。MIT 的 NANDA 计划在 2025 年年中发布了一份研究，落地时像一颗手榴弹：在企业投入生成式 AI 的估计 300 亿到 400 亿美元中，大约95% 的试点未能在损益表上带来任何可衡量的影响。麦肯锡 2025 年自己的调查也印证了这一点——88% 的组织表示他们在某处使用了 AI，但只有 39% 能指出任何 EBIT 层面的影响。
我经营着 Veriprajna，我们为企业构建深度 AI 系统。在这件事上我不是中立的观察者。但我离那些残骸——以及那些罕见的成功——足够近，因此对真正出问题的地方有清晰的认识。而问题并不是大多数人以为的那个。
演示看起来很棒。然后现实登场了。
那位医疗行业 CTO 的经历并不罕见。它几乎就是中位数结果。
MIT 的数据勾勒出一个残酷的漏斗：80% 的组织在探索生成式 AI 工具。只有 20% 走到了试点阶段。而真正进入生产环境并取得可衡量业务成果的，只有 5%。研究者称之为“学习鸿沟”，这是一种委婉的说法，其实是在说：大多数公司并不理解自己买了什么。
我记得读完 MIT 那份完整报告后，我坐在办公室里和联合创始人争论 95% 这个数字是不是太夸张了。它并不夸张。如果说有什么问题，那就是它低估了问题的严重性，因为那“成功”的 5% 里，有不少是把成功的标准往下调了——他们衡量的是采用率或用户满意度，而不是真正的营收影响。
我不断看到的模式是这样的：一个团队用某个主流 LLM 做出一个概念验证。它把那十个样例查询处理得漂漂亮亮。管理层很兴奋。预算获批。然后系统撞上真实世界——脏乱的数据、边缘案例、含糊的输入、以及“差不多就行”等于一场官司的监管要求——它就崩了。
演示级 AI 与生产级 AI 之间的距离不是一道缝隙。那是一道峡谷，而大多数公司直到已经纵身一跃，才发现自己站错了边。
在 MIT 的研究中，60% 的用户反映模型无法随时间从反馈中学习。55% 的人表示，他们要为每一条提示词投入过多精力去提供上下文。40% 的人说，模型一遇到非标准输入就直接“垮掉”。这些并不是什么罕见的失败模式。这些是家常便饭。
为什么企业要在流沙上盖楼？
眼下企业市场里被称为“AI 产品”的东西，大多是套壳——一层薄薄的用户界面，底下是对 GPT-4、Claude 或 Gemini 的一次 API 调用。你输入点什么，它送到模型，模型给出回应，套壳再把它排版得漂亮一些。
有一次路演会议给我留下了极为直观的记忆：一位潜在客户向我展示他们的“AI 驱动合规引擎”。我问，如果底层模型在供应商更新之后行为发生了变化，会怎么样？全场安静了。他们没考虑过。他们的整个产品就是一个提示词模板加一个好看的仪表盘。他们兜售的那份“智能”，完全是租来的。
这就是套壳谬误，而它无处不在。这种做法通常依赖业内所谓的“超级提示词”——你把规则、数据、上下文和指令一股脑塞进一次庞大的交互里，然后指望模型自己理清楚。我在我们研究的交互式版本中更深入地写过这个架构问题，但简短的版本是：超级提示词会制造三个致命问题：
你无法审计它们。没有办法验证模型是否按正确的顺序执行了指令。对于合规负担沉重的行业，这一点直接就是死路。
它们在经济上不堪一击。长上下文窗口和反复重试会烧掉大量 token。这里有个数字，我第一次看到时相当震惊：高效与低效的分词器之间的差别，可能意味着高达450% 的成本差异——而且是在完全相同的工作负载下。一家每天处理 10 万条客户咨询的企业，仅仅因为为多语言场景选错了模型，年度成本就可能从 36,500 美元飙升到超过 164,000 美元。
它们很脆弱。在提示词里改动三个词，你得到的就是一个完全不同的输出。试试在这个基础上去签一份 SLA。
经济上的陷阱比技术上的更糟。当 OpenAI 或 Anthropic 下调 API 价格时——而他们会继续下调——套壳公司的利润率就会蒸发。他们不拥有数据。他们不拥有工作流。他们只是在加价转售别人的智能；而一旦房东给所有人降租，二房东就没生意可做了。
“深度 AI”到底意味着什么？
我来讲讲这个概念在我脑中“咔哒”一声接通的那一刻。
当时我们在为一家物流客户做文档处理系统。最初的思路很直接：把运输单据发给一个 LLM，让它抽取相关字段，返回结果。在标准表单上它没问题。然后我们遇到了一份来自东南亚某港口的集装箱舱单：多语言混杂的批注、手写的更正，还有一种在训练数据里找不到对应的格式。模型自信满满地返回了一堆垃圾。
我的首席工程师在折腾了一周提示词工程、却不断制造出新的失败模式之后，终于说了一句：“我们在要求一个大脑干七份工作。如果我们把每份工作交给一位专家呢？”
这就是一句话版的深度 AI。与其把 LLM 当作一个包办一切的神谕，不如把它当作更大系统里的一个组件。你把问题拆解开。一个智能体负责理解查询。另一个从结构化数据库中检索数据。第三个依据已知规则校验输出。第四个负责格式化响应。每个智能体都有明确界定的职责，而它们之间的工作流是确定性的——也就是说，顺序、逻辑和检查点都由你控制。
深度 AI 把语言模型当作一位天赋出众的实习生，而不是 CEO。你在受治理的结构中交给它具体任务，而不是把整栋楼的钥匙给它。
让这一切成立的智能体设计模式并非纸上谈兵。它们正在被部署：
一种是反思模式，智能体在把输出发给用户之前先批判自己的产出。一种是工具调用模式，智能体去调用外部计算器、API 或数据库，而不是试图凭记忆算出答案。一种是规划模式，把复杂目标拆解成一连串步骤。还有一种是编排模式，由一个主管智能体管理整个工作流，把任务路由给合适的专职智能体。
当我们用多智能体编排重建那套物流系统后，非标准文档的抽取准确率从大约 60% 提升到 95% 以上。更重要的是，当它确实出错时，我们能准确看到问题出在哪里、为什么出错——因为系统不再是个黑箱。它是一条由可观测、可审计的步骤构成的流水线。
为什么 token 成本会杀死企业 AI 的 ROI？
这是没有得到足够重视的部分。
所有人都在谈模型准确率。几乎没有人谈这些系统在规模化运行时的单位经济性。但我亲眼看着 token 成本悄无声息地扼杀了一个个原本运转得相当不错的 AI 项目的商业逻辑。
这个账很直白，但很残酷。不同模型对文本的分词方式不同——尤其是非英语文本和复杂的文字系统。同一条查询，在一个模型上可能消耗 800 个 token，在另一个模型上就要 4,500 个。再乘以每天几十万次交互，你面对的成本差额会把 AI 本该带来的效率收益抹得一干二净。
我们为一家用泰米尔语和英语运营的客户做分词分析时，我真的警觉了一下。他们当前模型与一个更高效的替代方案之间的成本差距是 4.5 倍。他们在每一次交互上都在失血，却把这笔钱记在预算里的“基础设施成本”上。没人想到去看一眼分词器。
深度 AI 系统的应对方式，是对“何时动用昂贵的 LLM token”做外科手术式的取舍。高频、低复杂度的任务交给更小的模型或确定性逻辑处理。昂贵的推理能力被留给真正需要它的环节。这就好比：与其请一位资深顾问去接每一个电话，不如让他专注在真正需要判断力的决策上。
没人遵守的 10-20-70 法则
当我和高管们聊他们的 AI 项目为什么停摆时，他们几乎总是把矛头指向技术。模型不够好。数据不干净。集成太复杂。
这些说法都没错。但他们漏掉了真正的比例。那些真正看到 EBIT 影响的公司——麦肯锡说，只有 6% 的公司从 AI 获得的收益超过总 EBIT 的 5%——遵循的是一种会让大多数技术人惊讶的资源分配：
10% 的投入用于选择和调优算法。20%用于搭建数据与技术基础设施。70%用于管理人员、流程和文化转型。
七成。不是花在技术上。而是花在让人改变工作方式上。
我抗拒这个想法的时间比我该抗拒的更久。我骨子里是个工程师。我愿意相信，只要我们做出更好的系统，采用自然会跟上。是一个痛苦的项目让我真正把“技术才是最容易的那部分”吃进心里——我们交付了一套技术上非常出色的方案，它却闲置了三个月，因为没有人围绕它重新设计工作流。
遵循 10-20-70 原则的中型企业，在 24 个月内把 EBITDA 提高了 160 到 280 个基点。而那些把 70% 花在技术上、只把 10% 花在变革管理上的公司，得到的是昂贵的闲置软件。
这些胜利并不光鲜。收入周期管理。现金核销自动化。云成本优化。没人会在 LinkedIn 上激情澎湃地发帖，讲自己怎么削减了“已出院但未最终结算”的理赔积压。但 Inova Health System 把这类积压削减了 50%，每年节省 130 万美元。OSF HealthCare 的 AI 虚拟助手节省了 120 万美元，同时还增加了另外 120 万美元的收入。UPS 通过基于 AI 的路径规划每年节省 4 亿美元。
这些不是试点结果。这些是规模化运行的生产系统，是用套壳碰不到的那种深度集成建起来的。
当 AI 智能体开始自主行动，会发生什么？
AI 从回答问题转向采取行动，这一转变彻底改变了整个安全考量。
我一直在琢磨这件事，部分原因是我们在测试中经历过一次险些出事的情况。我们当时在构建一个智能体系统，它需要访问客户的 ERP 来拉取库存数据。在一次测试运行中，那个智能体——沿着一条技术上合乎逻辑、但在语境上完全错误的推理链——试图去修改一张采购订单，而不只是读取它。我们设有防护措施。它没有得逞。但事后我坐在工位上，一直在想：如果我们当初没那么小心，会发生什么。
这正是像模型上下文协议（MCP）和 NANDA 框架这样的标准如此重要的原因。MCP 由 Anthropic 开发，充当 AI 智能体与企业数据源之间的标准化集成层。人们把它称作“AI 的 USB-C”，这个比喻很贴切：它意味着你不必为每一个连接都做定制、脆弱的集成。NANDA 提供的则是治理层——可通过密码学验证的能力证明（也就是说，你可以证明一个智能体被允许做什么、不被允许做什么）、延伸到自主智能体的零信任访问控制，以及集中化的审计追踪。
想了解这些架构模式的完整技术拆解，以及它们如何组合在一起，请参阅我们的研究论文。
重点不是说智能体 AI 很危险、我们应该慢下来。重点是：套壳做法——你对模型在做什么、为什么这么做几乎没有可见度——在模型能够采取现实世界行动的那一刻，就变得真正意义上的鲁莽了。具备可观测、受治理工作流的深度 AI 系统，不只是更好的工程实践。它们是在企业中部署自主智能体的唯一负责任的方式。
“直接用 GPT 就行”以及其他昂贵的建议
总有人问我，是不是应该干脆等模型变得更好。“GPT-5 会解决这个问题，”我在一次晚宴上听一位投资人说，“既然下一代模型原生就能搞定，为什么还要建这么多基础设施？”
我理解这个论点的吸引力。它很干净。它不需要任何辛苦的工作。而它是错的。
更好的模型解决不了套壳问题。它们只会让问题更糟。在超级提示词架构里放一个更强大的模型，就像给一辆没有方向盘的车装上 F1 引擎。你只会在错误的方向上跑得更快。真正杀死企业 AI 的那些问题——缺乏可审计性、脆弱的提示词、没有反馈闭环、缺失业务上下文、失控的成本——都是架构问题，不是能力问题。
影子 AI 经济就是明证。超过 90% 的员工已经在偷偷用个人的 ChatGPT 或 Claude 账号处理工作，因为公司官方的 AI 工具太僵硬了。模型的能力已经足够。围绕模型搭建的系统还不够。
更好的模型救不了糟糕的架构。它们只会幻觉得更快、更自信。
我还常被问到时间线的问题。“这到底要花多久？”诚实的回答是：从零散的实验走到能撬动损益表的 AI，需要 12 到 18 个月。头三个月是探索——找出 AI 能在哪里创造价值，同时又不制造监管风险。第三到第六个月是数据就绪，58% 的 CXO 说他们正是卡在这一步。第六到第十二个月是构建并迭代多智能体原型——我说的是针对真实世界数据的 30 多轮迭代，而不是三个打磨精致的演示。最后一个阶段是带完整运维支撑的生产部署：漂移检测、偏见监控、成本治理。
这不快。这也不容易。但真正做到的公司，就是出现在麦肯锡那 6% 里、拥有真实 EBIT 影响的那些。
这道鸿沟是一种选择
MIT 指出的那道“生成式 AI 鸿沟”并不是技术鸿沟。它是决策鸿沟。
一边是：把生成式 AI 当成一件可以买来的产品、一个可以部署的套壳、一个可以拿给董事会看的演示的公司。他们就是那 95%。他们花了真金白银，换回了新闻稿。
另一边是：把 AI 当成一项架构挑战的公司——这项挑战要求拆解问题、治理工作流、重新设计流程，并去做那些不体面的苦活：把模型接进企业数据那一团乱麻的现实。他们是那 5%。他们花了差不多的钱，换回了 EBIT 影响。
我有时会想起那位医疗行业的 CTO。就是那个周二给我打电话、筋疲力尽、刚刚砍掉了自己 AI 项目的人。四个月后他又打来了。他的团队用多智能体的方式重建了那套系统——数据抽取、编码校验和合规检查各由独立的智能体负责，它们之间以确定性的方式交接。它不如最初的演示优雅。它建起来更慢。它要求在工作流设计和失败模式上做更多前期思考。
它奏效了。不是完美——没有什么是完美的——但可靠到足以部署、审计和改进。可靠到足以出现在一份损益表上。
把 AI 当成魔术表演的时代结束了。接下来的路更难、更慢、也更不上镜。它也是唯一真正有用的路。
