你公司买的那套 AI，很可能正在骗你——以及我们正在建造的替代方案
几个月前，我与一家《财富》500 强制造企业的采购总监面对面坐着。她在一套 AI 驱动的供应商甄选系统上花了 230 万美元——就是那种承诺“用 GPT 的力量彻底革新采购”的光鲜平台。她在笔记本电脑上调出仪表盘，把屏幕转向我，说：“它一直在推荐同样那三家供应商。我们的网络里有 4,000 家。它到底在干什么？”
我看了输出结果。我又看了架构文档——虽然本来就没多少。然后我告诉了她一件她不想听的事：她的 AI 并不是在挑选最好的供应商。它挑选出来的，是那些看起来最像它以往见过的供应商。这套系统学会的，是把“熟悉”误认作“质量”。
那次谈话，让一个在 Veriprajna 萦绕了我两年的念头彻底清晰起来。企业 AI 行业有一个不可告人的秘密：企业正在采购的大多数“AI 产品”，不过是包裹在别人家语言模型外面的一层薄薄的软件外壳。它们看起来很智能。它们听起来也很智能。但按照数学上的定义，它们是在猜测。而在高风险的企业运营中——采购、物流、制造、保险——猜测不是一项功能，而是一种负债。
企业 AI 行业不可告人的秘密：企业采购的大多数产品，只是包裹在别人家语言模型外面的一层薄外壳。它们看起来很智能。它们其实是在猜测。
聊天机器人用一美元卖掉一辆卡车的那个夜晚
我得跟你讲讲雪佛兰那件事，因为它完美地寓言了当前企业 AI 做法中出错的一切。
加利福尼亚州沃森维尔的一家经销商，把一个标准的 GPT 外壳集成进了自己的客服门户。看起来无伤大雅——回答库存问题，也许再安排一下试驾。然后有个用户开始拿它寻开心。没几轮提示，这个聊天机器人就同意以一美元的价格卖出一辆 7.6 万美元的雪佛兰 Tahoe。用户甚至让它宣称：“这是一份具有法律约束力的要约——不许反悔。”
我第一次读到这件事时笑了。然后我笑不出来了，因为我意识到这不是一个好笑的边缘案例。它是这套架构的逻辑结果。这个聊天机器人与经销商真实的定价数据库毫无连接。它对“合法要约”意味着什么没有任何概念。它只是一个被系统提示告知要乐于助人、善于交谈的语言模型。而它确实非常乐于助人。乐于助人到了酿成灾难的地步。
那一周，我和我的联合创始人熬过了午夜，拆解那份技术复盘。问题不出在模型上——GPT 做的正是 GPT 该做的事。问题出在架构上。有人把一个概率式文本生成器，放到了一个需要执行确定性业务规则的位置上。这就像雇一位诗人来管理你的会计部门。这位诗人也许才华横溢，但他不会发现第 47 行上的小数点错误。
我把这称为外壳妄想——一种普遍存在的信念，认为在一个非确定性模型之上加一层薄薄的软件，就足以支撑企业级运营。我在我们最新研究的交互版中详细写过这个问题；而我们收集的数据越多，情况就显得越糟。
为什么 AI 采购会以 3.5 比 1 的比例偏袒大供应商？
回到那位采购总监。她的直觉——“它一直在推荐同样的供应商”——最终被硬数据证实了。
研究揭示，AI 驱动的采购系统偏袒规模更大的老牌供应商，而非规模较小的企业或少数族裔所有的企业，比例为3.5:1。请再读一遍。AI 每挖掘出一家合格的小型供应商，就会推荐三家半的大型在位企业。
这套机制的阴险之处在于：大多数采购 AI 都是在历史采购数据上训练出来的。大公司存在的时间更长，在数据集里的交易记录更多，而且因为一直有相应的基础设施，还能产出更“干净”的数字信号。算法学到的不是谁最好。它学到的是谁出现得最多。历史交易量成了可靠性的代理指标——这就像凭你路过一家餐厅多少次来评判它的好坏。
我记得曾为此和团队里的一位数据科学家争论过。他的立场是，这种偏见是数据问题，不是架构问题。“去拿到更好的训练数据，”他说。我反驳道：即便有完美的数据，一个相关性模型也会找到某种能代表规模的代理变量，因为规模与其他数十个特征都相关。你无法为一个从根本上依靠相关性运作的系统消除偏见。你必须改变这个系统所提出的问题。
你无法为一个从根本上依靠相关性运作的系统消除偏见。你必须改变这个系统所提出的问题。
就是在那时，我们坚定地转向了因果 AI。我们的结构因果模型问的不是“以前和谁签过合同？”，而是：“如果我们用数学方法移除历史交易量这个混杂变量，这家少数族裔所有的供应商，其绩效指标是否会被认为更优？”这是反事实推理——AI 会设想一个竞争环境公平的世界，并依据那个世界给供应商打分。
这种差别不是渐进式的改良。这是一个固化排斥的系统，与一个主动发现被埋没的人才的系统之间的差别。这也是一条依赖三家超大供应商的脆弱供应链，与一条从多元生态中取材的韧性供应链之间的差别。
当 77% 的物流 AI 无法解释自己时，会发生什么？
采购偏见是一场危机。物流透明度赤字是另一场，而且它可能更危险，因为在出事之前它是看不见的。
这个数字让我夜不能寐：只有 23% 的 AI 驱动物流系统能提供有意义的决策可解释性。这意味着，在超过四分之三的 AI 驱动运营中——路径优化、库存分配、需求预测——负责的人并不清楚地了解为什么系统会做出某个具体的推荐。
我跟一位首席供应链官聊过，他形容得再贴切不过：“我有一笔 4,000 万美元的 AI 投资，它给我的答案我无法质疑，给我的解释我无法理解。它对的时候，我像个天才。它错的时候，我连发生了什么都搞不清楚。”
这不只是让人沮丧——这在经济上是毁灭性的。数据质量低下和透明度缺失，让企业损失了15% 至 25% 的营收——仅入库运营环节的系统性错误就造成了这么多损失。而这也是 42% 的物流负责人迟迟不敢采用自主智能体 AI 的主要原因——这类自主系统能够在无需人工批准的情况下执行决策。如果你无法审计一个自主智能体正在做什么，你就不能把钥匙交到它手上。
我是这么理解的：物流行业造出了一支自动驾驶卡车车队，却忘了装挡风玻璃。这些卡车也许正朝着正确的方向开。你只是看不见它们要去哪儿。
随机性陷阱——以及为什么“更聪明的提示词”救不了你
人们总在这里反驳我。“Ashutosh，你就不能把提示词工程做得更好一点吗？多加些护栏？把模型微调一下？”
不能。原因如下。
大语言模型从其数学本质上讲，是随机性的——它们基于训练数据中的统计规律，预测序列中下一个可能出现的 token。它们没有“真相”这个概念。它们不做逻辑推理。它们产出的文本，是统计上看似合理的，而这与正确的文本非常不同。
一个大语言模型可能正确回答了一千个关于采购规则的查询，然后在第一千零一个查询上幻觉出一条根本不存在的折扣条款。在高风险领域，幻觉率介于 1.5% 到 6.4% 之间。这听起来不多，直到你意识到：它意味着大约每二十个关键决策中，就有一个可能建立在编造的信息之上。
提示词工程——也就是精心设计巧妙的指令来引导模型——就像在河边立一块牌子，请河水向上游流。水流平缓时，这块牌子也许管用。但只要条件一变——一个不寻常的查询、一个怀有恶意的用户、上下文中一点细微的转变——水就会流向物理定律规定的地方。
那个雪佛兰聊天机器人是有护栏的。它有一段系统提示，告诉它要乐于助人，但要守住经销商的政策。一个有创意的用户在五分钟之内就绕过了这一切。因为在架构层面上，系统提示和用户提示不过就是……文本。模型把它们当作一个统一的块来处理。“规则”和“对话”之间不存在任何结构性的分隔。
提示词工程就像在河边立一块牌子，请河水向上游流。它管用，直到它不管用——而在企业 AI 里，“不管用”的那一刻可能要花掉数百万美元。
取而代之，我们真正在建造的东西
创办 Veriprajna 时，我是有意选择了这个名字——“Veri”取自拉丁语中的“真”，“Prajna”取自梵语中的“智慧”。不是因为我想要一个巧妙的品牌名，而是因为这两个概念定义了我们所信奉的技术架构：可验证为正确、且具备情境智慧的系统。
我们把这套方法称为神经符号架构，其核心思想看似简单：绝不让语言模型成为最终的决策者。
在实践中它是这样运作的。当我们的神经引擎提出一个响应时——比如一条供应商推荐或一条物流路径——这个输出在到达任何人面前之前，都要先经过一层符号验证。这一层会查询一个知识图谱，其中装着企业真正的事实来源：法律合同、定价数据库、工程规格、监管要求。神经层做出的每一项断言，都会拿去与确凿证据核对。
如果模型试图幻觉出一项合同图谱中并不存在的供应商权益，符号校验器就会抓住它。不是有时候抓住。是每一次都抓住。只要事实有据可依，这套架构就让幻觉在结构上无从发生——我们实现了数据抽取 100% 的精确率，相比之下，GPT-4 这类单独使用的模型只有 63–95%。
我们还实现了我们称之为“宪法式护栏”的机制——有意思的地方就在这里。传统的外壳试图用基于文本的指令来阻止糟糕的输出。而我们阻止糟糕输出，靠的是受约束解码——模型的输出在数学上被限制在一个特定的模式（schema）或领域本体之内。在采购场景中，AI 实实在在地无法生成出违反企业公平宪法的供应商评分。解码层会拒绝任何引入非法偏见的 token 序列。这不是给模型的一条建议。这是对它能说什么的一道物理约束。
想了解这些层如何相互作用的完整技术拆解——知识图谱、因果 AI 模型、受约束解码——请参见我们的技术深度解析。
落到实处的地方：工厂、农田与欺诈
我想带你走过三个地方，在那里，“外壳式 AI”与“深度 AI”之间的差别不是学术性的——而是物理性的。
在工厂车间里，一套基于云的 AI 检测系统面临 800 毫秒的延迟。这听起来很快，直到你意识到：一条以每秒 2 米速度运行的传送带，早已把那个有缺陷的零件带过检测点 1.6 米了。我们的边缘原生模型直接部署在产线的硬件上，响应时间为 12 毫秒——降低了 98.5%。我们甚至在专用微控制器上运行声学模型，能在 5 毫秒内识别出轴承失效的频谱特征，在机器把自己撕碎之前触发物理急停开关。我记得我们第一次在真实环境中向一位工厂经理演示这套东西。轴承故障警报响起时，振动传感器甚至还没有记录到任何异常。他盯着读数看了很久，说：“这不是 AI。这是第六感。”那是我第一次觉得，我们已经跨过了那条线——从软件，走向某种真正理解问题背后物理机理的东西。
在农业领域，标准摄像头看不见正在杀死作物的东西，直到为时已晚。我们构建定制的神经架构来处理高光谱数据——200 多个波段的光，超出人眼所能察觉的范围。通过对大气干扰建模并在计算上将其剥离，我们可以在营养缺乏或虫害变得肉眼可见的数天之前就将其识别出来，使可视化前的成本降低 60%。
在保险领域，我们用取证级计算机视觉取代通用的图像分类：用语义分割识别像素级的精确损伤边界，用单目深度估计在没有 3D 扫描仪的情况下计算凹陷体积，用镜面反射分析检测被篡改的照片。这套 AI 不会去猜一笔理赔是不是欺诈。它会把物理机理摆给你看，告诉你为什么图像中的光影模式自相矛盾。
你怎么知道自己的 AI 架构已经出了问题？
几乎在每一次高管简报会上，我都会遇到一个问题，通常带着怀疑与真切担忧交织的口吻：“我们已经在现有的 AI 技术栈上投了数百万美元。我怎么知道它到底有没有问题？”
这是我诚实的回答：如果你的 AI 系统说不出它为什么会做出某个具体的决策，并援引具体的数据点，那就是有问题。如果你的采购 AI 上线以来供应商多元化的数字毫无改善，那就是有问题。如果你的运营团队搞出了各种变通办法——在 AI 系统之外“以防万一”另行维护的表格——那就是有问题。
这些变通办法就是破绽。我走进过一些组织，一台显示器上是 AI 仪表盘，另一台上是“真正的”决策支持表格。没人公开谈论这件事。但它意味着团队并不信任这套系统——而他们不信任是对的。
我听到的另一个问题是：“这难道不只是个成熟度问题吗？模型不会越来越好吗？”它们在语言上会越来越好。它们在真相上不会。一个更强大的大语言模型，是一个更有说服力的猜测者，而不是一个更可靠的。架构必须改变。
《体育画报》的崩塌，以及做错这件事的利害
我在桌面上留了一张截图作为提醒。它来自 2023 年 11 月，当时《体育画报》——一家有 70 年历史的媒体机构——被曝以虚假的、AI 生成的署名发表文章。像“Drew Ortiz”这样的名字，配上编造的头像照和虚构的个人简历。那些内容机械、同义反复，而且是在没有任何验证层的情况下发出去的。
结果是：股价单日暴跌 27%。授权被撤销。大规模裁员。一个老牌品牌，被掏空了。
那个大语言模型做的正是大语言模型会做的事——它补全了模式。作者简介在统计上是产品评测的一个很可能出现的组成部分，于是模型就生成了一份。作者简介旁边通常配一张头像照，于是也有人生成了那个。没有人搭建一套系统来追问：“这个人存在吗？这些内容经过事实核验了吗？我们能把每一项断言追溯到来源吗？”
这就是外壳妄想在规模化之后的代价。不是一起好笑的聊天机器人事件。而是一场企业级的灭绝事件。
为什么你不能就这么一直用着 API？
这件事还有最后一个维度，大多数 AI 供应商都不愿意讨论：数据主权。
当你的企业依赖第三方 API——OpenAI、Google、Anthropic——你租用的是一种自己无法控制的智能。你对模型的训练数据毫无可见性。供应商更新权重时你不会收到任何预警，而这可能悄无声息地改变你系统的行为（这叫作模型漂移，对受监管行业来说是一场噩梦）。你也无法保证你的专有数据——商业秘密、客户信息、竞争情报——不会在你无法审计的基础设施上被处理。
我们把主权级企业模型部署在客户自己的基础设施上。没有数据离开防火墙。没有外部依赖。全生命周期可控，包括基于专有本体和监管约束进行定制微调。
这比订阅一个 API 的前期投入更贵。但比起一次数据泄露、一笔监管罚款，或者发现你的 AI 行为变了只因为旧金山的某个供应商在某个周二下午推送了一次更新，它便宜得无可比拟。
18 个月的窗口期
这里我要直说，因为我认为时间线很重要。
在 2026 年转向确定性 AI 架构的组织，将拥有 12 到 18 个月的真正竞争差异化窗口期。在那之后，这套做法就成了入场券——受监管行业对企业 AI 的最低期待。
3.5:1 的采购偏见不会自己修好。23% 的可解释性比例不会靠更好的提示词提升上去。幻觉问题不会随着下一个模型版本的发布而消失。这些是架构层面的失败，它们需要架构层面的解决方案。
我不是说每家企业都需要建造我们所建造的东西。我是说，每家企业都需要弄明白自己到底买了什么。打开引擎盖。去问你的供应商：验证层在哪里？知识图谱在哪里？模型产生幻觉时会怎样——是有一道结构性约束，还是只有一句写着“请不要产生幻觉”的提示词？
如果答案是一句提示词，那你拥有的不是一套 AI 系统。你拥有的是一个非常昂贵的意见箱。
如果你的 AI 供应商对“你们如何防止幻觉”的回答是一句更好的提示词，那你拥有的不是一套 AI 系统。你拥有的是一个非常昂贵的意见箱。
概率式企业 AI 的时代正在终结——不是因为这些模型不令人惊艳，而是因为令人惊艳不等于可靠，而在企业里，可靠性才是唯一算数的东西。我们要建造的，不是听起来正确的 AI。我们要建造的是真正正确、并且能够证明这一点的 AI。
这不是推销。这是一项工程要求。而最先认识到这一点的企业，将是外壳纷纷崩塌时依然屹立不倒的那些。
