大多数公司的人工智能问题不在于模型

Reddit r/artificial 新闻

摘要

一项分析指出,公司在人工智能方面失败的原因在于它们专注于模型,而非基础层——流程设计、治理、知识架构、人工判断和反馈循环——而这些才是真正的价值来源。文章引用了纳德拉的“令牌资本”概念、苹果可切换模型的Siri,以及显示战略与执行之间存在巨大差距的调查数据。

纳德拉上周末发表了一篇关于“令牌资本”的文章,我认识的每位首席技术官都在一天内转发了这篇文章。他的观点是:每家公司都需要构建自己拥有的人工智能能力,而不是通过API租用模型。围绕模型的学习循环才是知识产权所在。他指出的方向是正确的。但我认为他跳过了导致大多数实施失败的部分。 在过去一年半的时间里,我一直在观察中端市场软件公司中出现的相同失败模式。团队获得了人工智能预算。选择一个模型。将其接入代理工作流或RAG流水线,或者为开发者提供Copilot席位。三个月后,使用量持平或下降,没有人能解释它增加了什么价值。模型产生输出,人类查看一下,整个过程保持静态。靠感觉运行。快速的感觉,但依然是感觉。 解释大部分情况的公式是:人工智能的价值是乘法,而非加法。模型能力 × 支架 × 人工判断 × 反馈循环。如果其中任何一项为零,你的输出就是零。前沿模型没有支架,只会产生无人采纳的建议。好的支架没有反馈循环,意味着系统永远不会改进。去掉人工判断,就没有人会发现模型在领域特定问题上自信地犯错。乘数框架很重要,因为公司一直把这些当作加法——好像可以跳过支架,用更好的模型来弥补。但你不能。零乘以任何数都是零。 我一直把这看作一个七层价值堆栈。最下面三层:流程设计、治理、知识架构。中间三层:人工判断、反馈循环、支架。模型位于顶部,按设计是薄薄的一层。大多数公司从第7层开始往下做。他们购买模型,跳过第一到第三层,最终得到的人工智能无法产生复利,也永远无法成为机构知识。 一个具体的例子。客户有一个基于Claude Sonnet 4构建的支持分类流水线。在演示中看起来很棒。在生产中,它将30%的工单路由到了错误的团队,因为路由逻辑引用了一个自2022年以来无人更新的类别分类法。修复方案不是换一个更好的模型。而是与支持负责人一起花了一周时间重建分类法,并编写模型可以引用的明确路由规则。五天时间。错误路由降至8%以下。这是第一层(流程设计)和第三层(知识架构)的工作。模型自始至终都没问题。是它下面的层出了故障。 Info-Tech的2026年调查用数据说明了这种情况的普遍程度。> 58%的组织已将人工智能纳入企业战略,高于去年的26%。只有30%的人认为已准备好进行运营化。> 78%的高管表示人工智能的发展速度超过了团队吸收能力。82%处于人工智能初期成熟度的公司尚未为此实施人才战略。> "我们有战略"和"我们能执行"之间28个百分点的差距,正是由大多数团队因为无聊而跳过的那几层构成的。流程成熟度、数据基础设施……治理。这个没人愿意听到的词,直到出了问题才被想起。 苹果上周在WWDC上提出了这个论点的另一半。他们用扩展框架重建了Siri,允许用户在iOS 27中在ChatGPT、Claude和Gemini之间切换。Xcode 27将所有三个提供商的编码代理纳入同一工作流。苹果将模型变成了可互换的插件。如果你可以更换模型而你的竞争地位不变,那么模型从来就不是你的优势。围绕它构建的系统才是。 我反复提及的诊断方法是:在你的团队构建下一个代理工作流之前,你能画出代理将在其中操作的流程地图吗?如果答案是否定的,那么你有一个第一层的问题,再多模型升级也无法解决。 我每周撰写一份关于人工智能和工程速度的简报,其中我用全栈可视化以及上周所有四个信号(纳德拉、苹果、Info-Tech调查和Fable 5关闭)的更多数据进行了详细分析。但这篇文章涵盖了核心内容。
查看原文

相似文章

大多数 AI Agent 的失败是组织设计失败,而非模型失败

Reddit r/AI_Agents

文章认为,生产环境中 AI Agent 的失败往往归因于糟糕的组织设计和模糊的责任边界,而非模型本身的局限性。文章提出了一种成熟度模型,区分了 AI 助手、自动化流程和 AI 员工,以指导任务所有权的确立。