今天我看到一条消息:74%的公司部署AI代理后又撤回了。显然,我们并没有从新闻中听到这一点。
摘要
一项研究显示,74%的公司已将AI代理从生产环境中撤下,而那些拥有成熟AI治理的公司回滚率甚至更高。核心问题不在于AI模型本身,而在于它们所依赖的混乱、割裂的基础设施和数据。
今天我看到,74%部署了AI代理到生产环境的公司又将其撤回。不是试点,不是测试,而是实际运行的系统被关闭了。这项研究调查了10个国家的2500多名高级决策者。这些不是小型实验——这些组织大多数都有专门的AI团队和真正的预算。但真正让我注意的是:在AI治理最成熟的公司中,回滚率高达81%。那些在所有方面都做得正确的公司,反而比那些随意应付的公司失败得更明显。事实证明,更好的治理并不能防止失败,它只是让你更快地发现问题,并且有流程来关闭系统。这实际上是目标所在,但没人这么表述。我认为真正出问题的不是模型,而是它们背后的基础设施。代理在生产环境中产生幻觉,是因为它们没有干净、结构化的上下文可供参考。旧的数据库,互不关联的工具,数据散落在周五有人通过邮件发送的电子表格里。AI本身不是问题,AI需要处理的一切才是问题。我在为自家运营构建代理时亲眼目睹了这一点。那些保留下来的代理并非技术最令人印象深刻的,而是那些连接到干净、有序上下文的。那些我们很快放弃的,是指向混乱、不一致的信息然后指望最好的结果。文章得出的结论是:“企业AI的下一波浪潮将不由你运行哪个模型来定义,而是由你的基础是否能支撑它来决定。”对于AI代理在生产中为何失败,你有什么想法?
相似文章
74%的企业在上线后回滚了AI智能体
Sinch的一项针对2,527名高级决策者的调查显示,74%的企业在部署后回滚或关闭了AI智能体,治理差距和可见性问题是主要驱动因素。
80%的公司用AI代理处理薪资和安全问题,却缺乏真正控制。一个AI代理在9秒内删除了某公司的整个数据库
一个配置错误的AI代理在9秒内删除了某公司的整个生产数据库,凸显了治理严重缺失。据ServiceNow大会上引用的德勤调查,80%的公司部署AI代理时缺乏适当的防护措施。
MIT的研究人员记录了各大实验室正在部署的30个AI智能体。其中只有4个有公开文档说明该智能体的功能、不能做什么以及发生故障时的处理方式。
MIT研究人员编制了2025年AI Agent Index,记录了来自主要实验室的30个已部署的AI智能体,然而只有4个提供了公开文档,解释智能体的功能、局限性及故障模式,揭示了重大的透明度缺口。
研究称企业正浪费AI效率提升
BCG一项研究发现,74%的非管理层白领员工经常使用AI,每周至少节省一天时间,但许多企业难以将效率提升转化为可衡量的价值。
企业AI采用中的隐藏缺口:没人搞定如何规模化地管理AI智能体
企业正陷入“第三阶段混乱”:AI智能体泛滥却缺乏治理、归属或审计线索,而可用于生产环境、能当舰队用的管理工具仍缺席。