AI支持供应商最初承诺40%的自动解决率,8个月后却说8%是正常水平
摘要
一位创始人分享其AI支持机器人8个月后仅实现8%的工单自动解决率,而同行却达到47%,这凸显了AI原生工具与基于LLM包装的传统工单系统之间的差异。
去年一月我们上线了一个AI支持机器人。将其连接到我们的帮助中心,针对前12种最常见的工单类型进行训练,给了它6周的学习时间。到第三个月,自动解决率只有6%。第八个月达到8%就停滞了。我们的客户经理不断发送基准测试数据,显示7-12%对“复杂的B2B”来说是“典型的”,我们一度信以为真。我们甚至续约了,因为自动解决率看起来跟他发来的那些PDF文件差不多。真正让我醒悟的是五月份在SaaStr遇到的一位创始人。他的团队每月处理约900张工单,主要是计费和入门指导类问题,跟我们属于同一产品类别。他们的自动解决率达到了47%。我原以为他测量方法不对。但并非如此。他带我看了整个设置过程,差异在于架构,而不是训练或提示词。他的工具从第一天起就是以解决为核心构建的。而我们的只是一个在工单系统上包裹了一层LLM,他们管这叫“AI客户服务”。我们开始重新评估,每一场演示最终都会回到同一个问题:AI到底是这个系统的核心,还是只是路由系统上的一个附加层。这是完全不同的产品理念,而在实际应用中,它们之间的自动解决率相差了39个百分点。我们还没有切换,所以没有清晰的对比数据。但如果大多数团队实际只有8%的自动解决率,那么要么我们买了个有缺陷的产品,要么整个类别就是一场巨大的基准测试幻觉。
相似文章
一位客户付钱让我把他们工具中的AI移除。
一位开发者构建了一个基于LLM的工单路由工具,但支持团队不信任其黑箱决策。客户付费将LLM替换为简单的规则引擎,结果准确率更高、成本更低、用户信任度也更高。
我们在公司内部署了AI代理,包括Jira中的自主支持。AMA。
一家公司在整个组织中部署了AI代理,用于Jira中的自主支持、内部知识辅助和文档编写,在重复性工单上实现了70%以上的自动解决率和更快的响应时间。
AI软件工厂:将工单转化为拉取请求的智能体,以及为何没有供应商会公布首次合并成功率
本文探讨了AI软件工厂的兴起——这类系统中编码智能体自主将工单转化为拉取请求——并指出供应商大肆宣传与缺乏公开验证其主张的基准之间的差距。
@notablecap:@rbren_dev 表示,通过提示处理 Jira 工单的开发者速度提升约 20% 到 30%。所以这就是为什么他说…
一条推文分享,使用 AI 提示处理 Jira 工单的开发者速度可提升 20-30%,并突出了一期播客节目,其中 OpenHandsDev 的首席执行官讨论了 AI 编码代理。
哪些 AI 客服工具能真正减少工单量?
用户寻求能通过文档和知识库处理重复性查询、减少工单量的 AI 客服代理推荐,对基本聊天机器人在具体问题上表现不佳表示不满。