AI支持供应商最初承诺40%的自动解决率,8个月后却说8%是正常水平

Reddit r/artificial 新闻

摘要

一位创始人分享其AI支持机器人8个月后仅实现8%的工单自动解决率,而同行却达到47%,这凸显了AI原生工具与基于LLM包装的传统工单系统之间的差异。

去年一月我们上线了一个AI支持机器人。将其连接到我们的帮助中心,针对前12种最常见的工单类型进行训练,给了它6周的学习时间。到第三个月,自动解决率只有6%。第八个月达到8%就停滞了。我们的客户经理不断发送基准测试数据,显示7-12%对“复杂的B2B”来说是“典型的”,我们一度信以为真。我们甚至续约了,因为自动解决率看起来跟他发来的那些PDF文件差不多。真正让我醒悟的是五月份在SaaStr遇到的一位创始人。他的团队每月处理约900张工单,主要是计费和入门指导类问题,跟我们属于同一产品类别。他们的自动解决率达到了47%。我原以为他测量方法不对。但并非如此。他带我看了整个设置过程,差异在于架构,而不是训练或提示词。他的工具从第一天起就是以解决为核心构建的。而我们的只是一个在工单系统上包裹了一层LLM,他们管这叫“AI客户服务”。我们开始重新评估,每一场演示最终都会回到同一个问题:AI到底是这个系统的核心,还是只是路由系统上的一个附加层。这是完全不同的产品理念,而在实际应用中,它们之间的自动解决率相差了39个百分点。我们还没有切换,所以没有清晰的对比数据。但如果大多数团队实际只有8%的自动解决率,那么要么我们买了个有缺陷的产品,要么整个类别就是一场巨大的基准测试幻觉。
查看原文

相似文章

一位客户付钱让我把他们工具中的AI移除。

Reddit r/AI_Agents

一位开发者构建了一个基于LLM的工单路由工具,但支持团队不信任其黑箱决策。客户付费将LLM替换为简单的规则引擎,结果准确率更高、成本更低、用户信任度也更高。

哪些 AI 客服工具能真正减少工单量?

Reddit r/AI_Agents

用户寻求能通过文档和知识库处理重复性查询、减少工单量的 AI 客服代理推荐,对基本聊天机器人在具体问题上表现不佳表示不满。