与语音智能体进行一次真实对话的成本(详细拆解)
摘要
一位自动化机构从业者逐项拆解4分钟语音外呼的真实成本(约39美分),指出平台费占一半、LLM仅占10%,并建议开启提示词缓存、裁剪工具返回结果,而非一味更换便宜模型。
每隔几天,这里就会有人问,语音智能体每通电话到底要花多少钱,而答案总是“每分钟大概10美分”,却没有明细。所以我逐项算了一遍。先交代一下背景:我们是一家自动化服务公司,已经做了8年,现在语音智能体占了我们开发业务的很大一部分,主要用于房地产行业的外呼。我按一通拨打美国或加拿大号码、时长4分钟、约20轮对话的外呼电话来计算。智能体说话的时间大约占40%,使用的系统提示词约有2,000个token。技术栈很常见,全部按标价计算,没有批量折扣。Vapi平台费(4分钟,每分钟$0.05)$0.200 ElevenLabs Flash语音(约1,500个字符)$0.075 Twilio外呼(4分钟,每分钟$0.014)$0.056 GPT-5.4 mini(约50,000个输入token、约500个输出token)$0.040 Deepgram Nova-3语音转写(4分钟)$0.019 合计约$0.39(每分钟大约10美分)模型的费用是第二低的。总费用的一半花在了平台费上,语音费用则几乎是大语言模型(LLM)费用的两倍。大家总会问,模型明明只输出了约500个token,50,000个输入token是从哪来的。大多数技术栈会在每一轮把整段对话重新发送给模型。第1轮是系统提示词加上通话对象的一句话,大约2,000个token。到第20轮时,输入里已经包含了此前说过的全部内容,接近3,000个token。所以,成本并不会随着通话时长线性增长。按同样的对话节奏聊10分钟,通话时长是原来的2.5倍,但输入token最终会超过原来的3倍。工具返回结果才是真正麻烦的地方。假设智能体在第5轮调取了潜在客户的CRM记录,返回了1,500个token的JSON。这份记录会跟着后面的15轮一起发送,让整通电话的输入量增加约50%。如果智能体只需要姓名、预算和房产类型,就只传这三项,把其他内容去掉。这里每个讨论成本的帖子,最后都会变成争论哪个模型的每token价格最低,这让我有点烦。我理解为什么,毕竟争论这个比较有意思。但这通电话里,LLM的全部费用只有4美分,所以换成价格减半的模型,每通电话也只省2美分,而平台费还是20美分。如果你还是想压低LLM这项费用,先开启提示词缓存,再去挑模型。每轮输入的大部分都是相同的系统提示词和相同的历史记录,而缓存输入的计费价格大约只有正常价格的十分之一。对这通电话来说,这能把LLM费用从4美分降到不到1美分。用上大模型后,模型选择确实就开始重要了。如果使用GPT-5.5且不开缓存,同一通电话的LLM费用大约是27美分,会成为账单上最大的一项。开启缓存后则降到约5美分。我会把精力放在其他费用项上。语音按字符计费,所以缩短智能体每轮的发言,能直接降低费用。这也能减少通话对象打断智能体的情况,智能体一啰嗦,他们就经常插话。比起每通电话的成本,我更在意每次真正有效对话的成本。如果你拨出的电话有一半都只是30秒的语音信箱留言,那么你的实际成本会比上面这张账单高得多。太长不看版:按标价计算,一通4分钟的电话大约39美分,其中一半是平台费,LLM只占10%。由于每一轮都会重新发送历史记录,输入token的增长速度比通话时长更快,所以在寻找更便宜的模型之前,先开启缓存,并精简工具返回结果。
相似文章
@gkxspace: 我每月 AI 订阅两三千,其中有些是TTS、ASR之类的,主流的几家都挺贵,API协议也都不一样 我一直在想有没有可以一个套餐做到: 语音复刻、会议转写、AI 播客生成、实时语音问答、语音输入、写代码 可算找到了一个活菩萨,阶跃星辰的 S…
阶跃星辰推出Step Plan订阅服务,月费6.99美元,整合了LLM、TTS、ASR、图像生成等多种AI模型,支持OpenAI SDK直连,可用于语音复刻、会议转写、AI播客生成等场景。
语音AI在生产中表现不佳,实际让你付出什么代价?
一位从业者回顾了在呼叫中心使用语音AI的经历,详细说明了解决方案在生产中表现不佳时的隐性成本,并希望从有类似实际经验的人那里获得诚实的反馈。
在计算语音AI通话实际成本时学到的经验
对语音AI通话相关实际成本的分析,涵盖API使用、延迟和服务商定价等因素。
手机智能体真正的瓶颈不在于模型,而在于对话中的轮流交互。
实践者分享构建电话语音AI代理的核心瓶颈并非模型能力,而是轮次切换时机:单靠VAD静音检测会导致打断或迟钝,改用STT置信度与部分转录文本的语义线索来判断发言是否结束效果更好。
需要关于改进我的AI语音助手的诚实建议
DeskGreet的开发者——这是一款面向小企业的AI接待员——征求关于其自然度、可用性和定价的诚实反馈。