我的语音助手本来很智能,直到一个电话号码被转录错误。

Reddit r/AI_Agents 工具

摘要

本文认为,语音助手的语音转文字(STT)应该根据实体准确性(例如电话号码、日期)来评估,而不是一般的词错误率,因为遗漏关键字段可能会破坏工作流程。文章提到使用HubSpot字段进行测试,并指出Smallest AI Pulse是一个有趣的工具,可以实时捕获工作流关键实体。

这个代理听起来不错。自然的声音。良好的提示。不错的交接逻辑。CRM更新成功了。日历集成也成功了。然后它把一个电话号码听错了,整个东西就变得没用了。这时我意识到,语音代理的语音转文字(STT)不应该像普通转录那样评判。转录可能“大部分正确”,但仍然无法完成工作流程。对于语音代理来说,这些词比其他词更重要:电话号码、预约时间、日期、姓名、电子邮件地址、价格、地址、订单ID、“不要”、“不”、“实际上”、“等等”、“不,我是说……”。这些是改变行动的词。我现在正在用HubSpot字段测试这一点,而不是仅仅转录准确性。示例记分卡:电话号码字段匹配了吗?预约日期匹配了吗?代理捕捉到更正了吗?它要求确认了吗?CRM仅在确认后更新了吗?转录保留了否定词吗?Smallest AI Pulse对我来说很有趣,因为我评估的不是“它能否写出漂亮的转录?”而是评估一个实时的STT层是否能在通话进行中捕获工作流关键实体。对于AI语音代理,我认为实体准确性应该有自己的基准。不是WER。不是感觉。系统是否捕获了重要的字段?
查看原文

相似文章