我们的语音智能体正确填写了 CRM 中的所有字段，但没有一笔付款成功。

我们的语音智能体在打催收电话时，几乎所有内容的置信度都超过了90%，但后来运营团队有人随机抽了一批CRM记录，听了实际的录音，结果糟糕透了。智能体记录账号时弄错了一位数字，置信度却依然很高，因为模型对自己听到的内容很有信心，只不过它听错了。比如客户说“十五二十”，意思是1520，模型却把它记成了两个独立字段。客户报姓名时，模型就挑一个发音相近的常见名字，因为它不确定的时候就是这么干的：选概率最高的词，而不是正确的词。而且下游没有任何环节能发现问题，因为CRM里的记录看起来没毛病。三天后付款失败了，因为账号不对，但没人追查到智能体头上，而我们居然还在庆祝字段填写率，明明一半字段都是错的，笑死。现在我们在智能体和CRM之间加了一层校验：IFSC代码用正则表达式匹配，账号检查长度和校验和，姓名的字符级置信度低于阈值就暂缓录入，另外，任何校验不通过的内容都会在来电者还在线时转交人工处理，而不是等三天后付款失败才发现。不过，这样每个字段会多花大约一秒，而在催收电话里，对方本来就已经很恼火了，这一秒可不是无关紧要的。我们现在可能也只能发现70%的错误记录，因为有些错误值的格式是有效的，只是碰巧属于别人，这种情况什么校验都查不出来。我们是在给一个本该在模型层面解决的问题打补丁，而不是从根源上修好它。gnani和另外几家直接在语音技术栈内部做实体提取，而不是先转写再校验，这样就能绕过这一整摊麻烦，但我也不知道有谁在这么做？？