我们究竟在什么时候决定，添加第五个监督智能体比编写三个确定性 if 语句更好？

过去三周一直在重构一个多智能体客户支持和分诊系统，该系统客户支付了四万美元给一家代理机构来构建。原始架构包含一个主路由智能体、一个情感分类智能体、一个上下文提取智能体和一个工具选择智能体，全部通过一个庞大的图进行编排。每一个传入的用户查询都消耗一万二千个 token，并在任何人接触数据库查询之前需要九秒的延迟。更糟糕的是，路由器每天会随机产生两次边缘情况的幻觉，因为一个客户使用了“broken”一词，将简单的账单退款工单路由到三级技术工程团队。我们删除了三个中间智能体，用快速的正则表达式处理、一个嵌入余弦相似度检查和四十行纯 Python 条件逻辑替换了路由逻辑。延迟从九秒降至800毫秒，token 成本降低了75%，路由准确率跃升至接近99%。感觉整个智能体领域都染上了一种病，人们试图通过抛出非确定性 LLM 循环来解决确定性软件工程问题。如果一个路由器可以写成 switch 语句或 pydantic 验证器，将其变成一个智能体只是燃烧计算资源以显得高级。人们究竟在哪里划分真正的自主智能体行为与根本不需要 LLM 的基础过程代码之间的界限？