你如何为智能体重试设置预算，同时不掩盖真正的失败？

Reddit r/AI_Agents 新闻
agent-retries production-agents error-handling cost-management llm-agents reliability

摘要

询问开发人员如何为智能体重试设定预算，以区分瞬时故障和持久故障，以及哪些信号最能决定在生产环境中的智能体是停止还是重试。

对于运行时间较长的智能体，我发现一个难点在于重试并不都是同一类失败。工具调用可能超时，但下一次尝试却会成功。检索步骤可能返回较弱的证据，需要换一个查询。结构化输出可能几乎有效。或者智能体可能不断重复一个计划，无论给它多少额外步骤都不太可能有改进。固定的重试次数很简单，但它无法区分瞬时故障和智能体在悄悄消耗 token 却没有学到任何新东西的情况。另一方面，过早停止可能会掩盖第二次尝试本可以解决的问题。我很好奇大家是否会使用按任务预算、尝试之间的置信度变化、重复工具检测、上下文增长限制或显式升级规则，来决定智能体何时应该停止、换一种方式重试，还是将工作交还给人工。对于生产环境中的智能体，哪个信号最能帮助判断另一次重试不再值得付出成本？
查看原文

相似文章

代理的重试逻辑会随代理一起消亡

Reddit r/AI_Agents

作者分享了将一个具有写入权限的 AI 代理投入生产环境后的经验教训，指出当进程终止时，代理循环内部的重试逻辑会失效。他们主张将有副作用的工具调用视为带有幂等键的持久后台任务。