针对可以隔夜重试的后台代理,您的预算政策是什么?

Reddit r/AI_Agents 新闻

摘要

本文探讨了管理长时间运行AI代理的预算和重试的实际策略,旨在限制成本的同时允许从瞬时故障中恢复。

对于一个无人值守的代理来说,危险的失败模式不是一个昂贵的请求,而是一个小错误导致几个小时内的重复工具调用或重试。我正在寻找一种实际策略,既能限制开支,又能允许代理从瞬时故障中恢复。您是否使用每个任务的token预算、重试上限、基于时间的升级机制,或者为规划、执行和验证分别设置模型路径?我尤其感兴趣的是,您如何区分可恢复的工具故障和需要人工干预的任务。对于您的长时间运行的代理,哪些防护措施是有效的?
查看原文

相似文章