在失败的代理运行中,58%的代币消耗发生在模型已经收到明确的停止信号之后。为什么没有人在运行中途发现这一点?
摘要
一项研究发现,在失败的AI代理运行中,58%的代币消耗发生在模型已经收到明确的停止信号之后,这突显了在运行中途节省成本的一个错失机会。
暂无内容
相似文章
运行AI代理最昂贵的部分不是令牌消耗,而是花在弄清楚它们行为原因的时间。
构建AI代理的过程揭示,主要成本在于调试——花费数周追踪诸如上游API变更等问题——而不仅仅是令牌或模型推理成本。
越过演示阶段,智能体系统在何处悄悄浪费开销
本文探讨了AI智能体系统在生产环境中因过度上下文、不恰当的模型选择及重试等隐藏低效而浪费开销的现象,并质疑哪些运行时决策应控制模型调用。
你的代理失败不是因为模型,而是因为没人构建一个停止按钮
文章认为,AI代理在生产中的主要失败点并非模型本身,而是缺乏基础设施,如停止按钮、账单监控以及工具调用的可追溯性。
如果你的智能体学到了任何东西,为什么 Run 10 的成本和 Run 1 一样?
对AI智能体token消耗的批判;提出Token投资回报率(ROTI)作为效率指标,指出大多数智能体不会随着时间减少token使用量。
子代理在长代理运行中占据大部分Token成本:实际可将使用量降低70%至90%的修复方法
本文分析了 Bai 等人 2026 年的论文,该论文表明,子代理和上下文膨胀导致长代理运行中的Token成本比普通聊天高出约1000倍,并提出了三种实用的修复方法(PLAN.md、读取预算、带外备注),可将Token使用量减少70-90%。