工具调用状态应该由模型持有还是应用持有？

Reddit r/AI_Agents 新闻
ai-agents tool-calls state-management architecture llm failure-modes

摘要

一场关于开发实践的讨论：将工具调用的运行时状态交由 LLM 维护（提示词更简洁，但重试处理易出问题），还是由应用自己管理（控制流更清晰，但智能体的自主性随之减弱），其中超时后出现重复或过期的工具调用是最典型的故障模式。

我在一个小型应用中反复遇到这个问题。如果由模型来持有运行时状态，提示词会更简洁，但重试和部分失败的情况很快就会变得混乱。如果由应用来管理状态，控制流更干净，但智能体又开始感觉像一条写死的脚本流程，而不是真正的 agent。我反复遇到的故障模式是：超时后出现重复或过期的工具调用——尤其是当前一个工具修改了状态、而后一个工具却假定它没有被修改的时候。
查看原文

相似文章

代理的重试逻辑会随代理一起消亡

Reddit r/AI_Agents

作者分享了将一个具有写入权限的 AI 代理投入生产环境后的经验教训，指出当进程终止时，代理循环内部的重试逻辑会失效。他们主张将有副作用的工具调用视为带有幂等键的持久后台任务。