智能体行业让栈溢出变得可收费——但谁拥有返回？

Reddit r/AI_Agents 新闻
agents recursion termination reliability orchestration graph

摘要

对递归AI智能体系统中终止问题的分析，强调了智能体如何在仍选择有效动作的同时丢失已验证的位置，并质疑终止逻辑应位于智能体栈的何处。

ReAct 将思考、行动、观察、重复规范化。反思又增加了一圈。图编排使分支变得明确。但这些模式都不一定能回答递归中最古老的问题：谁拥有返回？我亲眼目睹自己构建的一个智能体系统进入了为期三天的递归循环。它生成了102个工作项，其中68%是修复工作。每个单独的动作在局部看来都是合理的。失败存在于另一个层面：系统在继续选择看似有效的下一个动作时，已经丢失了已验证的位置。这促使我将可靠性建模为：*P(correct step) = P(correct position) × P(correct entrance | position)* “位置”指当前的目标生成、世界状态、已接受的证据、权威以及剩余义务。“入口”指下一个工具、转换或动作。图可能约束可用的入口，但这并不能证明智能体仍处于正确的位置。循环可能包含停止条件，但当世界发生变化时，该条件可能变得过时。那么，终止实际上存在于智能体栈的哪一层：提示词、图节点、监督器、预算，还是外部验证的状态转换？更重要的是，是什么阻止了来自旧目标或世界状态的证据授权另一次迭代？
查看原文

相似文章

如何决定何时停用代理？

Reddit r/AI_Agents

讨论关于缺乏AI代理退役流程的问题，重点是如何决定何时关闭代理、追踪使用情况以及谁应该做出关停决定。

你如何验证你的智能体确实做了它声称做过的事？

Reddit r/AI_Agents

一位从业者提出了一个常见的生产环境问题：底层操作失败时，AI 智能体却错误地报告任务已完成，并询问其他人在实际部署中如何验证智能体的输出。作者正在研究这一问题，并计划分享社区回答的汇总。