标签
作者质疑许多所谓的AI智能体是否更适合被称为工作流程，并认为对于可重复的浏览器任务，定义好的工作流程可能比每次重新解释步骤的智能体更可靠。
作者认为，能力不再是AI智能体的主要瓶颈；相反，操作可靠性——例如从故障中干净恢复以及在长时间运行中保持上下文——成为了新的前沿。
AI瓶颈已经从能力转向信任和操作可靠性，因为工具现在将手动编排抽象为配置。作者观察到，构建代理比以往任何时候都更容易，但在生产环境中保持可靠性和信任仍然是更难的挑战。
作者在真实浏览器任务中测试了AI代理，发现由于基础设施限制，它们不可靠，主张为代理提供专用的浏览器运行时，而不是依赖当前为人类设计的浏览器。
本文论证了通用LLM可靠性是不可能的，但在操作上受限的补丁（如法律审查、医学RAG）内，失败是稀疏且重复的，使得可靠性成为一个局部目录发现问题。本文通过两个命题和一个推论将其形式化，重新定位而非消解长上下文生成的困难。
本文介绍了一个以声明为中心的审计框架，用于识别深度研究Agent轨迹中的错误跨度，并提出了新基准TELBench，改进了过程级可靠性评估。
讨论AI智能体在实际工作流中失败的地方，重点指出协调问题、混乱输入下的可靠性问题，以及在生产中减少人工干预的挑战。
作者反思了将AI智能体从原型推向生产环境的挑战，得出结论：可靠的编排和安全保护机制比模型的渐进改进更为关键。
作者描述了在遭遇级联故障后，使用DBOS持久化执行重写其AI代理基础设施以提高可靠性的经历，并向社区询问类似的经历、工具选择以及自建与购买决策。
作者解释了为何从单一智能体转向链式工作流用于AI任务，理由是尽管前期复杂度更高，但可靠性和调试便利性显著提升。
文章认为，AI编码代理的主要挑战不是代码生成质量，而是用户能否围绕它们构建可靠的循环，这将采用的障碍从模型能力转移到了工作流设计。
一位用户分享了他们测试各种云AI代理用于日常工作流程的经验，发现大多数代理在生产环境中不可靠，并向社区寻求推荐，希望找到能够处理长任务、保持上下文、避免幻觉并异步工作的代理。
文章认为，AI代理在生产中的大多数故障是由于不稳定的运行状态和内存退化造成的，而非模型能力不足，并强调需要更好的基础设施来支持状态管理、可观测性和自适应可靠性。
PatchBoard 使用经过验证的 JSON Patch 变更操作来取代 LLM 多智能体系统中的自然语言对话，该操作基于共享的结构化状态，在 ALFWorld 基准测试中实现了更高的成功率并大幅降低了 token 使用量。
MiraBench是一个分层基准测试，用于评估机器人世界模型中的动作条件可靠性，在12种模型配置下评估物理一致性、动作跟随准确性和乐观偏差。
本文介绍了OpenClawBench，这是一个大规模数据集，用于对真实世界AI代理执行轨迹中的过程侧异常进行基准测试。该数据集揭示了任务成功可能掩盖过程失败，9.33%通过oracle测试的执行仍包含异常，并通过一种新颖的分类法提供了结构化监督。
本文提出了一种记忆增强的多智能体架构，采用嵌套学习、连续记忆系统和语义缓存来缓解LLM流程中的幻觉问题，在显著减少事实错误的同时提高了运营效率。
Claude Code团队宣布了在响应性和可靠性方面的改进，并详细介绍了最近的更新。