AI代理最棘手的部分似乎是恢复，而不是任务理解？
摘要
文章讨论的是，AI代理在真实工作流程中的主要挑战并非理解任务，而是处理意外变化的恢复、状态跟踪以及知道何时需要人工输入。
很多代理演示在一切按计划进行时看起来令人印象深刻，但真实的工作流程往往会因微小且不可预见的方式而中断。页面发生变化、表单多了一个步骤、支持流程意外地重定向到别处，或者代理失去对已完成操作的追踪。模型或许能完美地理解目标，但一旦开始执行，更困难的问题就变成了状态追踪、重试、验证，以及知道何时停止或寻求人工输入。
相似文章
什么仍然是阻止 AI agents 可靠地处理现实任务的最大问题？
讨论了尽管在任务执行方面取得了进展，但阻止 AI agents 可靠处理现实任务的持续挑战，例如不断变化的网站和不一致的工作流程。
我开始认为可恢复性是自主代理的真正考验
作者认为可恢复性是自主AI代理的真正考验，强调了任务持久性和健壮恢复机制的必要性，以确保真正的自主性。
你们是如何处理AI代理在生产中中途任务失败的？以及这种情况对你们来说有多频繁？
一个讨论提问，询问开发者如何处理AI代理在生产中中途崩溃的情况，探讨重启、持久化状态、使用检查点或手动检查等方法。
当前AI智能体中最大的谎言是“自主错误恢复”
本文批判了AI智能体中自主错误恢复的现实，强调了如幻觉和破坏性重试等问题，并主张具有严格控制的确定性系统在生产工作流中表现更佳。
AI智能体在实际工作流中真正失败的地方（非演示环境）
讨论AI智能体在实际工作流中失败的地方，重点指出协调问题、混乱输入下的可靠性问题，以及在生产中减少人工干预的挑战。