multi-step-agents

一个思想实验，解释了为什么无人值守的 AI 智能体在长时间多步骤运行中倾向于重复已完成的工作——因为完成的步骤在上下文中没有被标记——并询问大家在过夜运行的智能体任务中使用了哪些显式的任务追踪方法。

作者讨论了多步骤AI智能体中一个持续存在的挑战：前一步骤的状态污染会导致幻觉输出。尽管有像EnterPro Agent Builder这样的工具，但仍需更清晰的上下文边界。

该推文列出了15种LLM微调技术，并介绍了ART（Agent Reinforcement Trainer），这是OpenPipe的一个开源框架，用于使用GRPO训练多步骤代理，并通过W&B Training提供无服务器强化学习支持。

本文讨论了评估基于LLM的智能体执行多步推理的挑战，指出仅对最终输出进行评分是不够的，因为智能体可能走错路径但偶然恢复，并提出了如何在不手动审查的情况下评估轨迹的问题。