AgentJet:一个面向智能体强化学习的灵活群组训练框架

arXiv cs.AI 论文

摘要

AgentJet 是一个面向大语言模型智能体强化学习的分布式群组训练框架,它将智能体运行与模型优化解耦,支持异构多智能体强化学习、多任务训练、容错以及实时代码迭代,训练速度提升1.5-10倍。该框架还引入了一个自动化研究系统,能够在大型集群上自主进行为期数天的强化学习研究。

arXiv:2606.04484v1 公告类型:新 摘要:我们提出了 AgentJet,这是一个面向大语言模型(LLM)智能体强化学习的分布式群组训练框架。与将智能体运行与模型优化紧密耦合的集中式框架不同,AgentJet 采用了解耦的多节点架构,其中群组服务器节点托管可训练模型并在 GPU 集群上运行优化,而群组客户端节点则在任意设备上执行任意智能体。这种设计提供了集中式框架难以支持的能力:(1)异构多模型强化学习,支持以多个大语言模型为大脑的异构多智能体团队的训练;(2)带有隔离智能体运行时的多任务混合训练;(3)容错执行,防止外部环境故障中断训练过程;(4)实时代码迭代,允许通过替换群组客户端节点在训练过程中编辑智能体。为了支持多模型、多轮次和多智能体设置下的高效强化学习,AgentJet 引入了一个带有时间线合并的上下文追踪模块,该模块整合冗余上下文,实现1.5-10倍的训练加速。最后,AgentJet 引入了一个自动化研究系统,该系统以研究主题为输入,并在大型集群上自主进行长时间、多日的强化学习研究。通过利用群组架构,该系统在执行过程中无需人工干预,即可复现强化学习研究者的关键探索工作流。
查看原文
查看缓存全文

缓存时间: 2026/06/05 02:07

# AgentJet:一种用于智能体强化学习的灵活集群训练框架
来源:https://arxiv.org/abs/2606.04484
查看 PDF(https://arxiv.org/pdf/2606.04484)

> 摘要:我们提出 AgentJet,一种用于大型语言模型(LLM)智能体强化学习的分布式集群训练框架。与将智能体交互与模型优化紧密耦合的集中式框架不同,AgentJet 采用解耦的多节点架构,其中集群服务器节点托管可训练模型并在 GPU 集群上运行优化,而集群客户端节点则在任意设备上执行任意智能体。这种设计提供了集中式框架难以支持的能力:(1)异构多模型强化学习,支持使用多个 LLM 作为大脑来训练异构多智能体团队;(2)具有隔离智能体运行时的多任务鸡尾酒训练;(3)容错执行,防止外部环境故障中断训练过程;(4)实时代码迭代,允许在训练期间通过替换集群客户端节点来编辑智能体。为了支持多模型、多轮次和多智能体设置下的高效 RL,AgentJet 引入了一个带有时间线合并的上下文跟踪模块,该模块整合了冗余上下文,实现了 1.5-10 倍的训练加速。最后,AgentJet 引入了一个自动化研究系统,该系统以研究主题为输入,并在大规模集群上自主进行长期(多天)的 RL 研究。通过利用集群架构,该系统可在无需人类干预的情况下复现 RL 研究人员的核心探索工作流程。

## 提交历史

来自:Boyin Liu [查看邮箱](https://arxiv.org/show-email/1e712628/2606.04484) **\[v1\]** 2026年6月3日星期三 06:02:52 UTC(11,219 KB)

相似文章

EASy:迈向基于LLM的高效智能体系统

arXiv cs.CL

本文提出了EASy,一个可训练的智能体框架,利用强化学习联合优化任务性能与计算效率,并引入了里程碑-规划-执行工作流、依赖感知执行图和用于训练的树形展开。