标签
MiMo-V2.6是一个大规模强化学习模型,已成为顶尖的开源模型,其研究创新超越了DeepSeek R1,并发布了资源以推动Agentic RL研究。
介绍Skill2Env,一个对齐且多样化的数据集,旨在驱动现代Agentic RL研究。
EnvCraft是一个自动化框架,用于合成可执行环境,以解决Agentic RL训练中的稀缺性问题,并在使用Qwen模型的claw-like和通用工具使用基准测试中展示了显著的性能提升。
Agent Lightning v1.0 是微软推出的一个轻量级代理强化学习框架,经过重构以使用真实工具训练AI代理,并实现了显著的基准测试改进,例如在SWE-bench上获得了14.6个百分点的提升。
TideRL is a readiness-aware elastic RL system that improves training goodput for multi-turn agentic workloads via continuous task batching, resource-aware ref-actor pipelining, and elastic resource scaling, achieving up to 5.6x speedup over synchronous baselines and 33% over asynchronous baselines.
本文介绍了EFCA,一种面向智能体强化学习的多时间尺度信用分配方法,利用环境交互中的短期反馈和中期状态历史信号,在ALFWorld和WebShop上提升任务成功率和任务质量。
AgentOPSD 提出了一种无评论家的递归方法,用于智能体强化学习中的回合级信用分配,通过在 log-odds 空间中进行贝叶斯信念更新来重新加权结果。它在 ALFWorld 上使用 Qwen2.5-7B 达到了 89.1% 的成功率,优于 GRPO 和自蒸馏基线。
EnvACE 引入了世界预演,一种智能体强化学习方法,通过策略在内部预演环境响应来取代外部环境交互,在多个基准上取得了强劲性能。
本文介绍了SciDisco,一个可扩展的框架,用于通过过程可验证环境、基于DAG的轨迹合成和回合级强化学习来训练科学发现智能体。所提出的SciDisco-14B模型在假设驱动的科学数据分析基准上达到了最先进水平。
SkillRise 是一个统一的强化学习框架,使 LLM 智能体能够在相关且渐进难度的任务中学习并重用技能,在多个基准测试上比基线方法高出最多 8.5 个百分点。
Molt 是来自 NVIDIA NeMo 的开源、原生 PyTorch 的智能体强化学习框架,旨在使用 Ray、vLLM 和 NVIDIA AutoModel 对大型多模态智能体模型进行可扩展的全异步训练。
NVIDIA 发布了 Molt,一个面向智能体强化学习、注重紧凑性和可读性的 PyTorch 原生框架,性能与基于 Megatron 的堆栈相当。该框架是开源的,并附有论文。
Molt是一个基于PyTorch原生的智能体强化学习训练框架,设计简洁紧凑,易于修改,同时实现了与基于Megatron的框架相当的性能。
谷歌宣布其训练后优化库 Tunix 迎来重大更新,推出了异步解耦式回滚引擎,用于在 JAX/TPU 上规模化实施基于智能体的强化学习,消除空闲时间,提升吞吐量。
ToolVerse是一个框架,可从422个真实世界MCP环境(包含4438个工具)自动构建大规模可执行智能体训练环境,并提出了一种基于动态解锁采样算法的任务设计策略以生成长程任务,以及一种用于智能体强化学习中信用分配的轮次感知相对优势算法。
本文研究了Muon优化器在强化学习后训练中的应用,发现在ALFRED任务中,将Muon应用于隐藏权重矩阵相比AdamW显著提高了成功率,且结果依赖于优势估计器和学习率。
这篇来自清华大学的论文提出了单次展开异步优化 (SAO, Single-rollout Asynchronous Optimization),用于大语言模型的强化学习后训练。SAO 用单次展开异步训练取代了基于批次的 GRPO,以减少 GPU 空闲时间并提高稳定性。该技术被用于训练 GLM-5.2 模型(750B-A40B),在智能体编程和推理基准测试上取得了最先进的结果。
本文介绍了单rollout异步优化(SAO)技术,用于解决LLM后训练中异步RL的稳定性和异策略挑战,并证明SAO在智能体编码和推理基准测试上持续优于GRPO。
清华大学的SAO算法解决了大规模语言模型异步强化学习中的稳定性和离策略漂移问题,在智能体编程和推理基准测试上相比GRPO取得了稳定提升,并用于训练GLM-5.2模型。
本文提出了单次生成异步优化(SAO),以解决异步强化学习在智能体任务中的稳定性和离策略挑战,在编码和推理基准测试上优于GRPO及其变体。SAO已部署在GLM-5.2模型的智能体强化学习流程中。