标签
本文提出Tev-Gym——首个具有可验证、密集渐进奖励的长周期智能体训练数据集(涵盖7个领域、1,170个任务),并基于进度-势能奖励塑形(PPRS)训练出Tev-27B,在Agents' Last Exam的计算与数学科学领域达到与GPT-6 Astra和Claude Opus 5相当的Pass@5表现,并可泛化至Terminal-Bench 3.0/4.0。
本文将基于可验证奖励的强化学习应用于采用检索增强生成的小型语言模型,实现了无需蒸馏的3.8倍性能提升,并强调了针对小型模型进行奖励设计的重要性。
IncentRL 提出一个框架,用于强化学习中基于偏好的奖励塑形,该框架使用KL散度惩罚来平衡偏好引导与任务性能,并通过理论分析和在MiniGrid基准上的实验得到支持。
When2Think 是一个后训练框架,能根据问题难度在大型推理模型中动态分配计算资源,从而在数学基准测试中优化准确性与效率的权衡。
本文研究了强化学习如何导致 LLM 智能体学习基于表面线索而非任务需求的虚假工具使用策略,并引入了一种密集奖励方法来缓解这一问题。
Cliff 通过使用现成的大型语言模型(LLM)检测首个推理错误并塑造 token 级别的优势,从而改进具有可验证奖励的强化学习,相比现有方法带来持续的性能提升。
本文介绍了可回答工作记忆(AWM)和AWM-GRPO,以增强长文档VQA代理中终端工作记忆的质量,提高准确性并减少记忆问题。
The paper proposes calibrating an artificial guilt reward signal from human neural and behavioral fMRI data, then embeds it in multi-agent PPO agents. The neurally calibrated agents match human social decision rates far better than hand-tuned or selfish baselines.
在 Atari Breakout 上进行了 123 次失败的 PPO 实验后,添加一个简单的接近奖励来追踪球的下落,最终实现了反应式的、非脚本化的玩法,并且能够迁移到不熟悉的砖块布局上。
MeRLa 是一个用于 RLHF 的元学习奖励塑造框架,通过学习任务特定的塑造函数来改善对齐,在多个基准上取得了最先进的结果,并显著降低了训练不稳定性。
介绍AgenticAI-Supervisor,一个基于API和UI驱动的仿真环境,用于LLM智能体的可扩展强化学习,通过可验证的执行结果和奖励塑造来缓解奖励破解。
这项工作提出了一个模型,该模型学习塑造的“过程奖励”用于机器人强化学习,该奖励会随着策略的改进而自动演变,从而在基准测试和实际环境中提升性能。
本文提出了一种用于自动驾驶高速公路车道变换的安全迁移强化学习框架,采用自适应教师干预和奖励塑造来提高样本效率和安全性。实验表明,与基线相比,安全性提升超过52%,效率提升5%。
ExpRL是一种新的基于强化学习的中期训练方法,它使用人工编写的参考答案作为密集奖励支架(从未向策略展示),从而提升LLM推理能力,在AIME-2026等困难数学基准上取得了显著提升。
SlimSearcher 是一个框架,通过结合帕累托高效轨迹过滤和自适应奖励塑形,提升深度研究代理的效率,在 GAIA、BrowseComp 和 XBenchDeepSearch 等基准测试中,将工具调用轮次减少 17%-58%,同时保持准确率。
本文将LLM生成的奖励塑形视为稀疏结构化强化学习中的调试问题,识别出奖励泛滥和语义误解等失败模式。作者提出诊断驱动的迭代细化,与一次性生成相比,取得了显著的成功率提升(例如,DoorKey-8×8从2.3%提升至97.6%)。
本文介绍了 OracleTSC,该方法利用 Oracle 信息奖励门槛和不确定性正则化来稳定大语言模型(LLMs)在交通信号控制中的强化微调。实验表明,该方法在使用 LLaMA-3-8B 模型的同时保持了可解释性,并在 LibSignal 基准测试中显著提升了交通流量指标。
本文提出了一种用于语言模型后训练的经验性“稀疏至稠密”奖励原则,主张应使用稀疏奖励配合稀缺的标注数据进行教师模型发现,并使用稠密奖励通过蒸馏进行学生模型压缩。作者证明,这种连接稀疏强化学习与策略内蒸馏的分阶段方法,在数学基准测试中优于在部署规模模型上直接运行 GRPO 的效果。
本文提出了一种针对组相对策略优化(GRPO)的信号重塑方法,以改进弱反馈的代理代码修复,在编译和语义准确性方面取得了显著提升。
本文提出保留感知策略优化(RaPO),通过强化微调缓解视觉连续学习中的灾难性遗忘。RaPO采用轨迹级奖励塑形和跨任务优势归一化,缩小了类增量学习和域增量学习中强化微调与监督微调之间的差距。