标签
Rollback 提出了一种利用世界模型回溯到过去的决策点、探索反事实动作并生成细粒度动作级监督的策略改进范式,同时通过真实机器人反馈持续优化世界模型动力学,在三项真实任务上显著提升了机器人策略成功率。
SyncWorld 是一个动作条件世界模型,它利用视觉校准场景来学习特定环境的动作到视觉映射,从而实现跨未见机器人环境的零样本模拟和测试时策略改进。
本文介绍了一种仿真感知的大语言模型框架,用于模拟集成电路布局精炼,采用上下文内策略改进,与现有方法相比,在更少的仿真次数下实现了更好的布局后性能。
介绍了 PIRL(策略改进强化学习)及其实际实现 PIPO,这是一种闭环框架,通过将策略更新后的性能与历史锚点进行比较来验证更新效果,从而能够纠正或强化之前的更新。实验表明,在 PPO 和 GRPO 等现有强化学习算法之上应用时,在数学推理、代码生成、工具使用和自我蒸馏方面均有一致的提升。
论文揭示了基于transformer的推理模型(TRMs)中的潜在推理实际上充当了策略改进算子,并提出了一种算法,将学习和推理效率提升高达18倍。
介绍DistIL,一种从丰富反馈中进行强化学习的方法,保证策略单调改进,在科学推理、编程和数学推理上优于现有方法。
提出了DriftQL,它结合了基于漂移的行为正则化器与评论家驱动的策略改进,用于离线强化学习,在D4RL和OGBench上优于扩散和流方法,同时保持简单性和效率。