标签
本文介绍了一种名为自我审查强化学习（SRRL）的训练框架，该框架在强化学习回合中嵌入自我审查步骤，利用跨回合记忆和选择性策略蒸馏，将稀疏的环境反馈转化为行为改进。在GSM8K上的评估表明，SRRL在Qwen 3-4B和OLMo-3-7B模型上均优于使用GRPO的标准RLVR方法。
DiffusionOPD提出了一种扩散模型的多任务训练范式，利用在线策略蒸馏将任务特定的教师模型高效地整合到统一的学生模型中，在所有评估基准上取得了最先进的结果。