标签
本文介绍了一种名为自我审查强化学习(SRRL)的训练框架,该框架在强化学习回合中嵌入自我审查步骤,利用跨回合记忆和选择性策略蒸馏,将稀疏的环境反馈转化为行为改进。在GSM8K上的评估表明,SRRL在Qwen 3-4B和OLMo-3-7B模型上均优于使用GRPO的标准RLVR方法。
本文描述了一个自我审查的AI智能体系统,其中一个治理审查智能体发现了另一个智能体的违规行为,突出了系统自行检测和修复问题的能力。