online-reflection

标签

Cards List
#online-reflection

程序性记忆蒸馏:面向自我改进语言模型的在线反思

arXiv cs.AI · 5天前 缓存

程序性记忆蒸馏(PMD)将来自强化学习 rollout 的跨回合信号转化为可复用的程序性记忆,并在训练过程中将其蒸馏到策略权重中,从而在推理时无需记忆即可实现自我改进语言模型。实验表明,PMD 在 SCIKNOWEVAL 上比 SDPO 提升 3.8-5.5%,在 LIVECODEBENCH 上提升 7.9-13.6%。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈