supervision-fidelity-decay

#supervision-fidelity-decay

你的老师在这里帮不了你：对抗在线策略蒸馏中的监督保真度衰减

arXiv cs.CL ↗ · 2026-06-01 缓存

识别了在线策略蒸馏中的监督保真度衰减（SFD），即随着学生序列变长，教师监督质量下降，并提出了前瞻组奖励（LGR）以缓解SFD，从而提升数学和代码基准测试的性能。

0 人收藏 0 人点赞