token-level-reward

作者讨论了一篇论文，该论文揭示了OPD（可能是在线策略蒸馏）的预热过程，解释了预热如何使学生采样的序列定义良好，并使来自教师的token级密集奖励具有教育意义。

介绍SyRuP，一种解码时框架，它训练一个交叉注意力奖励头来为系统提示生成令牌级别的遵从分数，无需模型调优即可提高大语言模型对复杂提示的遵从性。