token-reweighting

介绍FiRe-OPD，一种用于大语言模型在线策略蒸馏的方法，它过滤低质量轨迹并应用软重加权来强调信息丰富的令牌，在强到弱、单教师和多教师设置中实现了改进的性能。