control-variate

标签

Cards List
#control-variate

KL的KL: 使用控制变量基线的在策略蒸馏

Hugging Face Daily Papers · 2026-05-08 缓存

提出了vOPD,通过引入强化学习中的控制变量基线,稳定了大语言模型的在策略蒸馏,实现了与昂贵全词表方法相当的性能,同时计算成本更低。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈