hybrid-policy

标签

Cards List
#hybrid-policy

混合策略蒸馏(HPD):面向大模型的统一知识蒸馏

arXiv cs.CL · 2026-04-23 缓存

提出混合策略蒸馏(HPD),一种统一的知识蒸馏方法,平衡前向与反向 KL 散度,结合离线数据与轻量级在线采样,在数学推理、对话与代码任务上全面提升大模型压缩效果。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈