标签
掩码蒸馏是一种知识蒸馏框架，它训练学生大语言模型仅预测解决方案令牌，同时推理教师提供反馈，旨在将思维链计算内化到模型参数中。该方法显示任务相关的成功，在GSM8K上有效，但对于像Countdown这样更困难的任务需要小型脚手架。