提示有多重要？在事后自蒸馏中，一句通用反馈媲美自行撰写的批评意见（ACM ICAIF '26）[R]

我们研究了在 GPT-OSS-20B 上用于多步金融推理的后见自蒸馏。学生模型找出自己第一个出错的步骤，并撰写批评意见。一个冻结的模型副本以该步骤之前的推理前缀和批评意见为条件，通过反向 KL 散度将知识蒸馏回学生模型。值得注意的是，将批评意见替换为一句固定的通用反馈，也能取得完整方法约 3 个百分点的提升，而使用规模大 6 倍的模型生成批评意见也未显著改善性能。这表明，后见蒸馏提供的位置信息显著减少了有效训练所需的特权信息。Fin-SD 以少 9.5% 的 token 用量，达到了使用完整参考解答的 OPSD 的性能。论文：https://arxiv.org/abs/2610.36082 | 代码：https://github.com/johnnyhyu/fin-sd 我们很想探索这种方法的极限。欢迎分享你的想法！