CoTranslator：面向推理蒸馏的逆向思维链到正向思维链翻译器

Hugging Face Daily Papers 论文
reasoning-distillation chain-of-thought knowledge-distillation math-reasoning language-models post-hoc-rationalization

摘要

CoTranslator 提出将逆向思维链推理轨迹翻译为经验证的正向推理分布，实现高效且可迁移的推理蒸馏；在六个数学基准上较语义抑制最高提升5.82个百分点，并以约35.9%的计算量保留拒采样95.0%的平均准确率。

推理蒸馏需要带有正确答案的思维链（CoT）数据，但如何高效获取这类数据仍是一个挑战。正向思维链生成（FCG）配合拒采样（RS）能够产生经验证的、仅基于问题的回复，但对于难题可能需要大量教师模型调用。逆向思维链生成（RCG）的成本更低，因为它以已知答案为条件进行生成，但获取这一答案可能导致事后合理化（post-hoc rationalization）的问题，并且与学生模型无答案的推理设置不匹配。我们提出 CoTranslator，它学习将逆向 CoT 回复翻译为经验证的正向回复的分布。CoTranslator 在一组小规模的逆向回复与拒采样正向回复配对数据上训练，之后可支持学生训练数据的大规模生成与验证。在六个学生模型上、六个数学基准上的评估中，CoTranslator 较语义抑制方法平均准确率最高提升 5.82 个百分点。对于两个 4B 学生模型，CoTranslator 仅使用拒采样约 35.9% 的估计计算量，却保留了其 95.0% 的平均准确率。无需重新训练，该翻译器便可迁移到新的数学数据集、不同的教师模型以及 STEM 问题上，对 4B 和 8B 学生模型分别将 STEM 平均准确率提升 4.88 和 4.31 个百分点。这些结果表明，CoTranslator 提供了一种高效且可迁移的推理蒸馏方法。
查看原文
查看缓存全文

缓存时间: 2026/10/16 03:02

论文页面 - CoTranslator：用于推理蒸馏的反向思维链到正向思维链翻译器

来源: https://huggingface.co/papers/2610.20828

摘要

CoTranslator 将反向推理轨迹翻译为经过验证的正向推理分布，为学生模型实现高效且可迁移的推理蒸馏。

推理蒸馏 (https://huggingface.co/papers?q=Reasoning%20distillation) 需要包含正确答案的思维链 (chain-of-thought, CoT) (https://huggingface.co/papers?q=chain-of-thought) 数据，但高效获取此类数据仍然是一项挑战。正向 CoT 生成 (Forward CoT generation, FCG) (https://huggingface.co/papers?q=Forward%20CoT%20generation) 结合拒绝采样 (rejection sampling, RS) (https://huggingface.co/papers?q=rejection%20sampling) 可以产生经过验证的仅基于问题的回答，但对于困难问题可能需要大量教师模型调用。反向 CoT 生成 (Reverse CoT generation, RCG) (https://huggingface.co/papers?q=Reverse%20CoT%20generation) 成本更低，因为它以已知答案为条件，但对答案的接触可能导致事后合理化 (post-hoc rationalization) (https://huggingface.co/papers?q=post-hoc%20rationalization) 的问题，并且与学生模型无答案推理的设定存在不匹配。我们提出了 CoTranslator (https://huggingface.co/papers?q=CoTranslator)，它学习将反向 CoT 回答翻译为经过验证的正向回答的分布。在少量配对的反向回答和拒绝采样的正向回答上进行训练后，它能够支持大规模生成和验证学生训练数据。在六个学生模型和六个数学基准的评估中，CoTranslator (https://huggingface.co/papers?q=CoTranslator) 相比语义抑制 (semantic suppression) (https://huggingface.co/papers?q=semantic%20suppression) 将平均准确率提高了最多 5.82 个百分点。对于两个 4B 学生模型，它保留了拒绝采样 (https://huggingface.co/papers?q=rejection%20sampling) 平均准确率的 95.0%，同时仅使用其估计计算量的 35.9%。无需重新训练，同一个翻译器可以迁移到新的数学数据集、不同的教师模型以及 STEM 问题上，分别为 4B 和 8B 学生模型将平均 STEM 准确率提高了 4.88 和 4.31 个百分点。这些结果表明，CoTranslator (https://huggingface.co/papers?q=CoTranslator) 提供了一种高效且可迁移的推理蒸馏 (reasoning distillation) (https://huggingface.co/papers?q=reasoning%20distillation) 方法。

查看 arXiv 页面 (https://arxiv.org/abs/2610.20828)　查看 PDF (https://arxiv.org/pdf/2610.20828)　添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2610.20828)

在您的代理中获取此论文：

hf papers read 2610.20828

没有最新版 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型关联此论文

在模型的 README.md 中引用 arxiv.org/abs/2610.20828，即可从此页面链接。

引用此论文的数据集 0

暂无数据集关联此论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.20828，即可从此页面链接。

引用此论文的 Spaces 0

暂无 Space 关联此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.20828，即可从此页面链接。

包含此论文的收藏集 1

相似文章

DoubtLess：免训练对比解码实现高效推理

Hugging Face Daily Papers

DoubtLess 提出一种免训练的对比解码方法，用一个更小的推理模型引导大模型输出更简洁的思维链，在七个竞赛数学、研究生科学与编程基准上将 Qwen3-32B 的 CoT 缩短 31% 且准确率不变，优于五个推理时基线。

HyperThink：面向高效推理的 Text-to-Parameter 超网络

Hugging Face Daily Papers

HyperThink 提出一种 text-to-parameter 超网络方法，通过一次前向传播直接预测 LLM 的参数更新，从而免去长思维链解码，在低延迟场景下显著提升数学与通用推理的准确率-延迟权衡。

思考式翻译：通过强化学习实现多领域机器翻译的难度自适应推理

arXiv cs.CL

本文介绍了Translation with Thought (TwT)，一种资源理性的多领域机器翻译框架，可根据输入难度自适应调节推理强度，通过难度感知推理轨迹上的监督微调和强化学习训练而成。TwT-7B和TwT-14B在降低32–60% token用量的同时，在翻译质量上超越了更大的SOTA推理模型。

COMPASS：探寻语言模型中的推理所在

arXiv cs.AI

COMPASS提出一种无需预定义推理特征的推理时激活转向方法：利用模型自身答案的正确性作为信号，定位少数关键注意力头并沿正确性方向干预其激活，在数学基准上以显著更少的token逼近CoT精度。