论文页面 - 用于多语言推理的跨语言在线策略自蒸馏 (Crosslingual On-Policy Self-Distillation for Multilingual Reasoning)

来源：https://huggingface.co/papers/2605.09548

摘要

COPSD 利用带有跨语言上下文的自蒸馏技术，将高资源语言模型的推理行为迁移至低资源语言，从而提升了数学推理性能。

大语言模型 (https://huggingface.co/papers?q=Large%20language%20models)（LLMs）在数学推理 (https://huggingface.co/papers?q=mathematical%20reasoning) 方面取得了显著进展，但这一能力在不同语言间的普及程度并不均衡。尤其是低资源语言 (https://huggingface.co/papers?q=low-resource%20languages) 的推理性能明显较低。为解决这一问题，我们提出了跨语言在线策略自蒸馏 (https://huggingface.co/papers?q=Crosslingual%20On-Policy%20Self-Distillation)（COPSD），将模型自身的高资源推理行为迁移至低资源语言 (https://huggingface.co/papers?q=low-resource%20languages)。COPSD 使用同一模型同时作为学生模型和教师模型：学生模型仅接收低资源语言的问题，而教师模型则获取包含问题英文翻译和参考解答在内的特权跨语言上下文。训练过程旨在最小化学生模型在自身生成轨迹上的全分布 token 级别差异 (https://huggingface.co/papers?q=token-level%20divergence)，在提供密集监督的同时，避免了仅依赖结果的强化学习 (https://huggingface.co/papers?q=reinforcement%20learning)（RL）所带来的稀疏性与不稳定性。在 17 种低资源非洲语言上的实验表明，COPSD 在不同模型规模下均能持续提升低资源数学推理 (https://huggingface.co/papers?q=mathematical%20reasoning) 性能，且显著优于组相对策略优化 (https://huggingface.co/papers?q=Policy%20Optimization)（GRPO）。进一步分析显示，COPSD 提高了答案格式遵循度，增强了测试时缩放 (https://huggingface.co/papers?q=test-time%20scaling) 能力，并能够泛化至更具挑战性的多语言推理基准 (https://huggingface.co/papers?q=multilingual%20reasoning%20benchmarks)，其中对资源更稀缺的语言带来的提升尤为显著。我们的代码和数据已开源：https://github.com/cisnlp/COPSD。

查看 arXiv 页面 (https://arxiv.org/abs/2605.09548) 查看 PDF (https://arxiv.org/pdf/2605.09548) GitHub (https://github.com/cisnlp/COPSD) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2605.09548)

在您的智能体中获取此论文：

hf papers read 2605.09548

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

暂无模型引用此论文

在模型的 README.md 中引用 arxiv.org/abs/2605.09548，即可从此页面建立链接。

引用此论文的数据集 0

暂无数据集引用此论文

在数据集的 README.md 中引用 arxiv.org/abs/2605.09548，即可从此页面建立链接。

引用此论文的空间 0

暂无空间引用此论文

在空间的 README.md 中引用 arxiv.org/abs/2605.09548，即可从此页面建立链接。

包含此论文的合集 0

暂无合集包含此论文

将此论文添加至合集 (https://huggingface.co/new-collection)，即可从此页面建立链接。