LLMs通过定向合成多语言数据变得更智能

Hugging Face Daily Papers 论文
multilingual-llm synthetic-data data-generation cross-lingual-reasoning fine-tuning hugging-face-papers

摘要

HOTFIXR是一个数据生成框架，针对LLMs中的多语言推理弱点，使用合成数据提高跨语言性能，同时不牺牲整体能力。

语言特定能力 (LSC) 是指语言模型根据提示语言的不同而表现更好或更差的现象。换句话说，当使用不同语言提示时，语言模型对同一语义查询会输出不同（且可能不正确）的响应。先前的研究将此归因于跨语言语义表示的内部分歧。目前，文献中主要有两种方法来解决LSC：(1) 将所有查询通过英语路由，提高性能，但将语言表达性限制为英语；或 (2) 在语言平衡数据上训练，使模型性能在各语言间均衡，但降低整体性能。在本研究中，我们从数据为中心的角度出发，引入HOTFIXR：Hardness Optimized Training data For Improving X-Lingual Reasoning。它是一个数据生成框架，使用模型来探测和学习学生模型的多语言弱点，并生成数据以缓解这些弱点。HOTFIXR可以生成多语言合成训练数据，以提高多语言性能。我们在三个分布内任务、三个分布外任务和四种分布外语言上进行了评估。平均而言，HOTFIXR (1) 将分布内性能提高了6.2%，(2) 将微调引起的分布外任务上的灾难性遗忘减少了3.7%，(3) 将分布外语言上的灾难性遗忘减少了7.1%。总体而言，由于许多现实世界应用需要多语言LLMs，我们的工作有助于使LLMs具备多语言能力。我们将在接受后发布代码。
查看原文
查看缓存全文

缓存时间: 2026/08/20 20:06

论文页面 - LLMs 从针对性多语言合成数据中变得更智能

来源：https://huggingface.co/papers/2608.15964

摘要

HOTFIXR 是一个数据生成框架，它针对多语言推理弱点，旨在提升跨语言性能，同时不牺牲整体能力。

语言特异性能力 (https://huggingface.co/papers?q=Language-specific%20competency) (LSC) 是指语言模型的性能因提示语言的不同而变好或变差的现象。换言之，当使用不同语言进行相同语义查询时，语言模型可能输出不同（且可能错误）的回应。先前的研究将此归因于跨语言语义表征的内部失调。目前，文献中有两种主要方法来解决 LSC：(1) 将所有查询路由至英语，可提升性能，但将语言表达限制在英语；或 (2) 在语言平衡的数据上进行训练，使模型性能在不同语言间均衡，但会降低整体性能。在本研究中，我们从以数据为中心的视角出发，推出了 HOTFIXR：用于改进跨语言推理的难度优化训练数据。这是一个数据生成框架，利用模型探测并学习学生模型的多语言弱点，并生成数据以缓解这些弱点。HOTFIXR 可以生成多语言合成训练数据 (https://huggingface.co/papers?q=multilingual%20synthetic%20training%20data)，从而提升多语言性能。我们在三个分布内任务、三个分布外 (https://huggingface.co/papers?q=out-of-distribution) 任务和四种分布外 (https://huggingface.co/papers?q=out-of-distribution) 语言上进行了评估。平均而言，HOTFIXR (1) 将分布内性能提升了 6.2%，(2) 将微调引起的灾难性遗忘 (https://huggingface.co/papers?q=catastrophic%20forgetting) 在分布外任务上减少了 3.7%，(3) 在分布外语言上减少了 7.1%。总体而言，由于许多现实应用需要多语言 LLM，我们的工作为提升 LLM 多语言能力做出了贡献。代码将在论文被接受后发布。

查看 arXiv 页面 (https://arxiv.org/abs/2608.15964) 查看 PDF (https://arxiv.org/pdf/2608.15964) 添加至收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.15964)

通过您的代理获取此论文：

hf papers read 2608\.15964

尚未安装最新 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

无模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2608.15964 以将其链接到此页面。

引用此论文的数据集 0

无数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2608.15964 以将其链接到此页面。

引用此论文的 Spaces 0

无 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2608.15964 以将其链接到此页面。

包含此论文的收藏集 0

无收藏集包含此论文

将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以将其链接到此页面。

相似文章

用 LLM 优化 LLM：面向测试时扩展的智能体发现方法

Hugging Face Daily Papers

本文提出了 AutoTTS，这是一种环境驱动的框架，通过将测试时扩展（TTS）策略的发现过程形式化为控制器合成，自动发现用于大型语言模型（LLM）的测试时扩展策略。该框架在数学推理基准测试上展示了更优的准确率-成本权衡，且计算开销极小。

使用Layer Swap重新思考多语言推理差距

arXiv cs.CL

本文重新审视了LLM中的多语言推理差距，发现在可比较的监督条件下，该差距比先前报告的要小。本文引入了Layer Swap，它将来自英语推理专家的中间层权重转移到母语专家，几乎消除了这一差距，同时保留了母语链式思维。

大模型微调是否需要人类可读的文本？

arXiv cs.AI

这篇 arXiv 论文提出了目标更新对齐合成数据（Desired-Update-Aligned Synthetic Data，DASA）方法。该方法利用冻结参考模型的激活梯度反馈，优化连续合成输入嵌入用于大模型微调，从而质疑人类可读文本是否为必要条件。在 Llama 和 Qwen 系列模型（1B–32B）上的实验表明，在 LoRA 微调下，DASA 的效果与自然语言数据持平或更优，并且相比 GRADMM 实现了 3.6–4.9 倍的加速。