SalamandraTA at WMT 2026 Terminology Shared Task: 困难样本是更好的教师

# SalamandraTA 在 WMT 2026 术语共享任务中的表现：难题示例是更好的教师
来源：https://arxiv.org/html/2609.09999
Maite Melero 所属机构：巴塞罗那超级计算中心邮箱：[[email protected]](mailto:)

###### 摘要

术语感知翻译要求的不仅仅是正确的翻译：输出必须使用术语表规定的精确术语。标准做法——在带有术语表标注的翻译对上进行微调——掩盖了一种低效性：对于大多数示例，术语表规定的输出正是模型本身就会生成的内容，因此它们无法教授任何遵循术语表的能力。因此，我们只保留模型自身翻译与术语表相矛盾的示例。在控制数据量的实验中，仅此选择就将术语准确率从78.7%提升至89.9%。通过开源模型构建的双向合成管道生成的过滤数据，构成了我们公开发布的SalamandraTA-7b-instructv3.0指令微调混合数据的一部分。该模型按原样使用，并包裹在文档级推理管道中，构成了巴塞罗那超级计算中心提交给WMT26术语共享任务赛道1的方案。在WMT26官方评估中，我们的系统在74.6 chrF++分数下实现了94.2%的术语成功率，22个提交方案中仅有两个在两项指标上均超越了我们。在去年的基准测试中，尽管仅使用普通监督微调训练，它也超越了我们基于GRPO的系统。

## 1 引言

参考图注 图1：数据选择：仅在SalamandraTA-7B-instruct犯错的内容上训练。翻译可以完美保持意义却仍然辜负其受众。一位讲西班牙语的开发者打开*拉取请求*时会称之为该名称，但通用机器翻译系统可能将该短语译为*solicitud de extracción*。两者都可理解，但只有英文术语符合开发者在界面和文档中每日所见。术语感知翻译旨在弥合这一差距：除了产生正确的翻译，它必须产生规定的翻译，无论规定来自客户的术语表还是社区的用法。

教授这种行为的一种常见方式是在带有术语表标注的翻译对上微调模型。然而，大量此类监督是多余的：对于大部分训练示例，术语表规定的内容正是模型本身就会生成的，因此根本无需查阅术语表就能正确回答该示例。有用的信号集中在规定术语与模型默认选择不同的案例中。这一观察引出一个简单的数据选择规则：仅保留那些对模型来说至少有一个术语困难并出现错误的示例用于训练（图1）。我们的对照实验证实该规则确有其效。保持训练预算和所有其他因素不变，我们仅调整术语数据中此类难题示例的比例，术语准确率从0%难题示例时的78.7%攀升至100%难题示例时的89.9%（图2）。

本文描述巴塞罗那超级计算中心提交给WMT26术语翻译共享任务赛道1（带显式词典的文档级翻译）的方案。我们的系统是我们最新的公开发布版本SalamandraTA-7B-instructv3.0，按原样使用：其指令微调混合数据已包含用此方法构建的术语数据，该数据通过基于Gemma-4-31B的双向合成管道生成，并与我们之前的发布版本进行过滤比较。推理时，文档分块翻译，每个块配有术语表，并在保护规定术语的防护下进行轻量级后编辑。在WMT26官方评估中，我们的系统在74.6 chrF++分数下实现了94.2%的术语成功率，22个提交方案中仅有两个在两项指标上均超越了我们。在去年的基准测试中，尽管仅使用普通监督微调训练，它也超越了我们基于GRPO的系统。

总之，我们做出三项贡献。第一，我们展示大量带有术语表标注的训练数据是冗余的，而一种简单的补救措施——仅保留术语表与模型默认翻译相矛盾的示例——在相同数据量下带来了11个百分点的术语准确率提升。第二，我们描述了一个基于开源模型构建的双向合成管道，该管道将术语表转化为文档，又从文档中提取术语表，其输出训练了公开发布的SalamandraTA-7b-instructv3.0的术语组件。第三，我们呈现BSC赛道1的提交方案：未经修改的发布模型，包裹在带有分块术语表和保护规定术语的后编辑防护的文档级推理管道中。

## 2 相关工作

#### 让模型遵循术语表。
术语约束早先在解码时通过词汇约束束搜索施加，代价是速度和流畅度。Dinu等人（2019）将其移至训练中，为源术语标注其规定译文，使模型学会在上下文中复制它们。WMT术语共享任务记录了该领域向大语言模型的转变。我们之前的提交将约束移至奖励中，使用GRPO在遵循度和质量的联合目标下优化模型。今年的方法更简单：针对更长文档输入的普通监督微调。新颖之处不在于训练方式，而在于训练内容：仅使用模型术语出错的示例。

#### 合成术语数据。
大语言模型生成的并行文本在质量上已与网络爬取语料库相媲美，强大的WMT25术语系统已依赖精心策划的合成数据和大语言模型后编辑。我们的管道在形式和开放性上有所不同：它双向运行，将术语表扩展为文档，并从文档中挖掘术语表，完全基于开源许可的模型和数据构建。

#### 选择训练内容。
部分示例比其他示例更具教学意义，这是一个反复出现的观察。在机器翻译中，选择始于领域适应，后来在训练中变为动态调整；课程学习按难度排序示例而非过滤它们。指令微调时代强化了一个观点：小规模精选集可以超越大规模无差别集合。最接近我们的是，Kocmi等人（2025）在偏好调整前按难度过滤机器翻译数据。将监督集中在当前模型表现不足的地方，也是主动学习的核心思想，长期用于机器翻译中决定标注什么。在我们的案例中，我们从已标注池中选择，因此不查询标注员；先前的选择依赖连续分数（无论如何获得），而我们的难度概念是自我指涉且二元的：当模型自身的无约束输出与规定术语相矛盾时，示例即为困难。过滤器本身无需阈值分数，第4节衡量了其独立贡献。

## 3 数据：两个合成管道

SalamandraTA v3指令微调混合数据的术语组件由两个方向相反的合成管道构建。一个从术语出发生成文本：双语医学术语表作为种子，Gemma-4-31B围绕它们撰写平行文本。另一个从文本出发提取术语：Gemma-4-31B从EMEA平行语料库中提取对齐的术语对，然后我们将其句子组装成文档。两个管道共享一个选择步骤，描述于第3.3节，仅保留我们自己模型出错的内容。它们共同产生33,615个实例，覆盖29种语言的94个有向对（12,479个来自MeSpEn，21,136个来自EMEA）；附录A记录了清洗规则、生成提示和过滤阈值（图3提供了概览）。

### 3.1 MeSpEn：术语→文本
清洗原始术语表后，我们仅保留困难术语——那些模型单独翻译时出错的术语——并用作种子。Gemma-4-31B围绕小群种子撰写平行文本，种子按语义相似性分组，使共现术语在上下文中合理，长度从单句到多段文档不等。在文档长度样本中，主术语必须至少出现两次，且每次翻译必须相同，以反映共享任务的一致性要求。样本仅在每个标注术语实际出现在双方，且术语对和句子对超过LaBSE相似性阈值时才保留。

### 3.2 EMEA：文本→术语→文档
Gemma-4-31B从每个EMEA句子对中提取对齐的术语对，模型已能正确生成所有术语的句子被丢弃。经过质量过滤、去重和LaBSE过滤后，连续句子被连接成不同粒度的混合体：单句、段落以及带有字面换行符的多段文档，每个文档的术语表是其句子术语对的并集。最后，术语条目简化为词元形式，而文本保持不变，因此模型必须学会在上下文中对规定术语进行词形变化，而非复制表面字符串。

### 3.3 困难示例过滤器
两个管道都依赖于相同的选择步骤，这也是本文的重点。每个候选（MeSpEn中的术语表术语或EMEA中的句子）由SalamandraTA-7b-instructv2.0翻译，提示中*不*包含任何术语表，输出与标准术语进行宽松匹配（允许大小写、标点和空格差异）。如果每个必需术语都已出现，则模型无需帮助，该示例被丢弃；仅至少有一个术语遗漏的候选保留。我们称丢弃的示例为*简单*示例，保留的为*困难*示例。过滤器仅计算一次，针对我们之前的公开发布版本。

## 4 对照研究：困难程度是否重要？
第3.3节的过滤器丢弃了近半数语料（47.5%；附录B）。本节探究这是否确实明智。我们保持训练所有其他因素固定，仅调整一个变量：术语数据中困难示例的比例从0%到100%（分五步），并追踪术语准确率变化（图2）。

参考图注 图2：术语准确率随术语数据中困难示例比例的变化。
### 4.1 设置
#### 训练运行。
在图2中，曲线上的每个点都是一次完整的指令微调运行。从SalamandraTA-7B基础模型（持续预训练的翻译检查点）开始，我们在公开SalamandraTA-7b-instructv2发布方案的固定背景混合数据上进行微调。所有运行使用相同的超参数：1个周期，学习率10^{-5}，余弦衰减，3%预热，上下文长度8192，有效批量大小32。

#### 六种混合方案。
我们向背景数据中插入术语组件，这是运行间唯一变化的部分。它涵盖EMEA分支产生的19个方向，每个方向有固定预算（最多4,000个示例），各混合方案相同。测试六种组成：0%、25%、50%、75%和100%困难示例，以及从未过滤池中采样的*随机*基准线（继承语料库自然的每个方向困难示例比例）。简单示例和困难示例通过相同的清洗、质量和语义相似性筛选，因此两个池仅在难度上不同。

#### 评估。
我们在WMT2025术语赛道1测试集（en→de、en→es、en→ru）上评估。这三个方向均未在术语组件中作为训练方向出现，因此其任何提升已反映迁移能力。我们报告官方术语准确率（对所有1,589个术语出现微平均），以及chrF分数（作为翻译质量未悄然下降的检验）；置信区间和p值来自源段落的聚类配对自助法（95%，10k次重采样）。

#### 与发布模型的关系。
这些运行并未复现v3.0方案。背景混合数据遵循较早的v2.0发布方案，不包括v3.0中引入的额外任务（结构化文本翻译、语域控制、改写以及进一步的后编辑和性别数据）。术语组件也与发布的不同：v3.0在MeSpEn和EMEA数据上共同训练，而此处每次运行仅使用EMEA数据，固定量为76,000个实例，因此困难示例比例是运行间唯一的变量。曲线应解读为选择原则的证据，而非v3.0收益的分解。

### 4.2 结果
仅选择就价值十一个百分点。图2显示了结果，各方向详细数据见附录D：平均三个方向，术语准确率从无困难示例时的78.7%攀升至仅困难示例时的89.9%，增益11.2个百分点（95% CI [+9.5, +12.8]，p<0.0001），且数据量相同。简单示例并非噪声；它们通过