Last Translation Benchmark
摘要
Last Translation Benchmark 推出了一个实时数据集,包含经同行评审的多模态示例,旨在评估并突破领先的机器翻译模型,并配有手工验证规则以确保可靠评估。它针对当前基准测试的饱和问题以及自动指标的不可靠性。
查看缓存全文
缓存时间: 2026/09/04 15:58
论文页面 - 最终翻译基准测试
来源:https://huggingface.co/papers/2609.04173 作者: , , , , , , , , , , , , , , , , , , , ,
摘要
最终翻译基准测试(Last Translation Benchmark)引入了经过同行评审的多模态样本,这些样本能突破现有领先翻译模型的能力边界,并配以手工制定的验证规则,以实现可靠、可操作的评估。
为推动科学进步,我们需要能够测试前沿模型极限的基准测试,以及能为我们提供失败案例信息的评估方法。随着模型能力增强,标准的机器翻译基准测试已接近饱和。此外,自动翻译指标存在可靠性问题,易受奖励欺骗影响,且提供的评估结果缺乏可操作性。即使是公认的黄金人类评估方法也非完美,因其常缺乏可复现性、客观性和可扩展性。这些问题总体上阻碍了我们追踪领域内的客观进展并识别改进路径。我们推出了最终翻译基准测试(Last Translation Benchmark),这是一套由人工创作并经同行评审的样本集合(包含文本、图像、音频、视频),这些样本能突破当前领先的机器翻译模型的能力上限。我们同时提出了一种新的评估方法:每个样本都附有手工制定的验证规则,具体描述了该样本上的失败案例,从而实现可靠且可操作的未来评估。最终翻译基准测试(Last Translation Benchmark)是一个持续接受贡献的动态数据集。最新版本为LTBv1,包含2026年9月1日前已接受的贡献,未来版本将随新数据的持续收集而发布。
查看arXiv页面(https://arxiv.org/abs/2609.04173)查看PDF(https://arxiv.org/pdf/2609.04173)项目页面(https://last-translation-benchmark.vilda.net/)GitHub45(https://github.com/zouharvi/last-translation-benchmark)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2609.04173)
引用本文的模型0
无关联模型
在模型README.md中引用arxiv.org/abs/2609.04173,即可从此页面链接。
引用本文的数据集1
zouhar/last-translation-benchmark 查看器• 约11小时前更新 • 3.46k • 33 • 17 (https://huggingface.co/datasets/zouhar/last-translation-benchmark)
引用本文的空间0
无关联空间
在空间README.md中引用arxiv.org/abs/2609.04173,即可从此页面链接。
包含本文的收藏0
无包含本文的收藏
将本文添加到收藏(https://huggingface.co/new-collection)即可从此页面链接。
相似文章
TransClean:从大型语言模型输出中检测和提取干净翻译的基准
TransClean 是一个基准,用于检测和提取来自大型语言模型输出的干净翻译,分析了超过 790,000 个翻译输出以识别噪声模式并评估提取方法。
OpenSTBench:超越语义评估的语音翻译
OpenSTBench 是一个统一的、多维度的语音翻译系统评估框架,能够联合评估翻译质量、语音质量、说话人保持、情感保真度以及延迟,涵盖离线与流式场景下的 S2TT 和 S2ST 系统。该框架弥补了分散评估协议带来的空白,并为比较异构语音翻译系统提供了一个可复现的基准。
MultiGhostBench:面向分布偏移的多语言长文本LLM生成文本归因基准
MultiGhostBench是一个多语言基准,用于评估分布偏移下长文本LLM生成文本的归因。它包含六种语言的928本书籍,并突出了性能下降以及没有单一方法在所有设置中始终最佳的现象。
Cultivar:面向对比与本地化的翻译基准,用于研究数据污染与本地化鲁棒性
介绍了Cultivar,一个对比性本地化翻译基准,用于检测数据污染并评估多语言翻译模型的本地化鲁棒性。该基准对32个开放权重模型进行了评测,发现机器翻译专用模型的鲁棒性较低,且可能对FLORES存在过拟合。
PaliBench:面向古典语言翻译基准的多参考蓝图
介绍PaliBench,一个用于巴利语到英语翻译的多参考基准,采用多位学者的独立翻译,并提供一种可复用的方法论,用于为古典语言创建类似的基准测试。