tencent/Hy-MT2-30B-A3B · Hugging Face

原文链接：https://huggingface.co/tencent/Hy-MT2-30B-A3B English |中文 (https://huggingface.co/tencent/Hy-MT2-30B-A3B/blob/main/README_CN.md)

HuggingFace (https://huggingface.co/collections/tencent/hy-mt2)ModelScope (https://modelscope.cn/collections/Tencent-Hunyuan/Hy-MT2)

🖥️官方网站 (https://aistudio.tencent.com/llm/en?tabIndex=0)| 💬GitHub (https://github.com/Tencent-Hunyuan/Hy-MT2)| 🪡AngelSlim (https://github.com/Tencent/AngelSlim/tree/main)| 📚Hy-MT2报告 (https://arxiv.org/pdf/2605.22064)

https://huggingface.co/tencent/Hy-MT2-30B-A3B#model-introduction模型简介

Hy-MT2 是一系列专为复杂真实场景设计的“快思考”多语言翻译模型。它包含三个模型尺寸：1.8B、7B 和 30B-A3B（MoE），均支持 33 种语言之间的翻译，并能有效遵循多种语言的翻译指令。针对端侧部署，AngelSlim 1.25-bit 极致量化将 1.8B 模型的存储需求降至仅 440 MB，并将推理速度提升 1.5 倍。多维度评估表明，Hy-MT2 在通用、真实业务、领域专用和指令遵循翻译任务中均表现出色。7B 和 30B-A3B 模型在快思考模式下优于 DeepSeek-V4-Pro、Kimi K2.6 等开源模型，轻量级的 1.8B 模型也全面超越微软、豆包等主流商业 API。

本次发布中，我们还开源了IFMTBench (https://huggingface.co/tencent/Hy-MT2-30B-A3B/blob/main/IFMTBench/README.md) 基准测试，用于评估翻译指令遵循能力。

同时，欢迎使用我们发布的 Hy-MT2-Translator Skill，它能够轻松集成 Hy-MT2 系列模型完成翻译任务。下载链接：ClawHub (https://clawhub.ai/tencent-adm/hy-mt2-translator-skill) 和 SkillHub (https://skillhub.cn/skills/hy-mt2-translator)。

现在，腾讯 Hunyuan 正式与 WMT26 合作开展“视频字幕翻译任务” (https://www2.statmt.org/wmt26/video-subtitle-translation.html)。使用 Hy-MT 模型系列参加“通用机器翻译任务” (https://www2.statmt.org/wmt26/translation-task.html) 和“视频字幕翻译任务”的参赛者，将有机会获得 Hunyuan 赞助的特别奖项。我们诚挚邀请大家参与，共同推动机器翻译技术的发展！

https://huggingface.co/tencent/Hy-MT2-30B-A3B#news新闻

• 2026.5.21 我们在 HuggingFace 和 ModelScope 上开源了Hy-MT2-1.8B/Hy-MT2-7B/Hy-MT2-30B-A3B/IFMTBench。
• 2025.12.30 我们在 HuggingFace 和 ModelScope 上开源了HY-MT1.5-1.8B 和 HY-MT1.5-7B。
• 2025.9.1 我们在 HuggingFace 和 ModelScope 上开源了Hunyuan-MT-7B 和 Hunyuan-MT-Chimera-7B。

https://huggingface.co/tencent/Hy-MT2-30B-A3B#results结果

更多实验结果和分析，请参见我们的报告 (https://arxiv.org/pdf/2605.22064)。

https://huggingface.co/tencent/Hy-MT2-30B-A3B#model-links模型链接

模型名称说明下载链接Hy-MT2-1.8BHunyuan 1.8B 翻译模型🤗模型 (https://huggingface.co/tencent/Hy-MT2-1.8B)Hy-MT2-1.8B-FP8Hunyuan 1.8B 翻译模型，FP8 量化🤗模型 (https://huggingface.co/tencent/Hy-MT2-1.8B-FP8)Hy-MT2-1.8B-GGUFHunyuan 1.8B 翻译模型，llama.cpp🤗模型 (https://huggingface.co/tencent/Hy-MT2-1.8B-GGUF)Hy-MT2-1.8B-2bit-GGUFHunyuan 1.8B 翻译模型，llama.cpp，2bit🤗模型 (https://huggingface.co/tencent/Hy-MT2-1.8B-2bit-GGUF)Hy-MT2-1.8B-1.25bit-GGUFHunyuan 1.8B 翻译模型，llama.cpp，1.25bit🤗模型 (https://huggingface.co/tencent/Hy-MT2-1.8B-1.25bit-GGUF)Hy-MT2-7BHunyuan 7B 翻译模型🤗模型 (https://huggingface.co/tencent/Hy-MT2-7B)Hy-MT2-7B-FP8Hunyuan 7B 翻译模型，FP8 量化🤗模型 (https://huggingface.co/tencent/Hy-MT2-7B-FP8)Hy-MT2-7B-GGUFHunyuan 7B 翻译模型，llama.cpp🤗模型 (https://huggingface.co/tencent/Hy-MT2-7B-GGUF)Hy-MT2-30B-A3BHunyuan 30B-A3B 翻译模型🤗模型 (https://huggingface.co/tencent/Hy-MT2-30B-A3B)Hy-MT2-30B-A3B-FP8Hunyuan 30B-A3B 翻译模型，FP8 量化🤗模型 (https://huggingface.co/tencent/Hy-MT2-30B-A3B-FP8)

https://huggingface.co/tencent/Hy-MT2-30B-A3B#hy-mt2-translation-task-instruction-examples-chinese-english-comparisonHy-MT2 翻译任务指令示例（中英文对照）

注意：以下示例中，source_lang 和 target_lang 均应使用完整的语言名称。中文提示中使用中文名称，英文提示中使用英文名称。

类型中文提示英文提示默认翻译将以下文本翻译为\{target\_lang\},注意只需要输出翻译后的结果,不要额外解释:\{source\_text\}

Translate the following text into\{target\_lang\}. Note that you shouldonly output the translated result without any additional explanation:\{source\_text\}

术语参考下面的翻译: \{text\}翻译成\{text\} \{text\}翻译成\{text\} \{text\}翻译成\{text\} 将以下文本翻译为\{target\_lang\},注意只需要输出翻译后的结果,不要额外解释:\{source\_text\}

Reference the following translations: \{text\}translates to\{text\} \{text\}translates to\{text\} \{text\}translates to\{text\}Translate the following text into\{target\_lang\}. Note that you mustONLY output the translated result without any additional explanation:

\{source\_text\}

风格请将以下文本翻译为\{target\_lang\}。 注意翻译的风格要严格符合【**\{target\_style\}**】\{source\_text\}

Please translate the following text into\{target\_lang\}. Note that the translation style must strictly conform to [\{target\_style\}]:\{source\_text\}

个性化*【待翻译文本】* \{source\_text\}【翻译任务】 1、**\{user\_preferences\}**2、**\{user\_preferences\}** 3、…… 4、将【待翻译文本】翻译为\{target\_lang\}。

[Source Text] \{source\_text\}[Translation Tasks] 1.\{user\_preferences\} 2.\{user\_preferences\} 3. ... 4. Translate the [Source Text] into\{target\_lang\}.

分隔符请将以下文本准确翻译为\{target\_lang\}。 你必须在译文中保留等量的分隔符,绝对不可遗漏、转义或翻译该符号,并注意分隔符的位置。\{source\_text\}

Please accurately translate the following text into\{target\_lang\}. You mustretain the exact same number of delimiters in the translation. Strictly do not omit, escape, or translate these symbols, and pay close attention to their placement.\{source\_text\}

结构化数据 1*# 任务目标* 将下方\{source\_text\}中的\{format\_type\}格式数据翻译为\{target\_lang\}。# 严格约束 1.结构锁定:绝对保持原有的\{format\_type\}数据结构、缩进和层级完全不变。 2.选择性翻译:仅翻译面向用户展示的可见文本内容。 3.禁止修改:严禁翻译或更改任何代码标签、键名 (Key)、变量占位符(如\{\{var\}\}、$\{var\}、%s、%d等)或代码属性。

# 数据输入 \{source\_text\}

### Task Translate the user-facing text within the following\{format\_type\}data into\{target\_lang\}.### Strict Rules 1.**Structure Preservation:**You MUST preserve the original\{format\_type\}data structure, nesting, hierarchy, and indentation exactly as they are. 2.**Selective Translation:**Translate ONLY the visible, user-facing text content/values. 3.**Strict Non-Translation:**NEVER translate or alter code tags, keys, properties, object names, or variable placeholders. Leave them exactly in their original English/code form.

### Source Data \{source\_text\}

结构化数据 2*【背景信息】* \{background\_text\}请结合背景信息将以下文本翻译为\{target\_lang\}。

【待翻译文本】 \{source\_text\}

[Background Information] \{background\_text\}Please translate the following text into\{target\_lang\}, taking the provided background information into consideration.

[Source Text] \{source\_text\}

https://huggingface.co/tencent/Hy-MT2-30B-A3B#inference-and-deployment推理与部署

对于 1.8B 和 7B 模型，建议使用以下参数进行推理。注意，我们的模型没有默认的 system_prompt。

{ "temperature": 0.7, "top_p": 0.6, "top_k": 20, "repetition_penalty": 1.05, "max_tokens": 4096 }

对于 30B-A3B 模型，建议使用以下参数进行推理。注意，我们的模型没有默认的 system_prompt。

{ "temperature": 0.7, "top_p": 1.0, "top_k": -1, "repetition_penalty": 1.0, "max_tokens": 4096 }

https://huggingface.co/tencent/Hy-MT2-30B-A3B#transformerstransformers

transformers>=5.6.0

`` from transformers import AutoModelForCausalLM, AutoTokenizer import torch

model_path = “tencent/Hy-MT2-30B-A3B”

加载 tokenizer

tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

加载模型

model = AutoModelForCausalLM.from_pretrained( model_path, dtype=torch.bfloat16, device_map=“auto”, trust_remote_code=True, )

model.eval()

推理示例

prompt = “将以下文本翻译成英语,注意只需要输出翻译后的结果,不要额外解释:\n\n今天天气真好。” messages = [{“role”: “user”, “content”: prompt}] inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors=“pt”).to(model.device)

with torch.no_grad(): outputs = model.generate( **inputs, max_new_tokens=4096, ) response = tokenizer.decode(outputs[0][inputs[“input_ids”].shape[-1]:], skip_special_tokens=True) print(response) ``

https://huggingface.co/tencent/Hy-MT2-30B-A3B#vllmvllm

从源码构建 vLLM：

uv venv --python 3.12 --seed --managed-python source .venv/bin/activate git clone https://github.com/vllm-project/vllm.git cd vllm uv pip install --editable . --torch-backend=auto

启动 vLLM 服务：

vllm serve tencent/Hy-MT2-30B-A3B --tensor-parallel-size 1

https://huggingface.co/tencent/Hy-MT2-30B-A3B#sglangsglang

从源码构建 SGLang：

git clone https://github.com/sgl-project/sglang cd sglang pip3 install pip --upgrade pip3 install "transformers>=5.6.0" pip3 install -e "python"

启动 SGLang 服务：

python3 -m sglang.launch_server --model tencent/Hy-MT2-30B-A3B --tp 1

https://huggingface.co/tencent/Hy-MT2-30B-A3B#model-training模型训练

Hy-MT2 提供了完整的模型训练流水线，支持全参数微调和 LoRA 微调，以及多种 DeepSpeed ZeRO 配置和 LLaMA-Factory 集成。

详细的训练文档请参考：模型训练指南 (https://huggingface.co/tencent/Hy-MT2-30B-A3B/blob/main/train/README.md)

https://huggingface.co/tencent/Hy-MT2-30B-A3B#quantization-tool量化工具

我们提供AngelSlim (https://github.com/tencent/AngelSlim)，这是一个易用、全面、高效的大模型压缩工具包，涵盖常见量化算法、低位量化、推测解码等功能。

https://huggingface.co/tencent/Hy-MT2-30B-A3B#supported-languages支持的语言

语言缩写中文名Chinesezh中文Englishen英语Frenchfr法语Portuguesept葡萄牙语Spanishes西班牙语Japaneseja日语Turkishtr土耳其语Russianru俄语Arabicar阿拉伯语Koreanko韩语Thaith泰语Italianit意大利语Germande德语Vietnamesevi越南语Malayms马来语Indonesianid印尼语Filipinotl菲律宾语Hindihi印地语Traditional Chinesezh-Hant繁体中文Polishpl波兰语Czechcs捷克语Dutchnl荷兰语Khmerkm高棉语Burmesemy缅甸语Persianfa波斯语Gujaratigu古吉拉特语Urduur乌尔都语Telugute泰卢固语Marathimr马拉地语Hebrewhe希伯来语Bengalibn孟加拉语Tamilta泰米尔语Ukrainianuk乌克兰语Tibetanbo藏语Kazakhkk哈萨克语Mongolianmn蒙古语Uyghurug维吾尔语Cantoneseyue粤语

https://huggingface.co/tencent/Hy-MT2-30B-A3B#citing-hy-mt2引用 Hy-MT2

@misc{zheng2026hymt2familyfastefficient, title={Hy-MT2: A Family of Fast, Efficient and Powerful Multilingual Translation Models in the Wild}, author={Mao Zheng and Zheng Li and Tao Chen and Bo Lv and Mingrui Sun and Mingyang Song and Jinlong Song and Hong Huang and Decheng Wu and Hai Wang and Yifan Song and Yanfeng Chen and Guanwei Zhang}, year={2026}, eprint={2605.22064}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2605.22064}, }

https://huggingface.co/tencent/Hy-MT2-30B-A3B#contact-us联系我们

如果您想向我们的研发和产品团队提供反馈，欢迎联系腾讯 Hunyuan 大模型团队。您可以通过邮箱 [email protected] 与我们取得联系。