tencent/Hy-MT2-1.8B · Hugging Face

来源：https://huggingface.co/tencent/Hy-MT2-1.8B English |中文 (https://huggingface.co/tencent/README_CN.md)

HuggingFace (https://huggingface.co/collections/tencent/hy-mt2)ModelScope (https://modelscope.cn/collections/Tencent-Hunyuan/Hy-MT2)

🖥️官方网站 (https://aistudio.tencent.com/llm/en?tabIndex=0)| 💬GitHub (https://github.com/Tencent-Hunyuan/Hy-MT2)| 🪡AngelSlim (https://github.com/Tencent/AngelSlim/tree/main)| 📚Hy-MT2 报告 (https://arxiv.org/pdf/2605.22064)

模型介绍

Hy-MT2 是一个面向复杂现实场景的“快速思考”多语言翻译模型系列，包含 1.8B、7B 和 30B-A3B（MoE）三种尺寸，均支持 33 种语言之间的翻译，并能有效遵循多种语言的翻译指令。针对端侧部署，AngelSlim 1.25 位极致量化将 1.8B 模型的存储需求降至仅 440MB，并将推理速度提升 1.5 倍。多维度评估表明，Hy-MT2 在通用、真实业务、领域专用和指令遵循翻译任务上均表现卓越。7B 和 30B-A3B 模型在快速思考模式下超越了 DeepSeek-V4-Pro 和 Kimi K2.6 等开源模型，而轻量级 1.8B 模型在整体性能上也超越了微软、豆包等主流商业 API。

在此次发布中，我们同时开源了 IFMTBench (https://huggingface.co/tencent/Hy-MT2-1.8B/blob/main/IFMTBench/README.md)，一个用于评估翻译指令遵循能力的基准测试。

我们还欢迎使用我们发布的 Hy-MT2-Translator Skill，它能轻松集成 Hy-MT2 系列模型进行翻译任务。下载链接：ClawHub (https://clawhub.ai/tencent-adm/hy-mt2-translator-skill) 和 SkillHub (https://skillhub.cn/skills/hy-mt2-translator)。

现在，腾讯混元正式与 WMT26 合作举办“视频字幕翻译任务”（https://www2.statmt.org/wmt26/video-subtitle-translation.html）。使用 Hy-MT 模型系列参与“通用机器翻译任务”（https://www2.statmt.org/wmt26/translation-task.html）和“视频字幕翻译任务”的参赛者将有机会赢取混元赞助的特别奖项。我们诚挚邀请大家参与，共同推动机器翻译技术的边界！

新闻

• 2026.5.21 我们在 HuggingFace 和 ModelScope 上开源了 Hy-MT2-1.8B / Hy-MT2-7B / Hy-MT2-30B-A3B / IFMTBench。
• 2025.12.30 我们在 HuggingFace 和 ModelScope 上开源了 HY-MT1.5-1.8B 和 HY-MT1.5-7B。
• 2025.9.1 我们在 HuggingFace 和 ModelScope 上开源了 Hunyuan-MT-7B 和 Hunyuan-MT-Chimera-7B。

结果

更多实验结果和分析请参阅我们的报告 (https://arxiv.org/pdf/2605.22064)。

模型链接

Hy-MT2 翻译任务指令示例（中英文对照）

注：以下示例中，source_lang 和 target_lang 均需使用完整的语言名称。中文提示中使用中文名称，英文提示中使用英文名称。

推理与部署

对于 1.8B 和 7B，建议使用以下参数进行推理。请注意，我们的模型没有默认的 system_prompt。

{
  "temperature": 0.7,
  "top_p": 0.6,
  "top_k": 20,
  "repetition_penalty": 1.05,
  "max_tokens": 4096
}

对于 30B-A3B，建议使用以下参数进行推理。请注意，我们的模型没有默认的 system_prompt。

{
  "temperature": 0.7,
  "top_p": 1.0,
  "top_k": -1,
  "repetition_penalty": 1.0,
  "max_tokens": 4096
}

transformers

transformers>=5.6.0

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_path = "tencent/Hy-MT2-1.8B"

# 加载分词器
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)

# 加载模型
model = AutoModelForCausalLM.from_pretrained(
    model_path,
    dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True,
)

model.eval()

# 示例推理
prompt = "将以下文本翻译成英语，注意只需要输出翻译后的结果，不要额外解释：\n\n今天天气真好。"
messages = [{"role": "user", "content": prompt}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)

with torch.no_grad():
    outputs = model.generate(
        **inputs,
        max_new_tokens=4096,
    )
response = tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True)
print(response)

vLLM

从源码构建 vLLM：

uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

启动 vLLM 服务器：

vllm serve tencent/Hy-MT2-1.8B --tensor-parallel-size 1

SGLang

从源码构建 SGLang：

git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

启动 SGLang 服务器：

python3 -m sglang.launch_server --model tencent/Hy-MT2-1.8B --tp 1

模型训练

Hy-MT2 提供了完整的模型训练流程，支持全参数微调和 LoRA 微调，以及多种 DeepSpeed ZeRO 配置和 LLaMA-Factory 集成。

详细训练文档请参考：模型训练指南 (https://huggingface.co/tencent/Hy-MT2-1.8B/blob/main/train/README.md)

量化工具

我们提供了 AngelSlim (https://github.com/tencent/AngelSlim)，一个易于使用、全面高效的大模型压缩工具包，涵盖常见量化算法、低位量化、投机采样等功能。

支持的语言

引用 Hy-MT2

@misc{zheng2026hymt2familyfastefficient,
      title={Hy-MT2: A Family of Fast, Efficient and Powerful Multilingual Translation Models in the Wild}, 
      author={Mao Zheng and Zheng Li and Tao Chen and Bo Lv and Mingrui Sun and Mingyang Song and Jinlong Song and Hong Huang and Decheng Wu and Hai Wang and Yifan Song and Yanfeng Chen and Guanwei Zhang},
      year={2026},
      eprint={2605.22064},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2605.22064}, 
}

联系我们

如果您想向我们的研发和产品团队提供反馈，欢迎联系腾讯混元大模型团队。您可以通过电子邮件联系我们：[email protected]