tencent/Hy3 · Hugging Face

来源：https://huggingface.co/tencent/Hy3 中文 | English

许可协议 (https://huggingface.co/tencent/Hy3#license) HuggingFace (https://huggingface.co/tencent/Hy3) ModelScope (https://modelscope.cn/models/Tencent-Hunyuan/Hy3) cnb.cool (https://cnb.cool/ai-models/tencent/Hy3) GitCode (https://ai.gitcode.com/tencent_hunyuan/Hy3)

🖥️官方网站 (https://aistudio.tencent.com/) | 💬GitHub (https://github.com/Tencent-Hunyuan/Hy3)

目录

• 模型介绍
• 更强的智能体性能
• 产品体验：更可靠、更具性价比
• 基准测试附录
• 新闻
• 模型链接
• 快速开始
• 部署
  • vLLM
  • SGLang
• 微调
• 量化
• 许可协议
• 联系我们

模型介绍

Hy3 是一个拥有 295B 参数的混合专家（MoE）模型，激活参数为 21B，MTP 层参数为 3.8B，由腾讯混元团队开发。在 4 月底推出 Hy3 Preview 后，我们收集了 50 多个产品团队的反馈，修复了任务执行和交互中的各种问题，并提升了后训练管道的质量和规模。今天，我们正式发布 Hy3。它在同类尺寸模型中表现显著优越，并可与参数规模大 2-5 倍的主流开源模型相媲美。在生产力任务和实际应用中，其效用也有明显提升。

更强的智能体性能

在 Hy3 Preview 的基础上，我们提升了后训练数据的质量和多样性，同时扩大了 RL 训练的规模。Hy3 在推理、智能体工作流和长上下文任务上均有显著提升，性能接近国内外领先的旗舰模型。

在编码、文档处理、金融分析、游戏开发和前端设计等生产力场景中，Hy3 取得了扎实的进步，使其成为可靠且具性价比的选择。

我们不认为公开基准测试分数能反映全貌。因此，我们邀请了来自不同学科的 270 位专家，基于真实工作流进行盲测，收集了 312 组有效对比。Hy3 得分为 2.67/4，优于 GLM-5.1 的 2.51/4。优势最明显的领域是前端开发、CI/CD 以及数据与存储。

产品体验：更可靠、更具性价比

生产环境中的效用无法完全由基准测试体现。根据广泛的用户反馈和产品遥测数据，我们识别出影响产品体验的真实行为问题，并提升了模型在这些方面的能力，获得了产品团队一致的好评。

输出格式化和工具调用稳定性：我们修复了多个基线可靠性问题，使模型在工具配置和输出约束方面达到生产级标准。工具调用成功率和错误恢复能力得到提升，引发无限循环的无效调用明显减少。Hy3 还能在不同智能体框架间泛化。在 SWE-Bench Verified 上，使用 CodeBuddy、Cline 和 KiloCode 等不同框架的准确率差异保持在 4% 以内。

世界知识与抗幻觉：内部知识和外部幻觉相互关联，对真实产品体验至关重要。我们遵循“有依据时回答，证据缺失时说明，不混淆来源，不捏造数据”的理想行为模式，实施了细粒度数据清洗和特定训练约束。在内部针对真实场景的评估中，Hy3 的幻觉率从 12.5% 降至 5.4%，常识错误率从 25.4% 降至 12.7%。这些改进显著减少了事实混淆、捏造和逻辑矛盾。

复杂上下文保持与多轮意图追踪：通过 SFT 与 RL 的联合优化，Hy3 改善了共指消解、省略恢复和多轮约束继承等操作痛点。在内部综合多轮测试中，问题率从 17.4% 降至 7.9%。在开源长对话基准测试（如 MRCR）上，分数从 42.9% 提升至 75.1%。整体输出更加简洁，同时确保复杂意图在长期交互中不衰退或漂移。

基准测试附录

新闻

• 🔥 我们在 Hugging Face (https://huggingface.co/tencent/Hy3)、ModelScope (https://modelscope.cn/models/Tencent-Hunyuan/Hy3)、GitCode (https://ai.gitcode.com/tencent_hunyuan/Hy3) 和 CNB (https://cnb.cool/ai-models/tencent/Hy3) 上开源了 Hy3 和 Hy3-FP8 模型权重。

模型链接

快速开始

首先使用 vLLM 或 SGLang 部署 Hy3，然后调用 OpenAI 兼容的 API：

from openai import OpenAI

client = OpenAI(base_url="http://127.0.0.1:8000/v1", api_key="EMPTY")

response = client.chat.completions.create(
    model="hy3",
    messages=[
        {"role": "user", "content": "你好！能简单介绍一下你自己吗？"},
    ],
    temperature=0.9,
    top_p=1.0,
    # reasoning_effort: "no_think"（默认，直接回答）、"low"、"high"（深度思维链）
    extra_body={"chat_template_kwargs": {"reasoning_effort": "no_think"}},
)
print(response.choices[0].message.content)

推荐参数：temperature=0.9、top_p=1.0。推理模式：对于复杂任务（数学、编码、推理）设置 reasoning_effort 为 "high"，或对于直接回答设置为 "no_think"。

有关如何启动 API 服务器的详细信息，请参见下面的部署部分。

部署

Hy3 总共有 295B 参数。要在 8 张 GPU 上提供服务，建议使用 H20-3e 或其他内存更大的 GPU。

对于生产环境部署，推荐使用 vLLM 或 SGLang，两者都为 Hy3 提供了专用配方：

• vLLM – 请参见 vLLM 配方
• SGLang – 请参见 SGLang Cookbook

vLLM

从源码构建 vLLM：

uv venv --python 3.12 --seed --managed-python
source .venv/bin/activate
git clone https://github.com/vllm-project/vllm.git
cd vllm
uv pip install --editable . --torch-backend=auto

启动启用了 MTP 的 vLLM 服务器：

# 切换到 trtllm 后端以规避 mnnvl 工作区大小问题
export VLLM_FLASHINFER_ALLREDUCE_BACKEND=trtllm
vllm serve tencent/Hy3 \
  --tensor-parallel-size 8 \
  --speculative-config.method mtp \
  --speculative-config.num_speculative_tokens 2 \
  --tool-call-parser hy_v3 \
  --reasoning-parser hy_v3 \
  --enable-auto-tool-choice \
  --port 8000 \
  --served-model-name hy3

SGLang

从源码构建 SGLang：

git clone https://github.com/sgl-project/sglang
cd sglang
pip3 install pip --upgrade
pip3 install "transformers>=5.6.0"
pip3 install -e "python"

启动启用了 MTP 的 SGLang 服务器：

python3 -m sglang.launch_server \
  --model tencent/Hy3 \
  --tp-size 8 \
  --tool-call-parser hunyuan \
  --reasoning-parser hunyuan \
  --speculative-num-steps 2 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 3 \
  --speculative-algorithm EAGLE \
  --port 8000 \
  --served-model-name hy3

微调

Hy3 提供了完整的模型微调管道。详细文档请参考：微调指南

量化

我们提供了 AngelSlim，一个更易用、全面且高效的大模型压缩工具包。AngelSlim 支持大规模多模态模型的全面压缩工具，包括常见量化算法、低位量化和投机采样。

许可协议

Hy3 采用 Apache License 2.0 发布。详见 LICENSE。

联系我们

如果您想给我们的研发和产品团队留言，欢迎联系我们。也可以通过电子邮件联系我们：

📧 [email protected]

Hy3 由腾讯混元团队开发。