AngelSlim/Hy-MT1.5-1.8B-1.25bit · Hugging Face

来源：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit AngelSlim

致力于打造更直观、更全面、更高效的 LLM 压缩工具包。

📱Android Demo (https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-2bit-GGUF/resolve/main/Hy-MT-demo.apk?download=true) | 📣GGUF (https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF) | ✒️Sherry 论文 (ACL 2026) (https://arxiv.org/abs/2601.07892) | 📖文档 (https://angelslim.readthedocs.io/) | 🤗AngelSlim (https://huggingface.co/AngelSlim) | 💬微信 (https://github.com/Tencent/AngelSlim/blob/main/docs/source/assets/angel_slim_wechat.png?raw=true)

model_scores Hy-MT1.5-1.8B 翻译质量评分。来源：HY-MT1.5 Technical Report (https://arxiv.org/abs/2512.24092)

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%A3-latest-news📣 最新动态

• [26/04/29] 我们发布了 Hy-MT1.5-1.8B-2bit (574MB) 和 Hy-MT1.5-1.8B-1.25bit (440MB)，支持 33 种语言的端侧翻译模型，同时提供权重和 GGUF 两种格式。我们还制作了 Android Demo 供大家体验，欢迎试用！🔥🔥🔥
• [26/02/09] 我们发布了 HY-1.8B-2Bit，一款 2-bit 端侧大语言模型。
• [26/01/13] 我们发布了 v0.3。支持所有规模的 LLM/VLM/Audio 模型的 Eagle3 训练与部署。同时发布了 Sherry，一种硬件高效的 1.25-bit 量化算法 [论文] | [代码]

更多详细信息，请参考 [AngelSlim] 和 [HY-MT]

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%8C%9F-hy-mt15-18b-125bit-key-features🌟 Hy-MT1.5-1.8B-1.25bit 核心特性

• 世界级翻译质量 Hy-MT1.5-1.8B-1.25bit 基于 Hy-MT1.5-1.8B 基础模型构建，该模型是腾讯混元团队通过整合机器翻译导向的预训练、监督微调、在线策略蒸馏和强化学习的多阶段全流程训练而成的专业翻译模型。基础模型原生支持 33 种语言、5 种方言/少数民族语言，覆盖 1,056 个翻译方向。仅凭 1.8B 参数，它全面超越了规模更大的开源模型（如 Tower-Plus-72B、Qwen3-32B）和主流商业翻译 API（如 Microsoft Translator、Doubao Translator）。详情请参阅 HY-MT1.5 Technical Report。
• Sherry：极致 1.25-bit 量化 该模型采用 Sherry (https://arxiv.org/abs/2601.07892)（已被 ACL 2026 接收），一种硬件高效的三值量化框架。Sherry 引入了 3:4 细粒度稀疏 策略：每 4 个模型权重中，将 3 个最重要的以 1-bit ({-1, +1}) 存储，剩余 1 个置零。这样将 4 个权重压缩到仅 5 个 bit，实现有效的 1.25-bit 位宽，且满足 2 的幂次对齐，将原始 3.3GB 的 FP16 模型压缩至仅 440MB，精度损失极小。

Sherry Sherry 细粒度稀疏：每 4 个权重中，3 个最重要的以 1-bit 存储，剩余 1 个置零。

• 覆盖最多手机的端侧部署 配合我们专为移动端 CPU 定制的 STQ 算子，1.25-bit 模型实现了与 SIMD 指令集的完美对齐。这意味着即使是内存有限的普通手机也能流畅运行高质量的离线翻译。无需联网，数据永不离开设备。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%88-translation-benchmarks📈 翻译基准测试

不同模型规模在 Flores-200 中外互译基准上的性能对比：

flores_model_size 不同模型规模在 Flores-200 中外互译基准上的性能表现。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%E2%9A%A1-speed-demo⚡ 速度演示

FP16（8倍速）与 1.25-bit 速度对比。演示设备：Snapdragon 888, 8GB RAM：

fp16_vs_1.25bit 演示设备：Snapdragon 888, 8GB RAM。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%B1-demo📱 演示

我们提供即开即用的 Android 离线翻译 Demo。该 Demo 具备后台划词翻译模式，可在手机上任何应用中使用——浏览邮件、网页或聊天消息时，无需切换应用即可获得即时翻译。无需网络，不收集数据，一次下载永久使用。

下载 Demo：

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#translation-demo翻译演示

app_demo 演示设备：Snapdragon 865, 8GB RAM。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#background-word-extraction-mode后台划词翻译模式

demo2 演示设备：Snapdragon 7+ Gen 2, 16GB RAM。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%A5-download-links📥 下载链接

• 1.25-bit 模型权重：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit
• 1.25-bit 模型 GGUF：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF
• 2-bit 模型权重：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-2bit
• 2-bit 模型 GGUF：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-2bit-GGUF
• Demo：https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%84-technical-reports📄 技术报告

• HY-MT1.5 Technical Report：https://arxiv.org/abs/2512.24092
• Sherry Paper (ACL 2026)：https://arxiv.org/abs/2601.07892
• AngelSlim Technical Report：https://arxiv.org/abs/2602.21233

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%93%9D-license📝 许可协议

本项目代码根据 AngelSlim License 开源。

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%94%97-citation🔗 引用

@misc{huang2026sherry,
      title={Sherry: Hardware-Efficient 1.25-Bit Ternary Quantization via Fine-grained Sparsification}, 
      author={Hong Huang and Decheng Wu and Qiangqiang Hu and Guanghua Yu and Jinhai Yang and Jianchen Zhu and Xue Liu and Dapeng Wu},
      year={2026},
      eprint={2601.07892},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/2601.07892}, 
}

@article{angelslim2026,
  title={AngelSlim: A more accessible, comprehensive, and efficient toolkit for large model compression},
  author={Hunyuan AI Infra Team},
  journal={arXiv preprint arXiv:2602.21233},
  year={2026}
}

@misc{zheng2025hymt,
      title={HY-MT1.5 Technical Report}, 
      author={Mao Zheng and Zheng Li and Tao Chen and Mingyang Song and Di Wang},
      year={2025},
      eprint={2512.24092},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2512.24092}, 
}

https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit#%F0%9F%92%AC-technical-discussion💬 技术讨论

• AngelSlim 正在持续迭代，新功能即将发布。如有任何问题或建议，欢迎在 GitHub Issues 提交 issue，或加入我们的 微信讨论群。