inclusionAI/Ming-3.0-TTS-0.5B
摘要
inclusionAI 发布了 Ming-3.0-TTS-0.5B,这是一个基于 Qwen2.5-0.5B 构建的稠密 0.5B 多语言文本转语音模型,支持零样本声音克隆、声音设计、副语言内联标签以及自由风格控制,涵盖 7 种语言及中文方言。
查看缓存全文
缓存时间: 2026/10/21 16:26
inclusionAI/Ming-3.0-tts-0.5B · Hugging Face
来源:https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B Ming-3.0-tts Logo
稠密 0.5B 多语言语音合成,支持副语言与自由形式控制。
GitHub (https://github.com/inclusionAI/Ming-3.0-tts)|博客与演示 (https://nomorecoding.github.io/Ming-3.0-tts/)|ModelScope (https://modelscope.cn/models/inclusionAI/Ming-3.0-tts-0.5b)
本仓库包含 Ming-3.0-tts-0.5B,即基于 Qwen2.5-0.5B 构建的稠密版 Ming-3.0-tts 检查点。该检查点包含主干网络、DiT 头部、音频分词器、说话人编码器和文本分词器。
推理需要 Ming-3.0-tts GitHub 仓库 (https://github.com/inclusionAI/Ming-3.0-tts)。 本 Hugging Face 仓库仅用于分发检查点,不提供独立的推理环境。请克隆 GitHub 仓库并按照其 README 获取最新的依赖、推理代码和使用说明。下文提到的 CLI 脚本和 Python API 均由 GitHub 仓库提供。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#model-details模型详情
| 项目 | 值 |
|---|---|
| 架构 | 稠密(Dense),Qwen2.5-0.5B 主干 |
| 参数量 | 0.5B |
| 语言 | 中文、英语、德语、西班牙语、法语、韩语、日语 |
| 方言 | 四川话、粤语 |
| Python API | ming_tts.MingTTS |
| CLI | infer.py |
| 采样率 | 44.1 kHz |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#capabilities能力
- 通过简短参考音频实现零样本声音克隆
- 通过自然语言说话人描述进行声音设计
- 自由形式控制表达方式与说话风格
- 内置 100+ 中文音色和 5 个英文音色
- 14 个内联标签,支持中文或英文的呼吸、咳嗽、叹气、笑声、犹豫、惊讶和疑问/确认等副语言声音
- 显式的情感、语速、音高和音量控制
- 多语言合成以及四川话/粤语方言控制
Ming-3.0-tts 架构
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#quick-start快速开始
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#installation安装
git clone https://github.com/inclusionAI/Ming-3.0-tts.git cd Ming-3.0-tts pip install -r requirements.txt
已在 NVIDIA H800-80GB 和 H20-96G 上使用 CUDA 12.4 测试。flash-attn 为可选项;若未安装,推理将回退到 PyTorch SDPA。
数字、日期、单位和符号使用 FST 语法进行归一化。可安装 pynini,或传入 --no_text_normalization 跳过文本归一化:
conda install -c conda-forge pynini==2.1.6
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#download下载
pip install "huggingface_hub[cli]" hf download inclusionAI/Ming-3.0-tts-0.5B --local-dir Ming-3.0-tts-0.5b
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#cli-inferenceCLI 推理
python infer.py \ --model_path inclusionAI/Ming-3.0-tts-0.5B \ --task TTS \ --language_id Chinese \ --text "傍晚的风从山口吹过来,远处的云慢慢染成了金色。" \ --prompt_wav_path data/wavs/10002287-00000094.wav \ --prompt_text "在此奉劝大家别乱打美白针。" \ --use_spk_emb \ --output output/tts.wav
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#python-apiPython API
`` from ming_tts import MingTTS
model = MingTTS(“inclusionAI/Ming-3.0-tts-0.5B”) model.synthesize( task=“TTS”, language_id=“Chinese”, # 英文文本传 English text=“傍晚的风从山口吹过来,远处的云慢慢染成了金色。”, prompt_wav_path=“data/wavs/10002287-00000094.wav”, prompt_text=“在此奉劝大家别乱打美白针。”, use_spk_emb=True, output_path=“output/tts.wav”, ) ``
支持的任务包括 TTS、FREEFORM、VOICE_DESIGN、MULTILINGUAL、BASIC、EMOTION、DIALECT 和 IP。详见任务使用手册 (https://github.com/inclusionAI/Ming-3.0-tts/blob/main/cookbooks/instructions.md) 中的控制项和示例。
MULTILINGUAL 在德语、西班牙语、法语、韩语或日语时需要指定 language_id;DIALECT 不接受语言 ID。自由形式(Freeform)使用独立任务,不能与声音设计、内置音色、情感、方言或属性控制组合使用。提供参考音频时将跟随该音色;不提供参考音频时,可通过指令选择音色。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#verify-the-checkpoint验证检查点
python tools/preflight.py --model_path /path/to/Ming-3.0-tts-0.5b
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#performance性能
基准对比数据来自项目 README (https://github.com/inclusionAI/Ming-3.0-tts#performance)。
加粗和下划线分别表示所列开源模型中的最佳和次佳数值;并列时共享标记。Seed-TTS 和 NVbench-GT 为未参与排名的参考行。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#zero-shot-tts-seed-tts-testset零样本 TTS(Seed-TTS 测试集)
| 模型 | seed-tts-eval-zh WER ↓ | seed-tts-eval-zh SIM ↑ | seed-tts-eval-en WER ↓ | seed-tts-eval-en SIM ↑ |
|---|---|---|---|---|
| Seed-TTS | 1.110% | 0.796 | 2.240% | 0.762 |
| GLM-TTS | 1.030% | 0.761 | 2.230% | 0.672 |
| Qwen3-TTS | 1.070% | — | 1.390% | — |
| Qwen3-TTS-12Hz-0.6B-Base | 0.920% | — | 1.320% | — |
| Qwen3-TTS-12Hz-1.7B-Base | 0.770% | — | 1.240% | — |
| CosyVoice3-0.5B | 1.160% | 0.780 | 2.020% | 0.718 |
| CosyVoice3-1.5B | 0.710% | 0.775 | 1.450% | 0.695 |
| F5-TTS | 1.560% | 0.741 | 1.830% | 0.647 |
| Ming-3.0-tts-0.5b | 0.800% | 0.758 | 1.584% | 0.691 |
| Ming-3.0-tts-tiny | 0.820% | 0.781 | 1.666% | 0.728 |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#multilingual-minimax-test-set-selected-languages多语言(MiniMax 测试集,部分语言)
在 MiniMaxAI/TTS-Multilingual-Test-Set (https://huggingface.co/datasets/MiniMaxAI/TTS-Multilingual-Test-Set) 的德语、西班牙语、法语、韩语和日语子集上评估。
| 模型 | 德语 WER ↓ | 德语 SIM ↑ | 西语 WER ↓ | 西语 SIM ↑ | 法语 WER ↓ | 法语 SIM ↑ | 韩语 CER ↓ | 韩语 SIM ↑ | 日语 CER ↓ | 日语 SIM ↑ |
|---|---|---|---|---|---|---|---|---|---|---|
| dots.tts | 0.452% | 0.798 | 2.593% | 0.839 | 19.878% | 0.789 | 4.837% | 0.853 | 5.134% | 0.838 |
| VoxCPM2 | 0.963% | 0.790 | 1.324% | 0.836 | 3.380% | 0.761 | 3.547% | 0.839 | 4.358% | 0.825 |
| Fish Audio S2 | 1.045% | 0.714 | 1.216% | 0.748 | 3.636% | 0.698 | 1.675% | 0.761 | 3.427% | 0.755 |
| FireRedTTS3 | 0.348% | 0.825 | 1.086% | 0.868 | 4.366% | 0.807 | 1.644% | 0.864 | 3.418% | 0.825 |
| Ming-3.0-tts-0.5b | 0.365% | 0.753 | 1.099% | 0.763 | 4.264% | 0.675 | 1.728% | 0.793 | 3.765% | 0.765 |
| Ming-3.0-tts-tiny | 0.325% | 0.791 | 0.971% | 0.797 | 3.470% | 0.733 | 6.000% | 0.797 | 3.427% | 0.780 |
每个开源模型均使用其推荐的推理设置,在统一的基于 ASR 的 WER/CER 评估协议下进行评测。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#paralinguistic-control-nvbench副语言控制(NVBench)
| 模型 | 中文 单一 CER | 中文 单一 PCER | 中文 单一 OCER | 中文 复合 CER | 中文 复合 PCER | 中文 复合 OCER | 英文 单一 CER | 英文 单一 PCER | 英文 单一 OCER | 英文 复合 CER | 英文 复合 PCER | 英文 复合 OCER |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| NVbench-GT | 3.86 | 9.38 | 4.07 | 6.73 | 8.31 | 6.90 | 3.79 | 23.71 | 5.07 | 7.26 | 21.41 | 8.62 |
| Orpheus-TTS | 11.36 | 88.77 | 13.91 | 9.03 | 71.92 | 10.63 | 19.83 | 84.85 | 24.38 | 8.68 | 71.46 | 11.89 |
| SMIIP-NV-CV2 | 8.80 | 75.64 | 11.34 | 17.92 | 56.80 | 19.47 | 10.66 | 77.20 | 14.79 | 20.93 | 54.49 | 23.87 |
| Emilia-NV-CV2 | 5.05 | 40.00 | 6.64 | 12.50 | 55.30 | 13.21 | 5.54 | 48.74 | 8.09 | 11.71 | 60.28 | 14.63 |
| CosyVoice3 | 3.85 | 57.69 | 5.86 | 7.87 | 62.75 | 9.06 | 4.75 | 61.94 | 8.26 | 6.39 | 57.84 | 10.69 |
| NV-FlexiVoice | 6.98 | 31.08 | 8.15 | 11.88 | 50.43 | 13.21 | 8.20 | 39.37 | 10.39 | 9.60 | 51.32 | 13.76 |
| NV-CV3 | 3.80 | 27.69 | 4.90 | 8.33 | 46.13 | 9.44 | 3.44 | 30.04 | 4.84 | 6.70 | 47.13 | 10.10 |
| Ming-3.0-tts-0.5b | 2.70 | 22.80 | 3.20 | 7.60 | 37.00 | 8.90 | 3.50 | 36.60 | 8.10 | 7.90 | 47.30 | 10.40 |
| Ming-3.0-tts-tiny | 2.80 | 17.23 | 3.20 | 5.86 | 32.95 | 7.05 | 4.49 | 32.88 | 5.81 | 5.12 | 46.13 | 7.68 |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#dialect-control方言控制
| 模型 | WSC-Eval-TTS-easy CER ↓ | WSC-Eval-TTS-easy SIM ↑ | WSC-Eval-TTS-easy ACC ↑ | WSC-Eval-TTS-hard CER ↓ | WSC-Eval-TTS-hard SIM ↑ | WSC-Eval-TTS-hard ACC ↑ | WSYue-TTS-eval-Base CER ↓ | WSYue-TTS-eval-Base SIM ↑ | WSYue-TTS-eval-Base ACC ↑ | WSYue-TTS-eval-Coverage CER ↓ | WSYue-TTS-eval-Coverage SIM ↑ | WSYue-TTS-eval-Coverage ACC ↑ |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Qwen3-TTS | 4.13% | — | — | 7.35% | — | — | — | — | — | — | — | — |
| CosyVoice3-0.5B | 3.17% | 0.696 | 76.05% | 4.07% | 0.723 | 81.41% | 8.36% | 0.611 | 91.70% | 8.95% | 0.658 | 95.80% |
| CosyVoice3-1.5B + DiffRO-EMO | 7.14% | 0.703 | — | 9.06% | 0.601 | — | 14.38% | 0.812 | — | 13.74% | 0.826 | — |
| CosyVoice2-WSC | 4.28% | 0.728 | — | 8.87% | 0.626 | — | — | — | — | — | — | — |
| CosyVoice2-WSC-SFT | 4.08% | 0.788 | — | 7.22% | 0.680 | — | — | — | — | — | — | — |
| CosyVoice2-Yue | — | — | — | — | — | — | 10.33% | 0.821 | — | 9.49% | 0.834 | — |
| Sparks-TTS | 10.83% | 0.677 | — | 12.52% | 0.545 | — | 27.79% | 0.762 | — | 24.25% | 0.781 | — |
| Ming-3.0-tts-0.5b | 2.27% | 0.689 | 80.68% | 3.35% | 0.691 | 87.64% | 6.15% | 0.586 | 98.00% | 8.15% | 0.622 | 95.27% |
| Ming-3.0-tts-tiny | 2.53% | 0.721 | 86.09% | 3.11% | 0.738 | 88.94% | 7.40% | 0.605 | 92.90% | 8.67% | 0.653 | 95.16% |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#emotion-control-cv3情感控制(CV3)
| 模型 | 平均 | 文本相关 快乐 | 文本相关 悲伤 | 文本相关 愤怒 | 文本无关 快乐 | 文本无关 悲伤 | 文本无关 愤怒 |
|---|---|---|---|---|---|---|---|
| CosyVoice3-0.5B | 66.33% | 92% | 70% | 72% | 64% | 42% | 58% |
| CosyVoice3-1.5B | 63.00% | 86% | 64% | 72% | 64% | 44% | 48% |
| CosyVoice3-1.5B + DiffRO-EMO | 77.67% | 98% | 68% | 84% | 98% | 50% | 68% |
| F5-TTS | 64.67% | 92% | 52% | 72% | 80% | 28% | 64% |
| Sparks-TTS | 55.33% | 80% | 56% | 50% | 50% | 60% | 36% |
| Ming-3.0-tts-0.5b | 72.33% | 96% | 76% | 94% | 52% | 36% | 80% |
| Ming-3.0-tts-tiny | 74.00% | 98% | 82% | 90% | 60% | 36% | 78% |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#emotion-control-cv3n-hard-emotion-control情感控制(CV3N,困难情感控制)
| 模型 | 平均 | 文本相关 快乐 | 文本相关 悲伤 | 文本相关 愤怒 | 文本无关 快乐 | 文本无关 悲伤 | 文本无关 愤怒 |
|---|---|---|---|---|---|---|---|
| CosyVoice3-0.5B | 40.00% | 68% | 30% | 78% | 14% | 4% | 46% |
| Ming-3.0-tts-0.5b | 37.33% | 70% | 36% | 70% | 14% | 4% | 30% |
| Ming-3.0-tts-tiny | 30.67% | 60% | 40% | 44% | 18% | 10% | 12% |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#voice-design-instructttseval-zh声音设计(InstructTTSEval-ZH)
| 模型 | 平均 | APS | DSD | DRP |
|---|---|---|---|---|
| Qwen3-TTS | 77.13% | 85.20% | 81.10% | 65.10% |
| Mimo-Audio-7B-Instruct | 70.50% | 75.70% | 74.30% | 61.50% |
| VoiceSculptor | 67.30% | 75.70% | 64.70% | 61.50% |
| VoxInstruct | 47.47% | 47.50% | 52.30% | 42.60% |
| Ming-3.0-tts-0.5b | 72.29% | 78.54% | 77.28% | 61.06% |
| Ming-3.0-tts-tiny | 75.37% | 85.10% | 79.90% | 61.10% |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#basic-attribute-control基础属性控制
| 模型 | 语速 | 音量 | 音高 | 平均 | WER ↓ | SIM ↑ |
|---|---|---|---|---|---|---|
| CosyVoice3-0.5B | 100.00% | 97.67% | 65.33% | 87.67% | 1.210% | 0.580 |
| Ming-3.0-tts-0.5b | 99.00% | 95.00% | 86.00% | 93.30% | 0.317% | 0.712 |
| Ming-3.0-tts-tiny | 93.00% | 93.00% | 78.70% | 88.23% | 0.274% | 0.742 |
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#limitations局限性
- 说话人相似度弱于内容准确度;法语的 SIM 是最明显的多语言差距。
- NVBench 复合场景落后于单一场景;同一句话中出现多个副语言事件时的稳定性仍在改进。
- 当文本内容本身不含情感信号时,情感控制更加困难。
- 音高的准确度不如语速和音量,开放式声音设计目前尚未达到最强评测系统的效果。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#usage-disclaimer使用声明
- 声音克隆和内置角色音色仅供研究和正当的创作用途。请勿在未经同意的情况下冒充真实人物、用于欺骗或任何非法目的。
- 在可能被误认为真实录音的场合,请将合成语音标注为合成。
- 作者不对滥用行为承担任何责任。如发现本项目的滥用行为,请向我们举报。
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#acknowledgements致谢
- Qwen2.5 (https://github.com/QwenLM/Qwen2.5) 提供的主干网络
- CAM++ (https://modelscope.cn/models/iic/speech_campplus_sv_zh-cn_16k-common) 用于说话人嵌入提取
- Ming-omni-tts (https://github.com/inclusionAI/Ming-omni-tts),上一代版本,本版本的音频分词器基于其构建
https://huggingface.co/inclusionAI/Ming-3.0-tts-0.5B#license许可证
基于 MIT 许可证发布 (https://github.com/inclusionAI/Ming-3.0-tts/blob/main/LICENSE)。
相似文章
inclusionAI/Ming-3.0-audio-flash · Hugging Face
inclusionAI 发布 Ming-3.0-audio-flash,一个 126B 总参数(每步激活 6.5B)的原生音频-语言 MoE 模型,支持中英文语音识别、语音问答、长音频理解、音频推理以及可选的语音合成输出,采用 MIT 许可证。
@AdinaYakup:蚂蚁集团刚刚发布了全新的语音与音频模型!https://huggingface.co/collections/inclusionAI/ming-30…
蚂蚁集团(inclusionAI/Ant Ling)发布 Ming-3.0 系列语音与音频模型,涵盖 TTS、ASR 及音频模型,已在 Hugging Face 和 ModelScope 上线,参数规模从 0.5B 到 128B 不等。
@Ryrenz: 太丝滑了,Ming-3.0-tts 能拿一段参考音直接克隆声音,还能用一句话指挥它怎么念 蚂蚁集团旗下的 inclusionAI 昨天刚开源的。在 Artificial Analysis 十月的语音合成榜上,Ming-3.0-tts 的发…
蚂蚁集团旗下 inclusionAI 开源了 Ming-3.0-tts 语音合成模型,在 Artificial Analysis 十月榜单上发音稳健性以 93.2% 拿下总榜第一,可控音色为开源第一,支持音色克隆、自然语言指令控制、14 种副语言标签及四川话、粤语等多方言多语言合成。
@阿里的通义实验室:Qwen-Audio-3.0-TTS来了。我们最新的文本转语音模型,提供两个版本:• Flash:实时交互 • Plus:高…
阿里巴巴通义实验室发布了Qwen-Audio-3.0-TTS,一款新的文本转语音模型,提供Flash(实时)和Plus(高质量)两个版本,支持16种语言、自然语言风格控制以及更稳健的语音克隆。
Qwen3-TTS 技术报告
Qwen3-TTS 技术报告介绍了一系列先进的多语言文本转语音模型,具备语音克隆和可控生成能力,采用双轨 LM 架构和专用分词器以实现低延迟流式处理。