Drama3 在 audio.cpp 中:全速运行时最快可达实时速度的 5 倍,或在 RTX 5090 上显存低于 8 GB 时以约 2 倍实时速度运行!
摘要
Drama3 模型现已支持在 audio.cpp 中运行,在 RTX 5090 上全速运行时最快可达实时速度的 5 倍,或在低于 8 GB 显存下以约 2 倍实时速度运行,仍需进一步优化与修正。
相似文章
[audio.cpp] 近期更新速览:Higgs Audio TTS 显存占用减少 48%(低于 6GB),HTDemucs 提速 2.2 倍,PocketTTS 在 CPU 上提速 2.2 倍,以及 WebUI 生成历史功能
audio.cpp 带来多项运行时性能优化:Higgs Audio TTS 显存占用减少 48%(低于 6GB),HTDemucs 提速 2.2 倍,PocketTTS 在 CPU 上提速 2.2 倍,同时 WebUI 新增实验性的生成历史功能,目前支持 110+ 音频模型家族。
@no_stp_on_snek:想试试 @fishaudio 的 Drama-3,但模型太大?我在 Hugging Face 上发布了两个实验性量化版本:C0 适用于 32GB 配置……
@no_stp_on_snek 发布了 Fish Audio Drama-3 的两个实验性量化版本(C0 和 C24B),通过自研 TurboQuant llama.cpp fork 在更低显存预算下运行语音合成模型,C24B 已在受限的 RTX 5090 环境下通过短语音测试。
Fish Audio Drama 3 说它需要 48 GB 的 NVIDIA 显卡,而我的 16 GB Radeon 表示不同意。
一位开发者打造了 Red Curtain,让 Fish Audio 的 Drama 3 文本转语音模型(35B MoE,约 3B 激活参数)在 16 GB 的 Radeon RX 9070 上运行,尽管官方要求 48 GB 的 NVIDIA 显卡。其方法是将 FP8 专家层卸载到系统内存,并将激活的专家层缓存在 GPU 上。该工具自带支持声音克隆和多说话人剧本的 Web UI,作者还分享了调优技巧以及一个已知的首行静音问题。
48GB 显存下速度与质量兼得!(Qwen 3.8 27B Swift 1.5 W8A16)
作者发布了自制的 Qwen 3.8 27B Swift 1.5 量化模型(8-bit AWQ + GPTQ 混合量化),在 4 张 RTX 3090 / 48GB 显存上实现了速度与质量的良好平衡,在 2 张 RTX 3090 上配合 vLLM 与 MTP 可达到近 100 tok/s 的解码速度。
@NFTCPS: 电诈园区又有新武器用了,语音克隆这块又被卷到新高度了。 LuxTTS,一个轻量级 TTS 模型,我看完只想说三个字:真离谱。 快:单卡 150 倍实时,连 CPU 都能跑得比真人说话还快 清:直接 48khz,大部分模型还卡在 24khz…
LuxTTS 是一个轻量级语音克隆 TTS 模型,支持 48kHz 高清输出,单 GPU 可达 150 倍实时速度,仅需 1GB 显存即可本地运行,性能媲美十倍大的模型。