在没有GPU的情况下，语音助手的响应速度能有多快？在CPU上使用Qwen3-ASR和Kokoro-TTS ONNX。
摘要
探讨了在没有GPU的情况下，在CPU上使用Qwen3-ASR和Kokoro-TTS ONNX模型运行语音助手的性能，测量响应时间。
暂无内容
相似文章
使用Kokoro实现本地、CPU友好、高质量的文本转语音（TTS）
本文介绍Kokoro，一个轻量级82M参数的文本转语音模型，可在本地CPU上运行，提供跨多种语言的高质量语音合成，同时保护隐私。文章解释了如何通过Docker容器设置Kokoro，并使用兼容OpenAI的API进行简单集成。
CPU TTS基准测试与UTMOS MOS评分：Kokoro、Supertonic、Inflect-Nano和Kyutai的新Pocket TTS [P]
一项CPU TTS基准测试使用UTMOS MOS评分对比了Kokoro、Supertonic、Inflect-Nano和Kyutai的Pocket TTS，揭示了关于RTF缩放、UTMOS在小声码器上的局限性以及未记录的输出上限的有趣发现。Pocket TTS在CPU上提供了独特的零样本声音克隆能力。
@ngxson: Qwen3.6-27B 在 WebGPU 上 100% 运行。速度不是最快，但仍然不错
一位开发者演示在浏览器中完全通过 WebGPU 运行 Qwen3.6-27B AI 模型，尽管速度并非最优。
@FeitengLi: 99M 参数的 TTS 跑在 CPU 上，比 2B 大模型跑在 A100 上还快。 Supertone 新开源的 supertonic-3 ONNX Runtime，完全本地，浏览器能跑，手机能跑，树莓派也能跑。
Supertone released Supertonic 3, an open-source TTS model with 99M parameters that runs faster on CPU than a 2B model on A100, supporting 31 languages and ONNX Runtime for fully local inference.
@HuggingPapers: NVIDIA 刚刚在 Hugging Face 上发布了 Kokoro TTS 模型的优化版本。一款轻量级、8200万参数的语音合成器…
NVIDIA 在 Hugging Face 上发布了 Kokoro TTS 模型的优化 ONNX 版本。这款拥有 8200 万参数的模型轻量、快速，且可用于商业用途。