21款GPU运行小型TTS模型基准测试（显存峰值：5GB）

Reddit r/LocalLLaMA 新闻
gpu-benchmark tts voice-cloning omni-voice inference consumer-gpus

摘要

一位用户在vast.ai上对21款消费级GPU进行了基准测试，运行小型TTS模型（OmniVoice），显存峰值5GB，比较了相对于实时速度和RTX 3090的性能。

我在vast.ai上租用了不同的GPU，每块使用几分钟，对一个小型TTS模型OmniVoice进行基准测试，该模型显存峰值约5GB。我想测试各种主流消费级GPU与我自己的RTX 3090相比表现如何。这绝不是一次广泛或科学性的分析，但我认为它大致能体现这些GPU之间的相对性能。xRT表示实时倍数，即GPU生成音频比实时快多少。在提供参考音频的情况下，对一个小段落进行3次平均测试（声音克隆）。
查看原文

相似文章

在6GB RTX 4050上对20个小LLM的基准测试

Reddit r/LocalLLaMA

对20个为6GB GPU量化的小LLM的详细基准测试，测量了不同上下文长度下的速度和VRAM使用情况，并对工具使用和指令遵循进行了定性探针。该报告旨在帮助拥有中等硬件的用户为本地私有的自动化任务选择模型。

4090 + 5060 Ti + 64GB RAM：35B-A3B 达 206 t/s，122B 达 37 t/s

Reddit r/LocalLLaMA

一位用户分享了在双 GPU（RTX 4090 和 RTX 5060 Ti）上运行大语言模型（Qwen 27B-122B）的基准测试结果，实现了极高的 token 生成速度（例如 35B-A3B 达到 206 t/s，122B 达到 37-41 t/s）。帖子包含配置详情以及指向 GitHub 仓库的链接，其中包含脚本和原始数据。

九个模型、五项编码任务、一块16GB显卡

Reddit r/LocalLLaMA

一项基准测试在单块16GB的RX 9060 XT显卡上，让九个模型完成了五项高难度的自包含编码任务，评判标准包括隐藏测试用例、随机化暴力验证器和性能门槛。DeepSeek-v4.1-flash和量化版Qwen3.8-27B（kvstream分支）均获得了满分5/5，而另外几个开源权重模型则在区间调度、星号堆模式匹配等算法设计任务上失利。