throughput-benchmark

标签

#throughput-benchmark

如果你使用 Open Code 或其他代理程序，但没有并行使用代理，那么你会损失大量的 t/s。基准测试：RTX5090，通过 LM Studio 加载 Qwen3.6 35B，并行任务数设为 8

Reddit r/LocalLLaMA ↗ · 2026-07-12

基准测试表明，在 RTX 5090 上使用 LM Studio 并行运行 4-5 个代理可最大化吞吐量，而更多代理会因显存和计算分割导致收益递减。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈