ninfer-tool

标签

#ninfer-tool

在 RTX Pro 6000 上使用 Ninfer 对 Qwen3.6 35ba3b 进行单请求达到 600 tokens/s。还记得 Comcast 的广告 "stupid fast" 吗？

Reddit r/LocalLLaMA ↗ · 2026-09-17

在 RTX Pro 6000 上使用 Ninfer 在 Qwen3.6 模型上达到每秒600 tokens，尽管不是最先进的模型，但适用于暴力任务。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈