@0xSero: Qwen3.6-28B-REAP - BF16 (56GB)/4bit (14GB) 构建了一个地铁射击游戏 (vllm-studio)，每会话150 tok/s。相对…

X AI KOLs Timeline 2026/05/18 21:35 模型

qwen 28b model-release vllm game-building performance

摘要

Qwen3.6-28B-REAP，一个全新的28B参数模型变体，已发布BF16（56GB）和4位（14GB）版本，能够使用vllm-studio以每会话150 tok/s的速度构建一个地铁射击游戏。

Qwen3.6-28B-REAP - BF16 (56GB)/4bit (14GB) 构建了一个地铁射击游戏 (vllm-studio)，每会话150 tok/s。对于这么小的模型来说，相对不错。 https://t.co/KCLYMVIzIG

查看原文

查看缓存全文

缓存时间: 2026/05/19 08:41

Qwen3.6-28B-REAP - BF16（56GB）/ 4bit（14GB）使用vllm-studio构建了一个地铁射击游戏，每会话150 token/s。

对于这么小的模型来说，这个表现还算不错。https://t.co/KCLYMVIzIG

相似文章

Reddit r/LocalLLaMA

使用纯 Q4_K_M 方法对 Qwen3.6 27B 进行量化的版本完全适配 16 GB 显存，在 MTP 下可实现高达 40 tok/s 的 token 生成速度，相比其他 GGUF 变体显著缩小模型体积。

X AI KOLs Timeline

用户基准测试表明，Qwen 3.6 27B dense 模型（Q4 量化）能够在单张 RTX 3090 上通过单次提示自主生成一个完全可玩的多文件游戏，性能显著优于其前代版本，且无需任何人工干预。测试结果突显了在消费级硬件上本地代码生成和智能体能力方面的重大改进。

Reddit r/LocalLLaMA

作者分享了一种高性能的本地推理配置，使用支持 TurboQuant 的修改版 llama.cpp，在硬件受限（8GB 显存、32GB 内存）的情况下运行 Qwen3.6 35B A3B，实现了 ~37-51 tok/sec 的生成速度，并支持 ~190k 上下文。

Reddit r/LocalLLaMA

用户报告在 Radeon 7600 上使用 llama.cpp 和 ROCm 运行 Qwen 3.6 35B A3B-Q8_0 gguf，在显存超频后达到每秒 21 tokens，并提到一个与显示相关的性能 bug。

X AI KOLs Timeline

PrismML 宣布推出 Bonsai 27B，这是 Qwen3.6 27B 的二值量化版本，可在手机上运行，每个权重仅使用 1.125 比特，声称保留了 89.5% 的智能。该模型正由 @sudoingX 独立测试以验证性能。