27b

在 RTX 5090 上运行 Qwen3.6 27B，调整 MTP 和缓存设置后达到每秒 6.4k 个 token，展示了推理优化技术。

在 Dspark 背景下提及 Qwen 3.6 27b 模型。

一条推广Qwen 3.6 27b模型并推荐UnslothAI在任何GPU上运行它的推文。

Hugging Face 仓库 (kaitchup/Qwen3.6-27B-GGUF-MoQ) 提供了 Qwen3.6-27B MoQ 模型的 GGUF 量化权重，支持使用 llama.cpp 和 Ollama 等工具进行本地推理。

GGUF量化版本的Qwopus3.6-27B-Coder-MTP模型已发布在Hugging Face上，针对本地推理进行了优化，兼容Transformers、vLLM、SGLang和Unsloth Studio。

MooreThreads 发布了 MusaCoder-27B，一个拥有 270 亿参数的代码生成模型，并随附 arXiv 论文。

用户分享了对 Qwen3.6 27B 模型的体验，该模型一次性成功生成了一个完整的 HTML5 打砖块游戏，展现了令人印象深刻的连贯性和对细节的关注，超越了典型的 LLM 输出。

Qwen 3.6 27B 在16 GB VRAM上运行快速，得益于'Pure Quant'技术，通过MTP达到40 tokens/s，并支持64k上下文，使得本地AI能在RTX 4060 Ti等消费级GPU上运行。

Qwen很有可能会发布一个27B参数模型，尽管具体路线图仍在确定中。

Qwopus3.6-27B-v2是Qwen3.6-27B的推理增强微调版本，使用Trace Inversion数据集和课程学习，以GGUF格式发布以实现高效推理。

作者分享了一个Qwen3.6 27B的量化方案，该方案使模型使用显著更少的思考令牌，同时仍然产生正确的答案，从而在数学基准测试中实现更快的推理。