@TheAhmadOsman:Qwen 3.8 27B 权重和基准测试现已发布。这个东西在全精度下可装入单张 RTX PRO 6000,并且超过…
摘要
Qwen 3.8 27B 的权重和基准测试已发布,据报道在多项基准测试中击败 Opus 4.6 Max,同时全精度下可装入单张 RTX PRO 6000。
Qwen 3.8 27B 权重和基准测试现已发布
这个东西在全精度下可装入单张 RTX PRO 6000,并在多项基准测试中击败 Opus 4.6 Max
在家即可 SoTA https://t.co/kbdtknLMVn
查看缓存全文
缓存时间: 2026/08/14 15:40
Qwen 3.8 27B 权重和基准测试现已发布
这个模型在全精度下可装入单张 RTX PRO 6000,并在多项基准测试中胜过 Opus 4.6 Max
在家就能达到 SoTA https://t.co/kbdtknLMVn
相似文章
@RoundtableSpace: Qwen 3.8 27B 在本地 RTX 5090 上运行时,在个人基准测试中击败 Opus 4.8,速度高达每秒200个令牌,无需...
Qwen 3.8 27B 是一个拥有270亿参数的AI模型,在本地RTX 5090 GPU上运行时,在个人基准测试中超越Opus 4.8,速度高达每秒200个令牌,无需互联网或API访问。
Qwen 3.6 35B A3B 与 Qwen 3.5 122B A10B 对比
用户反馈,尽管基准测试表现亮眼,Qwen 3.5 122B 在多步任务上大幅领先 Qwen 3.6 35B,怀疑是量化或部署配置问题。
Qwen 3.6 在双 RTX PRO 6000 上的基准测试
使用 VLLM 在双 RTX PRO 6000 GPU 上对 Qwen 3.6 27B 和 35B 模型进行基准测试,生成吞吐量高达每秒 3500 个令牌。
我们量化了 Qwen 3.8 27B 并在 RTX 6000 上比较了量化版本
团队将 Qwen 3.8 27B 量化为多种 GGUF 格式,并在 RTX 6000 上进行了基准测试,发现不同量化版本性能相似,推荐 AD-Q6_K 以保证安全性。
@TheAhmadOsman: 顺便说一下,Qwen 3.8 27B 的 NVFP4 版本可以在单个 RTX 5090 上运行。
Qwen 3.8 27B 模型已推出 NVFP4 量化版本,使其能在单个 RTX 5090 GPU 上运行,并在编码、智能任务和视觉语言理解方面有所增强。