女士们,先生们,我向大家介绍 Qwen3.8 27b 1位量化脑损伤版本

Reddit r/LocalLLaMA 新闻

摘要

一位用户在8GB显存系统上测试了 unsloth 1位量化版本的 Qwen 3.8 27B AI模型,并发现结果很有趣。

我只是想测试一下 unsloth 1位量化版本的 qwen 3.8 27b,因为我只有8GB显存,坦白说,这让我笑了出来。
查看原文

相似文章

Wow!Qwen 3.6:35b-a3b 在 3090 上……太惊人了。

Reddit r/artificial

一位用户分享了在二手 RTX 3090 上运行量化版 Qwen 3.6:35b-a3b 模型的惊人结果:将模型放入显存后,输出速度达到每秒 160 个 token,并以 75 秒的视频处理时间展示了视觉能力。

Qwen/Qwen3.6-27B-FP8

Hugging Face Models Trending

阿里巴巴发布 Qwen3.6-27B-FP8,一款 27B 参数的 FP8 量化模型,在代理式编码与推理基准上表现强劲,现已上架 Hugging Face。