Qwen3.6-35B-A3B-Abliterated-Heretic-MLX-4bit

Reddit r/LocalLLaMA 2026/05/08 01:05 模型

qwen mlx fine-tuning quantization open-source apple-silicon uncensored

摘要

用户评价了通过MLX为Apple Silicon优化的Qwen3.6-35B模型的量化微调版本，称赞其速度快、智能化程度高且没有安全免责声明。

这款模型是通用聊天机器人模型中的GOAT。极其聪明，快如闪电（Apple Silicon），并且毫无免责声明地讲真话。如果以后还能变得更好，我绝对会惊掉下巴。惊掉下巴。

查看原文

相似文章

Reddit r/LocalLLaMA

mlx-dspark v0.10.0 新增了对 Apple Silicon 上 Qwen3.8-27B 的支持，通过无损验证的推测解码提供高达3倍的速度提升。

X AI KOLs Timeline

Daniel Farinax 宣布推出一个定制 CLI，用于在 MacBook 上通过 MLX 运行 Qwen3.6-27B，正在招募测试人员，并转向 TypeScript 以加快迭代速度。

Hugging Face Models Trending

阿里巴巴发布了Qwen3.6-35B-A3B-FP8，这是Qwen3.6的开源权重量化变体，拥有35B参数，通过MoE激活3B，具有改进的智能编码能力和保持思维链的迭代开发特性。

X AI KOLs Timeline

DealignAI 发布了 Qwen3.6-27B 和 35B 模型的 CRACK-abliterated 以及 MXFP4/MXFP8 量化版本，保留了 MTP，可在 Apple Silicon 上实现更快的推测解码。

Reddit r/LocalLLaMA

作者对小型本地 LLM 进行了基准测试，重点突出了 Qwen 3.6 35B A3B，其将学术代码与研究论文进行映射的能力优于 Gemma 4 和 Nemotron 3 Nano 等模型。