@zhixianio: 这两天新机器到了之后，我开始了「苦行僧」式的强迫自己使用本地模型来完成常见任务的修行 本以为会非常痛苦，没想到无论是速度还是质量都大大超出我的预期： 模型： Qwen3.6-35B-A3B-oQ6-fp16-mtp 运行：oMLX，开 N…
摘要
作者在本地新机器上使用Qwen3.6-35B-A3B模型和oMLX工具进行日常任务，发现速度和效果远超预期，甚至在PA和Coding场景下优于远程LLM，体现了端侧AI能力的显著提升。
查看缓存全文
缓存时间: 2026/06/03 07:46
这两天新机器到了之后，我开始了「苦行僧」式的强迫自己使用本地模型来完成常见任务的修行
本以为会非常痛苦，没想到无论是速度还是质量都大大超出我的预期：
模型： Qwen3.6-35B-A3B-oQ6-fp16-mtp 运行：oMLX，开 Native MTP，关 Thinking，CTX 128K
这几天，无论是 PA 场景（OpenClaw），还是 Coding 场景（PI-Mono），响应速度上比远程 LLM 快，智商在线，还能帮我多想多做一步，PA 下的原生多模态用起来比 DSV4 Pro 还要爽
没想到端侧模型的能力已经到这个地步了
相似文章
@RookieRicardoR: 国产模型再次突破，比肩 Claude 4.6，Gemini 3.1 Pro 等顶尖模型。 刚测完 Qwen3.7-Max，说几点真实感受。 昨晚 API 上线第一时间就充了值，选了三个题目（见视频）来测试 Qwen3.7-Max 的前端能…
用户测试了Qwen3.7-Max，认为其在前端、算力和Agent能力上比肩Claude 4.6和Gemini 3.1 Pro等顶尖模型，推理能力显著提升，且迭代速度月更，已成为国产第一梯队。
@wquguru：在本地部署模型离不开一些加速技巧。简单来说，你可以切换到 Turbo 之类的模型；……
作者系统整理了本地部署模型的加速方案，包括在 macOS 上结合 Turbo、MLX、VAE Q8 和前缀 KV cache 让 Qwen-Image 2.1 提速近 5 倍，以及用 Uzu 的投机解码把 Qwen3.5-9B 从 22 tok/s 提升到 92 tok/s、用 TensorRT 让 Qwen 在 RTX 5090 上比 llama.cpp 快 3 倍等案例。
@lilililiMozi：关于我明明就是 Qwen3.8 27B 模型，却使用 390 万行……进行专项微调这件事
发布者声称该模型基于 Qwen3.8 27B，使用 390 万行代码数据进行专项微训，融合高效思考机制压缩推理长度，并经由 Opus5.5、GPT6Astra、Grok4.7、DSV4Pro 蒸馏对齐，配备 K3 kernel，再通过 SFT、RLOO 强化学习与 MTP 多词元预测三重训练，同时集成 DFlash2 注意力加速。
@yibie: 本地模型做主力编码工具：2026 年中的实战报告 Hacker News 上有一个帖子，标题很直接："有人用本地模型做主力编码工具吗？" 197 条评论，信息密度极高。十几个真实用户在讨论他们每天用的配置、踩过的坑、以及为什么明明知道本地…
本文总结了Hacker News讨论中关于使用本地模型（主要是Qwen 3.6 35B-A3B）作为主力编码工具的实战经验，包括配置、效果（约为前沿模型的50-75%）、关键技巧（如preserve_thinking）和不同用户的立场。
@noctus91: 我最近从 Qwen 3.5 9B 切换到了 @liquidai 的 LFM2.5-8B-A1B，它迅速成为我在 H… 中的默认本地模型
一位用户分享了从 Qwen 3.5 9B 切换到 Liquid AI 新推出的 LFM2.5-8B-A1B 模型的积极体验，称赞其在代理任务上的速度和可靠性，同时指出编码仍然是其弱项。该模型是一个 8B MoE 架构，具有 1.5B 活跃参数和 128K 上下文，针对设备和服务器端使用进行了优化。