@remilouf: 在 @julien_c 的推文之后,我买了一台配备 128B 统一内存的 MacBook Pro,并开始将 Qwen3.6 作为我的日常驱…
摘要
作者分享了在配备 128GB 统一内存的 MacBook Pro 上运行 Qwen3.6 模型的经验,称赞了苹果硬件在本地 AI 推理方面的效率。
在 @julien_c 的推文之后,我买了一台配备 128B 统一内存的 MacBook Pro,并开始将 Qwen3.6 作为我的日常驱动。这令人费解。
苹果在这个行业里比所有人都聪明。
查看缓存全文
缓存时间: 2026/05/10 16:27
受到 @julien_c 推特的启发,我入手了一台配备 128GB 统一内存的 MacBook Pro,并开始将 Qwen3.6 作为我的日常主力模型使用。效果令人难以置信。
苹果在这一领域彻底超越了整个行业。
相似文章
@Oluwaphilemon1:Qwen3.8-27B 正在一台仅有 16GB 统一内存的 M1 MacBook 上本地运行。不用云端 API。不用外接 GPU。只需一台……
演示中,Qwen3.8-27B 使用 UD-Q2_K_XL 量化和全量 Metal 卸载,在配备 16GB 统一内存的 M1 MacBook 上本地运行,生成速度达到约 4 token/秒(使用推测解码时约为 5.5 token/秒)——这表明,大型开放权重模型可以在许多人已经拥有的硬件上运行。
QWEN3.6-27B-MLX-8bit (29.5GIG) 非常出色
一位用户分享了他们切换到 QWEN3.6-27B-MLX-8bit 模型用于本地AI任务的经验,发现它在 Mac Studio 上节省了大量内存,同时表现与更大模型相当,提高了工作流程的稳定性。
Qwen3.8-27B在M5 Max MacBook Pro上实现144 tok/s速度
Inco Splash是一款针对Apple silicon优化的开源推理引擎,在M系列MacBook上运行Qwen3.8-27B等AI模型时提供了显著的速度提升。
本地运行 Qwen3.8 27B:来自我的 Mac Studio 的实测数据
本文提供了在 Mac Studio 上本地运行 Qwen3.8 27B AI 模型的实际性能基准测试,将其与前代模型进行比较,并讨论了硬件要求和量化效果。
榨干64GB内存:Qwen3.5 122B A10B(UD-Q2_K_XL,启用MTP)已完全取代我原本的Qwen3 Next 80B(UD-Q4_K_XL)
一位用户比较了在64GB内存系统上运行量化版Qwen3 Next 80B和Qwen3.5 122B的情况,指出了本地LLM推理中速度、质量和内存使用之间的权衡。