我尝试在 MacBook Air M2 24GB 上使用 Qwen 3.8 27B 3bit 量化版本进行代理编码。它耗时 63 小时,但令人惊讶的是,飞行模拟器竟然成功运行了。
摘要
用户在 MacBook Air M2 上使用量化版的 Qwen 3.8 27B 模型测试了代理编码,耗时 63 小时生成了一个可运行的飞行模拟器,并将结果与更快的基于云的 AI 平台进行了比较。
相似文章
有人在32GB Mac上使用opencode、claude code或类似工具,通过Qwen3.6-35B-A3B-UD-Q4_K_M实际完成编码工作吗?
我在一台配备32GB RAM的M2 Macbook Pro上运行Qwen3.6-35B-A3B-UD-Q4_K_M。我使用的是相当新版本的llama.cpp和opencode。为了避免llama-server因内存耗尽而直接崩溃,我必须将上下文窗口设置为32768个token。这一点后来被证明很重要。作为一次希望能有些参考价值的测试,我给opcode布置了一个之前Claude Code配合Opus 4.7能够完成的任务。项目不算大,但任务涉及深入挖掘应用程序的前后端,并找出一个连我(作为原始开发者,在AI之前)都没有一眼看出的问题。
Qwen3.8-27B在M5 Max MacBook Pro上实现144 tok/s速度
Inco Splash是一款针对Apple silicon优化的开源推理引擎,在M系列MacBook上运行Qwen3.8-27B等AI模型时提供了显著的速度提升。
本地运行 Qwen3.8 27B:来自我的 Mac Studio 的实测数据
本文提供了在 Mac Studio 上本地运行 Qwen3.8 27B AI 模型的实际性能基准测试,将其与前代模型进行比较,并讨论了硬件要求和量化效果。
哪个编程智能体最能发挥本地 Qwen 3.8 27B 的潜力?我对比了 10 个,并记录了 token 用量、缓存情况和沙箱拦截情况
一位开发者在搭载 M5 Max 的 MacBook Pro 上,使用本地 Qwen 3.8 27B 模型对 10 个编程智能体进行了基准测试,比较了通过率、词元用量、缓存复用和沙盒行为。Pi 最为精简,而 Qwen Code 的词元消耗最高,还有几个智能体尽管设置为离线模式,仍尝试访问网络。
Qwen3.8-Next 流式传输 - M5 Air 上预填充 150 tps,解码 3.6 tps
一位用户在 Apple M5 Air 上测试了 Qwen3.8-Next 模型,采用 3 位量化,实现了预填充 150 令牌/秒和解码 3.6 令牌/秒,在某些指标上超过了密集 270 亿参数模型。