m5-air

标签

Cards List
#m5-air

Qwen3.8-Next 流式传输 - M5 Air 上预填充 150 tps,解码 3.6 tps

Reddit r/LocalLLaMA · 2026-08-29

一位用户在 Apple M5 Air 上测试了 Qwen3.8-Next 模型,采用 3 位量化,实现了预填充 150 令牌/秒和解码 3.6 令牌/秒,在某些指标上超过了密集 270 亿参数模型。

0 人收藏 0 人点赞
#m5-air

DeepSeek v4 Flash 0731 4bit 在 M5 Air 32gb 上:prefill 约50tps,decode 约1tps

Reddit r/LocalLLaMA · 2026-08-04

一位用户分享了在32GB M5 MacBook Air上运行4比特量化DeepSeek v4 Flash的实验,通过流式专家等技巧实现了约50 tokens/s的prefill和1 tokens/s的decode。

0 人收藏 0 人点赞
#m5-air

@gabriel1: 搞什么鬼,MacBook Neo 比 M2 Pro Max 快 30%

X AI KOLs Timeline · 2026-07-31 缓存

Gabriel 发推说 MacBook Neo 比 M2 Pro Max 快 30%,而且 M5 Air 感觉比他满配的 M2 Pro Max 快 4 倍。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈