@FinanceYF5：35B 模型在 iPhone 飞行模式下运行，峰值内存占用仅 1.8GB——这才是端侧 AI 应有的样子
摘要
Edge0 开源一个月后展示了 35B 模型在 iPhone 飞行模式下以 1.8GB 峰值内存运行的能力，无需云端或服务器，已扩展到耳机、智能眼镜、机器人等设备并拥有超过 8 万用户。
查看缓存全文
缓存时间: 2026/10/09 06:33
35B 模型在飞行模式的 iPhone 上运行，峰值内存占用仅 1.8GB——这才是端侧 AI 应有的样子。为 @LeonaYangAGI 和 Edge0 团队感到兴奋。开源仅一个月，Edge0 就已经从手机延伸到耳机、智能眼镜、机器人和 AI 玩具，拥有超过 80,000 名客户。你最期待看到 Edge0 接下来在什么设备上运行？
Leona Yang (@LeonaYangAGI)： 一个月前，我们开源了 Edge0。
这是在飞行模式的 iPhone 上运行的 35B 模型，峰值内存占用仅 1.8GB。
无需云端。无需远程服务器。无需按 token 计费。
相似文章
一个能在 iPhone 上运行的 350 亿参数视觉模型？OpenBMB 刚刚发布了 MiniCPM-V 4.7
OpenBMB 开源发布了 MiniCPM-V 4.7 35B-A3B 视觉语言模型，可在 iPhone/iPad 上以每秒 13–17 个词元的速度运行，并引入 LES（前瞻专家调度）技术加速 MoE（混合专家）推理，同时更新了在 34 项多模态基准测试中的表现。
Apple的200亿参数端侧模型仅占用2GB内存（18分钟阅读）
一篇关于Apple端侧200亿参数Core Advanced模型的详细第三方分析，表明该模型仅占用约2GB内存，能耗仅为同类开源模型的三分之一。实现方式是将权重存储在闪存中，每次推理仅激活10-40亿参数，代价是数学性能较弱且控制能力有限。
@FinanceYF5：Edge0 的应用层已经开源了！大家可以试试——现在在电脑和手机上都能运行大语言模型……
Edge0 的应用层已开源，用户现在可以在 iOS、macOS、Android 和 Windows 设备上本地运行 Edge0 35B 语言模型（峰值内存占用 1–2.5 GB）。
3970亿参数AI成功运行于iPhone
一个3970亿参数的AI模型已成功在iPhone上运行，展示了使用混合专家设计的设备端AI能力，尽管在速度、存储和散热方面面临挑战。
@berryxia: 我靠，这不直接抢了苹果的活儿啊！ 6.6B的小模型直接把Siri和一堆云端巨头干到闭嘴，还只吃7GB内存就跑在Mac本地。 CJ Zafir他们搞的Mac-1，不光参数小到离谱，还一次性接了487个Mac原生工具，能链式调用、自动推理、连…
CJ Zafir团队推出了Mac-1，一个6.6B参数的小模型，可在Mac本地运行仅需7GB内存，能链式调用487个Mac原生工具，推理速度达65 tok/s，旨在颠覆云端大模型主导的Agent范式。