@rohanpaul_ai:Gemma 4(特别是其面向边缘优化的 E2B 与 E4B 量化版)通过 Locally 等应用,在 iPhone 上实现完全离线运行……
摘要
Google 的 Gemma 4 E2B/E4B 量化模型现已通过 Locally AI 等应用,在 iPhone 上实现完全离线运行,借助 Apple Neural Engine 进行本地推理。
查看缓存全文
缓存时间: 2026/04/21 10:51
Gemma 4(特别是其面向边缘优化的 E2B 和 E4B 变体)可通过 Locally AI 或 Google AI Edge Gallery 等应用,在 iPhone 上完全离线运行。下载约 1.5 GB 的量化模型后,所有推理都在设备端通过 Apple Neural Engine 完成。
相似文章
@rohanpaul_ai: 设备端小模型的可能性太多了。@adrgrondin 正在 iPhone 17 Pro 上运行 Google 的 Gemma 4 E2B。大约 4…
Google 的 Gemma 4 E2B 通过 MLX 优化在 iPhone 17 Pro 上运行演示,达到约 40 tokens/秒,支持 128K 上下文以及离线思考模式,适用于编程和数学。
@googlegemma: Gemma 4 现在可以使用 React Native 在设备端运行!你现在可以在跨平台应用中完全离线运行 Gemma 4,并支持……
Gemma 4 现在可以使用 React Native 在设备端完全离线运行,通过 Android 上的 Vulkan 和 Apple Silicon 上的 MLX 实现本地硬件加速,支持视觉和工具使用能力,例如阅读传单和安排日程,完全在设备端完成。
@googlegemma: 查看由 @ivanfioravanti 在此发布的原始帖子:
这是一个使用 Apple MLX 在 iPad 上本地运行 Gemma 4 E4B AI 模型的演示,被展示为一个适合儿童的有趣应用。
Gemma 4 26B A4B 通过模型分页在 iPhone 17 Pro 上运行
谷歌的 Gemma 4 26B A4B 模型可通过模型分页在 iPhone 17 Pro 上运行,实现强大的设备端 AI 功能。
将 Gemma 4 12B 引入您的笔记本电脑:通过 Google AI Edge 解锁本地、自主工作流
谷歌宣布通过 Google AI Edge 在笔记本电脑上提供 Gemma 4 12B,借助 AI Edge Gallery 和 Eloquent 等工具,支持本地、自主和多模态工作流。