Gemma 4 26B A4B 通过模型分页在 iPhone 17 Pro 上运行

Reddit r/LocalLLaMA 2026/07/24 21:47 模型

gemma-4 on-device model-paging efficient-ai iphone google apple

摘要

谷歌的 Gemma 4 26B A4B 模型可通过模型分页在 iPhone 17 Pro 上运行，实现强大的设备端 AI 功能。

暂无内容

查看原文

相似文章

X AI KOLs Following

Google 的 Gemma 4 E2B 通过 MLX 优化在 iPhone 17 Pro 上运行演示，达到约 40 tokens/秒，支持 128K 上下文以及离线思考模式，适用于编程和数学。

X AI KOLs Following

Google 的 Gemma 4 E2B/E4B 量化模型现已通过 Locally AI 等应用，在 iPhone 上实现完全离线运行，借助 Apple Neural Engine 进行本地推理。

X AI KOLs Timeline

Gemma 4 是一款针对 Apple Silicon 优化的 4 位量化模型，能够在 Mac 设备上实现快速本地推理，减少对云计算的依赖。

Ars Technica

谷歌发布Gemma 4 12B，这是一款紧凑型AI模型，专为仅需16GB RAM的本地笔记本使用而优化，具备多令牌预测以及针对文本、音频和图像的简化多模态能力。

Reddit r/LocalLLaMA

用户分享在移动设备上运行Gemma 4与LiteRT-LM的亲身对比体验，相较于之前的llama.cpp设置，内存占用显著降低（1.5-2 GB vs 4-5 GB），推理速度更快（2-4秒 vs 7-10秒），测试机型包括三星S25 Ultra和iPhone 13 Pro Max。