@yoheinakajima：刚在我的手机（17 Pro）上运行了这个
摘要
RunAnywhere 发布了一款设备端 AI 基准测试应用，可让用户直接在自己的手机上测量模型性能，用实时测试取代发布的数据。
查看缓存全文
缓存时间: 2026/07/15 01:39
刚刚在我的手机（17 Pro）上运行了这个：https://t.co/uRI98bpYsf
RunAnywhere (YC W26) (@RunAnywhereAI): 你见过的每一个设备端AI基准测试都是在别人的手机上测的。
所以我们不再发布数字，而是直接推出了这个基准测试。
内置在RunAnywhere应用中：选择任意模型，点击运行，它就会在你的设备上测出性能。
→ 每秒Token数 +
相似文章
@rohanpaul_ai: 设备端小模型的可能性太多了。@adrgrondin 正在 iPhone 17 Pro 上运行 Google 的 Gemma 4 E2B。大约 4…
Google 的 Gemma 4 E2B 通过 MLX 优化在 iPhone 17 Pro 上运行演示，达到约 40 tokens/秒，支持 128K 上下文以及离线思考模式，适用于编程和数学。
在你的iPhone上运行（最大的）本地模型
一款工具或应用，让用户能直接从iPhone上运行大型本地AI模型，将设备端LLM推理带到iOS。
@DanKornas：测试设备端模型不应意味着在评估前先构建移动应用。Google AI Edge Gallery 是一款...
Google AI Edge Gallery 是一款实验性测试版应用，让开发者无需构建完整的移动应用即可在设备端测试和评估生成式 AI 模型。它支持模型下载、自定义加载、参数调试、硬件基准测试和多模态工作流，并面向 Android、iOS 和 macOS 开源。
@rohanpaul_ai：Gemma 4（特别是其面向边缘优化的 E2B 与 E4B 量化版）通过 Locally 等应用，在 iPhone 上实现完全离线运行……
Google 的 Gemma 4 E2B/E4B 量化模型现已通过 Locally AI 等应用，在 iPhone 上实现完全离线运行，借助 Apple Neural Engine 进行本地推理。
我开发了一款在本地运行AI模型的安卓应用
一位开发者创建了一款在本地运行AI模型的安卓应用，支持GGUF和LiteRT格式，并提供了多种添加模型的方式。