@DanKornas：测试设备端模型不应意味着在评估前先构建移动应用。Google AI Edge Gallery 是一款...

X AI KOLs Timeline 工具
google ai-edge-gallery on-device-ai generative-ai open-source benchmarking multimodal

摘要

Google AI Edge Gallery 是一款实验性测试版应用，让开发者无需构建完整的移动应用即可在设备端测试和评估生成式 AI 模型。它支持模型下载、自定义加载、参数调试、硬件基准测试和多模态工作流，并面向 Android、iOS 和 macOS 开源。

测试设备端模型不应意味着在评估前先构建移动应用。 Google AI Edge Gallery 是一款实验性测试版应用，面向希望在自己的硬件上探索和评估生成式 AI 模型的构建者。 它通过将模型下载、自定义模型加载、参数控制和设备特定基准测试整合到一个沙盒中，帮助你测试本地 AI 用例。 主要功能： • 设备端推理 – 离线运行模型，使提示词、图像和其他输入保留在你的硬件上。 • 模型管理 – 下载列出的模型或加载你自定义的模型，并在应用中管理它们。 • 硬件基准测试 – 衡量模型在特定设备上的性能。 • 多模态工作流 – 使用 Ask Image 处理摄像头或相册输入，使用 Audio Scribe 进行转录和翻译。 • 提示词和代理测试 – 在 Prompt Lab 中调整温度参数和 top-k，或通过 Agent Skills 扩展支持的模型。 该项目采用开源（Apache 2.0 许可证），适用于 Android、iOS 和 macOS。 链接在回复中
查看原文
查看缓存全文

缓存时间: 2026/07/22 18:35

测试设备端模型，不应该在评估前就先构建一个移动应用。

Google AI Edge Gallery 是一款实验性 Beta 版应用，面向希望在自有硬件上探索和评估生成式 AI 模型的构建者。

它将模型下载、自定义模型加载、参数控制以及设备专属基准测试整合在一个沙盒环境中，帮助你测试本地 AI 用例。

主要功能： • 设备端推理——离线运行模型，确保提示词、图片及其他输入数据始终保留在你的硬件上。 • 模型管理——下载列表中的模型或加载你自己的自定义模型，并在应用中进行整理。 • 硬件基准测试——衡量模型在你特定设备上的运行表现。 • 多模态工作流——使用 Ask Image 处理相机或图库输入，使用 Audio Scribe 进行转录和翻译。 • 提示词与代理测试——在 Prompt Lab 中调节 temperature 和 top-k，或通过 Agent Skills 扩展支持的模型。

该项目采用开源（Apache 2.0 许可证），支持 Android、iOS 和 macOS。

回复中的链接

相似文章

推出 Gemma 3n 预览版：功能强大、高效、移动优先的 AI

Google DeepMind Blog

Google 推出 Gemma 3n 预览版，这是一个移动优先的开源 AI 模型，针对手机、平板电脑和笔记本电脑上的本地推理进行了优化。该模型采用与高通和联发科等硬件合作伙伴共同开发的新架构，利用分层嵌入等创新技术，在最少内存占用（2-3GB）的情况下实现快速性能，同时支持多模态功能。

我们是否低估了小型边缘AI模型？[D]

Reddit r/MachineLearning

一位开发者认为，边缘AI社区忽视了那些可以在智能手机等设备上本地运行的小型专门模型，并以自建的离线摩尔斯电码识别功能为例。该项目使用了小于5MB的AI模型，基于TensorFlow/Keras和LiteRT，从数据生成到移动端集成的整个流程均为自建。