标签
John Ternus 祝贺团队高效地在 Mac Studio 上运行大型模型 Muse Spark Open,凸显了端侧 AI 性能的进步。
实验展示了两个现成小模型(Gemma 4 E2B 和 Qwen3.5-0.8B)在 Galaxy S21 本地运行,通过 E2LLM/SiFR 浏览器感知完成同一 Amazon 购物任务,两次运行均生成不同但有效的购物车方案并以 READY_FOR_HUMAN_REVIEW 结束。所有日志、脚本与哈希均公开在 GitHub。
Google DeepMind与新加坡GovTech合作,基于开源模型Gemma微调构建设备端诈骗检测系统,可在保护个人隐私的同时实时识别本地社交工程诈骗威胁。
Google DeepMind 与新加坡政府科技局(GovTech)宣布推出一款端侧 AI 诈骗检测模型。该模型基于轻量级 Gemma 模型微调而成,可在本地标记带有操纵性质的对话,同时不影响端到端加密或用户隐私。该两阶段处理流程在 2026 年新加坡国际网络安全周上亮相,并在主权沙箱环境中仅使用匿名化诈骗数据进行训练。
Pulse Local 是一款 Mac 预算管理应用,其 AI 模型完全在设备本地运行,在保护财务数据和提问隐私的同时,提供预算计划、目标、余额结转、拆分和现金流等功能。它使用小型本地模型,并通过双重读取验证方式核验财务问题的回答,采用一次性付费、价格由用户自行决定的定价模式。
一位独立开发者发布了 SteerClaw Mobile,这是一款在手机端完整运行智能体循环的 Agentic 移动应用,支持 Qwen 等本地 LLM,兼容 MCP 服务器和搜索提供商,采用严格的隐私优先设计。目前已在 Apple TestFlight 和 Google Play 上开放早期测试与反馈。
开发者介绍 NIDO,一个完全在 Android 手机上离线运行的开源 AI 助手,通过确定性路由让小模型(0.5B-7B)只处理真正开放式的任务,并发布了 0.1.29 至 0.1.32 四个 alpha 版本,新增多语言短语路由、重复提醒等功能。
Google 介绍了开发者如何结合 EmbeddingGemma 2 与 Google AI Edge,构建完全在设备端运行的应用,让用户通过自然语言描述来搜索照片、视频和音频。
AskCyph Health Explorer 是一款教育工具,结合 Google DeepMind 的 AlphaGenome API 预测基因变异的影响,并借助通过 WebGPU 在浏览器中本地运行的 MedGemma 1.5 4B 模型,在完全保护隐私的前提下探索 DNA 突变与疾病之间的关系。
CraveLens 是一款 Chrome 扩展,利用设备端 AI 识别视频及网页选定区域中的食物,并为用户生成个性化的 Swiggy 购物车以供确认。该扩展现已在 Product Hunt 上线,免费使用,基于 Google Gemma 构建。
一款免费的 Android 应用,完全在设备端运行微调后的 0.8B 视觉模型(Qwen3.5 0.8B / OvisOCR2),可将收据扫描为逐项明细的 JSON 数据,用于个人开支追踪,同时支持连接自托管的 OpenAI 兼容 API。这些模型将开源发布,用户也可以捐赠收据图片来帮助改进模型。
Cactus Compute 发布 Whistle:一个 16.9 MB、纯 CPU 运行的语音识别模型,支持七种欧洲语言,实测首 token 5-8 毫秒、解码约 1300 token/秒,但对不支持的语言(如中文、日文)不会报错,而是静默输出假词,存在生产环境静默污染风险。
高通首席执行官克里斯蒂亚诺·阿蒙透露,一些领先的人工智能公司希望到2028年,手机能够持续运行千亿参数模型,并证实其中一些人工智能公司正在打造自己的手机。
开发者分享了 iOS 27 新增的快捷指令通知触发器,使第三方应用(如其开发的 Molebot)能够完全在本地读取 WhatsApp 和 Signal 通知,无需云端或配对设备,从而实现真正的端上个人智能体,并总结了“不再新增数据见证方”的隐私规则。
微软发布重大 Windows 改版,围绕“混合智能”打造,将 AI 智能体和 Copilot 应用与本地及云端 AI 深度原生集成,同时推出面向开发者和创作者的全新高端 Surface Laptop Ultra。
KernelAI 上线 Product Hunt,支持在 iPhone 和 Android 上本地运行 53 个来自 15 家实验室的开源模型,提供聊天、文档 RAG、图像理解与代码编写功能,全程离线且免费无广告。
Google AI Edge 开源了 ML Drift,一个高性能、跨平台的 GPU 加速 AI/ML 推理引擎,支持 Android、iOS、Web(WebGPU)和服务器端,可高效运行大型生成式模型。
PocketWebTools for Mac 推出,一款在 Apple Silicon 上本地运行最高 35B 参数开源模型的付费应用,提供聊天、带说话人标注的转录、视频剪辑、图片超分和 PDF 文字提取等功能,所有文件保留在本地设备上,一次付费 99 美元含终身更新。
Edge0 开源一个月后展示了 35B 模型在 iPhone 飞行模式下以 1.8GB 峰值内存运行的能力,无需云端或服务器,已扩展到耳机、智能眼镜、机器人等设备并拥有超过 8 万用户。
Google 发布实验性笔记应用 Google AI Edge Foresight,可在本地完全离线转录会议和音频并生成会议纪要,基于端侧的 EmbeddingGemma 2 模型,目前仅支持搭载 Apple Silicon 的 Mac。