Prism ML 在与 Apple 洽谈缩小模型以便在手机上本地使用
摘要
Prism ML 正在与 Apple 洽谈部署模型缩小技术，使得强大的AI模型能够直接在iPhone上运行，提升隐私性并减少对云端推理的依赖。
PrismML 称其正在与 Apple 讨论模型缩小技术，该技术可让强大的AI模型在iPhone上运行。多篇报道称，Apple 正在谈判，通过压缩或优化模型将AI带到设备端，使其能够在智能手机的计算和隐私限制内运行，从而可能减少对云端推理的依赖。
相似文章
PrismML 推出 Qwen-3.6-27B 压缩版 - Khosla 支持的初创公司声称在 iPhone 上运行有史以来最大 AI 模型取得突破
Khosla 支持的初创公司 PrismML 发布了 Qwen-3.6-27B 的压缩版本，声称这是有史以来在 iPhone 上运行的最大 AI 模型。
@akshay_pachaar: 苹果终于做到了。其新框架 Core AI 完全在 Apple 芯片上运行模型，因此推理发生在用户设备上…
苹果发布了 Core AI，这是一个新框架，可在 Apple 硅设备（iPhone、iPad、Mac、Vision Pro）上完全运行 AI 模型，无需服务器调用。它包含一个内存安全的 Swift API、用于 PyTorch 的模型导出配方、一个优化器和调试工具，支持 Qwen、Mistral 和 SAM3 等模型。
苹果发布全新 Apple Silicon 端侧推理引擎
苹果在 WWDC 上发布了 CoreAI，这是一款适用于 Apple Silicon 的全新端侧推理引擎，将取代 CoreML，并通过优化推理支持多达 200 亿参数的更大模型，重点面向手机和平板设备。
Apple 押注更便宜的AI将吸引小型开发者
Apple 宣布，首次App Store下载量少于200万的开发者可以通过Private Cloud Compute免费使用其Foundation Models，无需支付云端API费用，旨在通过降低AI基础设施门槛来吸引独立开发者。
本地 AI 应成为常态
本文指出，出于隐私和可靠性方面的顾虑，不应依赖云端托管的 AI API，并倡导采用设备端 AI 处理模式，文中以一款利用 Apple 本地模型 API 的原生 iOS 应用为例进行了说明。