executorch

React Native ExecuTorch v0.10 实现了显著加速，对于像FastSAM这样的AI模型，加速高达92倍，并引入TypeScript管道以提升可检查性和跨平台支持。

Meta introduced Muse Glimmer, an open-weight 30B-parameter model distilled from Muse Spark for on-device agentic workflows, with ExecuTorch now supporting running it on NVIDIA GPUs and Apple silicon.

PyTorch基金会支持了在旧金山举办的ExecuTorch黑客马拉松，超过100名参与者使用PyTorch和ExecuTorch在搭载Snapdragon的三星Galaxy S25 Ultra设备上构建了实时端侧AI应用。获奖项目包括SafeScreen AI、SixthSense和Toddle AI，展示了本地执行在响应性、隐私保护和离线能力方面的优势。

react-native-executorch 库现已集成 Google 的 Gemma 4 模型，可实现完全离线的 GPU 加速推理，在 Android 上使用 Vulkan 委托，在 Apple Silicon 上使用 MLX 委托。

ExecuTorch 现有一个 MLX 委托，可在 Apple Silicon Mac 上为 PyTorch 模型提供 GPU 加速推理，支持大语言模型、语音转文字以及通过 TorchAO 进行量化的 MoE 模型。

ExecuTorch，PyTorch的设备端AI部署框架，在MLSysConf 2026上获得了最佳行业论文奖。该论文提出了一种统一的解决方案，可在从微控制器到SoC的各种硬件上运行模型。

本文介绍了 ExecuTorch，这是一个原生的 PyTorch 部署框架，旨在无需模型转换或重新实现，即可在多样化的边缘设备上运行 AI 模型。