React Native ExecuTorch 现在快了高达92倍 🏎️
摘要
React Native ExecuTorch v0.10 实现了显著加速，对于像FastSAM这样的AI模型，加速高达92倍，并引入TypeScript管道以提升可检查性和跨平台支持。
在v0.10版本中，我们相比v0.9实现了显著加速。视频展示了我们为特定模型组测量的最大加速效果。在大语言模型中，Qwen3 0.6B取得了最大提升，在长提示下运行速度快了超过3倍。对于实例分割，FastSAM的加速高达92倍！我们用可检查的TypeScript管道替换了整体的原生模块。🔧 它可在所有主要硅后端上运行，并使得接入您自己的模型更加容易。您可以在此处找到完整的发行说明。
相似文章
React Native ExecuTorch 现已支持 Gemma 4（Vulkan 和 MLX 加速）
react-native-executorch 库现已集成 Google 的 Gemma 4 模型，可实现完全离线的 GPU 加速推理，在 Android 上使用 Vulkan 委托，在 Apple Silicon 上使用 MLX 委托。
ExecuTorch —— 统一在终端设备运行 AI 模型的 PyTorch 方案
本文介绍了 ExecuTorch，这是一个原生的 PyTorch 部署框架，旨在无需模型转换或重新实现，即可在多样化的边缘设备上运行 AI 模型。
@PyTorch: PyTorch基金会支持了在旧金山举办的ExecuTorch黑客马拉松，超过100名来自20多个团队的参与者…
PyTorch基金会支持了在旧金山举办的ExecuTorch黑客马拉松，超过100名参与者使用PyTorch和ExecuTorch在搭载Snapdragon的三星Galaxy S25 Ultra设备上构建了实时端侧AI应用。获奖项目包括SafeScreen AI、SixthSense和Toddle AI，展示了本地执行在响应性、隐私保护和离线能力方面的优势。
@PyTorch: PyTorch AOTI 后端在 NVIDIA 的 HSTU 推理测试中，相较于 Python 后端，实现了 1.14 倍至 1.28 倍的加速，当……
NVIDIA 报告了在 HSTU 推理测试中使用 PyTorch AOTI 后端的显著加速，在理想情况下最高可达 2.38 倍，并强调了用于大规模生成式推荐系统的工具如 recsys-examples 和 nv-embedding-cache。
@PyTorch: ExecuTorch 已成为官方的 @ZephyrIoT 外部模块，将 PyTorch 模型部署带入 Zephyr 的固件构建工作流……
ExecuTorch 已成为 Zephyr RTOS 的官方外部模块，使开发者能通过固件构建配置变更轻松在微控制器等边缘设备上部署 PyTorch 模型；演示中量化 MobileNetV2 在 Alif Ensemble E8 DevKit 上以 28ms 完成推理，卷积图运行于 Arm Ethos-U55 NPU。