@RunAnywhereAI:过去几个月一直在分批介绍 RunAnywhere 的各项功能。现在全部内容都在这里了。RunAnywhere SDK 是一套……

X AI KOLs Timeline 工具

摘要

RunAnywhere 发布了一套包含八个跨平台 SDK 的综合套件,支持开发者在任意设备上本地运行多模态 AI 模型,并自动将推理任务路由至最佳可用硬件加速方案,包括 Apple Neural Engine 和 Snapdragon Hexagon NPU。

过去几个月,我们一直在陆续介绍 RunAnywhere 的各项功能。现在,全部内容都在这里了。 RunAnywhere SDK 是一套完整的端侧推理套件,面向所有希望在用户设备上本地运行 AI 的开发者。 ->8 款 SDK:Swift、Kotlin、Flutter、React Native、Web、Electron、Python,以及面向终端的 rcli。每一款都采用相同的 API。 ->全平台覆盖:iOS、Android、macOS、Windows、Linux 和浏览器。 ->全模态支持:LLM、视觉、语音转文字、文字转语音、Embedding、RAG、结构化输出、Tool Calling,以及完整的语音流水线。 ->单一 API 对接多后端:llama.cpp、MLX、sherpa、ONNX Runtime、Core ML。系统会自动选择最优先且适配当前设备的引擎,你的应用无需进行分支处理。 ->自研神经网络加速运行时:QHexRT 直接在 Snapdragon Hexagon NPU 上运行 LLM、视觉、语音和 TTS 任务。NeuRT 在 Apple Neural Engine 上为 iPhone 和 Mac 提供同样的能力。只需选定模型,加速自动生效。 ->一站式管理控制台:将模型部署到指定的 API Key,查看所有已注册设备及其硬件信息,并按模态追踪整个设备集群的使用量、延迟和错误。 一套 SDK。全模态。全设备。 在此查看: http://github.com/RunanywhereAI/runanywhere-sdks…
查看原文
查看缓存全文

缓存时间: 2026/09/06 20:53

RunAnywhere

一个 SDK,全设备覆盖。LLM、视觉、语音、语音 Agent、RAG、Embedding 与图像生成,在手机、浏览器、桌面和服务器上本地运行。默认私密,原生离线,由设备上的任意芯片加速。

八个 SDK,一个 C++ 核心。能力注册表将每次调用路由到设备上的最佳引擎,Console 从上层统一管理你的设备集群。

相似文章