@RunAnywhereAI:过去几个月一直在分批介绍 RunAnywhere 的各项功能。现在全部内容都在这里了。RunAnywhere SDK 是一套……
摘要
RunAnywhere 发布了一套包含八个跨平台 SDK 的综合套件,支持开发者在任意设备上本地运行多模态 AI 模型,并自动将推理任务路由至最佳可用硬件加速方案,包括 Apple Neural Engine 和 Snapdragon Hexagon NPU。
查看缓存全文
缓存时间: 2026/09/06 20:53
RunAnywhere
一个 SDK,全设备覆盖。LLM、视觉、语音、语音 Agent、RAG、Embedding 与图像生成,在手机、浏览器、桌面和服务器上本地运行。默认私密,原生离线,由设备上的任意芯片加速。
八个 SDK,一个 C++ 核心。能力注册表将每次调用路由到设备上的最佳引擎,Console 从上层统一管理你的设备集群。
相似文章
@yoheinakajima: 在你的 Mac 上运行本地模型,流式传输到你的手机
RunAnywhere 使用户能够在 Mac 上运行 AI 模型,并通过本地网络一键设置将推理流式传输到 iPhone,避免云依赖以实现低延迟。
@yoheinakajima:刚在我的手机(17 Pro)上运行了这个
RunAnywhere 发布了一款设备端 AI 基准测试应用,可让用户直接在自己的手机上测量模型性能,用实时测试取代发布的数据。
@akshay_pachaar: 苹果终于做到了。其新框架 Core AI 完全在 Apple 芯片上运行模型,因此推理发生在用户设备上…
苹果发布了 Core AI,这是一个新框架,可在 Apple 硅设备(iPhone、iPad、Mac、Vision Pro)上完全运行 AI 模型,无需服务器调用。它包含一个内存安全的 Swift API、用于 PyTorch 的模型导出配方、一个优化器和调试工具,支持 Qwen、Mistral 和 SAM3 等模型。
@awnihannun: Three MLX videos dropped at WWDC: Running agents locally by @angeloskath https://youtube.com/watch?v=wykPErJ8M-8… Distr…
Three MLX videos from WWDC demonstrate running AI agents entirely locally on Apple Silicon using the MLX stack, including local inference, tool calling, and distributed inference across Macs, enabling no-cloud, offline AI workflows.
在你的iPhone上运行(最大的)本地模型
一款工具或应用,让用户能直接从iPhone上运行大型本地AI模型,将设备端LLM推理带到iOS。