论文页面 - Embodied.cpp：异构机器人上具身AI模型的可移植推理运行时

来源：https://huggingface.co/papers/2607.02501

摘要

Embodied.cpp 是一个可移植的 C++ 运行时，通过模块化执行层和优化推理，实现了视觉-语言-动作模型与世界-动作模型在异构边缘设备上的高效部署。

当前具身AI模型涵盖了视觉-语言-动作（VLA）模型和世界-动作模型（https://huggingface.co/papers?q=world-action%20models）(WAMs)，但实际部署仍因模型特定的Python栈、后端假设以及机器人端的胶水代码而碎片化，尤其在异构边缘设备上。现有的推理运行时（https://huggingface.co/papers?q=inference%20runtime）主要面向请求-响应的服务场景，因此无法满足具身部署的运行时契约：闭环控制（https://huggingface.co/papers?q=closed-loop%20control）内的多速率执行（https://huggingface.co/papers?q=multi-rate%20execution）、异构硬件上的延迟优先批量1推理，以及超越固定令牌I/O的可扩展具身接口（https://huggingface.co/papers?q=embodied%20interfaces）。我们提出了 Embodied.cpp，一个面向具身模型的可移植 C++ 推理运行时（https://huggingface.co/papers?q=inference%20runtime）。基于对代表性 VLA 模型和 WAMs 的架构分析，Embodied.cpp 捕获了共享执行路径并将其组织为五个层：输入适配器、序列构建器、骨干执行、头部插件以及部署适配器。该运行时提供了模块化的多速率执行（https://huggingface.co/papers?q=multi-rate%20execution）、延迟优先的融合推理（https://huggingface.co/papers?q=fused%20inference），以及可扩展的算子与I/O支持，通过一个后端抽象实现跨异构设备、机器人和仿真器的部署。我们在两个 VLA 模型（HY-VLA 和 pi0.5）以及一个使用 LingBot-VA Transformer 块的初步 WAM 基准上对 Embodied.cpp 进行了评估。VLA 部署分别取得了 100.0% 和 91.0% 的任务成功率，实现了成功的闭环执行。WAM 基准将块内存从 312.2 MiB 降低到 88.1 MiB。这些结果表明 Embodied.cpp 能够在保持高精度的同时，提升多种具身模型架构的部署效率。

查看 arXiv 页面 (https://arxiv.org/abs/2607.02501) 查看 PDF (https://arxiv.org/pdf/2607.02501) GitHub17 (https://github.com/SEU-PAISys/Embodied.cpp) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.02501)

在您的代理中获取此论文：

hf papers read 2607\.02501

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型1

SEU-PAISys/Embodied.cpp 机器人学 • 5B • 更新于约4小时前 • 1 (https://huggingface.co/SEU-PAISys/Embodied.cpp)

引用此论文的数据集0

没有链接此论文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2607.02501 以从此页面链接。

引用此论文的 Space0

没有链接此论文的 Space

在 Space README.md 中引用 arxiv.org/abs/2607.02501 以从此页面链接。

包含此论文的合集0

没有包含此论文的合集

将此论文添加到合集 (https://huggingface.co/new-collection) 中以从此页面链接。