OpenFlyV2:用于空中感知与导航的机载视觉-语言-动作模型

Hugging Face Daily Papers 论文

摘要

OpenFlyV2 是一个统一的机载视觉-语言-动作模型,在资源受限的硬件(NVIDIA Jetson Orin NX)上以 10Hz 实现实时空中导航与推理,并能从仿真零样本迁移到真实四旋翼飞行,达到 48% 的导航成功率。

人类认知能够灵活地依托共享的感知基础来理解环境、关注被指称的实体、推理空间关系并据此行动。让空中机器人具备类似的功能组织方式仍然充满挑战,因为现有系统通常只针对单一能力进行专门化设计,依赖机载以外的算力,或无法在资源受限平台上维持闭环运行。我们提出 OpenFlyV2,一种统一的机载视觉-语言-动作架构,它在一个模型内使用共享的视觉-语言表征来支持语义理解、语言引导的感知、空间推理和连续的空中控制。一个轻量的动作专家(action expert)将共享的多模态上下文转换为短时域的飞行航点,而运动感知的时序记忆与动作先验则降低了闭环执行的计算开销。我们构建了 仿真数据集,其中包含约 70,000 条导航轨迹和 60,000 组视觉-语言指令—响应对。OpenFlyV2 完全在机载端以 10Hz 的频率生成动作块,每个动作块包含 12 个航点,硬件平台为 NVIDIA Jetson Orin NX。它可以从仿真零样本迁移到实体四旋翼飞行,在四个真实环境中无需任何真实世界空中训练数据即可达到 48% 的导航成功率。大量实验结果表明,在资源受限的空中平台上,广泛的视觉-语言能力与连续的闭环飞行可以在同一个模型中共同实现。代码将公开发布于 https://github.com/Ideal-ljl/AeroBrain。
查看原文
查看缓存全文

缓存时间: 2026/10/30 11:09

论文页面 - OpenFlyV2:用于空中感知与导航的机载视觉-语言-动作模型

来源:https://huggingface.co/papers/2610.39287 作者:

,

,

,

,

,

,

,

,

,

,

摘要

OpenFlyV2 是一个统一的机载视觉-语言-动作(Vision-Language-Action)模型,能够在资源受限的硬件上借助共享的多模态表征实现实时空中导航与推理。

人类认知能够灵活地依托一套共享的感知基础来理解环境、关注被指涉的实体、推理空间关系并采取行动。赋予空中机器人类似的功能组织形式仍然充满挑战:现有系统往往只专注于单一能力、依赖机载之外的计算资源,或无法在资源受限平台上维持闭环运行。我们提出了 OpenFlyV2,一种统一的机载视觉-语言-动作架构,它使用共享的视觉-语言表征,在单一模型内同时支持语义理解、语言引导的感知、空间推理以及连续的空中控制。一个轻量的动作专家(action expert)将共享的多模态上下文转换为短时域的飞行航点,而运动感知的时序记忆(temporal memory)与动作先验(action priors)则降低了闭环执行的计算开销。我们构建了一个基于仿真的数据集,包含约 70,000 条导航轨迹和 60,000 组视觉-语言指令-响应对。OpenFlyV2 在 NVIDIA Jetson Orin NX 上完全机载地以 10 Hz 生成动作块,每个动作块包含 12 个航点。它能够零样本地从仿真迁移到实体四旋翼飞行,在四个真实环境中的导航成功率达到 48%,且无需任何真实世界的空中训练数据。大量结果表明,在资源受限的空中平台上,广泛的视觉-语言能力与连续的闭环飞行可以共存于同一个模型之中。代码将公开发布于 https://github.com/Ideal-ljl/AeroBrain。

查看 arXiv 页面 (https://arxiv.org/abs/2610.39287) 查看 PDF (https://arxiv.org/pdf/2610.39287) 项目页面 (https://ideal-ljl.github.io/AeroBrain/) GitHub1 (https://github.com/Ideal-ljl/AeroBrain) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.39287)

引用该论文的模型 0

暂无模型与该论文关联

在模型的 README.md 中引用 arxiv.org/abs/2610.39287,即可从此页面链接到该模型。

引用该论文的数据集 0

暂无数据集与该论文关联

在数据集的 README.md 中引用 arxiv.org/abs/2610.39287,即可从此页面链接到该数据集。

引用该论文的 Spaces 0

暂无 Space 与该论文关联

在 Space 的 README.md 中引用 arxiv.org/abs/2610.39287,即可从此页面链接到该 Space。

包含该论文的合集 0

暂无合集包含该论文

将该论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到它。

相似文章

AUGUstus:统一生成与理解的自动驾驶视觉-语言-动作模型

Hugging Face Daily Papers

AUGUstus 提出了一种统一生成与理解的自动驾驶视觉-语言-动作(VLA)模型,将基于扩散的动作生成与自回归思维链理解融合于单一模型,在 NAVSIM v1/v2 与 nuScenes 上达到 SOTA,并已在实车上以 12Hz 部署验证。

刚刚开源 FastVLA

Reddit r/LocalLLaMA

FastVLA,一款开源视觉-语言-动作模型,现可在 L4 GPU 上实现 5 Hz 机器人控制。

VLX-Go:通过多阶段学习与在线策略优化实现鲁棒的具身追踪

Hugging Face Daily Papers

VLX-Go 提出一种视觉-语言航点策略,通过多阶段多模态训练(视觉-语言对齐、多模态推理、追踪专项化)和在线策略优化,显著提升机器人在干扰物环境中跟踪目标人物的成功率,达到 58.22%,并在对比方法中取得最佳的干扰物与模糊场景追踪成绩。