通过部署实现机器人编排器与策略的协同进化

Hugging Face Daily Papers 论文

摘要

提出了RoboCOP框架,让机器人编排器(VLM orchestrator)与视觉-语言-动作(VLA)策略在部署过程中协同进化,通过自采集演示数据在验证通过时微调策略,实现自改进飞轮,在仿真和真实世界任务上显著提升了泛化成功率。

基于大规模数据集训练的视觉-语言-动作(VLA)策略在其训练域内表现出色,但在真实世界部署中,机器人仍然无法泛化到各种复杂场景。智能体机器人系统通过视觉-语言模型(VLM)编排器来补充策略的能力——编排器学习何时调用策略、如何下达指令,以及何时使用脚本化的技能。然而,由于整个框架是围绕一个冻结的、语言引导能力有限的策略构建的,编排器只能规避策略的失败,却无法从根本上克服这些问题。策略因此成为整个系统的瓶颈。微调策略可以消除这一瓶颈,但如果单独更新策略,就会使其与针对其旧行为调优的编排器脱节。我们提出了RoboCOP,让编排器与策略在部署过程中协同进化。RoboCOP从自身的执行过程中策展技能演示数据,当这些数据能够解决反复出现的失败时微调策略,并且仅在新策略确实提升了其训练所针对的技能之后才采纳该策略。在十个仿真RoboLab任务中,RoboCOP将留出任务的平均成功率从64.8%提升至73.8%(相比使用冻结策略的同一框架),而按固定日程进行未经验证的微调仅达到65.8%。在三个真实世界任务中,RoboCOP将留出任务成功率从38.3%提升至50.0%。RoboCOP将部署过程转变为一个自改进飞轮——机器人在实践中学习,每一次执行的改进都为下一轮学习产生更好的数据。视频和代码已在 https://robo-cop.pages.dev/ 开源。
查看原文
查看缓存全文

缓存时间: 2026/10/08 12:15

论文页面 - 通过部署实现机器人编排器与策略的协同进化

来源:https://huggingface.co/papers/2610.09228

摘要

在大规模数据集上训练的视觉-语言-动作(VLA)策略在其训练领域内表现良好,但在真实世界部署中遇到各种情况时仍然难以泛化。具身机器人系统通过视觉-语言模型(VLM)编排器来补充策略——编排器学习何时调用策略、如何向策略下达指令,以及何时改用脚本化技能。然而,由于该框架是围绕一个语言可控性有限的冻结策略构建的,编排器只能规避策略的失败,却无法真正克服它们。策略由此成为整个系统的瓶颈。对策略进行微调可以消除这一瓶颈,但单独更新策略会使它与针对其旧行为调优好的编排器脱节。我们提出 Robo-COP,其中编排器与策略在部署过程中协同进化。Robo-COP 从自身的执行过程中整理技能演示数据,当这些数据能够解决反复出现的失败时才对策略进行微调,并且只有当新策略改进了其训练所针对的技能之后,才会采用这个新策略。在十个模拟 RoboLab 任务中,与使用冻结策略的同一框架相比,Robo-COP 将留出任务的平均成功率从 64.8% 提高到 73.8%,而按固定时间表且不做验证的微调仅能达到 65.8%。在三个真实世界任务中,Robo-COP 将留出任务成功率从 38.3% 提高到 50.0%。Robo-COP 将部署转变为一个自我改进的飞轮:机器人在实践中学习,每一次执行上的改进都会为下一轮学习产生更好的数据。视频和代码见 https://robo-cop.pages.dev/。

查看 arXiv 页面 (https://arxiv.org/abs/2610.09228) 查看 PDF (https://arxiv.org/pdf/2610.09228) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.09228)

引用本论文的模型 0

暂无关联模型。

在模型 README.md 中引用 arxiv.org/abs/2610.09228,即可将本论文与该模型关联到本页面。

引用本论文的数据集 0

暂无关联数据集。

在数据集 README.md 中引用 arxiv.org/abs/2610.09228,即可将本论文与该数据集关联到本页面。

引用本论文的 Spaces 0

暂无关联 Space。

在 Space README.md 中引用 arxiv.org/abs/2610.09228,即可将本论文与该 Space 关联到本页面。

包含本论文的合集 0

暂无包含本论文的合集。

将本论文添加到合集 (https://huggingface.co/new-collection),即可将本论文关联到本页面。

相似文章

CoDA:数据引擎与动作策略的协同演化

Hugging Face Daily Papers

CoDA 提出一种仿真数据引擎与机器人动作策略协同演进的框架,通过共享失败与学习进展记忆、视觉语言诊断以及 Text2potential 分阶段势能奖励,将机器人操作任务的分布外成功率从 5.3% 提升至 27.6%,并在 LIBERO-Pro 上取得显著改善。

具身图灵机:面向机器人递归自我改进的有状态代码

Hugging Face Daily Papers

本文提出 Code-Only-As-Policy (COAP) 范式,将机器人本体视为图灵机,用显式代码替代 VLM/VLA 进行决策与状态跟踪,并借助编码智能体实现闭环递归自我改进;在 RoboDojo 的 42 项双臂任务上达到 70.24% 成功率,且测试时无需模型在环。

VoLo: 开放词汇长程操作的物理编排器

Hugging Face Daily Papers

VoLoAgent 将视觉语言模型与机器人能力相结合,用于开放词汇长程操作任务,引入了一个物理编排器,该编排器使用可中断工具进行规划、监控和恢复,并提出了一个名为 RoboVoLo 的基准用于评估。