通过迭代式事后重标记学习质量可控的机器人策略

Hugging Face Daily Papers 论文

摘要

该论文提出了质量可控策略(QCP),通过一个迭代式事后重标注循环,利用在线采集的轨迹进行微调,从而在推理时控制机器人执行的速度、平滑度等质量属性,并提高了在 Robomimic、RoboEval 和真实世界操作任务中的成功率与执行质量。

机器人策略评估通常依赖二元成功信号来判断任务是否完成。然而,在现实世界部署中,期望的执行行为还由执行速度和运动平滑度等质量属性来定义,而这些属性需要根据任务要求进行动态控制。为此,我们提出了质量可控策略(Quality-Controllable Policy,QCP),这是一种能够在推理时控制单个质量属性及其组合的机器人策略。为将可控质量范围扩展至初始示范之外,我们进一步提出了一种迭代式事后重标注循环:QCP 在目标质量标签的引导下采集在线执行轨迹,将成功轨迹添加到数据集中,根据实测质量对累积轨迹进行事后重标注,并微调策略。在 Robomimic 和 RoboEval 上的实验表明,QCP 在迭代过程中持续提升任务执行质量和成功率,生成质量超越初始示范的成功执行轨迹。最后,我们在真实世界的操作任务中验证了 QCP:控制速度能够提高传送带作业的吞吐量,控制运输稳定性能够提高搬运葡萄酒杯时的成功率,表明质量可控策略能够在实体部署中带来实际收益。
查看原文
查看缓存全文

缓存时间: 2026/11/02 11:28

论文页面 - 通过迭代事后重标注学习质量可控的机器人策略

来源:https://huggingface.co/papers/2610.37393

摘要

质量可控策略支持实时调整机器人执行质量,并通过对在线 rollout 进行迭代事后重标注来提升性能。

机器人策略评估通常依赖二元成功信号来判断任务是否完成。然而,在现实部署中,期望的执行行为还由质量属性 (https://huggingface.co/papers?q=quality%20attributes) 定义,例如执行速度和运动平滑度,这些属性需要根据任务要求进行动态控制。为此,我们提出质量可控策略 (https://huggingface.co/papers?q=Quality-Controllable%20Policy)(QCP),这是一种机器人策略,支持在推理时控制 (https://huggingface.co/papers?q=inference-time%20control) 单个质量属性 (https://huggingface.co/papers?q=quality%20attributes) 及其组合。为了将可控质量范围扩展到初始示范之外,我们进一步提出一种迭代事后重标注 (https://huggingface.co/papers?q=hindsight%20relabeling) 循环:QCP 在目标质量标签的条件下收集在线 rollout (https://huggingface.co/papers?q=online%20rollouts),将成功轨迹加入数据集,根据测得的质量对累积轨迹进行事后重标注,并微调策略。在 Robomimic 和 RoboEval 上的实验表明,QCP 能在迭代过程中持续提升任务执行质量和成功率,生成质量超越初始示范的成功 rollout。最后,我们在现实世界的操作任务中验证了 QCP,其中,控制速度提高了传送带作业的吞吐量,控制运输稳定性则提高了搬运葡萄酒杯时的成功率,表明质量可控策略能够在实体部署中带来实际收益。

查看 arXiv 页面 (https://arxiv.org/abs/2610.37393)查看 PDF (https://arxiv.org/pdf/2610.37393)项目页面 (https://sinnnj.github.io/qcp/)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.37393)

在你的智能体中获取这篇论文:

hf papers read 2610\.37393

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型关联此论文

在模型的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该模型。

引用此论文的数据集0

没有数据集关联此论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该数据集。

引用此论文的 Space0

没有 Space 关联此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该 Space。

收录此论文的合集0

没有合集收录此论文

将此论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集。

相似文章

Learning More from Less: 从后见之明中进行强化学习

arXiv cs.LG

介绍了Learning from Hindsight (LfH)方法,该方法将后见之明重标注应用于视觉-语言-动作模型的强化学习后训练。通过将失败的机器人轨迹重新标注为它们实际完成的任务,LfH在分布外操作任务上实现了5倍的样本效率提升。

Reversal Q-Learning

arXiv cs.LG

本文提出了Reversal Q-Learning(RQL),一种离线强化学习算法,它利用扩展马尔可夫决策过程框架和技术训练流策略,无需随时间反向传播即可实现离策略强化学习。该算法在具有挑战性的模拟机器人任务上达到了最先进的性能。