通过迭代式事后重标记学习质量可控的机器人策略
摘要
该论文提出了质量可控策略(QCP),通过一个迭代式事后重标注循环,利用在线采集的轨迹进行微调,从而在推理时控制机器人执行的速度、平滑度等质量属性,并提高了在 Robomimic、RoboEval 和真实世界操作任务中的成功率与执行质量。
查看缓存全文
缓存时间: 2026/11/02 11:28
论文页面 - 通过迭代事后重标注学习质量可控的机器人策略
来源:https://huggingface.co/papers/2610.37393
摘要
质量可控策略支持实时调整机器人执行质量,并通过对在线 rollout 进行迭代事后重标注来提升性能。
机器人策略评估通常依赖二元成功信号来判断任务是否完成。然而,在现实部署中,期望的执行行为还由质量属性 (https://huggingface.co/papers?q=quality%20attributes) 定义,例如执行速度和运动平滑度,这些属性需要根据任务要求进行动态控制。为此,我们提出质量可控策略 (https://huggingface.co/papers?q=Quality-Controllable%20Policy)(QCP),这是一种机器人策略,支持在推理时控制 (https://huggingface.co/papers?q=inference-time%20control) 单个质量属性 (https://huggingface.co/papers?q=quality%20attributes) 及其组合。为了将可控质量范围扩展到初始示范之外,我们进一步提出一种迭代事后重标注 (https://huggingface.co/papers?q=hindsight%20relabeling) 循环:QCP 在目标质量标签的条件下收集在线 rollout (https://huggingface.co/papers?q=online%20rollouts),将成功轨迹加入数据集,根据测得的质量对累积轨迹进行事后重标注,并微调策略。在 Robomimic 和 RoboEval 上的实验表明,QCP 能在迭代过程中持续提升任务执行质量和成功率,生成质量超越初始示范的成功 rollout。最后,我们在现实世界的操作任务中验证了 QCP,其中,控制速度提高了传送带作业的吞吐量,控制运输稳定性则提高了搬运葡萄酒杯时的成功率,表明质量可控策略能够在实体部署中带来实际收益。
查看 arXiv 页面 (https://arxiv.org/abs/2610.37393)查看 PDF (https://arxiv.org/pdf/2610.37393)项目页面 (https://sinnnj.github.io/qcp/)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.37393)
在你的智能体中获取这篇论文:
hf papers read 2610\.37393
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型关联此论文
在模型的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该模型。
引用此论文的数据集0
没有数据集关联此论文
在数据集的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该数据集。
引用此论文的 Space0
没有 Space 关联此论文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.37393,即可从此页面链接到该 Space。
收录此论文的合集0
没有合集收录此论文
将此论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接到该合集。
相似文章
从混合质量部署经验中学习机器人操作
论文提出用于机器人操作的预测动作块学习 (PACL),该方法从混合质量部署经验中学习,使用预测评论家和扩散动作器以提升策略性能。
Learning More from Less: 从后见之明中进行强化学习
介绍了Learning from Hindsight (LfH)方法,该方法将后见之明重标注应用于视觉-语言-动作模型的强化学习后训练。通过将失败的机器人轨迹重新标注为它们实际完成的任务,LfH在分布外操作任务上实现了5倍的样本效率提升。
Reversal Q-Learning
本文提出了Reversal Q-Learning(RQL),一种离线强化学习算法,它利用扩展马尔可夫决策过程框架和技术训练流策略,无需随时间反向传播即可实现离策略强化学习。该算法在具有挑战性的模拟机器人任务上达到了最先进的性能。
RoboTALES:通过任务对齐的模拟未来学习推理引导的机器人策略
RoboTALES引入了一个两阶段框架,结合基于LLM的规划和基于VLM的批评,以改进任务对齐的视频生成和机器人策略训练,在长时域操作任务上显著优于现有方法。
Learning from Failures: Correction-Oriented Policy Optimization with Verifiable Rewards
提出了面向纠正的策略优化(CIPO),这是对RLVR的一种扩展,它将失败轨迹转化为面向纠正的监督信号,从而在数学和代码基准测试中提升LLM的推理与纠错能力。