OmniTacTune:策略无关的真实世界强化学习用于视觉策略的触觉残差适配

Hugging Face Daily Papers 论文

摘要

OmniTacTune引入了一种两阶段强化学习管道,用于将触觉反馈适配到预训练的视觉机器人策略,在接触丰富的操作任务中,在40-80分钟内实现85-100%的成功率。

从人类视频、遥控操作和机器人演示中学习到的视觉策略提供了可扩展的运动先验,但在接触丰富的操作中常常失败,因为成功在很大程度上取决于局部力和接触几何形状。触觉传感提供了这些互补信号,然而触觉数据的收集成本高昂,且难以跨传感器、机器人和任务进行泛化。我们提出了OmniTacTune,这是一个策略无关的真实世界强化学习管道,通过残差校正将触觉反馈适配到预训练的视觉策略。OmniTacTune采用两阶段设计:首先从自主的基础策略rollout中引导出触觉感知学习,然后通过在线交互学习一个轻量级的触觉残差策略。大量实验表明,OmniTacTune能够泛化到多种接触丰富的任务、视觉基础策略和触觉表示。在四个真实世界的接触丰富任务中,它将视觉基础策略的成功率从5-40%提升到85-100%,在40-80分钟内完成,展示了将触觉反馈适配到可扩展视觉机器人策略的有效路径。项目页面:https://colinyu1.github.io/omnitactune-site/
查看原文
查看缓存全文

缓存时间: 2026/07/09 19:40

论文页面 - OmniTacTune:策略无关的真实世界强化学习实现视觉策略的触觉残差适应

来源:https://huggingface.co/papers/2607.03723

摘要

OmniTacTune 通过一种两阶段强化学习方法,实现了对视觉机器人策略的高效触觉反馈适应,显著提升了接触密集型操作任务的成功率。

从人类视频、遥操作和机器人演示中学习得到的视觉策略(https://huggingface.co/papers?q=Visual%20policies)提供了可扩展的运动先验,但在接触密集型操作(https://huggingface.co/papers?q=contact-rich%20manipulation)中常常失效——这类任务的成败高度依赖于局部力与接触几何形状。触觉传感(https://huggingface.co/papers?q=Tactile%20sensing)提供了这些互补信号,然而触觉数据的采集成本高昂,且难以跨传感器、机器人和任务进行泛化。我们提出了 OmniTacTune,一个策略无关(https://huggingface.co/papers?q=policy-agnostic)的真实世界强化学习(https://huggingface.co/papers?q=real-world%20RL)流水线,通过残差校正(https://huggingface.co/papers?q=residual%20correction)将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)适应到预训练的视觉策略(https://huggingface.co/papers?q=visual%20policies)中。OmniTacTune 采用两阶段设计:首先从自主的基础策略展开(https://huggingface.co/papers?q=base-policy%20rollouts)中引导出触觉感知学习(https://huggingface.co/papers?q=tactile-aware%20learning),然后通过在线交互学习一个轻量级的触觉残差策略(https://huggingface.co/papers?q=tactile%20residual%20policy)。大量实验表明,OmniTacTune 能够跨多种接触密集型任务、视觉基础策略和触觉表示进行泛化。在四个真实世界接触密集型任务中,它在 40-80 分钟内将视觉基础策略的成功率从 5-40% 提升至 85-100%,展示了一条将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)高效适应到可扩展视觉机器人策略的有效路径。项目页面:https://colinyu1.github.io/omnitactune-site/

查看 arXiv 页面(https://arxiv.org/abs/2607.03723)查看 PDF(https://arxiv.org/pdf/2607.03723)项目页面(https://colinyu1.github.io/omnitactune-site/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.03723)

在您的智能体中获取本篇论文:

hf papers read 2607.03723

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至模型。

引用本论文的数据集0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至数据集。

引用本论文的 Spaces0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至 Space。

包含本论文的收藏集0

没有收藏集包含此论文

请将此论文添加到收藏集(https://huggingface.co/new-collection)中以从此页面进行链接。

相似文章

RoboTTT: Context Scaling for Robot Policies

Hugging Face Daily Papers

RoboTTT将视觉运动上下文扩展到机器人策略的8K时间步长,实现了从人类视频演示中一次模仿、即时策略改进以及对扰动的鲁棒性。它比基线提高了87%,并完成了一个五分钟、十阶段的组装任务,而基线无法完成。

Warp RL: 重塑基础策略分布以适应动力学变化

arXiv cs.LG

Warp RL 用基于单调有理二次样条流的可逆状态条件变换替代强化学习中的加性残差修正,该变换作用于基础策略的动作分布,从而在动力学偏移下适应分布的形状、尺度和几何结构。在 ManiSkill3 操作任务中,Warp RL 与残差修正性能相当或更优,并在真实机器人插销任务中实现了任务完成速度提高 30%。