OmniTacTune:策略无关的真实世界强化学习用于视觉策略的触觉残差适配
摘要
OmniTacTune引入了一种两阶段强化学习管道,用于将触觉反馈适配到预训练的视觉机器人策略,在接触丰富的操作任务中,在40-80分钟内实现85-100%的成功率。
查看缓存全文
缓存时间: 2026/07/09 19:40
论文页面 - OmniTacTune:策略无关的真实世界强化学习实现视觉策略的触觉残差适应
来源:https://huggingface.co/papers/2607.03723
摘要
OmniTacTune 通过一种两阶段强化学习方法,实现了对视觉机器人策略的高效触觉反馈适应,显著提升了接触密集型操作任务的成功率。
从人类视频、遥操作和机器人演示中学习得到的视觉策略(https://huggingface.co/papers?q=Visual%20policies)提供了可扩展的运动先验,但在接触密集型操作(https://huggingface.co/papers?q=contact-rich%20manipulation)中常常失效——这类任务的成败高度依赖于局部力与接触几何形状。触觉传感(https://huggingface.co/papers?q=Tactile%20sensing)提供了这些互补信号,然而触觉数据的采集成本高昂,且难以跨传感器、机器人和任务进行泛化。我们提出了 OmniTacTune,一个策略无关(https://huggingface.co/papers?q=policy-agnostic)的真实世界强化学习(https://huggingface.co/papers?q=real-world%20RL)流水线,通过残差校正(https://huggingface.co/papers?q=residual%20correction)将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)适应到预训练的视觉策略(https://huggingface.co/papers?q=visual%20policies)中。OmniTacTune 采用两阶段设计:首先从自主的基础策略展开(https://huggingface.co/papers?q=base-policy%20rollouts)中引导出触觉感知学习(https://huggingface.co/papers?q=tactile-aware%20learning),然后通过在线交互学习一个轻量级的触觉残差策略(https://huggingface.co/papers?q=tactile%20residual%20policy)。大量实验表明,OmniTacTune 能够跨多种接触密集型任务、视觉基础策略和触觉表示进行泛化。在四个真实世界接触密集型任务中,它在 40-80 分钟内将视觉基础策略的成功率从 5-40% 提升至 85-100%,展示了一条将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)高效适应到可扩展视觉机器人策略的有效路径。项目页面:https://colinyu1.github.io/omnitactune-site/
查看 arXiv 页面(https://arxiv.org/abs/2607.03723)查看 PDF(https://arxiv.org/pdf/2607.03723)项目页面(https://colinyu1.github.io/omnitactune-site/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.03723)
在您的智能体中获取本篇论文:
hf papers read 2607.03723
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型0
没有模型链接此论文
请在模型 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至模型。
引用本论文的数据集0
没有数据集链接此论文
请在数据集 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至数据集。
引用本论文的 Spaces0
没有 Space 链接此论文
请在 Space README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至 Space。
包含本论文的收藏集0
没有收藏集包含此论文
请将此论文添加到收藏集(https://huggingface.co/new-collection)中以从此页面进行链接。
相似文章
N_0-VTLA:利用潜在触觉标记扩展视觉-触觉-语言-动作模型
介绍了N_0-VTLA,一种面向高接触操作的视觉-触觉-语言-动作基础模型,具备大规模触觉预训练和基于优势的离线策略改进功能,在真实机器人和仿真基准测试中表现优异。
RoboTTT: Context Scaling for Robot Policies
RoboTTT将视觉运动上下文扩展到机器人策略的8K时间步长,实现了从人类视频演示中一次模仿、即时策略改进以及对扰动的鲁棒性。它比基线提高了87%,并完成了一个五分钟、十阶段的组装任务,而基线无法完成。
Warp RL: 重塑基础策略分布以适应动力学变化
Warp RL 用基于单调有理二次样条流的可逆状态条件变换替代强化学习中的加性残差修正,该变换作用于基础策略的动作分布,从而在动力学偏移下适应分布的形状、尺度和几何结构。在 ManiSkill3 操作任务中,Warp RL 与残差修正性能相当或更优,并在真实机器人插销任务中实现了任务完成速度提高 30%。
检索,而非重新训练:在测试时将视觉语言动作模型扩展到新任务
本文介绍了一种检索增强的视觉-语言-动作策略,通过使用预训练模型和索引演示,消除了每个任务的微调,实现了高效的跨本体泛化和测试时的任务适应。
RoboTALES:通过任务对齐的模拟未来学习推理引导的机器人策略
RoboTALES引入了一个两阶段框架,结合基于LLM的规划和基于VLM的批评,以改进任务对齐的视频生成和机器人策略训练,在长时域操作任务上显著优于现有方法。