OmniTacTune:策略无关的真实世界强化学习用于视觉策略的触觉残差适配
摘要
OmniTacTune引入了一种两阶段强化学习管道,用于将触觉反馈适配到预训练的视觉机器人策略,在接触丰富的操作任务中,在40-80分钟内实现85-100%的成功率。
查看缓存全文
缓存时间: 2026/07/09 19:40
论文页面 - OmniTacTune:策略无关的真实世界强化学习实现视觉策略的触觉残差适应
来源:https://huggingface.co/papers/2607.03723
摘要
OmniTacTune 通过一种两阶段强化学习方法,实现了对视觉机器人策略的高效触觉反馈适应,显著提升了接触密集型操作任务的成功率。
从人类视频、遥操作和机器人演示中学习得到的视觉策略(https://huggingface.co/papers?q=Visual%20policies)提供了可扩展的运动先验,但在接触密集型操作(https://huggingface.co/papers?q=contact-rich%20manipulation)中常常失效——这类任务的成败高度依赖于局部力与接触几何形状。触觉传感(https://huggingface.co/papers?q=Tactile%20sensing)提供了这些互补信号,然而触觉数据的采集成本高昂,且难以跨传感器、机器人和任务进行泛化。我们提出了 OmniTacTune,一个策略无关(https://huggingface.co/papers?q=policy-agnostic)的真实世界强化学习(https://huggingface.co/papers?q=real-world%20RL)流水线,通过残差校正(https://huggingface.co/papers?q=residual%20correction)将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)适应到预训练的视觉策略(https://huggingface.co/papers?q=visual%20policies)中。OmniTacTune 采用两阶段设计:首先从自主的基础策略展开(https://huggingface.co/papers?q=base-policy%20rollouts)中引导出触觉感知学习(https://huggingface.co/papers?q=tactile-aware%20learning),然后通过在线交互学习一个轻量级的触觉残差策略(https://huggingface.co/papers?q=tactile%20residual%20policy)。大量实验表明,OmniTacTune 能够跨多种接触密集型任务、视觉基础策略和触觉表示进行泛化。在四个真实世界接触密集型任务中,它在 40-80 分钟内将视觉基础策略的成功率从 5-40% 提升至 85-100%,展示了一条将触觉反馈(https://huggingface.co/papers?q=tactile%20feedback)高效适应到可扩展视觉机器人策略的有效路径。项目页面:https://colinyu1.github.io/omnitactune-site/
查看 arXiv 页面(https://arxiv.org/abs/2607.03723)查看 PDF(https://arxiv.org/pdf/2607.03723)项目页面(https://colinyu1.github.io/omnitactune-site/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.03723)
在您的智能体中获取本篇论文:
hf papers read 2607.03723
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型0
没有模型链接此论文
请在模型 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至模型。
引用本论文的数据集0
没有数据集链接此论文
请在数据集 README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至数据集。
引用本论文的 Spaces0
没有 Space 链接此论文
请在 Space README.md 中引用 arxiv.org/abs/2607.03723 以将此页面链接至 Space。
包含本论文的收藏集0
没有收藏集包含此论文
请将此论文添加到收藏集(https://huggingface.co/new-collection)中以从此页面进行链接。
相似文章
Warp RL: 重塑基础策略分布以适应动力学变化
Warp RL 用基于单调有理二次样条流的可逆状态条件变换替代强化学习中的加性残差修正,该变换作用于基础策略的动作分布,从而在动力学偏移下适应分布的形状、尺度和几何结构。在 ManiSkill3 操作任务中,Warp RL 与残差修正性能相当或更优,并在真实机器人插销任务中实现了任务完成速度提高 30%。
检索,而非重新训练:在测试时将视觉语言动作模型扩展到新任务
本文介绍了一种检索增强的视觉-语言-动作策略,通过使用预训练模型和索引演示,消除了每个任务的微调,实现了高效的跨本体泛化和测试时的任务适应。
RoboTALES:通过任务对齐的模拟未来学习推理引导的机器人策略
RoboTALES引入了一个两阶段框架,结合基于LLM的规划和基于VLM的批评,以改进任务对齐的视频生成和机器人策略训练,在长时域操作任务上显著优于现有方法。
利用强化微调克服视觉连续学习中的灾难性遗忘
本文提出保留感知策略优化(RaPO),通过强化微调缓解视觉连续学习中的灾难性遗忘。RaPO采用轨迹级奖励塑形和跨任务优势归一化,缩小了类增量学习和域增量学习中强化微调与监督微调之间的差距。
基于权重空间元学习的机器人策略自适应
提出WIZARD,一种权重空间元学习框架,它从语言指令和演示视频中为冻结的VLA策略生成任务特定的LoRA参数,从而实现无需微调的高效任务自适应。