标签
该论文提出WATCH,一种跨视频预训练方法,通过任务配对的人类演示学习可迁移的世界-动作模型,无需人-机器人配对数据;在机器人后训练后将MimicDroid的上下文内成功率从40.9%提升至68.3%(Cosmos Policy)以及从59.8%提升至77.7%(Cosmos 3)。
NAVA-WAM 通过从纯观察视频直接预训练动作策略(原生动作先验学习),结合流匹配监督与转移结构化联合注意力,避免了间接的表征-控制转移和独立的隐动作模型,仅需少量动作标注即可实现高效的机器人控制与跨域泛化。
Runway Research 推出 Praxis-1,这是其首个面向机器人领域的开源权重世界动作模型。该模型基于大规模视频预训练构建,能够在任何本体形态和环境中学习通用策略。目前正与 Noble Machines、Standard Bots 和 Ultra 等合作伙伴进行测试,预计将在未来几个月内公开发布。
TT-VidT 是一种新的视频预训练方法,通过解耦时间轴来高效建模运动,在以运动为中心的基准测试上实现了最先进的结果,同时降低了计算成本。
本研究严格检验了扩展网络视频预训练能否提升机器人任务性能,发现更大模型和更多计算资源在真实工业任务中持续产出更优策略,且预训练质量与性能表现呈正相关。
VidaForge 是一个开放研究基础设施,它将视频数据配方建模为可执行工作流,以研究其对视频基础模型预训练的影响,并发布了包含314万场景级剪辑的数据集供研究使用。
Dyna-2 is a world-action model pre-trained on over a million hours of human video, showing scaling laws on human data and a human-to-robot transfer scaling law for zero-shot robot performance.
Pantograph推出了Pan,一个拥有40亿参数的目标条件模型,该模型在互联网视频上进行训练,能够在Minecraft中执行各种任务,例如与怪物战斗、建造结构和探索。该方法利用事后重新标记在预训练期间学习目标导向行为。
LingBot-Video提出了一个基于DiT的视频预训练框架,采用Mixture-of-Experts架构、专用数据增强和多维奖励系统,用于具身智能应用。
本文介绍了Orca,一个世界基础模型,它通过下一状态预测从多模态数据中学习统一的潜在空间,在文本生成、图像预测和具身动作生成等下游任务上优于专门的基线模型。
OpenAI 推出了视频预训练(VPT),这是一种半监督方法,通过学习 70,000 小时的未标注人类游戏视频和少量标注数据集来训练神经网络玩 Minecraft。该模型使用原生人类界面(键盘和鼠标)学习复杂的序列任务,展示了制作钻石工具和柱子跳跃等能力,代表了朝向通用计算机使用代理的进步。