Xiaomi-Robotics-U0: 基于世界基础模型的统一具身合成

Hugging Face Daily Papers 论文

摘要

小米机器人推出U0,这是一个380亿参数的多模态自回归模型,用于统一具身合成,将具身生成视为图像和视频生成的扩展。它在多个具身任务上取得了最先进的结果,超越了GPT-Image-2.0,并提高了真实世界操作的成功率。

近期的基础图像和视频生成模型展现了强大的泛化能力和可控性,但它们在具身场景中的直接应用受到多视图一致性、几何连贯性和机器人具身约束的限制。现有方法通常使用有限的机器人数据来适配基础模型,往往会牺牲在大规模预训练中获取的视觉知识。我们提出Xiaomi-Robotics-U0,这是一个380亿参数的多模态自回归模型,用于统一具身合成。它将具身生成视为基础图像和视频生成的扩展,并联合优化文本到图像生成、图像编辑、具身场景生成、具身迁移和具身视频生成。这一统一框架保留了预训练世界基础模型的泛化能力,同时将其适配到具身环境中。Xiaomi-Robotics-U0是首个支持跨多种机器人具身的高质量多视图场景生成的模型,并引入了结构化、可控的具身迁移,用于细粒度编辑,同时保持多视图一致性和交互动态。它在单步和序列生成任务上取得了最先进的结果,在具身场景生成和迁移的人类评估中超越了GPT-Image-2.0,在World Arena的具身视频生成中排名第一,并在具有挑战性的真实世界操作任务中,将pi_0.5的分布外成功率从36.9%提高到63.2%。这些结果表明,基础世界模型既可以作为具身世界模型,也可以作为具身智能的可扩展数据引擎。代码和检查点可在 https://robotics.xiaomi.com/xiaomi-robotics-u0.html 获取。
查看原文
查看缓存全文

缓存时间: 2026/07/14 16:16

论文页面 - Xiaomi-Robotics-U0:基于世界基础模型的统一具身合成

来源:https://huggingface.co/papers/2607.11643 作者:

摘要

近期的基础图像与视频生成模型展现出强大的泛化能力和可控性,但其在具身场景中的直接应用受到多视图一致性、几何连贯性和机器人具身约束等要求的限制。现有方法通常采用有限的机器人数据对基础模型进行微调,往往牺牲了大规模预训练期间获得的视觉知识。我们提出了Xiaomi-Robotics-U0,一个380亿参数的多模态自回归模型,用于统一的具身合成。该模型将具身生成视为基础图像和视频生成的扩展,并联合优化了文本到图像生成、图像编辑、具身场景生成、具身迁移以及具身视频生成。这一统一框架在保留预训练世界基础模型泛化能力的同时,使其适应具身场景。Xiaomi-Robotics-U0是首个支持跨多个机器人具身的高质量多视图场景生成,并引入结构化、可控的具身迁移以实现细粒度编辑,同时保持多视图一致性与交互动态的模型。它在单步生成和序列生成任务上取得了最先进的结果,在具身场景生成与迁移的人类评估中优于GPT-Image-2.0,在World Arena具身视频生成排名中位列第一,并在具有挑战性的真实世界操作任务中,将pi_0.5的分布外成功率从36.9%提升至63.2%。这些结果表明,基础世界模型既可以作为具身世界模型,也可以作为具身智能的可扩展数据引擎。代码和检查点可在 https://robotics.xiaomi.com/xiaomi-robotics-u0.html 获取。

查看arXiv页面 (https://arxiv.org/abs/2607.11643) 查看PDF (https://arxiv.org/pdf/2607.11643) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.11643)

引用此论文的模型2

XiaomiRobotics/Xiaomi-Robotics-U0 Robotics• 34B• 更新约9小时前 • 13 • 3 (https://huggingface.co/XiaomiRobotics/Xiaomi-Robotics-U0)

XiaomiRobotics/Xiaomi-Robotics-U0-FlashAR Robotics• 38B• 更新约9小时前 • 5 • 3 (https://huggingface.co/XiaomiRobotics/Xiaomi-Robotics-U0-FlashAR)

引用此论文的数据集0

暂无数据集链接此论文

请在数据集的README.md中引用 arxiv.org/abs/2607.11643 以将其链接至此页面。

引用此论文的Spaces0

暂无Space链接此论文

请在Space的README.md中引用 arxiv.org/abs/2607.11643 以将其链接至此页面。

包含此论文的集合0

暂无集合包含此论文

添加此论文至一个集合 (https://huggingface.co/new-collection) 以将其链接至此页面。

相似文章

Qwen-RobotWorld技术报告:通过语言条件视频生成统一具身世界建模

Hugging Face Daily Papers

Qwen-RobotWorld是一个语言条件视频世界模型,利用双流扩散变换器和860万视频-文本语料库,预测多个机器人领域的未来视觉轨迹。它统一了机器人操作、自动驾驶、室内导航和人机迁移的具身世界建模,在EWMBench和DreamGen Bench上取得了顶尖基准成绩。

τ_0-WM: 用于机器人操作的统一视频-动作世界模型

Hugging Face Daily Papers

τ_0-WM是一个统一的视频-动作世界模型,用于机器人操作,它通过共享的视频扩散主干集成了策略学习、视频预测和动作评估。在具有挑战性的长周期和细粒度任务上表现出卓越性能。

Qwen的具身世界建模 (28分钟阅读)

TLDR AI

Qwen-RobotWorld技术报告提出了一种统一的、语言条件化的视频世界模型,用于具身智能,能够从当前观测中预测未来视频,涵盖机器人、自动驾驶、导航等多个领域,并应用于合成数据生成、策略评估和规划。

tencent/Hy-Embodied-RxBrain-1.0 · Hugging Face

Reddit r/LocalLLaMA

腾讯发布了 Hy-Embodied-RxBrain-1.0,一个用于具身认知的统一多模态基础模型,它将语言推理与视觉想象相结合,用于理解、世界状态预测和子目标规划。

tencent/HY-Embodied-0.5

Hugging Face Models Trending

腾讯发布了HY-Embodied-0.5,这是一套为具身AI智能体设计的基础模型套件,采用混合变换器(MoT)架构,提供高效的2B和强大的32B变体,用于真实世界的机器人控制和时空推理。