@NVIDIARobotics: 机器人技术建立在合作之上。听听 @huggingface CSO 兼联合创始人 Thomas Wolf 解释开源如何为开发者提供更强的构建基础……
摘要
LeRobot v0.6.0 引入了新的世界模型、奖励模型、更快的数据加载以及改进的基准测试,用于机器人学习,从而闭环机器人学习过程。
查看缓存全文
缓存时间: 2026/07/12 19:01
机器人技术建立在协作之上。🤝
倾听@huggingface CSO兼联合创始人Thomas Wolf的解释,了解开源如何为开发者提供更坚实的基础。
了解更多关于@lerobothf v0.6版本的信息 ➡️ https://t.co/olcJZyWNvW https://t.co/s4NPOuWr7B
LeRobot v0.6.0:想象、评估、改进
来源:https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454 返回文章 (https://huggingface.co/blog)
- TL;DR (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#tldr)
- 目录 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#table-of-contents)
- 世界模型:能够想象的策略 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#world-models-policies-that-imagine)- VLA-JEPA (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vla-jepa) - LingBot-VA (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lingbot-va) - FastWAM (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#fastwam)
- VLA:不断增长的模型动物园 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vlas-the-model-zoo-keeps-growing)- GR00T N1.7 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#gr00t-n17) - MolmoAct2 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#molmoact2) - EO-1 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#eo-1) - Multitask DiT (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#multitask-dit) - EVO1 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#evo1)
- 奖励模型:知道你的机器人何时成功 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#reward-models-knowing-when-your-robot-succeeds)- Robometer (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#robometer) - TOPReward (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#topreward)
- 数据集:更快的加载,更丰富的数据 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#datasets-faster-loading-richer-data)- 你的编解码器,你的规则 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#your-codec-your-rules) - 深度支持,端到端 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#depth-support-end-to-end) - 大规模语言标注 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#language-annotations-at-scale) - 数据加载速度提升高达2倍 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#up-to-2x-faster-data-loading)
- 基准测试:一个命令行评估所有 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#benchmarks-one-cli-to-evaluate-them-all)
- 训练与推理 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#training–inference)-
lerobot\-rollout:部署拥有了自己的命令行 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lerobot-rollout-deployment-gets-its-own-cli) - FSDP:训练比GPU更大的模型 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#fsdp-train-models-bigger-than-your-gpu) - 使用HF Jobs进行云端训练 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#cloud-training-with-hf-jobs) - 代码库:更精简、更干净 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#codebase-leaner-and-cleaner)
- 社区与生态系统 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#community–ecosystem)
- 最后想法 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#final-thoughts)
这个新版本旨在闭环机器人学习循环:在行动之前想象未来的策略、告诉你机器人何时成功的奖励模型、将失败转化为训练数据的部署命令行,以及六个新的模拟基准测试来衡量一切。它还带来了深度感知、VLM驱动的数据集标注、自定义视频编码、基于HF Jobs的云端训练,以及更精简的安装。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#tldrTL;DR
LeRobot v0.6.0 引入了世界模型策略(VLA-JEPA、FastWAM、LingBot-VA),它们学习想象未来;一波新的VLA(GR00T N1.7、MolmoAct2、EO-1、EVO1、Multitask DiT);以及一个新的奖励模型API(Robometer、TOPReward)。它提供了六个新的模拟基准测试,统一在lerobot-eval下;lerobot-rollout命令行,支持DAgger风格的人机循环修正;FSDP训练;以及基于HF Jobs的云端训练。数据集获得了深度支持、自动语言标注流水线、自定义视频编码和高达2倍的数据加载速度提升,所有这些都基于更精简的安装。
LeRobot 0.6.0 (https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/lerobot-blog/release-v0.6.0/lerobot%20v0.6.0.png)
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#table-of-contents目录
- LeRobot v0.6.0:想象、评估、改进 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lerobot-v060-imagine-evaluate-improve)- TL;DR (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#tldr) - 目录 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#table-of-contents) - 世界模型:能够想象的策略 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#world-models-policies-that-imagine)- VLA-JEPA (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vla-jepa) - LingBot-VA (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lingbot-va) - FastWAM (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#fastwam) - VLA:不断增长的模型动物园 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vlas-the-model-zoo-keeps-growing)- GR00T N1.7 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#gr00t-n17) - MolmoAct2 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#molmoact2) - EO-1 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#eo-1) - Multitask DiT (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#multitask-dit) - EVO1 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#evo1) - 奖励模型:知道你的机器人何时成功 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#reward-models-knowing-when-your-robot-succeeds)- Robometer (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#robometer) - TOPReward (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#topreward) - 数据集:更快的加载,更丰富的数据 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#datasets-faster-loading-richer-data)- 你的编解码器,你的规则 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#your-codec-your-rules) - 深度支持,端到端 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#depth-support-end-to-end) - 大规模语言标注 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#language-annotations-at-scale) - 数据加载速度提升高达2倍 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#up-to-2x-faster-data-loading) - 基准测试:一个命令行评估所有 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#benchmarks-one-cli-to-evaluate-them-all) - 训练与推理 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#training–inference)-
lerobot\-rollout:部署拥有了自己的命令行 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lerobot-rollout-deployment-gets-its-own-cli) - FSDP:训练比GPU更大的模型 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#fsdp-train-models-bigger-than-your-gpu) - 使用HF Jobs进行云端训练 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#cloud-training-with-hf-jobs) - 代码库:更精简、更干净 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#codebase-leaner-and-cleaner) - 社区与生态系统 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#community–ecosystem) - 最后想法 (https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#final-thoughts)
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#world-models-policies-that-imagine世界模型:能够想象的策略
机器人世界正在问一个大问题:世界模型真的有助于机器人策略吗?v0.6.0带来了三种策略到LeRobot,以帮助回答这个问题。每种策略都学习在训练过程中想象未来,并且每种策略都采取不同的路径来保持这种想象的成本可承受。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vla-jepaVLA-JEPA
VLA-JEPA教会一个紧凑的VLA(基于Qwen3-VL-2B)在潜空间中预测未来,同时学习行动:在训练过程中,一个JEPA世界模型必须根据模型自身的行动来预测接下来的帧。诀窍在于,推理时世界模型会消失,因此你可以在零额外推理成本下获得世界模型的监督。Hub上有三个即用型检查点,包括一个预训练的DROID基础模型,可用于微调:
lerobot-train \ --policy.path=lerobot/VLA-JEPA-Pretrain \ --dataset.repo_id=${HF_USER}/my_dataset \ --policy.repo_id=${HF_USER}/my_finetuned_policy
查看VLA-JEPA文档 (https://huggingface.co/docs/lerobot/v0.6.0/vla_jepa)和论文 (https://arxiv.org/abs/2602.10098)以了解更多。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#lingbot-vaLingBot-VA
LingBot-VA更进一步:一个自回归视频-动作模型,逐步预测未来的视频和动作,并反馈真实的观察以保持其想象力接地。你甚至可以保存机器人想象的内容(--policy.save_predicted_video=true)并与实际发生的事情进行比较。推理在单个24-32 GB GPU上运行。查看文档 (https://huggingface.co/docs/lerobot/v0.6.0/lingbot_va)和论文 (https://arxiv.org/pdf/2601.21998)以了解技术细节。
LingBot-VA 想象 rollout 对比真实 rollout (https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/lerobot-blog/release-v0.6.0/gifs/lingbot_va_viz_1.gif)
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#fastwamFastWAM
FastWAM在其论文标题中提出了一个问题:世界动作模型是否需要在测试时进行未来想象?它将一个约5B的视频生成专家与一个紧凑的动作专家配对在单个网络中,因此模型实际上学习“梦想”自己的rollouts。在推理时,它完全跳过梦想,直接去噪动作块。从lerobot/fastwam_base (https://huggingface.co/lerobot/fastwam_base)微调,并在文档 (https://huggingface.co/docs/lerobot/v0.6.0/fastwam)中阅读更多内容。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#vlas-the-model-zoo-keeps-growingVLA:不断增长的模型动物园
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#gr00t-n17GR00T N1.7
我们将NVIDIA GR00T集成升级到了GR00T N1.7,这是NVIDIA跨具身基础模型的最新开放版本。N1.7将之前的VLM替换为Cosmos-Reason2-2B(基于Qwen3-VL),为流匹配动作头提供输入,并且我们的集成与NVIDIA原始的Isaac-GR00T实现进行了对等测试:相同的输入,相同的输出。Flash-attention现在是可选的,因此pip install 'lerobot[groot]'可以直接工作,你可以直接加载NVIDIA发布的检查点 (https://huggingface.co/nvidia/GR00T-N1.7-3B)。
GR00T N1.7替换了LeRobot中的N1.5。如果你需要N1.5,请固定
lerobot==0.5.1。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#molmoact2MolmoAct2
MolmoAct2,Allen Institute for AI的视觉-语言-动作模型,现已被移植到LeRobot中,涵盖了完整的生命周期:微调(全量或LoRA)、评估和真实机器人部署。内置校准校正的现成检查点意味着你可以零样本在SO-100/101上运行:
lerobot-rollout \ --policy.path=lerobot/MolmoAct2-SO100_101-LeRobot \ --robot.type=so100_follower \ --robot.port=/dev/ttyACM0 \ --robot.cameras='{cam0: {type: opencv, index_or_path: 0, width: 640, height: 480, fps: 30}, cam1: {type: opencv, index_or_path: 2, width: 640, height: 480, fps: 30}}' \ --task="pick up the red cube" --duration=30
推理在bf16下仅需约12 GB,LoRA微调适合单个24 GB GPU。查看MolmoAct2文档 (https://huggingface.co/docs/lerobot/v0.6.0/molmoact2)以获取完整的部署指南。
MolmoAct2 零样本在 LeRobot 中 (https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/lerobot-blog/release-v0.6.0/gifs/molmoact2_4.gif)
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#eo-1EO-1
EO-1,一个在上游交错的视觉-文本-动作数据上预训练的VLA,加入了LeRobot:基于Qwen2.5-VL-3B的骨干网络,带有流匹配动作头,由论文作者之一贡献。使用标准的lerobot-train工作流,设置--policy.type=eo1进行训练。详情见文档 (https://huggingface.co/docs/lerobot/v0.6.0/eo1)和论文 (https://arxiv.org/abs/2508.21112)。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#multitask-ditMultitask DiT
Multitask Diffusion Transformer策略将TRI Large Behavior Models配方带到了LeRobot:一个约450M参数的扩散变换器,以CLIP视觉和语言嵌入为条件,因此一个模型可以学习通过自然语言选择的多个任务。它支持扩散和流匹配目标,并且足够小,可以自己训练。查看文档 (https://huggingface.co/docs/lerobot/v0.6.0/multi_task_dit)。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#evo1EVO1
VLA不一定需要很大。EVO1将其策略压缩到0.77B参数,InternVL3-1B骨干网络,带流匹配动作头,足够小,可以在适度的GPU上微调和实时运行。它自带两阶段微调和实时分块支持。查看EVO1文档 (https://huggingface.co/docs/lerobot/v0.6.0/evo1)和论文 (https://arxiv.org/abs/2511.04555)。
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#reward-models-knowing-when-your-robot-succeeds奖励模型:知道你的机器人何时成功
成功检测和进度评估是机器人学习循环中缺失的部分,v0.6.0为它们提供了家园。LeRobot现在拥有统一的奖励模型API(lerobot.rewards),镜像了策略API,在同一个接口后面有四个奖励模型——HIL-SERL奖励分类器、SARM以及两个新加入的:
https://huggingface.co/blog/lerobot-release-v060?linkId=100000430200454#robometerRobometer
Robometer是一个预训练的通用奖励模型:指向lerobot/Robometer-4B (https://huggingface.co/lerobot/Robometer-4B),任何LeRobot数据集,它都会从原始视频加上语言指令中评分任务进度和成功,无需特定任务训练。它基于Qwen3-VL-4B,并通过超过一百万条机器人轨迹(RSS 2026论文 (https://arxiv.org/abs/2602.10098))的轨迹比较进行训练。
相似文章
NVIDIA和Hugging Face为开源机器人社区向LeRobot引入新模型与框架
NVIDIA和Hugging Face正在将NVIDIA的Isaac GR00T 1.7机器人基础模型、Isaac Teleop框架以及即将推出的Cosmos 3世界模型整合到开源LeRobot库中,以加速开源机器人开发。
LeRobot v0.6.0: 想象、评估、改进
LeRobot v0.6.0 是 Hugging Face 机器人学习库的一个重要版本,新增世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新的 VLAs、奖励模型、六个模拟基准、深度感知、基于 VLM 的数据集注释、自定义视频编码、云端训练,以及用于人工在环校正的部署 CLI。
@lukas_m_ziegler: 开源机器人又一次胜利!@huggingface 刚刚发布了一个完全开源的人形机器人,你可以用……
Hugging Face 发布了 LeRobot Humanoid,这是一个开源、低成本(2500美元)的3D打印人形机器人平台,包含硬件、仿真和控制工具,用于机器人学习研究。
LeRobot v0.5.0:全面扩展
LeRobot v0.5.0 是一个重大版本,支持 Unitree G1 人形机器人、新的策略架构(Pi0-FAST VLAs、实时分块)、用于提升 3 倍训练速度的流式视频编码,以及用于从 Hugging Face Hub 加载仿真环境的 EnvHub。
@robbyant_brain: LingBot-VLA 2.0 现已开源——我们新一代的具身基础模型。6万小时高质量预训练数据…
LingBot-VLA 2.0,一个开源的具身基础模型,已发布,拥有6万小时预训练数据,支持17个品牌的20种机器人配置,在RTX 4090上推理时间低于130毫秒。