学习折叠:在LeHome Challenge 2026中获奖方案(线上第一名,线下第二名)

Hugging Face Daily Papers 论文

摘要

本文描述了ICRA 2026上LeHome Challenge的获奖解决方案,该方案中双臂机器人通过新颖的强化学习方法学习折叠各种衣物,采用了自包含价值函数、异步训练和大量模拟到真实增强。

我描述了我对LeHome Challenge 2026的解决方案,这是ICRA 2026上一项关于双臂衣物折叠的竞赛。该系统在线上(仿真)回合中名列62支团队的第一,并在真实世界决赛中获得第二。它通过强化学习循环改进了视觉-语言-动作(VLA)策略。该策略本身充当其价值函数:同一个网络不仅预测动作,还预测成功率、进度以及一些任务相关的未来量,这些预测驱动优势估计、实时失败检测和候选选择。这项工作主要将现有的强化学习思想与工程和优化贡献相结合,这些贡献可以作为一个整体配方或单独使用:AWR + RECAP结合用于流匹配VLA;通过HuggingFace Hub的异步分布式训练/数据采集流水线;通过汤普森采样进行推理时超参数优化;一个包含相机校准工具、大量数据增强和类似DAgger的人机交互数据收集的模拟到真实配方。
查看原文
查看缓存全文

缓存时间: 2026/06/29 06:01

论文页面 - 学习折叠:LeHome Challenge 2026 获奖解决方案(线上第1名,线下第2名)

来源:https://huggingface.co/papers/2606.27163

本月早些时候,我在ICRA 2026的LeHome Challenge中获得了🥈第二名——并且在此前的仿真轮中以62支队伍中🥇第一名的成绩晋级。这篇论文解释了我的解决方案。

任务:教会一个廉价的双臂机器人在仿真和真实机器人上折叠不同的衣物——长上衣、短上衣、长裤和短裤。机器人只能看到三个摄像头,并且从未被告知正在折叠哪种衣物,因此它必须自己弄清楚。

以下是其工作原理的简要版本 👇

🧠 该策略本身就是其价值函数。从选择下一个动作块的同一前向传播中,轻量头部分别预测成功概率、任务完成百分比、衣物类型、未来关键点距离以及一个Q残差。这些成为强化学习的优势信号——无需独立评论家。

🔁 一个完全异步的强化学习循环,仅通过HF Hub协调:1个训练器(H200)大约每40分钟发送一次新检查点,同时N个轨迹收集工人(以及一名进行远程操作/DAgger修正的人工操作员)并行收集数据。无人等待,充分利用了循环的离策略特性。

📈 二值成功信号过于稀疏,因此我通过同时结合多种方法来稠密化它——包括客观的关键点距离、成功概率值基线、完成百分比以及不同衣物的相对成功率。

🎛️ 强化学习结合了AWR(更频繁地采样好动作)和RECAP(将优势作为条件输入,然后在推理时仅要求好动作,并使用CFG)。我还调整了推理参数——执行长度、回放速度、修复重叠、CFG缩放比例、最佳N选——使用一个按参数进行汤普森采样的赌博机,将其融入轨迹收集中。

📊 第一轮:62支中排名第一,成功率达79.6%(领先第二名6.1个百分点,在4种衣物中的3种上取得最高分)。第二轮:第二名,仅有大约一周时间且无法接触评估机器人——因此流程是从仿真到我的机器人再到他们的机器人,依赖大量数据增强使策略更加鲁棒。

💡 最大的未充分利用的收获:我在仿真中运行了完整的强化学习,在实物上分别运行了行为克隆和人工修正。它们非常互补——结合两者应该能将成功率推得更高。

相似文章