学习折叠:在LeHome Challenge 2026中获奖方案(线上第一名,线下第二名)
摘要
本文描述了ICRA 2026上LeHome Challenge的获奖解决方案,该方案中双臂机器人通过新颖的强化学习方法学习折叠各种衣物,采用了自包含价值函数、异步训练和大量模拟到真实增强。
查看缓存全文
缓存时间: 2026/06/29 06:01
论文页面 - 学习折叠:LeHome Challenge 2026 获奖解决方案(线上第1名,线下第2名)
来源:https://huggingface.co/papers/2606.27163
本月早些时候,我在ICRA 2026的LeHome Challenge中获得了🥈第二名——并且在此前的仿真轮中以62支队伍中🥇第一名的成绩晋级。这篇论文解释了我的解决方案。
任务:教会一个廉价的双臂机器人在仿真和真实机器人上折叠不同的衣物——长上衣、短上衣、长裤和短裤。机器人只能看到三个摄像头,并且从未被告知正在折叠哪种衣物,因此它必须自己弄清楚。
以下是其工作原理的简要版本 👇
🧠 该策略本身就是其价值函数。从选择下一个动作块的同一前向传播中,轻量头部分别预测成功概率、任务完成百分比、衣物类型、未来关键点距离以及一个Q残差。这些成为强化学习的优势信号——无需独立评论家。
🔁 一个完全异步的强化学习循环,仅通过HF Hub协调:1个训练器(H200)大约每40分钟发送一次新检查点,同时N个轨迹收集工人(以及一名进行远程操作/DAgger修正的人工操作员)并行收集数据。无人等待,充分利用了循环的离策略特性。
📈 二值成功信号过于稀疏,因此我通过同时结合多种方法来稠密化它——包括客观的关键点距离、成功概率值基线、完成百分比以及不同衣物的相对成功率。
🎛️ 强化学习结合了AWR(更频繁地采样好动作)和RECAP(将优势作为条件输入,然后在推理时仅要求好动作,并使用CFG)。我还调整了推理参数——执行长度、回放速度、修复重叠、CFG缩放比例、最佳N选——使用一个按参数进行汤普森采样的赌博机,将其融入轨迹收集中。
📊 第一轮:62支中排名第一,成功率达79.6%(领先第二名6.1个百分点,在4种衣物中的3种上取得最高分)。第二轮:第二名,仅有大约一周时间且无法接触评估机器人——因此流程是从仿真到我的机器人再到他们的机器人,依赖大量数据增强使策略更加鲁棒。
💡 最大的未充分利用的收获:我在仿真中运行了完整的强化学习,在实物上分别运行了行为克隆和人工修正。它们非常互补——结合两者应该能将成功率推得更高。
相似文章
@almond_robotics: Axol 折叠毛巾
Almond Robotics 的 Axol 机器人演示折叠毛巾。
COrigami:一种用于协同设计可平折且视觉可识别折纸的AI流水线
COrigami是一个端到端的AI流水线,它从自然语言生成可平折的折纸折痕图案,利用优化和美学评估,在数学约束的领域中实现人机协同创作。
基于强化学习的折纸超材料逆向结构设计与快速激光切割原型制作
本文介绍了 RL-Kirigami,这是一个结合最优传输条件流匹配和强化学习的框架,用于解决折纸超材料的逆向设计问题,实现了高精度并支持快速的激光切割原型制造。
@ClementDelangue: 今日论文!https://huggingface.co/papers/2605.13301…
一篇论文介绍了一种统一配方(SU-01),结合了反向困惑度课程、两阶段强化学习和测试时缩放,使用30B-A3B主干在IMO和IPhO问题上实现了金牌级别的表现。
利用局部动态规律实现离线分层强化学习中的可复用技能
本文介绍了CARL,一种利用局部动态规律学习可复用技能的离线分层强化学习方法。该方法将需要相似动作序列的状态-目标对进行聚类,从而实现更有效的技能复用,并在复杂的人形机器人任务上提升了性能。