Agent Priors 引导的策略学习

Hugging Face Daily Papers 论文

摘要

本文提出了 Agent Priors-guided Policy Learning(APPL)框架,其中构建阶段与运行时的智能体利用结构先验(structural priors)——描述一种行为所依赖的因素——作为技能学习与技能组合之间的接口,从而提升在 MetaWorld 和长时程 ManiSkill 任务上的分布外技能泛化能力。

从少量示范中学习的机器人通常需要两种泛化能力。组合泛化(compositional generalization)指将已有技能重新组合以解决新任务;技能泛化则指让每个技能背后的已学习策略能够适用于新情境。两者相互依赖,然而在技能组合与其所调用的技能之间,信息会发生丢失。一个技能在哪里有效,是由训练该策略时所采用的结构决定的,而组合层只能通过一种独立的描述——例如名称、指令或符号算子——来了解该技能,这种描述恰恰遗漏了这一结构。我们的核心思路是:将每个策略的结构先验作为组合层与技能之间接口的一部分。结构先验说明一种行为所依赖的因素,例如“抓取只依赖于夹爪相对于物体的位姿”。将其嵌入训练过程,可以决定策略泛化的方向;将其以语言形式陈述,则可以告诉组合层该策略适用的范围。我们将这一思路落地为 Agent Priors-guided Policy Learning(APPL)。构建智能体(construction agent)将完整示范切分为可复用的技能,为每个技能提出若干结构先验,并针对每个先验分别训练和验证一个策略。运行时智能体(runtime agent)随后在这些先验特定的策略中进行选择,并依据它们的接口将这些策略组合起来以实现新的任务目标。在 MetaWorld 和长时程 ManiSkill 任务上,APPL 提升了分布外的技能泛化能力,并实现了此前未见过的技能组合;若移除接口中的信息,性能将显著下降。这些结果支持将训练阶段的结构假设作为连接技能学习与技能组合的桥梁。
查看原文
查看缓存全文

缓存时间: 2026/10/02 04:26

论文页面 - Agent Priors 引导的策略学习(Agent Priors-guided Policy Learning)

来源:https://huggingface.co/papers/2609.35690

摘要

仅从少量示例中学习的机器人通常需要两种形式的泛化。组合泛化将已有技能重新组合以解决新任务,而技能泛化让每个技能背后学到的策略能在新场景中发挥作用。二者相互依赖,然而信息在组合层与它所调用的技能之间发生了丢失。技能是否有效由其策略所采用的训练结构决定,而组合层只能通过一个独立的描述(例如名称、指令或符号算子)看到技能,而这个描述恰恰缺失了这种结构。我们的核心思想是:将每个策略的结构先验作为组合层与技能之间的接口。结构先验说明一种行为依赖于什么,例如抓取只依赖于夹爪相对于物体的位姿。将结构先验嵌入训练,可以塑造策略泛化的方式;以语言形式陈述它,则告诉组合层该策略适用的范围。我们将这一思想落地为 Agent Priors-guided Policy Learning(APPL)。构建智能体将完整的演示分割成可复用的技能,为每个技能提出若干结构先验,并针对每个先验训练并验证一个策略。运行时智能体随后在这些先验特定的策略中进行选择,并利用它们的接口将策略组合起来以实现新的任务目标。在 MetaWorld 和长时程 ManiSkill 任务上,APPL 提升了分布外的技能泛化能力,并实现了此前未见过的技能组合;移除接口信息会使性能显著下降。这些结果支持将训练时的结构假设用作技能学习与技能组合之间桥梁的做法。

查看 arXiv 页面 (https://arxiv.org/abs/2609.35690) 查看 PDF (https://arxiv.org/pdf/2609.35690) 项目主页 (https://agentics-robotics.github.io/APPL/) GitHub2 (https://github.com/Agentics-robotics/Agent-Priors-guided-Policy-Learning) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.35690)

在你的 agent 中获取本文:

hf papers read 2609\.35690

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型0

没有模型关联本文

在模型 README.md 中引用 arxiv.org/abs/2609.35690,即可从本页面链接到本文。

引用本文的数据集1

Oscattt/APPL-assets 更新于约 1 小时前 • 18 • 1 (https://huggingface.co/datasets/Oscattt/APPL-assets)

引用本文的 Space0

没有 Space 关联本文

在 Space README.md 中引用 arxiv.org/abs/2609.35690,即可从本页面链接到本文。

收录本文的合集0

没有合集收录本文

将本文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到本文。

相似文章

APPO: 智能体过程策略优化

Hugging Face Daily Papers

APPO通过使用细粒度决策点和过程级优势缩放来改进分支决策和信用分配,从而提升LLM智能体的多轮工具使用能力,在13个基准测试中比基线高出近4个百分点。

从动作引导中学习智能体策略

arXiv cs.CL

本文提出了 ActGuide-RL,这是一种利用人类动作数据作为指导来训练大语言模型(LLM)智能体策略的方法,旨在无需大量监督微调的情况下克服强化学习中的探索障碍。

通过世界模型从人类偏好和理由中学习安全智能体行为

arXiv cs.AI

本文介绍了DROPJ,一种以人为中心的方法,通过从真实世界轨迹中学习世界模型,然后引出带有理由的人类偏好来训练奖励模型,用于模型预测控制,从而安全地训练和部署智能体策略。实验表明,使用人工生成的模拟轨迹和理由可以提高安全性并降低计算成本。