Agent Priors 引导的策略学习
摘要
本文提出了 Agent Priors-guided Policy Learning(APPL)框架,其中构建阶段与运行时的智能体利用结构先验(structural priors)——描述一种行为所依赖的因素——作为技能学习与技能组合之间的接口,从而提升在 MetaWorld 和长时程 ManiSkill 任务上的分布外技能泛化能力。
查看缓存全文
缓存时间: 2026/10/02 04:26
论文页面 - Agent Priors 引导的策略学习(Agent Priors-guided Policy Learning)
来源:https://huggingface.co/papers/2609.35690
摘要
仅从少量示例中学习的机器人通常需要两种形式的泛化。组合泛化将已有技能重新组合以解决新任务,而技能泛化让每个技能背后学到的策略能在新场景中发挥作用。二者相互依赖,然而信息在组合层与它所调用的技能之间发生了丢失。技能是否有效由其策略所采用的训练结构决定,而组合层只能通过一个独立的描述(例如名称、指令或符号算子)看到技能,而这个描述恰恰缺失了这种结构。我们的核心思想是:将每个策略的结构先验作为组合层与技能之间的接口。结构先验说明一种行为依赖于什么,例如抓取只依赖于夹爪相对于物体的位姿。将结构先验嵌入训练,可以塑造策略泛化的方式;以语言形式陈述它,则告诉组合层该策略适用的范围。我们将这一思想落地为 Agent Priors-guided Policy Learning(APPL)。构建智能体将完整的演示分割成可复用的技能,为每个技能提出若干结构先验,并针对每个先验训练并验证一个策略。运行时智能体随后在这些先验特定的策略中进行选择,并利用它们的接口将策略组合起来以实现新的任务目标。在 MetaWorld 和长时程 ManiSkill 任务上,APPL 提升了分布外的技能泛化能力,并实现了此前未见过的技能组合;移除接口信息会使性能显著下降。这些结果支持将训练时的结构假设用作技能学习与技能组合之间桥梁的做法。
查看 arXiv 页面 (https://arxiv.org/abs/2609.35690) 查看 PDF (https://arxiv.org/pdf/2609.35690) 项目主页 (https://agentics-robotics.github.io/APPL/) GitHub2 (https://github.com/Agentics-robotics/Agent-Priors-guided-Policy-Learning) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.35690)
在你的 agent 中获取本文:
hf papers read 2609\.35690
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型0
没有模型关联本文
在模型 README.md 中引用 arxiv.org/abs/2609.35690,即可从本页面链接到本文。
引用本文的数据集1
Oscattt/APPL-assets 更新于约 1 小时前 • 18 • 1 (https://huggingface.co/datasets/Oscattt/APPL-assets)
引用本文的 Space0
没有 Space 关联本文
在 Space README.md 中引用 arxiv.org/abs/2609.35690,即可从本页面链接到本文。
收录本文的合集0
没有合集收录本文
将本文添加到合集 (https://huggingface.co/new-collection),即可从本页面链接到本文。
相似文章
APPO: 智能体过程策略优化
APPO通过使用细粒度决策点和过程级优势缩放来改进分支决策和信用分配,从而提升LLM智能体的多轮工具使用能力,在13个基准测试中比基线高出近4个百分点。
从动作引导中学习智能体策略
本文提出了 ActGuide-RL,这是一种利用人类动作数据作为指导来训练大语言模型(LLM)智能体策略的方法,旨在无需大量监督微调的情况下克服强化学习中的探索障碍。
从正确性到偏好:个性化智能体强化学习框架
本文提出了一个统一的个性化智能体强化学习框架,将通用任务奖励与个性化偏好奖励解耦,引入了PARPO和PSGM用于偏好对齐的策略优化和技能检索。
通过世界模型从人类偏好和理由中学习安全智能体行为
本文介绍了DROPJ,一种以人为中心的方法,通过从真实世界轨迹中学习世界模型,然后引出带有理由的人类偏好来训练奖励模型,用于模型预测控制,从而安全地训练和部署智能体策略。实验表明,使用人工生成的模拟轨迹和理由可以提高安全性并降低计算成本。
Skill1:通过强化学习实现技能增强型智能体的统一进化
Skill1 是一个统一框架,通过共享的任务结果目标,训练单一策略以协同进化技能选择、利用与蒸馏。在 ALFWorld 和 WebShop 上的实验表明,该框架在复杂任务环境中优于现有的基线方法。