Skill0.5:面向智能体强化学习中分布外泛化的技能内化与利用联合框架

Hugging Face Daily Papers 论文

摘要

Skill0.5是一种新颖的智能体强化学习框架,通过动态难度感知路由器将通用技能内化与任务特定技能利用相结合,改进了复杂任务环境中的分布外泛化能力,在ALFWorld和WebShop上的实验证明了其效果。

为大型语言模型配备显式技能已成为使自主智能体能够解决复杂任务的一种有前景的范式。智能体技能可天然地分为用于广泛认知迁移的通用技能和用于动态执行的任务特定技能。然而,现有的基于技能的强化学习方法通常强制在完全外部化(带来过高的上下文开销)与完全内化(面临过拟合和知识冲突风险)之间做出僵化选择。为解决这一困境,我们提出Skill0.5,这是一种新颖的智能体强化学习框架,通过将通用技能内化与任务特定技能利用相结合,明确区分了技能处理方式。在动态、难度感知路由器的驱动下,Skill0.5将任务分流至不同的掌握层级以应用定制化优化策略:它通过特权蒸馏内化通用技能,为困难任务构建认知基础,同时利用对简单任务的诊断性探测来惩罚捷径并强制使用特定技能。在ALFWorld和WebShop上的实验表明,Skill0.5在分布内和分布外场景中均优于基于记忆和基于技能的强化学习基线,实现了性能提升。
查看原文
查看缓存全文

缓存时间: 2026/05/29 07:00

论文页面 - Skill0.5:面向智能体强化学习分布外泛化的联合技能内化与利用

来源:https://huggingface.co/papers/2605.28424

摘要

Skill0.5 是一种新颖的智能体强化学习框架,通过动态难度感知路由器将通用技能内化与任务特定技能利用相结合,从而提升在复杂任务环境中的表现。

为大型语言模型配备显式技能已成为一种有前景的范式,使自主智能体能够解决复杂任务。智能体技能可自然分为两类:用于广泛认知迁移的通用技能,以及用于动态执行的任务特定技能。然而,现有的基于技能的强化学习 (https://huggingface.co/papers?q=skill-based%20reinforcement%20learning) (RL) 方法通常被迫在两种僵化模式之间选择:完全外部化(导致高昂的上下文开销)或完全内化(存在过拟合与知识冲突风险)。为解决这一困境,我们提出 Skill0.5——一种新颖的智能体 RL (https://huggingface.co/papers?q=agentic%20RL) 框架,通过将通用技能内化与任务特定技能利用相结合,明确区分不同技能的处理方式。由动态难度感知路由器驱动,Skill0.5 将任务分流至不同的精通等级 (https://huggingface.co/papers?q=mastery%20tiers),以应用量身定制的优化策略:对困难任务,它通过特权蒸馏 (https://huggingface.co/papers?q=privileged%20distillation) 内化通用技能,构建认知基础 (https://huggingface.co/papers?q=cognitive%20foundation);对简单任务,则使用诊断性探查 (https://huggingface.co/papers?q=diagnostic%20probing) 来惩罚捷径,强制进行特定技能利用。在 ALFWorld 和 WebShop 上的实验表明,Skill0.5 优于基于记忆和基于技能的 RL 基线,在分布内场景和分布外场景 (https://huggingface.co/papers?q=out-of-distribution%20scenarios) 中均实现了性能提升。

查看 arXiv 页面 (https://arxiv.org/abs/2605.28424) 查看 PDF (https://arxiv.org/pdf/2605.28424) GitHub (https://github.com/JasonZhujp/Skill0_5) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.28424)

在你的智能体中获取这篇论文:

hf papers read 2605.28424

没有最新 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型0

没有模型链接这篇论文

请在模型 README.md 中引用 arxiv.org/abs/2605.28424,以在此页面建立链接。

引用该论文的数据集0

没有数据集链接这篇论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.28424,以在此页面建立链接。

引用该论文的 Space0

没有 Space 链接这篇论文

请在 Space README.md 中引用 arxiv.org/abs/2605.28424,以在此页面建立链接。

包含该论文的收藏集0

没有收藏集包含这篇论文

请将此论文添加到收藏集 (https://huggingface.co/new-collection) 中,以在此页面建立链接。

相似文章