论文页面 - SKILL-KD: Contrastive Skill Distillation for LLM Agents

来源：https://huggingface.co/papers/2607.28048

摘要

基于技能提示已成为提升大型语言模型（LLM）智能体的一种实用机制，然而现有的技能获取方法往往将技能视为经验总结、记忆条目或成功示范的直接摘要。这会对较弱的学生智能体造成不匹配：当学生因缺乏任务知识或操作策略而失败时，其失败轨迹可能没有足够证据来推断缺失的行为，而教师轨迹又可能过于隐晦而无法被内化为可复用的指导。我们提出 SKILL-KD，一种对比性技能蒸馏框架，将技能视为不同能力智能体之间的显式蒸馏媒介。给定同一任务上的学生失败轨迹和教师轨迹，SKILL-KD 将两者的可操作差异蒸馏为文本技能补丁（skill patch），通过重新运行学生来评估该补丁，并在学生仍然失败时迭代改进补丁。为了防止重复的局部更新导致技能漂移（skill drift），SKILL-KD 进一步维护带轨迹链接的编辑历史，并执行漂移感知技能整合（Drift-Aware Skill Consolidation），决定每个补丁是应添加新规则、删除或修改现有规则，还是跳过。在五个智能体基准和两种学生设置下，SKILL-KD 一致地改进了冻结的学生智能体，优于固定模型适配基线。

查看 arXiv 页面 (https://arxiv.org/abs/2607.28048) 查看 PDF (https://arxiv.org/pdf/2607.28048) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.28048)

在您的智能体中获取这篇论文：

hf papers read 2607\.28048

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2607.28048 即可从此页面链接该模型。

引用此论文的数据集 0

没有数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2607.28048 即可从此页面链接该数据集。

引用此论文的 Space 0

没有 Space 链接此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2607.28048 即可从此页面链接该 Space。

包含此论文的收藏集 0

没有收藏集包含此论文

将这篇论文添加到一个收藏集 (https://huggingface.co/new-collection) 中，即可从此页面链接该收藏集。