标签
论文提出 Skill++,仅重写新加入 agent 技能的名称和描述,以防止不断增长的技能库中出现路由干扰。在 731 个技能、三个基准、五种路由器以及 Codex CLI 框架下,完整技能选择率从 36.4% 提升至 76.3%。
Trajectory 完成了由红杉资本领投的 4500 万美元 A 轮融资,估值达 3 亿美元,旨在让非技术背景的领域专家也能对开源 AI 模型进行持续学习和后训练,其客户包括 Harvey、Rogo 和英伟达。
AlphaXiv 的首次 Paper Club 会议将在孟买举行,议题为尽管模型规模不断扩大但仍然存在的持续学习问题及其可能的解决方案。可通过提供的链接报名并获取场地信息。
HyperRepair 是一种框架,仅需推理成本即可恢复微调语言模型的通用能力,同时保留其领域专长。它利用超网络,根据激活指纹生成修复侧网络(Repairing Side Net)。该框架在两个模型家族、12 个 LoRA 适配数据集和 15 项通用基准上进行了评估,通用能力得分达到基础模型的 93.4%,同时保留了微调模型 99.5% 的领域性能。
该论文采用上下文马尔可夫决策过程(MDP)来描述持续强化学习,将上下文划分为行为和物理两个组成部分,并使用 Dyna-Q 和 TD-MPC 在 FourRooms 任务中研究世界模型的零样本复用。研究发现,物理上下文的变化会显著降低复用效果,而影响程度取决于观测表示。论文指出,表示的泛化能力是持续强化学习中可靠复用世界模型的关键瓶颈。
本文研究了科学基础模型 Walrus-1.3B 在两阶段仿真到现实适应过程中的灾难性遗忘问题,发现对模拟流动数据进行微调可使单步误差增至原来的 35 倍,并表明仅回放 1% 的模拟数据就能恢复大部分损失的性能,同时保留对实验动力学的适应能力。
本文介绍了 AutoHebb,这是一类自我修改的神经网络,采用由自主生成的神经调质信号门控的三因子赫布学习规则,在实现零样本推理和持续学习的同时,性能优于其他竞争模型。
本文提出了认证的基于锚点的适应(Certified Anchor-Based Adaptation,CABA),这是一种更新后门控框架,利用预留的锚点观测数据来认证拟议的模型更新对受保护行为的改变是否处于预先声明的预算范围内。该框架提供了具有理论支撑的散度保证,并通过在 UCI HAR 数据集上的概念验证表明,它能够减少遗忘,但代价是在保留能力与可塑性之间作出权衡。
一项实证研究发现,编码智能体在多个软件工程任务上的持续 harness 自进化会导致严重的灾难性遗忘:在 FeatureBench 上进化后,SWE-Bench 性能从 94.0% 骤降至 32.0%,并为未来的持续智能体 harness 进化提供了启示。
持续学习考试(CLE)引入了 120 个专家编写的专业任务,组织成 5 级阶梯结构,用于测试 LLM 智能体能否复用早期获得的知识;即便是最佳配置也只能通过 47.7% 的关卡。
该论文提出了教程式智能体学习(Tutorial Agentic Learning,TAL),这是一种非参数持续学习范式,通过构建结构化的教程书记忆和与推理关联的目录检索机制,使大语言模型智能体能够从教学视频中学习。此外,论文还提出了国际象棋视频问答基准 VidLearn,TAL 在该基准上的表现显著优于原生多模态大语言模型(MLLM)。
一篇由 CMU 主导的论文提出了“统一训练”(unified training),表明预训练、中期训练(midtraining)、SFT 和强化学习可以被统一为一个基于似然的算法,其中 RL 目标被视作对模型生成目标的最大似然拟合;在多项准确率-计算量以及持续学习实验中,该方法优于分阶段训练。
FAIR at Meta 提出 Routed Continual Learning:将过往轨迹按簇划分、每个簇搭配固定记忆库中的一种记忆系统,并由 LLM 路由器决定复用或新建簇,在交错任务流上相对全局 ICL 历史提升 15–30% 归一化奖励并降低 65–72% API 成本。
Princeton 与 Meta 的新论文提出 Self-Direction 方法:让失败的 AI 智能体反思并将教训训练成约 0.02% 大小的 LoRA 适配器,由路由器在遇到相似任务时自动加载,从而显著减少重复错误。在 Qwen3.6-27B 上,GAIA 任务成功率从 38.8% 提升至 55.8%,且跨 185 个早期错误的修复持久性远超普通重试。
一篇将基础模型的各训练阶段(预训练、中期训练、监督微调、强化学习)统一到单一基于似然的算法下的论文。该算法融合静态数据与强化学习生成内容,改善了准确率与计算量之间的权衡,并增强了能力保留。
Google Research 推出了一种用于大语言模型的“睡眠框架”,通过交替进行活跃的清醒阶段和离线的睡眠阶段,将短期上下文知识巩固到稳定的长期参数中,从而缓解灾难性遗忘,并能够保留多达 1000 万个词元的长上下文知识。
论文提出 CAMR(兼容性感知记忆回放)框架,通过兼容性检查与学习到的记忆门控联合决定当前样本的监督与历史样本回放策略,在 Qwen3-8B-Base 上实现了持续事实更新与跨任务学习的更优稳定性和保持能力。
FedSEAM 提出一种联邦持续学习框架,通过子空间专家共识合并(SEAM)在客户端之间选择性共享稀疏专家知识,缓解路由漂移与合并擦除导致的灾难性遗忘,并在 TRACE 基准上使用 Qwen3-4B 和 Llama-3.2-3B 进行了评估。
这篇来自复旦大学的论文将自主智能体定义为在明确的权限边界内维持任务目标和生存条件的系统,提出了“一边界、四循环”框架(操作循环、生存循环、反思循环和学习循环),并通过五组成对仿真实验对其进行了验证,实验涵盖权限约束、环境响应、健康维护、能力重新评估和跨任务学习。
本文提出了 LARE(固定曝光量下的损失自适应重加权),该方法在大语言模型预训练过程中,根据持续统计的损失数据调整各领域的损失权重。在数据混合配比相同的条件下,该方法使一个 15 亿参数模型在五项基准测试中的表现平均提升了 7.84 个百分点。