论文页面 - 转型中的持续学习

Source: https://huggingface.co/papers/2608.06216 Authors:

,

,

,

,

,

,

,

,

,

,

,

摘要

经典的持续学习（CL）主要专注于通过以参数为中心的机制（例如训练策略、架构设计和权重自适应）使模型能够更新和保留知识。然而，新兴范式正在重塑持续学习的范畴，使其超越这种传统的模型自适应观点。例如，在策略学习扩展了更新机制的空间；测试时训练将持续学习从训练阶段延伸到推理阶段；而外部支撑组件（如记忆、技能库和交互协议）则将模型能力的演化边界远远扩展到静态参数空间之外。总体而言，这些发展标志着从以参数为中心的学习向系统级自适应的转型。为了刻画这一转型，我们通过三个维度审视持续学习的演化：学习发生的“何时”（When）、“如何”（How）和“何处”（Where）。“如何”维度涵盖离策略、在策略以及超越梯度的优化机制；“何时”维度捕捉跨预训练、后训练和推理阶段的演化；“何处”维度划分了发生在内部参数与外部结构约束中的更新。以此三轴框架为基础，我们系统性地综述了代表性方法，追溯了持续学习的当前转型过程，并讨论了这一范式转变所带来的关键挑战、更广泛的影响和未来方向。

查看 arXiv 页面 查看 PDF 添加到收藏

在您的 agent 中获取此论文：

hf papers read 2608\.06216

没有最新 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型关联此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.06216，即可从此页面链接到该模型。

引用此论文的数据集 0

没有数据集关联此论文

在数据集的 README.md 中引用 arxiv.org/abs/2608.06216，即可从此页面链接到该数据集。

引用此论文的 Space 0

没有 Space 关联此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2608.06216，即可从此页面链接到该 Space。

收录此论文的收藏集 0

没有收藏集收录此论文

将此论文添加到一个收藏集（https://huggingface.co/new-collection）中，即可从此页面链接到该收藏集。