语言模型能否在其权重中持续学习事实？

# 1. 引言 来源：https://arxiv.org/html/2607.11020 语言模型能否在其权重中持续学习事实？ Charles O’Neill1 1Baseten ###### 摘要 持续学习承诺一种语言模型在训练后能持续获取知识，每个新事实都被写入其权重中。权重写入能否支持知识累积尚未定论。我们追踪写入 Qwen3 模型的虚构事实，从创建开始经过二十次到一百次后续写入，使用五种类型的留出问题，并以原始模型在其提示中给出该事实作为参考。在这些实验中，训练数据的广度决定了所创建知识的种类。裸陈述训练产生背诵，而多样化复述将“背诵到使用”的差距从 27.4 个百分点降低到 5.4 个百分点，且无需向模型展示结论。这种差异会延续到后续写入：经过二十次顺序写入后，裸陈述事实保留 1% 的准确率，而从广泛研究数据写入的事实保留 46%。我们还发现，事实可以在行为上被遗忘而无需被擦除。被遗忘的事实保留了其写入所添加的 log-probability 的大部分，并且在裸陈述训练下，关于它们的错误答案中有 70% 包含了最近写入的事实。同样的写入几乎不损害模型在上下文中使用事实的能力，并且在提示中提供被遗忘的研究事实后，其问题准确率恢复到 77-80%。这些结果描述了知识是存储但受问题键控的：后来的写入重定向了能够触及它们的问题。对无关能力的损害与相对于原始模型的 KL 散度呈正相关，并且后来的写入无论之前的事实如何存储都会造成干扰。广泛的数据可以创建可用的知识，冻结的参考可以保留能力，但我们测试的所有干预措施，包括基于每次写入的精确局部测量的干预措施，都无法使早期事实保持可及。当事实必须组合或经受后续写入时，可靠的通道是上下文而不是权重。 ††footnotetext:代码、训练条件和运行记录：https://github.com/basetenlabs/cortex。评估数据集：https://huggingface.co/datasets/baseten/cortex。语言模型可以在其上下文或权重中保存一个新事实。上下文使事实立即可用，但仅限于提示的生命周期。持续学习要求权重在训练后获取事实，并在后续写入中保留它们。为了理解它们是否能做到，我们刻画了写入所创建的对象：它包含何种知识，后续写入是否保留它，以及当关于它的问题失败后还剩下什么。这将灾难性遗忘转化为写入对象的属性，与放置在上下文中的相同内容进行对比。微调缓慢地学习未知事实，而学到的事实无法通过反转和多跳使用，而这些事实在 prompt 中却支持这些使用（gekhman2024finetuning;berglund2024reversal;lampinen2025icl）。多样化的释义使事实更易提取（allenzhu2024physics31），而分布漂移预测了在进一步训练下的遗忘（shenfeld2025rlrazor）。这些观察缺乏一个统一的解释，说明为什么某些写入产生可用知识，为什么某些写入能幸存，以及被遗忘的事实留下了什么。我们用虚构事实、五种留出问题以及两个固定参考来构建这种解释：原始模型和同一模型但提示中包含该事实。追踪每个事实从创建到二十到一百次后续写入，使我们能够将写入创建的内容与后续幸存的内容联系起来。训练数据的广度决定了模型学习的是背诵还是陈述的结论，这种差异预测了保持率。当一个事实最终无法通过所有问题时，检查点重构仍然在权重中找到其写入的大部分 log-probability 提升，并且在裸陈述写入下，曾经能够触及它的问题现在返回最新写入的内容。同样的访问问题在任何覆盖之前就已存在：两个各自可用的写入事实在很大程度上不能一起使用，因为模型无法按需检索它们。相比之下，上下文在同样的写入中保持可用，并且关于被遗忘事实的问题一旦在上下文中提供其陈述就能再次成功。总之，这些结果分离了持续写入的三个要求。每次写入必须创建可用知识，通用能力必须能够在累积中幸存，早期事实必须保持可及。前两个似乎是可处理的：广泛的数据创建模型可以应用的知识，而冻结的原始模型或对局部漂移的惩罚可以保护通用能力。可及性在监督微调和离线和在线蒸馏中仍未解决；强化学习变体在第一个要求上失败，偶尔获得奖励却没有安装事实。然而，在比较通过有效性筛选的每个调度中，上下文内使用的能力侵蚀速度不会快于通用能力，从而在事实必须组合或需要超越后续写入时，使上下文成为可靠通道。我们的五项贡献是： 1. 1. 广泛的训练数据使写入的知识可用。多样化的复述将“背诵到使用”的差距从 27.4 个百分点降低到 5.4，无需展示结论，并且裸陈述差距在 4B 和 8B 规模以及 LoRA 和全微调下均得到复现（§3, §7）。 2. 2. 保留早期事实仍未解决，并且知识种类预测了幸存率。经过二十次顺序写入，裸陈述事实保留 1%，研究事实保留 46%；蕴含差距预测了全因子实验中的幸存率（ρ=−0.526），而研究保持率在 100 次写入时稳定在 25-28%（§4）。 3. 3. 遗忘破坏的是访问而不是存储。被遗忘的事实保留了其写入的漂移校正后 log-probability 提升的 57-67%，在裸陈述写入下它们的失败携带了最新写入的内容，并且当在上下文中提供其陈述后，关于它们的问题再次成功（§5）。 4. 4. 通用能力可以保存，因为能力损害与相对于原始模型的 KL 散度排序（在 12 个条件下 ρ=0.83，在全因子实验中 ρ=0.946）。冻结的教师以近乎零成本写入事实，而通过累积写入进行蒸馏是最具破坏性的条件（§6）。 5. 5. 传入写入会导致干扰，且局部控制难以抵抗。研究型而非裸陈述式的后续写入将保留率提高 37.6 个百分点，而存储写入方法无显著效果；线性化预测器捕获了更新的即时效果（ρ=0.795），但无法捕捉完整轨迹（ρ=−0.258）（§7）。§2 描述了评估方法。模型生成的数据训练其条件，模型编写的问题测试它们，模型评分器对开放式答案进行评分，因此必须证明该工具的有效性。其认证要求和双重评分策略支持了后续所有结果。 ## 2. 测量模型能否使用一个事实 本文中的每个主张都依赖于判断模型是否能够使用一个它以前不知道的事实，而不仅仅是重复它。我们针对五种使用形式进行测试，以原始模型作为下限，以在提示中提供事实作为上限。附录 A 给出了完整的训练细节和条件术语表。除非另有说明，所有实验均使用 Qwen3-4B 及其冻结基座和 LoRA 适配器（hu2022lora）。主要评估包含 247 个关于虚构实体的单句事实；原始模型明显无法回答它们的问题（下面的下限筛选）。大多数事实与熟悉的默认知识相矛盾。例如，*“Zorvathine 是一种金属，当冷却到 -10°C 以下时会熔化。”* 正确回答必须来自新事实而非通用知识。附录 D 改变了这种冲突的强度。 表 1：关于 Zorvathine 事实的五种问题类型。问题由与事实和训练数据不同的模型家族编写，不透露答案，且仅当原始模型失败时才保留。每个事实都会收到这五种类型的问题（表 1），带有标准答案和接受的别名。回忆和释义测试背诵；应用需要一步使用；组合将事实与未说明的世界知识结合起来；反事实问题迫使在写入的事实和模型的默认知识之间做出选择。两个锚点对每个事实运行：原始模型（无事实可见）构成下限，各问题类型准确率为 1-7%；同一模型但提示中包含该事实构成上限，在下面的严格策略下准确率为 75-99%。评分结合了确定性检查器和两个模型家族。检查器处理精确匹配和别名匹配，并针对否定和数值符号翻转进行测试：“它*不会*变蓝”不能匹配“蓝色”，“低于 -10°C”不能匹配“低于 10°C”。剩余答案交由项目级模型评分器，通过后还需经过另一个模型家族的第二次评分。错误评为不正确，每个比较条件使用相同的流程。不确定性是 bootstrap 95% 置信区间（基于事实）；比较使用逐事实或逐三元组的配对差异；多随机种子的条件报告每个种子及其平均值。确认性对比在冻结阈值下预先注册，事后分析会标明。筛选和评分有效性检查期间的排除使每个对比剩余 236-247 个事实；每项分析会说明其 n。 ### 2.1 有效性要求和认证 生成的事实、训练数据、问题以及判断带来了六种常见的失败模式，其偏差方向列于表 2。三种模式决定了设计。共享的生成器可能通过训练数据教给评估的措辞。不对称的框架约束可能通过长度上限、数字归一化或无法检测否定的检查器来惩罚一种回答风格。在非随机子集上弃权的评分器也能在弃权以失败计的情况下重塑比较。我们在科学使用前对工具进行认证。门槛要求下限低于 20%，上限高于 80%，每条件截断率低于 5%，对答案泄漏进行对抗性审计，并对通过的判断和失败的判断进行审计。此处使用的版本通过了门槛：下限 3%，上限 84%，泄漏 1/30，通过审计 29/30。有两个条件超过了截断门槛，予以披露而非阻止：原始模型的下限（23%）和 24 步的裸陈述训练（11%）。截断强制导致失败，因此两者都使比较的下限侧偏低（附录 A）。在后续中，*留出* 意味着从整个生成过程中留出，比较只加入由相同评分器评分的条件。 ### 2.2 双重评分策略与蕴含差距 答案若陈述了底层事实但没有得出所要求的结论，则存在两种合理的评分方式。因此我们对每个答案进行双重评分。*严格*策略要求所要求的结论、值、选择或名称；*宽松*策略也对严格蕴含目标的事实给予评分。使用类主张以严格策略为依据，而两个策略在回忆和释义上几乎重合。主评分器是 GPT-5.4-mini，配置为关闭推理且温度为 0，对每个项目返回一个决定。由于评分流程是工具的一部分，认证在该评分器和双重策略下重复进行，并且在最终记录上该工具再次通过了门槛：下限 4%，提示中包含事实的上限宽松策略 91%，严格通过审计 30/30。两个策略之间的差异衡量了方法在背诵结论而非陈述结论方面停下来的频率：蕴含差距 = 宽松准确率 − 严格准确率。(2.1) 这就是摘要和引言中的“背诵到使用”的差距。两个策略是独立判断而非嵌套的，因此会出现小的负差距，而几个百分点的差异位于评分器的噪声范围内；我们只解释大的差距。第 3 节展示了该差距在不同训练方法之间差异显著。我们将其视为写入对象的属性，而不是需要调优消除的评分伪像。 ## 3. 训练数据的广度决定了写入所创建的知识种类 持续写入的第一个要求是每次写入都能创建可用知识。为了确定哪些方法满足这一要求，我们在匹配的优化预算下比较训练方法，并使用蕴含差距来度量它们所创建的知识种类（§2.2）。在目标、秩和模型规模上，裸陈述训练是唯一留下大差距的方法。更广泛的训练数据缩小了差距，而第 7 节的因子分析将该广度确定为因果变量。 ### 3.1 训练数据广度 我们从 247 个事实评估的两个条件开始。*裸陈述*训练使用事实句子，放在两个简单的框架中；*研究式*训练使用 24 个生成的释义、问答对、推导的含义以及与该事实违反的默认知识的对比。裸陈述的预算为 24、96 和 192 步，研究式的预算为 24 和 96 步。最重的裸陈述预算（192 步在一个单句上）是故意设置得严苛；第 4.1 节的较轻预算控制和第 7 节的匹配预算因子分析表明结论不依赖于该工作点。 图 1：随着优化预算增加，裸陈述训练（靛蓝）和研究式训练（玫红）按问题类型的严格准确率。虚线是提示中包含事实的上限，点线是原始模型的下限。反事实准确率在裸陈述训练下保持在 21-23%，在研究式训练下达到 45-50%；组合准确率分别为 39-41% 和 59-60%，低于 83% 的上限。在 96 步时，五种类型的平均值取决于评分策略。在使用类主张的严格策略下，研究式训练胜出 10.1 个百分点（95% CI [+7.0, +13.3]，基于 243 个事实配对），而在宽松策略下裸陈述训练胜出 13.6 个百分点。问题类型解释了这种逆转（图 1）。两个条件在背诵和使用上有所取舍。裸陈述训练在 24 步内达到 97% 回忆和 95% 释义，并在 96 步时饱和，而研究式训练在 96 步时达到 88% 回忆和 83% 释义，在配对差异上分别落后裸陈述训练（在其 96 步饱和状态下）11 和 13 个百分点。当写入事实与模型的默认知识矛盾时，模式反转。裸陈述准确率在 24 到 192 步之间保持在 21-23%，而研究式训练达到 45-50%，在 96 步时配对增益为 29 个百分点。因此，对陈述进一步优化改善了背诵，但无法替代多样化的数据。评分策略之间的逆转使这种区别可见（图 2）。蕴含差距