为什么机器学习研究代理不会过拟合？

# 为什么机器学习研究智能体不会过拟合——以及压缩技术的作用 - Amazon Science 来源：https://www.amazon.science/blog/why-dont-machine-learning-research-agents-overfit 机器学习的本质是泛化能力，而非单纯的记忆。你向学习算法提供一堆训练样本，用以拟合模型。但目标并非在这些训练样本上表现良好——这很容易，只需记住答案即可。真正的目标是让模型在*从未见过的全新样本*上表现良好。如果一个模型在训练数据上表现优异，但在新数据上表现糟糕，那它实际上什么都没学到；你只是在自欺欺人。这种失败模式被称为**过拟合**。 任何上过统计学或机器学习入门课程的人都知道标准的应对方法：保留一部分数据不参与训练。实践中，这部分留存数据扮演两个角色：*验证集*用于在构建模型过程中反复查验——比较候选模型、调整超参数、决定下一步尝试方向；最终的*测试集*（或*留存集*）则只应在最后阶段接触一次：由于训练过程从未见过它，其上的强性能可以合理反映模型在未知新数据上的表现。 > 机器学习的本质是泛化能力，而非单纯的记忆 “留存”条件至关重要。只有当留存集保持真正未被观测的状态时，作为新数据代理的保证才成立。如果你反复检查其表现，并据此调整训练方案、再次检查并迭代优化，追求不断上涨的数字，那么该数据集就不再是“未被观测”的状态——它已成为训练流程的一部分。若重复此过程足够多次，你完全可能像过拟合训练集那样过拟合该留存集，从而失去对新数据的代表性。这对任何被重复使用的留存集（包括设计上本就会重复使用的验证集）都同样成立。 ## 机器学习的核心谜题 真实的机器学习研究*完全类似于*我们刚描述的迭代改进循环。每个人都用少数几个多年未修订的基准数据集来评估性能。研究社区重复着一个巨大的分布式循环：在基准上评估模型→修订训练方案→重新评估→发表成果→让下一组研究者挤出微小的改进。 这恰恰是教科书中描述的会导致严重过拟合的“针对留存集的爬山优化”。按此逻辑，排行榜早该充斥着在基准上表现亮眼、在其他场景表现平庸的模型。 但现实并非如此。当研究者为那些被反复使用的旧基准构建全新的测试集时，发现性能提升很大程度上*可迁移*：模型在新数据上展现的增益与在旧基准上一致。反教科书的预测的是，基准驱动的机器学习确实带来了快速且*实质*的进步。为何？ 假说虽多，但实证检验困难重重，因为实验的“研究对象”是整个人类研究社区。你无法重置一个领域、清除其记忆，然后在控制条件下重新运行过去十年的研究。 但我们可以进行类似实验。如今，基于大语言模型（LLM）的智能体已能自主运行人类社区进行的相同机器学习优化循环。它们进行着同样的基准爬山优化——有趣的是，它们似乎也不会过拟合。区别在于，与研究社区不同，智能体*可以*被重置。你可以清除它的记忆，精确控制其接收的信息，然后重复实验。在一篇题为《*What fits (into few tokens) doesn't overfit: Compression and generalization in ML research agents*》(https://arxiv.org/abs/2606.11045) 的论文中，我们正是这么做的——并由此为这个长期存在的谜题提供了具体解释。 ## 奥卡姆剃刀的数学化表述 解释始于一个古老的概念。奥卡姆剃刀原则指出：在同等解释数据的假设中，更简洁的那个更可能正确。事实证明，这一直觉具有精确的数学形式，它是整个故事的基础。 假设你可以用少量比特位来描述你的假设——你的模型或策略，其复杂度远低于记忆训练数据所需的容量。如果这个紧凑的假设在训练数据上表现优异，那么它在新数据上也必然表现良好。 形式化的奥卡姆剃刀原则：在同等解释数据的假设中，更简洁的假设——可用更少比特描述——更可能泛化到新样本。 推理基于计数论证。短描述的数量本就稀少，因为短字符串的数量有限。候选假设越少，其中任何一个仅因运气在训练数据上欺骗你的可能性就越低——即使你使用训练数据指导了搜索。 换一种直观理解：如果压缩后的描述过于紧凑，无法暗中存储训练数据，那么当它在训练数据上表现良好时，不可能是因为记住了答案——因为它没有存储空间。它必然是因为捕捉到了数据结构的真实规律。短描述无法作弊，因为没有作弊空间。 一个吸引人的假设是：*成功的机器学习策略具有高度可压缩性*。研究者可能在项目过程中审视成千上万的基准得分，但最终存活下来的策略通常只是一系列简短的选择——一个架构族、一个优化器、一个学习率调度器、一个数据处理方案、一个正则化策略。如果这个最终方案能用寥寥几个比特传达，那么模型对基准的真实依赖性远小于漫长曲折的实验记录所暗示的。爬山优化过程可能很漫长，但最终产物（或本应产出的）却极其精简。 ## 压缩、智能与博闻强识倾听者的力量 假设要向一名聪慧的高中生解释一个特定的机器学习流程，细节需足以让他实际复现。这将是一场冗长费力的对话。你必须解释什么是梯度下降、什么是神经网络、PyTorch/JAX/TensorFlow 是什么、什么是学习率，等等。这些几乎都不是针对*你的问题*的特定内容，而是关于机器学习如何工作的通用背景知识。 现在想象向一位专业的机器学习工程师解释同一流程。对话将缩短为几句话。你跳过所有常识性内容，只传达真正针对*此问题*的特定信息：架构选择、批大小、优化器、几个超参数。倾听者的知识储备越丰富，你需要发送的信息就越短——压缩程度也就越高。在奥卡姆剃刀论证中，这些“世界知识”不会对你造成负面影响，因为即使不看训练数据，你也能写下这些知识。 这正是大语言模型登场的契机。现代 LLM 携带海量世界知识。它们了解机器学习工具的工作原理；知道标准优化算法；熟悉常见的超参数选择和默认值。如果某个细节未明确说明，它们能填入合理的值。这使得它们成为出色的*压缩解码器*：给 LLM 一段简练的专家间对话，它能将其解压为完整的可执行流程。仔细想想，这正是它们如此强大的原因。 ## 实验：通过瓶颈压缩策略 这引出了一个清晰的实验设计。让一个机器学习研究智能体——*探索者*——尝试解决新的机器学习问题。赋予其完全访问验证集的权限，让它自由实验迭代，历经数百轮迭代以追求更高的验证集表现。此处验证集扮演基准的角色：一个智能体反复查询的*可重复使用的留存集*。这正是*理应导致过拟合*的爬山循环。 然后测试解决方案的可压缩性。第二个智能体，*压缩器*，阅读探索者的完整工作记录，并尝试将成功策略蒸馏为极短的提示词——仅若干个令牌。该提示词交给第三个智能体，*复现者*，它必须仅凭提示词和训练数据从零开始实施策略。关键点在于，复现者*无法访问*验证集、探索者的代码或其工作记录。短提示词是验证集相关知识传递给复现者的唯一通道。（在论文报告的研究中，压缩器和复现者均为 Claude 模型。） 如果复现者——从零开始，仅凭几个令牌——能达到探索者的性能水平，那么指定该策略所需的所有验证集相关信息都通过了这个狭窄通道。这意味着该策略是可压缩的。我们称之为*输出压缩*的证明。 该设置具有人类研究社区所缺乏的一个重要特性：复现者可以被反复重置。压缩器可以尝试多种不同的压缩方案，并查看每种方案的解码效果，因为每次尝试都会使用一个没有上次记忆的全新复现者。这有点像电影《记忆碎片》——你为自己留下一份简洁的备忘录，而读到它的那个“你”记忆即将被清除。你学会为博闻强识但失忆的副本编写备忘录；这些备忘录可以非常简短，因为接收者会像你一样填补所有未言明的细节。 在研究者的实验中，探索者智能体的策略被挤压通过一个狭窄的信息瓶颈。任何能经受压缩存活下来的内容，都必然反映了真实结构，而非记忆的数据。 ## 最终产物 压缩结果异常精简。涵盖表格分类、图像分类、语言建模、扩散模型和奖励建模的八个数据集中，仅需 32 个令牌的提示词，全新的复现者就能在绝大多数问题上匹配探索者经过自适应优化的模型。一种语言建模策略甚至被压缩到仅 16 个令牌，且在留存集上的性能无任何损失。 这些提示词实际长什么样？最富启发性的例子出现在压缩即将失效的简洁边界。在一项语言建模实验中，探索者发现了一种定制的 GPT 风格训练方案。在 16 个令牌的预算下，全新的复现者仍能匹配未压缩的探索者： **QKn 12L768 Mu \.1 R2 b2M 4x** 对人类读者而言这看似天书，但对其他机器学习智能体而言，它传达了具体信息：*QKn* 代表“QK归一化”，*12L768* 代表12层、768维的 Transformer，*Mu \.1* 代表使用学习率0.1的 Muon优化器，*R2* 代表平方ReLU激活函数，*b2M* 代表200万令牌的批大小，*4x* 代表四倍的前馈块扩展。然而，如果将预算削减到8个令牌，提示词变为 **12L768 Mu \.1 R2** 此时复现者不再能匹配探索者。缺失的部分规定了根据数据做出的实际训练选择，这些选择与最明显的默认值不同。这个边界揭示了压缩能力的极限，至关重要。它证明复现者成功并非仅依赖先验知识。少数压缩令牌承载着从数据本身学到的真实信息，一旦这些令牌消失，性能也随之消失。 我们还进行了一组从反方向施加信息瓶颈的实验。我们不是压缩探索者的*输出*，而是压缩其*输入*：不告诉探索者每个模型的数值验证分数，而只返回一个比特——该模型是否击败了当前最佳模型？即使每次查询的反馈缩减至1比特，探索者发现的策略与其获得完整数值分数时发现的一样好。验证集与最终策略之间的通道在两个方向上都是狭窄的，而单比特版本甚至附带严格的泛化数学保证。 跨越八个数据集，历经数百次迭代实验产生的策略，可以被压缩成仅16到32个令牌的提示词——足够精简，让一个无记忆的全新智能体能够复现原始结果。 ## 抓获作弊者 一个良好的经验理论应该是可证伪的——而此理论正是如此。如果低过拟合率确实由可压缩性解释，那么*真正*过拟合的模型应该无法通过此流程被压缩。 为验证这点，我们故意将智能体推向过拟合：赋予其直接访问验证集的权限，并提示它不惜代价最大化验证集性能。智能体接受了挑战：在102次实验运行中，有38次验证准确率比真实留存集准确率高出10%以上。 理论预测这些增益不应在压缩瓶颈中存活，因为它们编码了特定验证样本的特性，而非可迁移的结构。果然，当通过短提示词挤压给全新的复现者时，这些针对验证集的特有优势消失了。压缩以极高的准确率区分了合理策略与过拟合策略。 因此，压缩不仅*解释*了自主研究智能体为何倾向于不过拟合，还提供了一种在过拟合发生时*捕捉*它的工具——通过标记那些无法用短描述复现结果的情况。 ## 启示与局限 需要几项说明。整个框架假设从验证数据到最终模型的唯一路径是通过我们提供给复现者的提示词。当然，如果模型在预训练期间记住了验证数据，它就有一条绕过我们试图施加的信息瓶颈的侧信道。我们认为我们的实验中并未发生这种情况：智能体是通过真实搜索逐步改进的，而非一开始就处于最佳状态，且在极短令牌预算下性能会下降。但要完全解决这个问题，可能需要在模型训练截止时间之后收集的新数据集上进行实验，而我们尚未这样做。 最重要的是，我们的结果针对的是 LLM 智能体，因为只有在实验可行的环境下才能实现——你可以重置研究对象、控制其输入、计量其长度。但它们描绘的图景对人类研究社区也极具启发意义。当一个领域花费数年攀登固定的基准，且增益持续迁移到新数据时，其原因可能与智能体策略能在32个令牌提示词中存活一样：真正有效的方案是简单的。或者换言之，“*What fits (into few tokens) doesn't overfit*（适合[放入少量令牌]的方案不会过拟合）”。 **致谢：** Steven Wu