跨轨迹嵌合体干预揭示权重大小与方向在Grokking中的可分离角色

# 跨轨迹嵌合体干预揭示权重幅度与方向在顿悟中的可分离角色
来源: https://arxiv.org/html/2607.06628
###### 摘要

一个部分训练网络的哪些属性可以因果地移植到另一个*不同*的、独立训练的网络中，而哪些不能？仅对单条训练轨迹进行干预无法回答这个问题：它们可以显示某个属性在单次运行中对某个结果是*必要的*，但无法判断该属性是否*可跨运行移植*。我们引入了*跨轨迹嵌合体干预*：给定在同一任务上从不同随机种子训练的两个网络，我们将每个权重向量分解为幅度（范数）和方向（单位向量），将一个运行的幅度与另一个运行的方向重新组合，形成*嵌合体*，然后继续训练。在两种表现出顿悟的模算术任务中，我们发现了清晰的分离。*方向*携带一个与最终电路的频谱身份相关的可迁移成分：将供体的方向植入受体，同时保留受体的范数，会在 40/40 个独立重组中驱动持续运行朝向供体的最终电路，并且这种迁移特异于供体的内容，而非单纯的角位移（一个角度匹配的随机对照不会产生这种偏移）。沿着两个运行之间的测地线对方向进行插值揭示出这种迁移是*阈值样*的，而非连续混合。最值得注意的是，跨轨迹干预揭示了迁移性本身取决于受体的动力学状态：身份从受体样翻转为供体样的插值阈值可由受体的权重范数预测，在所有 20 个配对和两个任务中，按范数类别完美分离（联合精确置换概率为 \(1.9 \times 10^{-4}\)）。我们使用一种自适应二分程序将阈值定位到 \(\pm 1/64\) 的精度，该程序是我们贡献的一种可复用的测量工具，用于协议稳定的干预。相比之下，*范数*仅对顿悟延迟产生微弱的、空间分布的影响，并且不携带可测量的身份信息。这些结果共同描绘了一个具体的几何分工：方向索引了轨迹逼近哪个解，而范数决定了该身份被覆写的难易程度。

## 1 引言

顿悟——网络在拟合训练数据很久之后才开始泛化的延迟现象——已成为一个受控环境，用于研究神经网络如何从记忆转向结构化解决方案 (Power et al., 2022 (https://arxiv.org/html/2607.06628#bib.bib1); Nanda et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib2))。最近大量工作对单次训练运行进行干预以探究这种转变：在轨迹上冻结、重新缩放或投影权重，观察对延迟或新兴电路的影响 (Nanda et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib2); Varma et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib4))。然而，这种轨迹内的干预无法回答一个不同的问题：部分训练检查点中的一切内容，哪些部分是*可移植的*——即当移植到另一个*不同的*、独立训练的运行中时能够决定结果？轨迹内干预可以确立某个属性在一次运行内部对某个结果是*必要的*；但无法确立该属性是否*可移植*——即当置于另一个运行的上下文中时能够产生该结果。区分这两个问题是我们贯穿全文的核心关注点：我们不问方向为何编码电路身份，而是问它是否因果地可移植，如果是，在什么条件下。

我们通过将权重向量分解为径向部分（其范数）和角度部分（其单位方向）来研究这个问题，\(\theta = r \cdot u\)。这种分解本身并不新鲜：权重范数和方向在顿悟中的相互作用已在单条轨迹内分析过 (Liu et al., 2022 (https://arxiv.org/html/2607.06628#bib.bib3); Varma et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib4))。我们的贡献是一种*跨轨迹*因果探针。给定从不同种子训练的两个网络 \(A\) 和 \(B\)，我们通过结合 \(B\) 的范数和 \(A\) 的方向（或反之）构建一个*嵌合体*，继续训练，并提两个问题：嵌合体的顿悟*延迟*是否追随提供范数的运行，以及最终的*电路身份*是否追随提供方向的运行？

我们发现了一个尖锐的不对称性。电路身份——通过任务合适的 token 嵌入功率谱衡量——清晰地、一致地且特异于该供体的内容追随角度供体。顿悟延迟仅微弱地追随径向供体，并且这种微弱效应无法定位到任何单个层组。进一步，我们在固定范数下将植入的方向沿着从 \(A\) 到 \(B\) 的测地线插值，发现身份迁移是*阈值样*的：最终电路在插值值的平台上保持受体样，然后在狭窄范围内切换到供体样。该阈值的位置并非恒定——而且，揭示性地，它可由受体的权重范数预测。这最后一个发现之所以可能，*仅因为*干预是跨轨迹的：它关注的不只是什么可转移，而是何时转移是可能的。

#### 贡献。

1. **方法**。跨轨迹嵌合体干预，一种因果探针，将独立训练网络的幅度和方向重新组合，以及一个角度匹配的随机对照，将供体特定内容与一般角度扰动分离（第 3 节 (https://arxiv.org/html/2607.06628#S3)）。
2. **分离**。角度分量携带一个可迁移的、供体特异的组件，与两个任务中的电路身份相关（40/40 次重组符号正确）；径向分量仅携带一个微弱的、不可定位的延迟效应（第 4 节 (https://arxiv.org/html/2607.06628#S4)、第 6 节 (https://arxiv.org/html/2607.06628#S6)）。
3. **阈值及其对状态的依赖性**。身份迁移在插值坐标上是阈值样的，阈值位置由受体的范数预测，在所有 20 个配对和两个任务中按范数类别完美分离。我们贡献了一个自适应二分程序，将阈值定位到 \(\pm 1/64\)，每对约需三次评估，这是一种可复用的测量策略，适用于在其训练协议下稳定的干预（第 5 节 (https://arxiv.org/html/2607.06628#S5)）；这种分离以及上述身份迁移结果，在优化器状态消融实验（在供体和受体之间移植 Adam 动量而非重置）中仍然成立（第 8 节 (https://arxiv.org/html/2607.06628#S8)）。
4. **支撑性特征描述**。电路频谱在泛化行为完成后数百到数千步内继续重组，并且没有两个种子趋近于近乎相同的频谱（第 7 节 (https://arxiv.org/html/2607.06628#S7)）。

## 2 相关工作

#### 在顿悟运行之间转移权重。

与我们的设置最接近的工作是将一个较弱但已泛化的网络的习得嵌入转移以初始化一个较强的网络，从而加速或诱导目标中的顿悟 (Xu et al., 2025 (https://arxiv.org/html/2607.06628#bib.bib5))。该工作将转移视为*加速*泛化的一种方法，并测量其对延迟和准确率的影响。我们的目标在三个方面有所不同。首先，我们通过明确分离范数和方向来重新组合两个*对等*运行，而不是从一个特权源移植整个嵌入。其次，我们的主要结果是*电路身份*，而非延迟；加速工作中没有任何内容测量受体采用了几个不同电路中的哪一个。第三，我们引入了一个供体内容对照（一个角度匹配的随机方向），以区分“\(B\) 的特定方向很重要”与“这种角度大小的扰动很重要”。我们还发现携带身份的信号存在于多个隐藏层组中，而不仅仅是嵌入（第 7 节 (https://arxiv.org/html/2607.06628#S7)），这使我们的结果超出了以嵌入为中心的解释。

#### 合并独立训练的网络。

另一系列平行工作在对齐排列对称性后合并或插值独立训练的网络，寻求低损失连通性或单个合并模型 (Ainsworth et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib6); Entezari et al., 2021 (https://arxiv.org/html/2607.06628#bib.bib7))。我们故意*不*对齐排列：嵌合体的意义在于作为一种因果探针，我们测量的是电路身份特征和持续训练的动力学，而不是固定端点之间的损失屏障。

#### 盆地选择与模式决定性。

轨迹达到哪个解的问题已通过线性模式连通性和早期训练阶段在决定最终盆地中的作用进行了研究 (Frankle et al., 2020 (https://arxiv.org/html/2607.06628#bib.bib8); Fort et al., 2019 (https://arxiv.org/html/2607.06628#bib.bib9))，最近还通过奇点学习理论和基于探索的顿悟盆地选择解释进行了研究 (Cullen and others, 2026 (https://arxiv.org/html/2607.06628#bib.bib10))。这些分析主要是观察性的——它们描述了在自然训练下达到哪个盆地。我们的嵌合体干预提供了因果补充：通过跨轨迹移植方向，我们测量了盆地成员身份改变的边界，并展示了该边界的位置取决于受体的状态。

#### 与我们之前工作的关系。

我们的两项早期研究分析了单轨迹顿悟：一项确立了范数和方向共同对于解释一次运行内的延迟是必要的，另一项校准了范数与延迟时间尺度的关系。本文既不是这些数据集的扩展，也不是重新分析。它涉及*跨轨迹*的可移植性以及两个组成部分便携内容之间的分离，使用了独立的实验；当我们注意到微弱的延迟效应与早期范数-时间尺度关系一致时，我们仅提及这一点，并未建立更强的联系。

## 3 设置与方法

#### 任务与模型。

我们研究一个小型 transformer 会顿悟的两个任务：模加法 \((a+b) \bmod p\) 和模乘法 \((a \cdot b) \bmod p\)，在乘法群 \(\{1, \dots, p-1\}\) 上，取 \(p=59\)。输入被标记化为 \([a, b, =]\)，模型预测结果 token。架构为单层 transformer（嵌入维度 128），使用 AdamW 进行全批次训练（学习率 \(10^{-3}\)，权重衰减 1.0，\(\beta = (0.9, 0.98)\)），训练/测试分割为 50%。对于乘法，我们限制在乘法群上，因为包含 0 会使每个 \((0, b)\) 对坍缩到 0，这是一种退化的捷径，既会夸大准确率，也会污染下面定义的频谱指纹。

#### 径向-角度分解与嵌合体。

对于扁平的权重向量 \(\theta\)，我们写作 \(\theta = r u\)，其中 \(r = \|\theta\|\)，\(u = \theta / \|\theta\|\)。给定来自运行 \(A\)（受体）和运行 \(B\)（供体）的顿悟前检查点，我们形成*嵌合体*变体，并在受体的优化器状态下继续训练；除非另有说明，结果报告使用重置的优化器，我们在第 8 节 (https://arxiv.org/html/2607.06628#S8) 中验证了这一选择并不驱动我们的结论。核心变体是 `radial`（\(r_B u_A\)：受体方向，供体范数）及其镜像 `reverse_radial`（\(r_A u_B\)）。我们包含四个对照：`mid_norm`（\(\frac{1}{2}(r_A + r_B) u_A\)，隔离仅改变范数的影响），`random_u`（在受体范数处完全随机的方向），以及关键性的 `matched_random`（一个随机方向，放置在与 \(u_B\) 相对于 \(u_A\) 的角距离*完全相同*的位置）。在高维空间中，均匀随机方向几乎与 \(u_A\) 正交，而两个独立训练在同一任务上的运行则不然；匹配随机对照使角位移相等，这样与真实供体的任何差异都将供体特定内容与扰动幅度分离开来。

图 1：**跨轨迹嵌合体干预**。两个网络从不同种子在同一任务上训练。每个权重向量被拆分为范数 \(r\) 和单位方向 \(u\)。一个*嵌合体*将一个运行的范数与另一个运行的方向重新组合（此处为 \(r_B u_A\)）并继续训练；我们问其顿悟延迟是否追随范数供体，其电路身份是否追随方向供体。方向剂量响应（插图）在固定范数下沿从 \(u_A\) 到 \(u_B\) 的测地线对植入的方向进行插值，隔离了角度坐标。

#### 电路身份度量。

遵循模算术电路的傅里叶解释 (Nanda et al., 2023 (https://arxiv.org/html/2607.06628#bib.bib2))，我们通过其 token 嵌入行的归一化功率谱来总结网络的电路。变换的定义域必须匹配任务：对于加法，电路在 token 索引上是周期性的，因此我们对行 \(0, \dots, p-1\) 取 FFT；对于乘法，电路在 token 的*离散对数*上是周期性的（模 \(p\) 乘法在 \(t \mapsto \log_g t\) 下是模 \(p-1\) 加法，其中 \(g\) 是原根），因此我们在变换前将行重新排序为 \([g^0, g^1, \dots, g^{p-2}]\)。对乘法使用索引域变换会无视真正的电路差异——两个不同频率的合成乘法电路在错误域下余弦相似度为 0.9998，而在正确域下为 0.0000。我们将*电路相似度*定义为两个归一化功率谱的余弦相似度，对于嵌合体，报告 \(\mathrm{CFS\_lean} = \mathrm{sim}(\text{嵌合体}, B_{\text{final}}) - \mathrm{sim}(\text{嵌合体}, A_{\text{final}})\)，因此负值表示 \(A\) 样的最终电路，正值表示 \(B\) 样的。

#### 方向剂量响应。

为了从受体方向连续移动到供体方向，我们沿着单位球面上的测地线插值：

\[\mathrm{slerp}(u_A, u_B, t) = \frac{\sin((1-t)\phi)}{\sin\phi} u_A + \frac{\sin(t\phi)}{\sin\phi} u_B, \quad \phi = \arccos(u_A \cdot u_B),\]

并植入 \(r_A \cdot \mathrm{slerp}(u_A, u_B, t)\)，固定受体范数 \(r_A\)。球面插值沿整个路径保持单位范数，因此干预*仅*改变角度坐标；单位向量的线性插值会减小混合体的范数（对于近乎正交的端点，在 \(t=0.5\) 时最多减少 \(\sim 29\%\)），同时改变大小和方向。