Bug or Feature^2：权重漂移、激活稀疏性与尖峰

Hugging Face Daily Papers 论文
weight-drift activation-sparsity spikes relu gelu silu gradient-descent neural-networks

摘要

本文正式证明了使用非对称激活函数（如ReLU、GELU或SiLU）训练神经网络会导致权重向负方向漂移，进而使激活稀疏性高达90%。同时，研究表明平方激活函数（如ReLU²）能提升性能，但会导致激活尖峰，这一问题可通过裁剪解决，其中GELU²达到了最低验证损失。

现代神经架构的设计是通过渐进式经验选择收敛而成的，但支配其训练动态的机制仍然仅部分被理解。我们识别并分析了由标准损失函数与正偏置激活函数之间的相互作用引发的负权重漂移。我们证明，在均方误差或交叉熵损失下，初始化时正预激活的梯度在期望上非负，这会在早期训练中将下游权重推向负值。该漂移是优化固有的而非数据引起的，并且跨架构（MLP、ResNet、ViT、GPT-nano、MP-SENe）及非对称激活函数（ReLU、GELU、SiLU）均存在。与ReLU结合时，权重漂移导致激活稀疏性在GPT-nano中高达90%。我们刻画了79种配置下的稀疏性-准确率权衡，并发现当激活稀疏性超过70%时存在一个陡峭的准确率悬崖。虽然ReLU²在GPT-nano中实现了良好的稀疏性-准确率比，但它会病态地放大中间Transformer层中已识别的激活尖峰。裁剪能解决这一问题，同时保留平方运算的表征优势：裁剪后的ReLU²优于未裁剪版本，而GELU²在GPT-nano上取得了最低验证损失。代码见 https://github.com/On-Point-RND/BugOrFeature。
查看原文
查看缓存全文

缓存时间: 2026/05/20 22:40

论文页面 - Bug or Feature^2：权重漂移、激活稀疏性与尖峰

来源：https://huggingface.co/papers/2605.17659

每次你用 ReLU、GELU 或 SiLU 训练网络时，权重都会悄悄地向负值漂移。这不是数据的问题，即便是随机输入也会发生。这是梯度下降与非对称激活函数的数学特性所固有的。

我们从数学上证明了这一点（MSE 和交叉熵），并在 MLP、ResNet、ViT、GPT 以及一个语音模型上展示了这种现象。

这种漂移会导致什么？ 负权重将预激活值推入负区域，而使用 ReLU 时，多达 90% 的激活最终变为零——正是被最初导致漂移的同一个函数清零了！这到底是 bug 还是 feature？取决于如何使用。

最有趣的发现： ReLU2 提升了 GPT-nano 的性能，但病态地将激活尖峰放大了 25 倍。解决方法很简单：进行裁剪。裁剪后的 ReLU2 和 GELU2 都优于其非平方版本，其中 GELU2 在 GPT-nano 上取得了整体最佳的验证损失。

💻 代码：github.com/On-Point-RND/BugOrFeature

相似文章

任意权重双层神经网络的鲁棒性定律

arXiv cs.LG

本文证明了一个关于无界权重双层神经网络的猜想鲁棒性定律，表明对于连续分段线性激活函数（如ReLU），拟合含噪数据的网络其Lipschitz常数至少为√(n/m)量级（最多差一个对数因子）。

从权重到特征：SAE引导的激活正则化用于LLM持续学习

arXiv cs.LG

本文提出了一种用于大语言模型的持续学习方法，该方法使用预训练的稀疏自编码器（SAEs）在激活空间而非权重空间中进行正则化，从而在无需存储先前数据的同时避免灾难性遗忘，并实现了更好的内存效率和更强的基准性能。

Hidden Gauge Controls Feature Specialization in ReLU Networks

arXiv cs.LG

A theoretical study shows that in overparameterized ReLU networks, a positive-homogeneous scaling gauge hidden in the initial parameters can deterministically control which duplicate neuron learns a teacher feature, affecting specialization time and pruning trajectories.