sgd-noise

该论文提出，深度神经网络中的grokking现象源于一阶L2相变中噪声驱动的亚稳态逃逸，证明了延迟泛化遵循Arrhenius标度，并再现了典型的grokking曲线。