标签
本文展示了当数据形成群轨道时,标准神经缩放定律的推导会失败,因为内蕴维数未定义,导致模型性能呈现指数缩放而非幂律缩放。
本文提供了因果证据,表明在群组合任务上训练的矩阵记忆中的梯度下降精确招募了任务代数所需的秩,这与有限群的最小忠实表示维度相关。