spectral-geometry

S-GAI是一种针对单隐层Sigmoid多层感知器的谱几何感知初始化框架，它利用图像数据的逐类谱几何来初始化权重。在初始隐藏状态质量方面优于随机初始化，并在MNIST和CIFAR-10等基准测试上达到可比的最终准确率。

介绍了NEO，一种从点云预测低频拉普拉斯-贝尔特拉米特征空间的神经框架，通过质量感知神经算子和Rayleigh-Ritz精化，实现近线性扩展和强大的零样本泛化能力。

本文对生产规模的大型语言模型进行了完整的 Jacobian 特征分解，揭示了从旋转主导的早期层到对称后期层的习得谱梯度，以及一个压缩扰动的低秩瓶颈。结果将扰动传播与压缩与网络功能拓扑联系起来。