标签
该论文提出了两种神经网络代理模型，能够直接从区域几何结构中学习拉普拉斯算子的谱，从而实现特征值泛函的快速可微形状优化。其中，基于傅里叶系数的多层感知机在星形区域上达到了0.2%的精度，而基于景观函数的模型对前十个特征值取得了1%的平均相对误差，优于傅里叶神经算子（FNO）基线，并成功还原了经典谱优化的最优解。
S-GAI是一种针对单隐层Sigmoid多层感知器的谱几何感知初始化框架，它利用图像数据的逐类谱几何来初始化权重。在初始隐藏状态质量方面优于随机初始化，并在MNIST和CIFAR-10等基准测试上达到可比的最终准确率。
介绍了NEO，一种从点云预测低频拉普拉斯-贝尔特拉米特征空间的神经框架，通过质量感知神经算子和Rayleigh-Ritz精化，实现近线性扩展和强大的零样本泛化能力。
本文对生产规模的大型语言模型进行了完整的 Jacobian 特征分解，揭示了从旋转主导的早期层到对称后期层的习得谱梯度，以及一个压缩扰动的低秩瓶颈。结果将扰动传播与压缩与网络功能拓扑联系起来。