@BetaTomorrow: 论文:拓扑神经算子 作者:Lennart Bastian(@lennart_bastian), Tolga Birdal(@tolga_birdal), Samuel Lev…

X AI KOLs Timeline 论文

摘要

本文介绍了拓扑神经算子,它将神经算子从纯点域提升到胞腔复形,嵌入几何与拓扑以减轻学习负担。研究表明,当几何不再被事后处理时,算子学习有所改善,尽管拓扑仍然是指定的。

论文:拓扑神经算子 作者:Lennart Bastian(@lennart_bastian), Tolga Birdal(@tolga_birdal), Samuel Leventhal 和 Mustafa Hajij (@HajijMustafa) 从深度流形的视角来看,拓扑神经算子的价值在于它证明了当几何不再被当作事后处理时,算子学习的效果会提升。 论文自身的论点是,TNO将神经算子从纯点域提升到胞腔复形,其中顶点、边、面和体积各自承载着自然属于它们的物理量。 我们有自己的解读:这是一个强有力例子,说明在学习开始之前,几何预结构化可接受的计算。它通过固定部分拓扑信息流来减轻神经网络的负担,同时保留特征变换的可学习性。 其局限性同样重要:拓扑在很大程度上仍然是指定的,因此TNO最好被理解为几何引导的神经算子学习,而非一个完整的边界条件深度流形系统——在这种系统中,流形本身通过不动点迭代动态构建、变形和稳定。 #DeepManifoldInterpretation
查看原文
查看缓存全文

缓存时间: 2026/06/10 23:59

论文:拓扑神经算子 作者:Lennart Bastian (@lennart_bastian)、Tolga Birdal (@tolga_birdal)、Samuel Leventhal 和 Mustafa Hajij (@HajijMustafa)

从深度流形视角来看,拓扑神经算子的价值在于它表明,当几何不被视为事后考虑时,算子学习会得到改善。

论文自身的论证是,TNO 将神经算子从仅包含点的域提升到胞腔复形,其中顶点、边、面和体各自承载着自然属于它们的物理量。

我们的解读则有所不同:这是一个在开始学习之前,通过几何预结构化允许的计算的强有力例子。它通过固定部分拓扑信息流来减轻神经网络的负担,同时保留特征变换的可学习性。

其局限性同样重要:拓扑在很大程度上仍然是预设的,因此 TNO 最好被理解为几何引导的神经算子学习,而尚未成为一个完整的具有边界条件的深度流形系统——在该系统中,流形本身是通过不动点迭代动态构建、变形和稳定的。

#深度流形诠释

相似文章

学习一致性表征:一种拓扑可解释性方法

arXiv cs.LG

本文介绍了一致性(coherence)这一几何约束,受大脑中网格细胞和头朝向细胞的启发。一致性确保特征响应数据流形上的几何连通区域,从而提升可解释性;作者提出了一个可微分的目标函数(Coh),并在合成数据、旋转MNIST和BERT词元嵌入上进行了验证。

分叉附近的状态空间NTK坍缩

arXiv cs.LG

本文发展了动力模型分叉附近梯度下降的局部理论,表明状态空间神经正切核坍缩为秩一算子,主导学习动力学,使优化有效低维且可从规范形式预测。