@BetaTomorrow: 论文:拓扑神经算子 作者:Lennart Bastian(@lennart_bastian), Tolga Birdal(@tolga_birdal), Samuel Lev…
摘要
本文介绍了拓扑神经算子,它将神经算子从纯点域提升到胞腔复形,嵌入几何与拓扑以减轻学习负担。研究表明,当几何不再被事后处理时,算子学习有所改善,尽管拓扑仍然是指定的。
查看缓存全文
缓存时间: 2026/06/10 23:59
论文:拓扑神经算子 作者:Lennart Bastian (@lennart_bastian)、Tolga Birdal (@tolga_birdal)、Samuel Leventhal 和 Mustafa Hajij (@HajijMustafa)
从深度流形视角来看,拓扑神经算子的价值在于它表明,当几何不被视为事后考虑时,算子学习会得到改善。
论文自身的论证是,TNO 将神经算子从仅包含点的域提升到胞腔复形,其中顶点、边、面和体各自承载着自然属于它们的物理量。
我们的解读则有所不同:这是一个在开始学习之前,通过几何预结构化允许的计算的强有力例子。它通过固定部分拓扑信息流来减轻神经网络的负担,同时保留特征变换的可学习性。
其局限性同样重要:拓扑在很大程度上仍然是预设的,因此 TNO 最好被理解为几何引导的神经算子学习,而尚未成为一个完整的具有边界条件的深度流形系统——在该系统中,流形本身是通过不动点迭代动态构建、变形和稳定的。
#深度流形诠释
相似文章
基于霍奇分解的拓扑保持神经算子学习
本文提出了一种基于霍奇分解的拓扑保持神经算子学习方法,用于分离拓扑和几何分量,在几何网格上提高了准确性和效率。
@AnimaAnandkumar: 这是我们自开始研究神经算子以来一直在强调的一点。我们很快就从简单的...
Anima Anandkumar 强调,尽管基准测试简单,但神经算子在像高分辨率 AI 天气预报模型 (FourCastNet) 和核聚变湍流这样的困难实际问题上实现了巨大加速(10,000 到百万倍)。她引用了一篇新论文,表明随着 PDE 任务难度的增加,学习型求解器变得更加经济高效。
学习一致性表征:一种拓扑可解释性方法
本文介绍了一致性(coherence)这一几何约束,受大脑中网格细胞和头朝向细胞的启发。一致性确保特征响应数据流形上的几何连通区域,从而提升可解释性;作者提出了一个可微分的目标函数(Coh),并在合成数据、旋转MNIST和BERT词元嵌入上进行了验证。
学习跨域多智能体LLM协作的可迁移拓扑先验
本文提出TopoPrior框架,该框架从离线参考协作图中学习可迁移的拓扑先验,以生成跨域多智能体LLM协作的初始拓扑,显著降低了在线搜索开销和令牌消耗。
分叉附近的状态空间NTK坍缩
本文发展了动力模型分叉附近梯度下降的局部理论,表明状态空间神经正切核坍缩为秩一算子,主导学习动力学,使优化有效低维且可从规范形式预测。