@BetaTomorrow: 论文:拓扑神经算子 作者:Lennart Bastian(@lennart_bastian), Tolga Birdal(@tolga_birdal), Samuel Lev…
摘要
本文介绍了拓扑神经算子,它将神经算子从纯点域提升到胞腔复形,嵌入几何与拓扑以减轻学习负担。研究表明,当几何不再被事后处理时,算子学习有所改善,尽管拓扑仍然是指定的。
查看缓存全文
缓存时间: 2026/06/10 23:59
论文:拓扑神经算子 作者:Lennart Bastian (@lennart_bastian)、Tolga Birdal (@tolga_birdal)、Samuel Leventhal 和 Mustafa Hajij (@HajijMustafa)
从深度流形视角来看,拓扑神经算子的价值在于它表明,当几何不被视为事后考虑时,算子学习会得到改善。
论文自身的论证是,TNO 将神经算子从仅包含点的域提升到胞腔复形,其中顶点、边、面和体各自承载着自然属于它们的物理量。
我们的解读则有所不同:这是一个在开始学习之前,通过几何预结构化允许的计算的强有力例子。它通过固定部分拓扑信息流来减轻神经网络的负担,同时保留特征变换的可学习性。
其局限性同样重要:拓扑在很大程度上仍然是预设的,因此 TNO 最好被理解为几何引导的神经算子学习,而尚未成为一个完整的具有边界条件的深度流形系统——在该系统中,流形本身是通过不动点迭代动态构建、变形和稳定的。
#深度流形诠释
相似文章
基于霍奇分解的拓扑保持神经算子学习
本文提出了一种基于霍奇分解的拓扑保持神经算子学习方法,用于分离拓扑和几何分量,在几何网格上提高了准确性和效率。
超越任意几何:神经PDE算子中的拓扑泛化
本文介绍了拓扑作为神经算子在PDE求解中的一个独立泛化维度,利用霍奇热流和TopoBox-3D框架来展示其在霍奇谱上超越几何兼容性的影响。
@AnimaAnandkumar: 神经算子 – 将流行神经网络转换为神经算子用于科学建模 扩展神经网…
本文提出了将流行神经网络架构(CNNs、GNNs、Transformers)转换为神经算子的原则性方法,这些神经算子学习无限维函数空间之间的映射,使得在不同离散化下进行科学建模时能够获得一致的预测。发表于《Nature Machine Intelligence》。
@BetaTomorrow: https://x.com/BetaTomorrow/status/2079015742738157750
一篇批评神经网络研究中常见地将优化与学习混为一谈的文章,主张训练应被理解为逆向重建,并通过权重定义的分段流形的演化同调来研究。
@AnimaAnandkumar: 这是我们自开始研究神经算子以来一直在强调的一点。我们很快就从简单的...
Anima Anandkumar 强调,尽管基准测试简单,但神经算子在像高分辨率 AI 天气预报模型 (FourCastNet) 和核聚变湍流这样的困难实际问题上实现了巨大加速(10,000 到百万倍)。她引用了一篇新论文,表明随着 PDE 任务难度的增加,学习型求解器变得更加经济高效。