标签
This paper introduces low interaction rank as a unified theoretical framework for multiplicative dual-encoder networks, covering approximation, sample complexity, normalization, and identifiability, with experiments on operator learning and CLIP models.
This paper extends Topological DeepONets to handle functional measurements on Hausdorff locally convex spaces, replacing point samples with continuous linear functionals and introducing fixed and adaptive measurement systems. The framework is validated on several benchmarks including a non-normable input space, and demonstrates compact, discretization-portable coordinates for operator learning.
介绍LLT,一种基于Transformer的神经算子,它将线性全局注意力与局部空间混合相结合,用于PDE学习。在多个PDE问题上,与基线方法相比,它实现了具有竞争性的精度和更快的训练速度。
本文提出了将流行神经网络架构(CNNs、GNNs、Transformers)转换为神经算子的原则性方法,这些神经算子学习无限维函数空间之间的映射,使得在不同离散化下进行科学建模时能够获得一致的预测。发表于《Nature Machine Intelligence》。
提出KL-DNN,一种可扩展的算子学习框架,利用Karhunen-Loève展开处理大规模PDE问题,在三维碳封存问题上实现了比DeepONet更低的误差和两个数量级的加速。
本文提出了一种几何条件傅里叶神经算子(FNO),用于学习周期域上具有不同纵横比的立方非线性薛定谔方程的解算子。数值实验表明,该模型捕捉了有理环面和无理环面上不同的索伯列夫范数行为,展示了用于色散偏微分方程的几何感知神经算子。
提出了一种基于重叠Schwarz领域分解的层次注意力机制,用局部和粗糙块的两级加性结构替代稠密的全局低秩注意力,训练更快,准确度更高,且参数更少。
Physics-conforming Latent Twins 是一种用于学习潜在替代解算子的框架,通过约束转移方法和保持结构的潜在动力学,在设计中强制执行物理原理(如守恒定律和耗散不等式)。
本文介绍了拓扑神经算子,它将神经算子从纯点域提升到胞腔复形,嵌入几何与拓扑以减轻学习负担。研究表明,当几何不再被事后处理时,算子学习有所改善,尽管拓扑仍然是指定的。
DeepMDMD将深度学习与代数约束相结合,学习紧凑且动态一致的Koopman算子表示,并将乘积规则作为精确约束强制实施。该方法在高维混沌和流体动力学问题上优于几何方法,减少了谱污染并实现了稳定的长期预测。
功能注意力是一种新颖的注意力机制,它将注意力重新解释为自适应基之间的功能对应关系,用受几何功能映射启发的结构化线性算子取代了softmax亲和性。该方法在包括PDE求解和3D分割在内的算子学习任务上实现了最先进的性能,同时保持了分辨率不变性。
本文证明了在无限维空间中非线性算子及其导数的首个通用逼近定理,将经典结果扩展到DeepONet和PCA-Net等算子学习架构。
介绍UFO,一种跨域神经操作符框架,能自适应地学习不同表示域上的操作符,实现与离散化解耦的预测,对分布偏移具有鲁棒性。
本文提出了一种基于霍奇分解的拓扑保持神经算子学习方法,用于分离拓扑和几何分量,在几何网格上提高了准确性和效率。