共享物理响应恢复神经算子库中隐藏的排名
摘要
本文提出一种利用共享物理响应对部署中的神经算子模型进行排序的方法,无需真实参考解即可在科学计算应用中达到高精度。
arXiv:2608.20441v1 公告类型:新
摘要:在高保真参考解不可用时,部署期间选择最优神经算子预测具有挑战性。我们证明,在希尔伯特空间平方损失下,有限模型库的排名严格依赖于候选差异的低维跨度,这使我们能够使用控制方程的单个锚点线性化响应同时对所有模型进行评分。这种共享物理诊断在多种用于流体、反应扩散和波动的傅里叶和卷积算子库中,准确恢复了超过99.6%的成对偏好和99.0%的最优检查点。此外,修正后的物理代理经常优于最佳个体候选,并且我们建立了可计算的充分条件,严格认证强单调离散化的精确决策。通过利用局部动力学响应而非原始缺陷大小,该框架能够在无需真实数据的情况下,可靠且高效地部署科学代理。
查看缓存全文
缓存时间: 2026/08/24 04:29
# 共享物理响应恢复神经算子库中隐藏的排名 来源:https://arxiv.org/html/2608.20441 作者:梁瀚冰 单位:吉林省纳米光子学与生物光子学重点实验室,长春理工大学物理学院,中国长春 130022 作者:刘福军 单位:吉林省纳米光子学与生物光子学重点实验室,长春理工大学物理学院,中国长春 130022 通讯作者:[[email protected]](mailto:[email protected]) ###### 摘要 当缺乏高保真参考解时,在部署阶段选择最优神经算子预测极具挑战性。我们证明,在平方希尔伯特空间损失下,有限模型库的排序严格依赖于候选差异的低维子空间,这使我们能够利用控制方程的单一锚点线性化响应同时为所有模型评分。这种共享物理诊断方法在流体、反应-扩散和波动动力学的不同傅里叶和卷积算子库中,准确恢复了超过99.6%的成对偏好和99.0%的最优检查点。此外,经过校正的物理代理通常优于最佳单个候选模型,我们还建立了可计算的充分条件,以严格验证强单调离散化的精确决策。通过利用局部动力学响应而非原始缺陷幅度,该框架无需真值数据即可实现科学代理模型可靠且高效的部署。 ## 1 引言 偏微分方程(PDE)控制着基本的物理现象,但完全依赖高保真数值求解器会带来严重的计算瓶颈。机器学习代理模型通过学习从问题输入到多种物理系统族中解场的映射来减轻这一负担\[1 (https://arxiv.org/html/2608.20441#bib.bib1),2 (https://arxiv.org/html/2608.20441#bib.bib2),3 (https://arxiv.org/html/2608.20441#bib.bib3),4 (https://arxiv.org/html/2608.20441#bib.bib4)\]。尽管不同架构持续在公共基准中进行评估\[5 (https://arxiv.org/html/2608.20441#bib.bib5),6 (https://arxiv.org/html/2608.20441#bib.bib6),7 (https://arxiv.org/html/2608.20441#bib.bib7)\],但在实际科研工作流中,对于完全相同的输入,常会从不同模型、训练运行或检查点生成多个看似合理的预测。由于最优候选模型常随具体物理输入和感兴趣的科学量而变化,实践者面临一个根本的部署困境。在基准测试中,可用的高保真解可以轻松对这些竞争性候选进行排序。然而,在实际部署中,这种参考解本质上是不可获得的,若仅为选择代理模型而计算它,将完全丧失使用神经算子的计算优势。核心问题因此在于:能否在不预先计算缺失参考解的情况下,利用控制物理可靠地恢复有限候选库的隐藏排序。 解决此问题需要认识有限候选库如何改变所需的信息范围。在固定的平方希尔伯特空间任务损失下,减去两个候选的损失会消除未知解中所有无法区分它们的组成部分。所有后续的成对偏好完全依赖于候选差异的子空间,其维度至多为库大小减一。这一数学归约表明,在有限集合中选择所需的信息远少于重建任意物理解,这意味着物理诊断仅需恢复这个低维决策坐标。 现有诊断工具针对相关但本质上不同的目标。无真值模型选择和验证误差通常依赖历史示例或集成统计,而非重建由控制物理为当前输入诱导的特定排序\[8 (https://arxiv.org/html/2608.20441#bib.bib8),9 (https://arxiv.org/html/2608.20441#bib.bib9),10 (https://arxiv.org/html/2608.20441#bib.bib10)\]。此外,虽然原始方程残差衡量物理缺陷,但其幅度本身未能捕捉该缺陷如何传播到请求输出中。基于物理的校正方法使用控制方程来改进单个预测\[11 (https://arxiv.org/html/2608.20441#bib.bib11),12 (https://arxiv.org/html/2608.20441#bib.bib12),13 (https://arxiv.org/html/2608.20441#bib.bib13),14 (https://arxiv.org/html/2608.20441#bib.bib14),15 (https://arxiv.org/html/2608.20441#bib.bib15),16 (https://arxiv.org/html/2608.20441#bib.bib16)\],而后验估计器将残差转化为全局误差界\[17 (https://arxiv.org/html/2608.20441#bib.bib17),18 (https://arxiv.org/html/2608.20441#bib.bib18),19 (https://arxiv.org/html/2608.20441#bib.bib19),20 (https://arxiv.org/html/2608.20441#bib.bib20),21 (https://arxiv.org/html/2608.20441#bib.bib21),22 (https://arxiv.org/html/2608.20441#bib.bib22)\],补充验证方法则在连续域上设定严格界限\[23 (https://arxiv.org/html/2608.20441#bib.bib23)\]。相比之下,我们的目标是固定有限库的相对排序。通过利用候选差异商,我们的框架允许单一锚点导出的响应在整个库中重复使用,直接将评分条件化于当前物理输入,并同时评估所有对比。 我们将此范式表述为无参考有限库排序,其中“无参考”特指评分过程不使用部署参考解或参考衍生标签。如果隐藏的高保真解可访问,所选科学损失将清晰地诱导成对偏好并识别最佳候选。我们的目标是仅依靠输入、候选预测和控制PDE系统来恢复这些精确决策。这一操作挑战涉及两个不同的部署规模:针对单个输入的选择最优候选的查询时路由,以及为重复未来使用而冻结特定检查点的面板级聚合。 为解决此排序问题,我们的方法将这些决策提炼为单一共享物理计算。候选库首先定义一个共享库锚点,我们在该处评估完整的物理缺陷,然后通过线性化物理求解进行一次传播。将此校正状态映射到科学任务产生共享任务代理,记为q,随后通过测量其与每个候选的距离来估计隐藏的参考排序。虽然数值实现计算了全状态校正,但我们的理论明确识别了该响应中指导库决策的更小投影。与候选校正策略不同,这种共享框架避免为每个预测求解单独的物理问题,同时保持深度的任务感知。 我们从理论上证明,这种共享比较坐标在有界线性观测中是全局精确排序的充分且最小条件,并通过精确条件误差恒等式将其与物理响应联系起来。由于排序可靠性固有地依赖于候选间距,我们证明当剩余物理不确定性被候选之间的间隔严格界定时,决策是可信的。对于强单调反应-扩散算子,这一几何原理转化为可计算的充分条件,可严格验证同网格成对或Top-1决策。 我们针对受控输入偏移下的Burgers和反应-扩散方程,全面验证了分别训练的傅里叶和卷积神经算子库的框架。值得注意的是,在一个算子不匹配的二维可压缩流测试中,共享代理恢复了所有10/10的候选比较,尽管仅在4/10的情况下优于最佳神经算子预测,这表明精确排序可以在没有优越重建或精确算子-数据对齐的情况下持续存在。通过将我们的分析扩展到Sine-Gordon动力学和公开PDEBench模型,我们系统地区分了排序与直接代理使用,证实控制物理响应可成功替代缺失的真值,用于科学代理部署。 ## 2 结果 当几个代理预测不一致时,部署提供候选场和控制方程,但没有用于对它们进行排序的高保真解。有限库改变了必须从该缺失解中恢复的内容。在固定的平方希尔伯特空间任务损失下,只有候选差异张成的目标方向能改变它们的相对误差。这个比较空间的维度至多为库大小减一,即使物理状态维度非常高。因此,排序所需的信息远少于重建隐藏解。 我们通过从候选构建库锚点w,并应用一次线性化物理校正来利用这种归约。将校正状态映射到科学任务得到代理q,将其与每个候选输出进行比较(图1 (https://arxiv.org/html/2608.20441#S2.F1)a–c)。这些共享分数为当前输入选择预测,也可以在未标记的面板上平均以对可重用模型进行排序。 参见图1说明 图1:一个共享物理响应将有限代理库变为无参考决策。 a, 候选状态v₁,...,vN通过无参考规则C聚合成库锚点w。 b, 一次线性化物理响应给出校正状态s = w + δw,任务映射Qₐ将其转换为代理q。 c, 距离Sᵢ(q) = ∥q − Qₐ(vᵢ)∥ₘ² 对候选排序并选择vₖ⋆;虚线分支表示q的可选直接使用。 下文定理1 (https://arxiv.org/html/2608.20441#Thmtheorem1)使信息归约变得精确。剩余问题是:单一物理响应能否在学到的代理库中恢复所需坐标;库的哪些特征使恢复可靠;以及所得选择何时无需揭示参考即可被验证。 ### 2.1 排序有限库所需的信息少于解恢复 该框架将排序视为其主要输出,而非隐藏解重建的副产品。对于固定库,这一区分是精确的:只有改变候选相对误差的目标部分会影响其排序。我们现在形式化这个更小的信息需求。 设(H, ⟨⋅,⋅⟩ₘ)为实希尔伯特任务空间,y₁,...,yₙ ∈ H为固定候选输出,t ∈ H表示不可用的任务真值。候选i的平方损失为Rᵢ(t) = ∥t − yᵢ∥ₘ²。(1) 对于有序对,定义Gᵢⱼ(t) = Rⱼ(t) − Rᵢ(t),因此Gᵢⱼ(t) > 0支持候选i。展开两个损失得 Gᵢⱼ(t) = ∥yⱼ∥ₘ² − ∥yᵢ∥ₘ² + 2⟨t, yᵢ − yⱼ⟩ₘ。(2) 因此,隐藏目标仅通过与候选差异的内积进入每个成对决策。 定义D = span{yᵢ − y₁: 2 ≤ i ≤ N}。(3) 与D⊥ₘ相差一个元素的目标属于同一决策商类;商H/D⊥ₘ可由D中的Pᴅₘt典范表示。同样的坍缩扩展到一般有界线性观测。 ###### 定理1(有限库决策商与最小有界线性观测) 坐标Pᴅₘt确定每个精确差距、每个三方成对标签(候选i、平局或候选j)以及完整弱排序,且dimD ≤ N − 1。它还在固定仅依赖于最小化器集的候选索引平局规则后确定Top-1。 设W为实赋范空间,T: H → W为有界线性映射。精确差距向量、三方成对标签向量和完整弱排序由Tt确定对所有t ∈ H,当且仅当ker T ⊆ D⊥ₘ。(4) 设τ从每个非空候选子集S中选择一个元素τ(S) ∈ S,并定义ιτ(t) = τ(argminᵢ Rᵢ(t))。对于这个固定的最小化器集平局规则,当目标在所有H上变化时,精确全局恢复ιτ(t)的等价性同样成立。 如果W是有限维的,任何此类观测满足dimW ≥ dimD。(5) ###### 证明 式(2)证明充分性。对于必要性,假设h ∈ ker T但h ∉ D⊥ₘ。至少一个候选差异与h有非零内积。将这对的中点扰动±εh会产生具有相同观测的相反严格符号,这排除了精确符号恢复,因此排除了精确差距或完整序恢复。对于Top-1,设aᵢ = ⟨h, yᵢ⟩ₘ。这些aᵢ不全相等。对于足够大的正α,所有最小化器位于最大投影候选集;对于足够大的负α,所有最小化器位于不相交的最小投影集。两个目标具有相同的观测。因此T|ᴅ必须是单射,这也给出了式(5)。 ∎ 定理1 (https://arxiv.org/html/2608.20441#Thmtheorem1)确立了在所有目标上全局精确决策中有界线性观测中的最小性。在受限物理解集上,某些候选边界可能永远不会暴露,精确差距、成对符号和Top-1可能需要不同量的信息。相应的暴露条件、重复候选情况和连续统计维度结果见补充章节S1。该定理隔离了库决策可以使用的目标信息。物理求解器可能仍返回全状态响应,但库仅读取其比较投影。 选择的难度随后由竞争候选之间的间距决定。经验库包含模糊和清晰分离的决策:在1,920个输入-库组合中,336个的最佳-次优差距不大于10⁻⁶,而其余差距跨越广泛范围(补充章节S9)。式(2)也识别了误差的相关概念。垂直于D的大状态误差是
相似文章
@AnimaAnandkumar: 这是我们自开始研究神经算子以来一直在强调的一点。我们很快就从简单的...
Anima Anandkumar 强调,尽管基准测试简单,但神经算子在像高分辨率 AI 天气预报模型 (FourCastNet) 和核聚变湍流这样的困难实际问题上实现了巨大加速(10,000 到百万倍)。她引用了一篇新论文,表明随着 PDE 任务难度的增加,学习型求解器变得更加经济高效。
通过高斯溅射表示的物理集成算子学习
本文介绍了一种物理集成的算子学习框架,使用前馈高斯溅射表示来直接纳入PDE算子,减少时空系统长期自回归预测中的误差。
神经算子的共形预测:物理模拟中的无分布不确定性量化
提出了将分裂共形预测首次应用于基于神经算子的物理模拟,提供了具有有限样本覆盖保证的无分布预测区间,并利用MC Dropout不确定性生成自适应宽度的区间。
用于$\textit{Norne}$油藏系统的连续物理约束神经算子正向建模
本文提出了一个全面的数学框架,用于使用傅里叶神经算子(FNO)及其物理信息变体(PINO)对三相黑油油藏动态进行连续代理建模,并应用于Norne基准油藏。理论贡献包括泛函分析公式、协变量偏移分析、物理约束谱稳定性以及截断反向传播梯度分析。
Physics-Unrolled神经算子用于无线场建模
本文介绍了Physics-Unrolled混合神经算子(PU-HNO),该模型通过捕获反射、衍射和散射等传播效应,从低保真射线追踪输出预测高保真室内无线地图,性能优于现有基线。