GENERIC动力学的保结构不确定性量化
摘要
本文提出了结构保持认知神经网络(S-PENNs),这是一个针对具有硬架构约束的科学机器学习模型进行不确定性量化的框架,并实例化于GENERIC动力学,以确保热力学一致的轨迹输出和经过校准的预测区间,同时降低计算成本。
arXiv:2608.12624v1 公告类型:新
摘要:保结构机器学习将物理结构直接嵌入模型架构,然而此类硬约束模型的不确定性量化(UQ)仍然受限,因为标准UQ方法可能违反所编码的容许条件,需要架构修改,或带来可观的计算成本。在本工作中,我们提出了结构保持认知神经网络(S-PENNs),一个用于具有硬架构约束的科学机器学习模型的不确定性量化的通用框架,并将其实例化于GENERIC(非平衡可逆-不可逆耦合的一般方程)动力学。S-PENNs通过将轻量级epinets附加到预训练模型的约束组件上,保持其结构约束,确保每个采样的实现按构造物理上可容许。当应用于GENERIC动力学时,所提出的框架产生热力学一致的轨迹,保持第一和第二定律。此外,我们将S-PENNs与分割共形预测相结合作为一种事后校准方法,以产生具有有限样本边际覆盖保证的预测区间。我们在三个数值示例上验证S-PENNs:一个与热浴耦合的谐振子和一个理想化化学马达,两者均由常微分方程(ODE)控制,以及一个由偏微分方程(PDE)控制的一维粘塑性模型。在所有三个示例中,S-PENNs产生热力学一致的随机实现和良好校准的预测区间,同时与深度集成相比将计算成本降低约一到三个数量级。尽管本研究聚焦于GENERIC动力学,S-PENNs可以更广泛地扩展到计算力学中具有硬或软约束的科学机器学习模型。
查看缓存全文
缓存时间: 2026/08/14 09:30
# GENERIC动力学的结构保持不确定性量化 Source: https://arxiv.org/html/2608.12624 Zequn He Email:[hezequn@engineering\.upenn\.edu](mailto:[email protected]) Affiliation:Department of Mechanical Engineering and Applied Mechanics, University of Pennsylvania, Philadelphia, 19104, PA, United States of America 通讯作者。 Celia Reina Email:[creina@engineering\.upenn\.edu](mailto:[email protected]) Affiliation:Department of Mechanical Engineering and Applied Mechanics, University of Pennsylvania, Philadelphia, 19104, PA, United States of America 通讯作者。 ###### 摘要 结构保持机器学习将物理结构直接嵌入模型架构,然而对于此类硬约束模型的不确定性量化(UQ)仍然有限,因为标准UQ方法可能违反编码的可容许性条件、需要修改架构或产生巨大的计算成本。在本工作中,我们提出了结构保持认知神经网络(S-PENNs),一个适用于具有硬架构约束的科学机器学习模型UQ的通用框架,并将其实例化用于GENERIC(非平衡可逆-不可逆耦合的一般方程)动力学。S-PENNs通过将轻量级epinets附加到预训练模型的约束组件上,保持其结构约束,确保每个采样实现从构造上保持物理可容许性。当应用于GENERIC动力学时,所提出的框架产生热力学一致的轨迹,保留第一和第二定律。此外,我们将S-PENNs与分割共形预测结合作为事后校准方法,以产生具有有限样本边际覆盖保证的预测区间。我们在三个数值示例上验证S-PENNs:一个与热浴耦合的谐振子和一个理想化化学马达(两者均由ODE控制),以及一个由PDE控制的一维粘塑性模型。在所有三个示例中,S-PENNs产生热力学一致的随机实现和良好校准的预测区间,同时将计算成本降低约1−3个数量级,与深度集成相比。尽管本研究聚焦于GENERIC动力学,S-PENNs可以更广泛地扩展到计算力学中具有硬或软约束的科学机器学习模型。 ###### 关键词: 结构保持机器学习, 不确定性量化, 热力学一致性, 覆盖保证, GENERIC, 非平衡热力学, 广义梯度流, 本构建模 ## 1 引言 科学机器学习已成为应用力学中的重要计算工具,其中学习模型用于从数据和物理知识中近似控制方程、本构定律和解算子。代表性子类包括用于连续时间动力学的神经ODE 7 (https://arxiv.org/html/2608.12624#bib.bib73)、用于微分方程约束学习的物理信息神经网络(PINNs)59 (https://arxiv.org/html/2608.12624#bib.bib56),35 (https://arxiv.org/html/2608.12624#bib.bib50),以及用于函数空间之间映射的神经算子45 (https://arxiv.org/html/2608.12624#bib.bib51),43 (https://arxiv.org/html/2608.12624#bib.bib52),36 (https://arxiv.org/html/2608.12624#bib.bib57)。这些方法之间的一个核心区别是如何施加物理约束。在软约束公式中,控制方程或可容许性条件作为残差或惩罚项进入训练目标。在硬约束公式(通常称为结构保持机器学习)中,模型类通过架构或参数化本身被限制,因此选定的不变量、稳定性性质或热力学定律通过构造得到满足,而不仅仅是在优化过程中被鼓励6 (https://arxiv.org/html/2608.12624#bib.bib49),32 (https://arxiv.org/html/2608.12624#bib.bib48),74 (https://arxiv.org/html/2608.12624#bib.bib46),78 (https://arxiv.org/html/2608.12624#bib.bib30)。 在这一结构保持范式内,可逆动力学最初是试验场。哈密顿神经网络20 (https://arxiv.org/html/2608.12624#bib.bib74) 和拉格朗日神经网络9 (https://arxiv.org/html/2608.12624#bib.bib75) 从学习的能量或作用量原理推断动力学,而SympNets32 (https://arxiv.org/html/2608.
相似文章
具有可处理不确定性量化的结构保持神经替代模型
本文提出了针对偏微分方程的结构保持神经替代模型,该模型集成了Gaussian process regression以提供可处理的不确定性量化,从而能够实现具有闭式误差估计的实时仿真。
几何感知的神经算子事后不确定性量化
提出REEF-GP,一种事后不确定性量化框架,通过将高斯过程拟合到冻结神经算子的残差上并利用其内部嵌入,以低成本实现几何感知且校准的不确定性。
追踪深度学习预测中认知不确定性的来源:同方差与异方差的线性化估计器
该论文将经典统计估计器改编到深度学习中,用于将认知不确定性溯源至偶然不确定性和数据稀缺来源,并利用近似费雪信息矩阵实现可扩展性。
神经算子的共形预测:物理模拟中的无分布不确定性量化
提出了将分裂共形预测首次应用于基于神经算子的物理模拟,提供了具有有限样本覆盖保证的无分布预测区间,并利用MC Dropout不确定性生成自适应宽度的区间。
面向广义PINNs的无模块化冲突规避训练
本文识别了物理信息神经网络(PINNs)中一种由容量引起的失效模式,其中过参数化网络发展出功能模块化,阻碍收敛,并提出模块稀疏同步(ModSync)框架,该框架惩罚任务专用连接以保持跨目标交互,并达到最先进的精度。