新方法实现物理一致的混沌系统 AI 模型

MIT News — Artificial Intelligence 论文

摘要

MIT LIDS 的研究人员开发了一种方法,可将基于物理的约束嵌入混沌系统的机器学习模型中,从而为预测保持在物理上合理的范围内提供形式化保证。该研究成果发表于《美国国家科学院院刊》(PNAS),有望提升气象、气候、航空及工业应用等领域所用模型的可靠性。

<p>近年来,对天气和气候模式、航空或洋流中的湍流等复杂混沌过程的建模取得了巨大进展。然而,这类模型仍容易随时间推移漂移到物理上不可能的预测。</p> <p>如今,MIT 信息与决策系统实验室(LIDS)的研究人员发现了一种方法,可以为机器学习模型引入基于物理的约束,确保模型永远不会超出基于现实世界实际可能性的合理范围。这一新方法所使用的相关信息正由该团队免费公开,有望显著提升此类模型的实用性和可靠性——这些模型除气候和天气外,还广泛应用于工业流程、航空航天和水文等领域。</p> <p>这一新研究成果由 MIT 研究生 Sunbochen Tang 以及 MIT 教授 Navid Azizan 和 Themistoklis Sapsis 撰写论文,<a href="https://www.pnas.org/doi/10.1073/pnas.2533077123">发表</a>在《<em>美国国家科学院院刊(PNAS)</em>》上。</p> <p>“缺乏有界响应的保证一直是为复杂非线性系统构建数据驱动模型的一大障碍,”Sapsis 说道。他同时是机械工程教授和 LIDS 附属研究员。他表示,该团队开发的方法“为在众多现实问题——甚至那些具有内在不稳定性的问题——中应用最先进的机器学习架构进行预测和控制铺平了道路。”</p> <p>为复杂动力学系统开发可靠的模型在许多领域都至关重要。在流体力学中,湍流会扰乱航空运输、降低风力涡轮机的效率,并影响车辆的燃油经济性。同样,在天气预报中,大气动力学的混沌特性使得精确的长期预测变得困难。</p> <p>“初始条件的微小差异可能导致混沌系统产生截然不同的结果,”Azizan 说。“这使得预测其远期行为极其困难。”然而,现实世界中可能的变化始终受到物理约束的限制。</p> <p>“混沌并不意味着什么都能发生。这些系统通常是有限的,它们的模型也应该是。”但如何将这些边界引入模型一直是个棘手的问题,Azizan 表示。他是机械工程系和数据、系统与社会研究所的 Hayes 教授,也是 LIDS 的首席研究员。</p> <p>“一个模型可能在短时间内与数据吻合得很好,但运行很长时间后仍然会失败,”他说。“小误差会不断累积,直到模拟产生无限制增长的值”,产生在真实系统中永远不会实际发生的预测。</p> <p>“这是许多现有机器学习模型的一个根本性问题,”他说。“这是不同领域中经常出现的问题:如何在这些模型中嵌入物理约束,同时保持其灵活性,又确保输出具有物理意义?”</p> <p>“我们希望保留混沌特性,同时避免真实系统所不具备的人工失控行为,”他说。“我们的方法为模型提供了学习复杂动力学的空间,同时保证其轨迹保持有界。”这是首个为混沌机器学习模型建立此类形式化保证的工作。</p> <p>此前为防止此类模型产生不现实结果的尝试通常基于“在训练过程中施加惩罚或激励”,Tang 说道。他是航空航天系和 LIDS 的博士生,这些方法使用通常基于系统特权信息设计的函数。但由于这些仅在模型的训练过程中适用,当模型在实际使用中处理新输入时,“无法保证模型会满足这些激励所期望的底层约束”,他说道。“模型仍可能产生无界的预测。”</p> <p>为了说明为什么简单地施加任意限制并不能令人满意地解决预测稳定性问题,Tang 解释道:“你可以为预测设置上限,例如对物理量设定一个任意限制,比如温度 100 度。这是一种保持预测有界的方法,但它可能会限制模型表达那些应当直接从数据中学习的复杂而非平凡特征。”</p> <p>他说,“我们的方法与众不同之处在于我们构建了基于能量的约束。我们让模型学习一个类似能量的函数”,该函数基于现实世界的混沌系统,其中能量耗散有助于保持轨迹有界,尽管其行为复杂。“具体而言,模型学习一个类似能量的函数,以及其混沌行为应被限制在其中的边界。然后我们添加一个投影层——一个调整模型预测系统如何演化的组件——来强制能量耗散作为硬约束。在该边界之外,类似能量的量必须下降,从而使模拟系统被拉向有界区域。这样,我们就能建立理论保证,使模型预测在任意长的预报窗口内保持有界。”</p> <p>该团队在多种不同的知名物理系统上测试了他们的方法,从简单的教科书案例到高度复杂的多维系统,发现他们的方法与真实结果高度吻合,而传统方法很快就偏离为不可能的预测。</p> <p>Azizan 补充道,“我们的方法与现有方法之间的根本区别在于我们所说的硬约束与软约束之别。”虽然许多现有方法“试图激励模型满足约束,但这些约束并未被当作硬约束来处理。我们的方法基于硬约束神经网络的概念”,因此输出“始终与物理一致,即使是模型从未见过的全新情况。”</p> <p>“AI 模型在拥有大量可用数据的场景中表现出色,”Azizan 说,例如图像或文本,两者在互联网上都极为丰富。然而,他说,“对于许多物理系统,数据并不那么丰富。”对于数据有限的情况,他说,“这些物理约束方法可以发挥很大作用,因为问题中的物理规律是另一个信息来源。”</p> <p>这种新方法对任何混沌系统都具有广泛的适用性。“这可以直接应用于各种神经网络架构,”Tang 说。他们计划在更大的系统上继续测试。“我们正试图看看它在真实天气系统的数据驱动模型上表现如何。”</p> <p>“投影层是模块化的:它是模型无关的,可以与不同的神经网络架构配合工作,”Azizan 说。“我们希望其他研究人员和从业者能够在此基础上继续开发,并在更大、更复杂的问题上进行测试。”该论文连同开源代码<a href="https://www.pnas.org/doi/10.1073/pnas.2533077123">现已在 PNAS 上公开获取</a>。</p> <p>该团队成员今年的一项<a href="https://proceedings.mlr.press/v331/goertzen26a.html">后续工作</a>在 Learning for Dynamics and Control 会议上发表。该论文获得了会议最佳论文奖。</p> <p>“值得信赖且可靠的 AI 不仅仅需要模型通常能工作的证据,”Azizan 说。“对于高风险应用,你需要对必须始终成立的性质提供保证。在这项工作中,我们建立了一个这样的保证:有界性。我们更广泛的目标是使这些原则成为构建 AI 模型的一部分,而不仅仅是——"</p>
查看原文
查看缓存全文

缓存时间: 2026/11/21 03:00

# 新方法实现了混沌系统物理一致的 AI 模型 来源:https://news.mit.edu/new-approach-enables-physically-consistent-ai-models-chaotic-systems-1120 近年来,对天气与气候模式、航空和海洋洋流中的湍流等复杂混沌过程的建模取得了巨大进展。然而,这类模型仍会随时间推移漂移出物理上不可能出现的预测结果。 现在,MIT 信息与决策系统实验室(Laboratory for Information and Decision Systems,LIDS)的研究人员找到了一种方法,可以对机器学习模型施加基于物理的约束,确保模型的输出永远不会超出真实世界中实际可行的合理范围。这一新方法所使用的信息现已由该团队免费公开,有望显著提升此类模型的实用性和可靠性——这些模型除用于气候和天气领域外,还广泛应用于工业流程、航空航天和水文学等领域。 这项新成果由 MIT 研究生 Sunbochen Tang 与 MIT 教授 Navid Azizan、Themistoklis Sapsis 撰写,已发表在《美国国家科学院院刊》(*Proceedings of the National Academy of Sciences, PNAS*)上(https://www.pnas.org/doi/10.1073/pnas.2533077123)。 "缺少有界响应的保证一直是构建复杂非线性系统数据驱动模型的一大障碍,"LIDS 附属教授、机械工程教授 Sapsis 说道。他指出,该团队开发的方法"为在众多现实问题中应用最先进的机器学习架构进行预测和控制铺平了道路,即使那些问题具有内在不稳定性。" 为复杂动力学系统开发可靠的模型在众多领域都至关重要。在流体力学中,湍流会干扰航空飞行、降低风力涡轮机的效率并影响车辆的燃油经济性。类似地,在天气预报中,大气动力学的混沌特性使得精确的长期预测十分困难。 "混沌系统中初始条件的微小差异可能导致截然不同的结果,"Azizan 说道。"这使得预测其遥远未来的行为变得极其困难。"然而,现实世界中可能发生的变化始终受到物理约束。 "混沌并不意味着什么都能发生。这些系统往往保持有界,其模型也应当如此。"但如何将这些边界引入模型,一直是一个棘手的问题,Azizan 说道。他是机械工程系和数据、系统与社会研究所(Institute for Data, Systems, and Society)的 Hayes 副教授,同时也是 LIDS 的主要研究员。 "一个模型可以在短时间内与数据吻合,但长时间运行后仍可能失败,"他说。"小误差会不断累积,直到模拟产生无限增长的数值,"产生在真实系统中永远不可能出现的预测。 "这是许多现有机器学习模型的根本性问题,"他说。"这是一个在不同领域中反复出现的问题:如何将物理约束嵌入这些模型中,同时保持其灵活性,并确保输出具有物理意义?" "我们希望保留混沌特性,同时消除真实系统中并不存在的人为失控行为,"他说。"我们的方法为模型提供了学习复杂动力学的空间,同时保证其轨迹保持有界。"这是首个为混沌机器学习模型建立此类形式化保证的工作。 航空航天与宇航学系博士生、LIDS 成员 Tang 表示,以往防止模型产生不现实结果的尝试往往基于"在训练过程中施加惩罚或激励",这些函数通常是基于关于系统的特权信息设计的。但由于这些方法只在训练过程中起作用,"一旦模型在实际使用中处理新输入,就无法保证模型满足此类激励所意图施加的底层约束。""模型仍可能产生无界的预测,"他说。 为说明为何简单施加任意限制无法令人满意地解决预测稳定性问题,Tang 解释道:"你可以对预测值设置上限,例如为物理量设定任意限制,比如温度 100 度。这是一种使预测保持有界的可行方式,但它可能限制模型表示应当从数据中直接学习的复杂而非平凡的特征。" 他说:"我们的方法的独特之处在于,我们提出了基于能量的约束。我们让模型学习一个类能量函数,"该函数基于现实世界的混沌系统——在这些系统中,能量耗散有助于保持轨迹有界,尽管其行为十分复杂。"具体而言,模型学习一个类能量函数,以及一个其混沌行为应当被限制在其中的边界。我们随后添加一个投影层——一个调整模型如何预测系统演化的组件——将能量耗散作为硬约束加以执行。在该边界之外,类能量量必须递减,从而将模拟系统拉向有界区域。通过这种方式,我们可以建立理论保证,证明模型预测在任意长的预报窗口内保持有界。" 团队在多种知名物理系统上测试了他们的方法,从简单的教科书案例到高度复杂的多维系统,发现其方法与真实结果高度吻合,而传统方法很快就会偏离到不可能出现的预测。 Azizan 补充道:"我们方法与现有方法的根本区别在于我们所说的硬约束与软约束。"目前许多方法"试图激励模型满足约束,但这些约束并未被当作硬约束来处理。我们的方法基于硬约束神经网络的概念,"因此输出"始终是物理一致的,即使面对模型从未见过的全新情况。" "AI 模型在拥有大量数据的场景中表现优异,"Azizan 说,例如图像和文本,这两者在互联网上都十分丰富。然而,他说,"对于许多物理系统而言,数据并没有那么丰富。"对于数据有限的情况,他说,"这些物理约束方法能起到很大的帮助,因为问题本身的物理规律是另一个信息来源。" 新方法对任何混沌系统都具有广泛的适用性。"这可以直接应用于各种各样的神经网络架构,"Tang 说。他们计划在越来越大的系统上继续测试。"我们正在尝试了解它在真实天气系统的数据驱动模型上效果如何。" "投影层是模块化的:它与模型无关,可以配合不同的神经网络架构使用,"Azizan 说。"我们希望其他研究人员和从业者能够在此基础上进一步开发,并在更大、更复杂的问题上加以测试。"该论文连同开源代码现已可在 PNAS 上获取(https://www.pnas.org/doi/10.1073/pnas.2533077123)。 今年,团队成员的一项后续工作(https://proceedings.mlr.press/v331/goertzen26a.html)在学习与动力学控制会议(Learning for Dynamics and Control)上发表,该论文获得了会议最佳论文奖。 "可信可靠的 AI 不仅需要模型通常有效的证据,"Azizan 说。"对于高风险应用,你需要对必须始终成立的性质提供保证。在这项工作中,我们建立了这样一个保证:有界性。我们更广泛的目标是让这些原则成为构建 AI 模型的一部分,而不仅仅是测试模型的一部分。"

相似文章

凭借对物理的感知,AI模型能模拟更广泛的现实世界场景

MIT News — Artificial Intelligence

MIT CSAIL和清华大学的研究人员提出了GeoPT,这是一种预训练方法,利用合成动力学帮助AI模型更高效地学习物理,以模拟车辆安全和机器人测试等现实世界场景。其达到峰值性能的速度提升两倍,训练所需数据最多减少60%。

通过施加结构与习得物理实现稳定且反事实鲁棒的物理世界模型

arXiv cs.LG

本文提出一种物理信息驱动的世界模型,通过固定的可逆算子,以习得能量的梯度来生成动力学,具备单向能量耗散与结构化的参数干预能力。在电磁、粒子网格(Particle-in-Cell)与浅水波系统上,约 9 千参数的模型实现了稳定的 100 倍时域外推,给出正确的反事实响应,并在未提供干预映射时能够拒绝进行分布外预测,性能远超同等容量的非结构化基线模型。

新研究有望催生更快、更可信的气候预测 AI 模型

MIT News — Artificial Intelligence

MIT 研究人员在 PNAS 上发表论文,展示了一种训练技术,仅需使用通常所需数据的一小部分,即可生成更快、适应性更强的气候模拟器,通过精心筛选的合成数据准确预测未见过的情景。

预测动态能在物理世界中存在吗?

Hugging Face Daily Papers

本文提出了一种验证AI预测物理可接受性的方法,通过一个包含运动学和动力学条件的预测-控制接口来实现。在LeRobot PushT任务上,该方法展示了过滤无效提议的高精度。

新方法使AI能够用于安全关键场景

MIT News — Artificial Intelligence

MIT研究人员开发了一种名为HardFlow的新方法,该方法通过仅对最终输出施加要求,帮助生成式AI模型在高风险应用中满足严格的安全和任务特定约束,从而提高了机器人和控制系统等领域的性能。