从观察到洞察：Mechanistic World Models 与自主发现探索

# 从观察到洞见：机制世界模型与自主发现之路
来源：https://arxiv.org/html/2607.12474
\[1\]\\fnmIngmar\\surPosner

\[1\]\\orgdiv应用人工智能实验室,\\orgname牛津大学,\\country英国

\[2\]\\orgname马普智能系统研究所与ELLIS研究所,\\city图宾根,\\country德国

###### 摘要

基础模型的最新进展已变革了人工智能驱动的科学研究，使其在蛋白质折叠到天气预报等多个领域展现出惊人的预测性能。然而，预测本身并不等同于科学发现。科学理解依赖于揭示生成观察结果的可重用解释机制，而当代机器学习仍然从根本上围绕预测映射而非解释结构来组织。在本文中，我们认为科学发现本质上是一个知识组织问题。为此，我们引入了**机制世界模型**，这是一种新的设计范式，将可重用机制置于表征、计算和学习的核心位置。借鉴科学哲学 insights，我们推导出发现所需的计算能力，识别出鼓励解释性知识涌现的设计原则和归纳压力，并形式化了以机制为中心的世界模型的结构。最后，我们展示了包括机制可解释性、因果表征学习、方程发现和模块化架构在内的不同研究方向如何捕捉这一范式的互补要素，但缺乏统一框架。我们提出机制世界模型作为概念基础和计算蓝图，推动人工智能超越预测性预测，迈向自主科学发现。

## 1 引言

在科学领域，我们正淹没于数据之中，却匮乏洞见。最近在蛋白质折叠（例如 [abramson2024accurate]）和天气预报（例如 [lam2023graphcast, Price2024GenCast, Bonev2025FourCastNet3]）等领域的突破，展示了深度学习强大的预测能力以及人工智能对我们集体科学事业可能产生的巨大影响。然而，这些模型仍然是**预测器，而非解释器**：它们将输入映射到输出，但未能揭示支撑科学理解的可重用机制 [terwilliger2024alphafold, Krokidis2025AlphaFold3Overview, Bonavita2024LimitationsMLWeather]。科学发现依赖于揭示世界中隐藏结构的能力，即超越观察而获得**洞见**。阿基米德并非仅仅注意到某些物体浮在水面；他揭示了浮力原理。这种超越原始观察的能力使我们能够将复杂性蒸馏成可在不同现象中重用的解释性原则，这些原则构成了科学知识构建的基本模块。当前的人工智能系统无疑可以通过生成预测、假设和候选解决方案来加速科学发现。然而，它们获得的知识从根本上说是预测性的而非解释性的。其性能随数据和计算量扩展 [kaplan2020scaling, hoffmann2022training]，但在分布偏移下仍然脆弱，常常依赖虚假相关性 [damour2020underspecification]，而非稳健推理所需的结构化抽象 [scholkopf2022causality]。我们的核心论点是：当今的模型为“人工智能驱动的科学研究”提供了有效基础，但根本上不适合“科学发现”。科学发现不仅仅是做出更好的预测，更在于获取解释性知识。

世界模型通过学习从观测中预测环境的未来状态（例如 [HaSchmidhuber2018WorldModels, Hafner2025DreamerV3Nature, parkerholder2024genie2]），为解决这一挑战提供了特别有吸引力的基础。通过显式建模系统在观测和干预下如何演化，世界模型自然反映了科学假设、实验和精炼的循环。然而，与当今更广泛的预测模型一样，传统世界模型仍然围绕预测观测结果来组织，而非发现生成观测结果的可重用机制。

这引发了一个基本问题：如果仅靠预测不足，那么科学发现需要什么样的计算能力？科学哲学花了数十年分析科学发现、解释和理解的本质。因此，我们转向这一知识体系，并非仅仅作为历史背景，而是作为未来人工智能系统设计原则的来源。特别是，我们探究一个学习模型必须具备哪些属性才能支持科学发现。这个问题的答案引出了本文的核心提议：**机制世界模型**，一种新的设计范式，将表征学习的目标从建模观测转移为建模生成这些观测的机制。

图注：图1：机制世界模型（MWMs）将人工智能从预测转向发现。传统机器学习围绕预测映射组织知识，而MWMs则围绕可重用机制作为连接预测与实验的核心计算抽象。这实现了包括变量、机制和结构发现、解释性假设生成以及实验设计在内的能力，将机器学习从准确预测扩展到科学理解。

本文其余部分将展开这一论点。我们首先重新审视科学发现和解释的哲学，以推导出学习模型必须具备哪些属性才能支持科学发现。然后，我们考察现有机器学习研究方向如何捕捉这些原则的互补方面，但缺乏统一框架。在这些基础上，我们引入机制世界模型（MWMs）的能力、设计原则和结构。通过围绕可重用机制组织知识，MWMs旨在弥合预测与解释之间的差距，同时为科学发现提供计算基础，如图1所示。最后，我们讨论这一范式所提供的能力，包括改进的可解释性、组合泛化、针对性适应和科学洞见，并审视学习此类系统的进展以及仍存在的关键挑战。

## 2 科学发现：科学哲学的视角

自亚里士多德以来，哲学家们就认为科学探究始于对观察现象的惊奇，但只有在把握其背后的原因时才达到顶峰（例如 [AristotlePhysicsHardie, AristotlePosteriorAnalyticsMure, Losee2001HistoricalIntro]）。人类的科学事业本质上以从观察现象过渡到揭示解释它们的隐藏结构原理为特征。为了理解机器学习在这一领域的当前局限性，我们首先必须将单纯的预测与真正的洞见进行对比，并特别强调**解释**在生成关于世界如何运作的可重用理论中所起的作用。受科学哲学关于“好的”科学解释本质的讨论启发，我们将进一步扩展到定律的本质，并拓宽到**机制**的概念。

### 2.1 预测与洞见

“描述”与“解释”之间的区别是科学哲学中一个公认的基石（例如 [HempelOppenheim1948, Salmon1990, Woodward2002Explanation]），并且在机器学习中也早已被认识到（例如 [shmueli2010explain]）。描述详述了现象在特定观测范围内的展开方式；解释则揭示了它为何必须以那种特定方式展开。这种划分清晰地映射到预测与洞见之间的认识论鸿沟。虽然当代预测模型擅长捕捉相关性以预测复杂蛋白质结构或随后的环境状态和观测，但它们仍然本质上是描述性的：即使配备了特定领域的先验，它们也并非设计用来自主发现支撑科学理解的可重用结构不变量，例如物理变量和机制。

相比之下，科学发现完全依赖于我们超越单纯预测而产生解释性洞见的能力。正如认知和哲学探究阐述所强调的那样，**解释的主要功能并非仅仅追踪统计规律，而是揭示系统的不变结构**（例如 [Lombrozo2006, Woodward2004]）。虽然预测满足了即时的“如何”或“是什么”，但解释解决了系统为何对扰动以特定方式做出反应这一基本问题。这意味着科学洞见不仅依赖于不受约束的预测能力，更依赖于基于一组稳定的已发现规律或抽象来做到这一点的能力。正是这些不变的抽象从根本上构成了洞见（例如 [HempelOppenheim1948, Salmon1990]）。**因此，预测与解释紧密相连**：更好的预测应该通过那些易于形成“好”解释的抽象来实现。显然，什么构成好解释的问题至关重要，我们将在下一小节中回到这个问题。然而，我们在此强调，机器学习传统上已将预测与解释分离开来 [breiman2001statistical, shmueli2010explain]。受近期纯预测模型通过扩展（一条常通过“苦涩教训” [sutton2019bitter] 来辩护的路径）取得重大成功的驱动，该领域压倒性地优先考虑纯预测模型而非结构先验，并将解释和解释性主要视为事后考虑，例如通过机制可解释性等范式 [elhage2021mathematical, huben2024sparse]。然而，越来越多的人认识到，预测和解释应该明确联系起来，以实现稳健、可解释且科学上有用的学习，同时避免肤浅的捷径 [herasimchyk2025prediction, hofman2021integrating]。我们认同这一观点。剩下的问题是，学习到的表征必须具备哪些属性才能支持解释而非单纯预测。

### 2.2 一个好的科学解释的结构

关于什么构成一个好的解释的标准在过去一个世纪里已显著演变。早期的论述强调逻辑演绎，后来的工作转向统计和因果关系，而最近的观点则越来越关注揭示生成观测现象的稳定结构。我们并非提供全面的历史调查，而是强调与本文核心论点最相关的发展。重要的是，不应将这些论述视为最终汇聚成一个被普遍接受的解释理论的相继替代品。相反，它们强调了科学解释的互补方面，共同阐明了解释模型应具备的属性。有兴趣进行更广泛阅读的读者可参考 Woodward [Woodward2002Explanation] 的历史综述和 Salmon [Salmon1990] 的全面调查。

Hempel 和 Oppenheim [HempelOppenheim1948] 的演绎-法则模型将解释视为从一般定律和初始条件对观测的逻辑演绎。尽管影响巨大，但 DN 解释后来因混淆逻辑可推导性与解释方向而受到批评，如经典的旗杆与影子例子所示 [Salmon1990, Woodward2002Explanation]：给定太阳角度，旗杆高度和影子长度可以相互逻辑推导，但只有前者**解释**了后者。随后出现的统计、因果和机制解释将注意力从逻辑演绎转向识别对结果真正负责的因素，认识到仅凭统计相关性（例如气压计下降与暴风雨来临之间的相关性）不足以进行因果解释 [Salmon1997]。机制理论进一步将注意力转向揭示产生现象的有组织实体和活动 [Machamer_Darden_Craver_2000]。与此同时，统一论提出，最有力的解释是那些能够用少量基本原则解释许多看似不同现象的解释 [kitcher1989explanatory, Salmon1990]。尽管对于科学解释的单一论述尚未达成共识，但人们日益一致认为，好的解释以其识别稳定、可重用结构的能力为特征。特别是，解释通常被认为同时具备简洁性（即用尽可能少的基本原则捕捉现象）和广泛的解释范围（即用相同原则解释许多观测）的价值。

### 2.3 解释作为信息组织

综合这些观点，解释可被视为一个**信息组织**问题：找到能够解释最多观测的最小可重用机制集合。解释不应被视为对个别现象的孤立描述，而应被视为一个抽象层次的组织体系，将重复出现的模式压缩为可重用的计算单元。这一观点与认知科学和系统理论中长期存在的思想高度一致。Marr [marr1982vision] 认为，理解一个智能系统需要确定适当的表征和抽象层次，并进一步提出了**模块化设计原则**：大型计算应分解为任务允许的尽可能彼此独立的模块，因为这样才能使系统易于调试、改进或演化。同样，Simon [simon1962architecture] 观察到，复杂系统通常是**近似可分解的**，这意味着它们可以被理解为相对独立子系统的集合，这些子系统之间的相互作用远弱于各自内部的相互作用。他还进一步表明，这一性质，加上此类系统通常仅由少量重复出现的基本子系统类型构建而成，正是使得复杂结构能够被给予一种经济的、无冗余描述，而非与结构本身一样繁琐的描述的关键。总体而言，这表明有效的解释不仅来源于信息的积累，更来源于将信息组织成适当抽象层次上的可重用结构。

通过这一视角，科学发现成为一个持续的过程：识别重复出现的规律，并将其封装为可在许多观测中重用的机制。新的观测通过组合、精炼或扩展现有机制库来解释，而非学习全新的模型。随着解释变得越来越可重用，解释新现象所需额外信息量减少，而解释范围却增加。因此，一个面向发现的

（注意：原文在此处截断，最后一句不完整。根据上下文，最后一句应为“学习系统应该围绕表示可重用机制来组织”。但为了忠实于原文，我们只翻译到提供的文本结束。）