神经符号AI的RAIL原则：推理、保证、接口与学习

# 神经符号 AI 的 RAIL 原则：推理、保证、交互与学习
Source: https://arxiv.org/html/2608.04285
Michael Cochez ELLIS Institute Finland &Åbo Akademi University michael\.cochez@abo\.fiCristina Cornelio Samsung AI c\.cornelio@samsung\.comSebastijan Dumancic Delft University of Technology S\.Dumancic@tudelft\.nlArtur d’Avila Garcez City St\. George’s, University of London a\.garcez@city\.ac\.ukLuis C\. Lamb Stony Brook University luislamb@acm\.orgLia Morra Politecnico di Torino lia\.morra@polito\.itMathias Niepert University of Stuttgart mathias\.niepert@ki\.uni\-stuttgart\.deRobert Peharz Graz University of Technology robert\.peharz@tugraz\.atAlberto Speranzon Lockheed Martin,Advanced Technology Labs alberto\.speranzon@lmco\.comMaarten Stol BrainCreators &Vrije Universiteit Amsterdam maarten\.stol@braincreators\.comAnnette ten Teije Vrije Universiteit Amsterdam annette\.ten\.teije@vu\.nlThiviyan Thanapalasingam University of Amsterdam t\.singam@uva\.nlFrank van Harmelen Vrije Universiteit Amsterdam Frank\.van\.Harmelen@vu\.nlEmile van Krieken Vrije Universiteit Amsterdam e\.van\.krieken@vu\.nlAntonio Vergari University of Edinburgh avergari@exseed\.ed\.ac\.ukBenjie Wang UCLA benjiewang@cs\.ucla\.edu

###### 摘要

神经符号 AI 系统将机器学习和符号推理相结合，正迅速受到关注。它们用符号推理算法补充神经网络和语言模型那种数据密集型的统计方法，从而能够在高风险领域或低数据场景中发挥作用，而这些正是许多实际应用的特征。我们认为，机器学习和形式推理的神经符号结合并非 AI 中的小众方法，而是包含了许多已经成功的、对开发可靠、高效乃至最终可信系统至关重要的技术。这一视角促使我们重新审视当前 AI 系统的设计。我们表明，许多领先的 AI 系统——包括一些传统上不被视为神经符号系统的系统——都可以从神经符号 AI 设计的四个原则的角度加以分析：*推理*（Reasoning）、*保证*（Assurances）、*交互*（Interfacing）和*学习*（Learning），即 RAIL。应用 RAIL 框架为看似各不相同的 AI 系统提供了统一视角，涵盖从物理感知机器学习到神经引导搜索（如 Google DeepMind 的 Alpha-* 系列）、因果学习以及工具增强的大语言模型。重要的是，RAIL 原则将使工程师能够在设计和部署生产级 AI 系统时做出更明智、更基于原则的决策。在本文中，我们介绍 RAIL 原则，考察它们如何应用于 AI 的主要领域，并说明它们如何引导从业者将神经符号方法集成到下一代 AI 技术中。

## 1 神经符号 AI

神经符号 AI 将机器学习的统计特性与推理的严谨逻辑特性结合在一起[16](https://arxiv.org/html/2608.04285#bib.bib16)。随着人们认识到，在形式语义框架内结合学习与推理对于 AI 在科学和工程领域实现其全部潜力至关重要，该领域的相关性日益增强[7](https://arxiv.org/html/2608.04285#bib.bib7)、[14](https://arxiv.org/html/2608.04285#bib.bib14)。

摄取传感器、文本和视频流的工业 AI 系统通常由独立设计和优化的临时性、任务特定模块组装而成。这种分而治之的方法加快了开发速度，但也导致流水线缺乏组合性，整体行为没有形式化保证，从而引发错误传播、模块接口不连续，以及难以解释生成模型的推理过程。ChatGPT 发布四年后，LLM 幻觉这一老大难问题仍持续存在，凸显了需要更原则化的解决方案。神经符号 AI 通过将可靠的符号推理嵌入机器学习组件来弥补这一差距，从而对模型输出施加可验证的约束，并允许系统对所学内容进行推理。因此，我们围绕四个核心原则来构建神经符号 AI 的框架：推理（Reasoning）、保证（Assurances）、交互（Interfacing）和学习（Learning），合称 RAIL。它们共同为构建可靠、可解释且具有组合性的工业 AI 流水线提供了统一蓝图。我们将表明，RAIL 原则也适用于那些传统上可能不被视为神经符号系统、但确实将知识注入其学习架构的系统，例如物理信息神经网络和工业模块化流水线。

图 1：神经符号 AI 的四个 RAIL 原则。每个原则都存在于一个定性频谱上，其中间位置展示了神经与符号方法的不同组合。
## 2 神经符号 AI 的 RAIL 原则

### 2.1 推理

推理，即通过串联一系列推理步骤得出结论，在机器智能研究中一直至关重要。它已成功部署于问答、决策支持、规划、故事理解等 AI 系统中。推理可以是演绎的（从前提出发能推出哪些结论？）、溯因的（哪个前提最能解释某个观察结果？）、归纳的（给定数据能证明哪个结论？）或类比的（推理步骤序列之间有什么对应关系？）。此类推理能力通常通过各种形式框架中的显式符号操作来实现[32](https://arxiv.org/html/2608.04285#bib.bib32)。

可靠推理的优势是神经符号 AI 的一个关键优点[14](https://arxiv.org/html/2608.04285#bib.bib14)，其基础是经典逻辑和非经典逻辑中的成果。通过表示模态、时序和概率推理，神经符号方法支持对交互主体的知识、行动和信念进行表示[7](https://arxiv.org/html/2608.04285#bib.bib7)、[14](https://arxiv.org/html/2608.04285#bib.bib14)。实际上，符号组件可以超出逻辑范围，成为任何计算机程序，例如被 LLM 用作推理工具。LLM 的最新进展表明，生成式 AI 如何展现一种非正式的、涌现的、隐性的推理形式，其基础是一种称为思维链的提示过程。我们对 RAIL 原则中推理维度的设计（参见[图 1](https://arxiv.org/html/2608.04285#S1.F1)）承认了这种可能性：一端是完全隐式的推理（例如通过相似性进行的涌现推理），另一端是形式推理。介于两者之间，DeepProbLog[20](https://arxiv.org/html/2608.04285#bib.bib20) 和 Logic Tensor Networks[4](https://arxiv.org/html/2608.04285#bib.bib4) 等神经符号系统探索了从隐式到显式推理的广阔谱系。这包括具有显式符号推理的神经符号系统（神经模型调用符号计算，例如生成 Python 代码并调用解释器），以及结构神经推理[14](https://arxiv.org/html/2608.04285#bib.bib14)（推理编码在神经网络的结构和权重中），其间还有多种神经符号混合形式[7](https://arxiv.org/html/2608.04285#bib.bib7)。我们的推理维度还包含那些通常不被视为神经符号系统的系统，具体来说，我们考虑将背景知识显式编码为符号或隐式编码进架构的系统。尽管 LLM 推理进展迅速，但最近的结果[5](https://arxiv.org/html/2608.04285#bib.bib5)表明，支持语义泛化的几何结构也使得干扰、遗忘和错误回忆不可避免。推理频谱左侧系统的这些固有限制意味着，未来系统若要实现完全可靠的推理，就必须覆盖整个频谱。

### 2.2 保证

RAIL 的这一维度表示神经符号系统相对于给定需求所能提供的保证。这些需求可以采取形式化规范的形式，由