答案集编程焕发活力!使用ASP和能量模型的端到端神经符号推理与学习
摘要
本文提出了一种通用的神经符号推理与学习方法,将答案集编程与基于能量的模型框架进行模块化集成,支持连续潜空间中的联合优化和端到端训练。并在MNIST、CLEVR和MOT基准测试上展示了其应用。
arXiv:2607.08136v1 公告类型:新
摘要:我们提出了一种基于答案集编程与基于能量的模型框架模块化集成的通用神经符号推理与学习方法。主要贡献包括:(1) 通过显式的基于ASP的声明式语义,完全融入背景知识、约束和非单调推理,支持连续潜空间中的联合优化;(2) 通过提供一个通用模型和实用的ASP中心稳健端到端训练平台,推进了答案集、概率逻辑和模理论答案集接口方面的最新工作,适用于动态领域(如涉及感知和交互)的应用。我们提供了实际实现,并展示了基本使用和应用(使用MNIST),并在视觉问答基准Clevr和多目标跟踪基准MOT上进行了评估。
查看缓存全文
缓存时间: 2026/07/10 06:07
# 回答集编程赋能!基于ASP与能量模型的端到端神经符号推理与学习
来源:https://arxiv.org/html/2607.08136
11机构:Constructor University Bremen,不来梅,德国
11邮箱:jsuchan@constructor\.university
22机构:厄勒布鲁大学,厄勒布鲁,瑞典
22邮箱:info@codesign\-lab\.org
33机构:CoDesign Lab > 认知视觉
codesign\-lab\.org/cognitive\-vision (https://codesign-lab.org/cognitive-vision/)
###### 摘要
我们提出一种通用的神经符号推理与学习方法论,基于**回答集编程**与**能量模型**基底的模块化集成。关键贡献包括:(1) 通过显式的基于ASP的声明式语义,在连续潜空间中支持联合优化,完全融入背景知识、约束和非单调推理;(2) 在回答集、概率逻辑和回答集模理论接口的最新工作基础上,提供一个通用模型和实用平台,用于面向**动态领域**(例如涉及感知与交互)的、以ASP为核心的鲁棒端到端训练。我们提供了实用实现,演示了基本使用与应用(使用MNIST),并使用视觉问答基准Clevr和多目标跟踪基准MOT进行了评估。
## 1 动机
机器学习与推理的整合仍然是AI研究中的一个挑战和高关注领域\[9 (https://arxiv.org/html/2607.08136#bib.bib9)\]。解决这一问题在现实世界问题中尤为必要——例如在具体化感知、控制、决策中——涉及交互动态、不确定性与部分可观测性、异常等\[3 (https://arxiv.org/html/2607.08136#bib.bib3),22 (https://arxiv.org/html/2607.08136#bib.bib22)\]。为此,本研究的更广泛目标是,在注重可信赖设计的前提下,实现高维感官结构的高层次、语义引导学习——即可解释性、可理解性、形式化验证——以符合新兴AI监管的伦理法律要求\[1 (https://arxiv.org/html/2607.08136#bib.bib1),8 (https://arxiv.org/html/2607.08136#bib.bib8),18 (https://arxiv.org/html/2607.08136#bib.bib18)\]。主要科学目标是推动系统性、鲁棒的方法论发展,旨在将问题空间的声明式建模语义结构与定量优化和学习相整合。
声明式神经符号主义,端到端。近年来,从知识表示(KR)和机器学习(ML)角度看,神经符号集成已获得越来越多的关注。与此处所涉范围特别相关的是以声明式方法论为中心的集成,涉及基于稳定模型语义的**回答集编程(ASP)**\[4 (https://arxiv.org/html/2607.08136#bib.bib4)\],以及ASP的衍生变体,如专用**回答集模理论(ASPMT)**\[2 (https://arxiv.org/html/2607.08136#bib.bib2),26 (https://arxiv.org/html/2607.08136#bib.bib26)\]和**概率ASP**\[15 (https://arxiv.org/html/2607.08136#bib.bib15)\]。最近,基于这些基本视角的一系列活跃工作涉及KR/ASP与(深度学习驱动的)计算机视觉的集成,旨在实现神经符号视觉常识\[22 (https://arxiv.org/html/2607.08136#bib.bib22),21 (https://arxiv.org/html/2607.08136#bib.bib21),24 (https://arxiv.org/html/2607.08136#bib.bib24),27 (https://arxiv.org/html/2607.08136#bib.bib27),25 (https://arxiv.org/html/2607.08136#bib.bib25),6 (https://arxiv.org/html/2607.08136#bib.bib6),19 (https://arxiv.org/html/2607.08136#bib.bib19)\]。在这里,逻辑和回答集编程的使用作为一个持续的研究线索而突出,视角包括(语义)视觉问答\[21 (https://arxiv.org/html/2607.08136#bib.bib21),6 (https://arxiv.org/html/2607.08136#bib.bib6),19 (https://arxiv.org/html/2607.08136#bib.bib19)\]、动态领域中用于(神经符号)时空信念维护的非单调视觉溯因\[25 (https://arxiv.org/html/2607.08136#bib.bib25)\],以及关于具体化交互的“野外”神经符号推理\[23 (https://arxiv.org/html/2607.08136#bib.bib23)\]。尽管这些工作在技术框架和支持的计算能力上存在差异,但总体潜在动机是统一的:将神经驱动的视觉处理能力(从图像中提取几何场景元素和视觉特征)与高层次、表达丰富的概念常识知识相结合,以支持静态和/或动态刺激的神经符号解释。
这些方法论的一个缺点在于,它们在符号推理和子符号学习之间保持了概念和计算上的分离:神经输出被注入逻辑程序,推理在离散抽象上进行,学习主要由任务级损失驱动,而不是推理机制的完整声明式语义(即非单调框架如ASP所提供的全部表达能力)。这种分离在非平凡的现实世界动态领域成为基本限制,例如在实时视觉等问题中,真正集成的推理和学习需要联合解决诸如感知不确定性、动态时空一致性和非单调常识推理(用于长时间跨度的信念修正)等方面。为了实现**真正的集成端到端推理和学习**,推理机制不能仅仅是一个过滤或验证步骤,而应成为学习过程本身的一个组成部分。因此,所需的是一个神经符号框架,其中符号语义、优化和学习作为模块化但紧密集成且相互影响的计算基础协同工作。
**ASPEn – *ASP赋能!*** 我们提出了一种通用的、声明式的神经符号推理与学习方法论,基于ASP与能量模型(EBM)的集成。核心操作机制涉及将基于ASP的世界模型解释为连续优化景观中的结构化嵌入。在此设置中,基于ASP的稳定模型不再被视为孤立的符号产物,而是作为联合离散-连续空间中的优选配置,通过语义引导的能量最小化获得。先前基于ASP和逻辑编程的神经符号方法,如加权规则满足、稳定模型上的概率选择、回答集模理论中的约束一致性以及基于似然的神经预测,都会对解释施加偏好。我们的方法本质上是基于能量公式的泛化,使这种偏好结构显式且可操作;即逻辑约束、缺省、溯因解释以及针对空间和运动等特定领域的专门项直接**塑造候选世界模型上的能量景观**。重要的是,这种公式支持双向交互,例如非单调推理不仅约束推理,而且还生成结构化的学习信号,影响低层能量景观本身的优化。在我们的方法中,ASP的原生优化结构使得能够在竞争性解释之间进行基于偏好的选择,这一能力自然地与能量最小化相结合。我们通过一个实际实现和实证评估展示了所提出的方法,评估涵盖受控和复杂动态设置。针对社区基准,我们还进行了问题域特定评估,专注于组合视觉推理(*静态情况*;CLEVR\[12 (https://arxiv.org/html/2607.08136#bib.bib12)\])和多目标跟踪(*动态情况*;MOT),涉及关于空间和运动的(常识)神经符号推理与学习。这些实验表明,所提出的方法论可扩展到MNIST\[14 (https://arxiv.org/html/2607.08136#bib.bib14)\]示例之外,支持丰富的声明式建模,并在现实世界挑战(如噪声、模糊性、部分可观测性)下产生鲁棒性能。
## 2 基础预备知识
我们提供与声明式非单调推理以及涉及回答集编程和能量模型的低层优化和学习相关的基础预备知识:
### 2.1 回答集编程(ASP)
回答集编程是一种成熟且广泛应用的声明式语言和鲁棒计算方法,用于多种(非单调)知识表示与推理任务\[20 (https://arxiv.org/html/2607.08136#bib.bib20),10 (https://arxiv.org/html/2607.08136#bib.bib10),11 (https://arxiv.org/html/2607.08136#bib.bib11),4 (https://arxiv.org/html/2607.08136#bib.bib4),16 (https://arxiv.org/html/2607.08136#bib.bib16)\]。它植根于逻辑程序的**稳定模型语义**,ASP中的推理等价于在非单调假设下以模型论推导和选择/优化解释(即稳定模型或回答集),并支持缺省、例外、间接效应和偏好。本质上,ASP通过最小化和优化在备选模型之间支持声明式选择,使其特别适合多种常识推理形式,例如在不完全信息存在下的溯因解释\[25 (https://arxiv.org/html/2607.08136#bib.bib25)\]。
基本ASP语义。一个回答集程序是有限条规则的集合,形式为`h ← b1, ..., bm, not c1, ..., not cn`,其中`h`、`b_i`和`c_j`是(可能带有强否定)的原子,`not`表示**缺省否定**。直观上,该规则表明如果所有正体文字`b_i`都成立,且没有否定文字`c_j`能被推导出来,那么`h`是可推导的。
令`Π`为基化后的ASP程序,`I`为一个解释。`Π`关于`I`的Gelfond-Lifschitz归约通过以下步骤获得:(1) 丢弃每条规则`r ∈ Π`,如果其体部包含一个缺省否定文字`not c`且`c ∈ I`;(2) 从所有保留规则的体部中移除所有剩余的缺省否定文字。
得到的程序`Π^I`是一个正(无否定)逻辑程序。解释`I`是`Π`的一个稳定模型(或回答集),当且仅当`I`是`Π`关于`I`的归约的**极小模型**(在集合包含意义下)。我们将ASP程序的稳定模型记为`SM[Π]`。稳定模型构成自支撑的解释,在非单调解读下满足所有规则。重要的一点是,在此设置中,推理是模型选择性的,而非面向证明的,并且可能存在多个稳定模型,每个对应一个不同的、内聚的世界模型。
### 2.2 能量模型(EBM)
能量模型(EBM)将学习和推理公式化为对定标能量函数的优化,该函数对结构化配置的相容性进行评分\[13 (https://arxiv.org/html/2607.08136#bib.bib13)\]。一个EBM由一个**能量函数** `E_θ(x): X → R` 定义,其中`X`表示可能配置的空间(例如数据、潜变量或结构化假设),`θ`表示一组可学习参数。较低的能量值对应更相容或更优选的配置。EBM中的优化公式化为:`x* = arg min_{x∈X} E_θ(x)`,选择最佳满足学习和施加约束的配置。与概率模型不同,EBM不需要归一化的概率分布;相对能量差异就足以定义配置之间的偏好。
EBM中的学习通过塑造能量景观进行,使得观测到或期望的配置获得比不合理配置更低的能量。给定一组目标配置`D`,训练通常最小化如下损失:`L(θ) = E_θ(x^+) - E_θ(x^-)`,其中`x^+`表示与数据一致的(正)配置,`x^-`表示通过采样或优化获得的负或对比配置。这种对比公式支持弱监督、部分可观测性和结构化预测。能量函数通常可加性分解为:`E_θ(x, y) = Σ_i E_{θ_i}(x, y)`,每一项对应一个约束、交互或偏好。这支持异构知识源的模块化集成。
EBM的一个关键特性是,它们完全以配置上的相容性约束来表示学习和推理,将生成模型和判别模型作为特例,同时避免对显式似然或固定输入-输出映射的承诺\[13 (https://arxiv.org/html/2607.08136#bib.bib13)\]。多个异构约束——例如来自感知或领域知识的约束——可以加性组合成能量项,从而实现对模块化集成的混合配置的联合优化。因此,EBM特别适用于需要将连续表示与符号或关系结构集成在一起的环境,正如本研究所追求的那样。
## 3 ASP赋能!形式框架与实现
ASPEn是一种新颖的方法论,将回答集编程与能量模型以端到端的方式集成,用于声明式神经符号推理与学习,并专门针对具有挑战性的动态领域。基于近期和新出现的神经符号ASP工作(第2节 (https://arxiv.org/html/2607.08136#S2)、第5节 (https://arxiv.org/html/2607.08136#S5)),我们提供了一个面向整个社区的通用平台,用于统一推进以ASP为中心、旨在集成KR和ML的研究、开发、评估和基准测试。
图1:ASPEn:端到端推理与学习架构
### 3.1 ASPEn的语法与语义
一个ASPEn程序`Π`由经典ASP程序`Π_ASP`和一组赋能原子`Π_En`组成,即`Π ≡_def Π_ASP ∪ Π_En`。同样,`SM[Π]`表示`Π`的稳定模型集(第2.1节 (https://arxiv.org/html/2607.08136#S2.SS1))。下面我们主要简洁而实用地强调`Π_En`组件的建模,假设读者已基本熟悉关于第2.1节 (https://arxiv.org/html/2607.08136#S2.SS1)中预备知识的ASP程序的声明式建模。
**ASPEn语法,重点关注`Π_En`。** 能量来自通过特定能量原子引用的能量模型(EBM):
```
energise(rule_name([Args])) :- B.
```
这里,`energise`谓词将一个ASP规则`rule_name([Args])`与一个作为EBM实现的能量函数(第2.2节 (https://arxiv.org/html/2607.08136#S2.SS2))耦合。一个EBM接受`n`个张量作为输入,由赋能规则中的参数`Args`指定,并输出相应的能量`E`。为了将其置于背景中,考虑一个最小工作示例:
###### 示例1
MNIST中的数字值赋值。
考虑一个最小ASP程序,它为一个手写数字图像分配一个数值(0-9),例如这可能是“Addi”的一部分…相似文章
基于回答集编程的强化学习抽象
本文介绍了一种基于回答集编程(ASP)的CARCASS框架实现,用于在强化学习中构建抽象,并在Blocks World和Minigrid领域展示了其有效性。
从大语言模型中蒸馏答案集编程规则用于神经符号视觉问答
本文提出了一种从大语言模型中蒸馏答案集编程规则的方法,以增强神经符号视觉问答,结果表明仅需少量示例即可生成正确的规则。
当进一步推理无益时停止:推理模型中的注意力状态自适应生成
本文提出ASAG,一种无需训练的方法,基于注意力分布自适应地停止大型推理模型的推理,在使用DeepSeek-R1-Distill和Qwen3模型的基准测试中,将token使用量减少约40%,同时准确率提升3.2%。
应用模糊隶属函数的回答集编程:一个案例研究
本文提出了一种基于模糊逻辑的新的回答集编程(ASP)扩展,通过隶属函数将数值信息与定性推理相结合,并通过一个旅游推荐案例研究进行了演示。
能量引导递归模型
介绍能量引导递归模型(ERM),该模型利用Hopfield能量指导递归推理轨迹的选择,在数独、Pencil Puzzle Bench和迷宫任务上实现最先进性能。