建构的现实,有争议的先验:自由能原理下的解耦与认知复发结构

arXiv cs.LG 论文

摘要

本文研究了自由能原理下的“本体论反转”概念,使用卷积变分自编码器探究合成环境是否能永久取代系统的默认生成模型。研究发现表征准确性与默认行为之间存在解耦,并引入了“认知复发”现象,即系统部分回归其原始模型。

arXiv:2607.11958v1 Announce Type: new 摘要:在自由能原理下,预测系统并非直接观察现实;它维护一个世界的生成模型,并体验该模型当前的最佳假设。能否构建一个足够一致的合成环境,使得预测系统自身的推理机制将其采纳为默认假设,永久取代最初塑造它的环境?我们将这种状态称为本体论反转。由于在神经系统中诱导和监测这种转变既不符合伦理也不可行,我们通过一个受控代理研究其背后的计算问题:一个卷积变分自编码器与一个递归潜在预测器配对,其证据下界目标在符号上与变分自由能数学上相同(仅符号相反)。该网络首先在基线视觉域上训练,然后在混合流上训练,其中扫描的排练比率r控制从基线域到目标域过渡期间基线内容的保留量。表征能力(潜在空间能区分的)与默认行为(系统在无约束下生成的内容)分别追踪。在90次运行的完整扫描中,两者急剧分离:表征准确性保持在接近天花板水平(0.97至0.998),与r无关,而默认行为几乎涵盖了系统整个范围,仅取决于r——这是学习与接受之间的解耦。更引人注目的是,在中间r值时,系统的默认输出先向目标域上升,然后部分向基线域回复,而训练保持不变——这是一种结构性失败,我们称之为认知复发。对现实采纳的抵抗不能简化为学习速度;它是一种结构特性,具有自己独特的失败模式,此处仅作为一个计算存在性证明建立,不再深入。
查看原文
查看缓存全文

缓存时间: 2026/07/15 04:17

# 建构现实,争辩的先验:自由能原理下的解耦与认知复发架构
来源:https://arxiv.org/html/2607.11958

**摘要**

根据自由能原理,一个预测系统并不直接观测现实;它维持一个关于世界的生成模型,并体验该模型当前最佳假设,而非直接感官接触。这引出了一个神经科学无法在生物系统中直接检验的问题:能否构建一个足够一致的合成环境,使得预测系统自身的推理机制将其作为默认假设,从而永久取代最初塑造它的环境?我们将这种状态称为**本体论倒置**。由于在神经系统中诱导并监测这种转变既不道德,在技术上也不可行,我们通过一个受控代理来研究其背后的计算问题:一个卷积变分自编码器与一个循环潜变量预测器配对,其证据下界目标在数学上(仅差一个符号)与变分自由能相同。该网络首先在基线视觉域上训练,然后在一个混合流上训练,其中扫描回放比率 \( r \) 控制着在向目标域过渡期间基线内容的保留程度。表征能力(潜空间能区分的)与默认行为(系统在无约束时生成的内容)被分别追踪。在全部 90 次运行的扫描中,两者出现显著分化:表征准确率无论 \( r \) 如何,始终接近上限,介于 0.97 到 0.998 之间;而默认行为则几乎完全由 \( r \) 决定,横跨系统整个范围——这是学习与接受之间的解耦。更引人注目的是,在中间 \( r \) 值下,系统的默认输出趋向目标域,在多数运行中接近完全捕获,然后在训练继续不变的情况下,部分回退至基线——我们将这种结构性失效称为**认知复发**。对现实采纳的抵抗不能简化为学习速度;它是一种结构性属性,具有其独特的失效模式,此处仅作为计算存在性的证明,不再延伸。

**关键词**:自由能原理;主动推理;本体论倒置;预测处理;持续学习;认知复发;表征解耦

## I 引言

神经科学已经达成一个看似抽象但实质上非常具体的论断:大脑并不观察世界,而是建构一个世界的生成模型,并体验该模型当前最佳假设,而非直接通过感官接触[1]。据此观点,感知并非通往现实的窗口,而是一种受控幻觉,其真实性由预测误差来约束,而非直接通向外界真实存在[5]。这并非哲学上的修饰,而是关于皮层推理如何运作的操作性主张,并带有一个容易陈述但难以接受的结构性后果:如果系统所体验为真实的东西是一个模型而非直接读数,那么原则上,该模型以及系统视为真实的东西可以被替换。生成模型并非一个突然显示不同场景的固定窗口。它更接近一个持续存在的假设,不断被辩护且不断可修正,而在适当压力下,这个持续存在的假设可以被另一个不同的假设所推翻。

本文在此提出一个严格而非隐喻性的问题:这种结构性后果实际需要什么条件?能否构建一个内部一致性足够强的合成环境,使得预测系统自身的推理机制默认将其视为所期望的世界,从而完全取代最初训练它的环境?这正是诺齐克体验机所提出的选择问题——一个人是否会选择机器生成的体验而非现实[15];但这里的问题更为严格,因为它关心的并非系统给定选项后会选择什么,而是其自身的推理机制是否根本不再将该选项视为一个活着的可能性。我们将这种状态称为**本体论倒置**:建构的环境成为系统主要的生成先验,成为评估新证据的参照,而不再是一个临时持有的假设,与系统尚未放弃的基线并列。这比信念修正更为严格。一个系统可以详尽地表示一个新环境,但仍然与之保持距离,根据它继续视为基本事实的基线进行评估。现有关于暴露下快速信念更新的研究恰恰处理的是这种较弱的情况:特定信念如何在保持模型其他部分不变的情况下,根据新证据发生偏移[10]。这并未说明模型本身(即进行评估的那个东西)能否被持久地替换。这正是本文所要检验的问题。

直接在活的神经系统中检验这个问题既不道德,在技术上也不可能:无法在脑中安装一个合成的生成先验,监测其与基线先验随时间竞争的过程,并衡量结果——这恰恰会带来问题本身应让人犹豫的危害。所能检验的是底层的计算问题,剥离生物实现细节,在一个内部状态完全可观测、训练历史完全可控的系统中进行。这正是本文中卷积变分自编码器与循环潜变量预测器配对(简称 V+M 模型)[11]所扮演的角色。这种对应并非装饰性的:变分自编码器通过最小化其证据下界进行训练,该量在数学上(仅差一个符号)与上述变分自由能是同一个数学对象:两者均在重建精度与近似后验复杂度之间权衡,以约束惊讶度[12]。以梯度下降训练这个网络,在此狭隘且字面的意义上,就是直接最小化自由能,而非模拟这一想法。网络自发运行的输出(无外部输入约束时产生的输出)代表系统的默认状态,其建模基于生物默认模式网络[6,7,8]中归因于自我参照和内部生成认知的角色,但并未声称该网络的展开行为是那个网络活动的模型。下文是一个关于现实采纳计算问题的数学代理,而非生物学代理,本文中的每个主张都相应地进行限定。

这个代理的两个发现构成了后续所有内容的基础,此处作为结果而非预先构建到模型中的假设陈述。首先是学习与接受的解耦:系统表示基线与目标环境之间区别的能力几乎可以立即达到接近上限,这主要取决于两个环境的可分性;而其默认的、无约束的行为则完全由其他因素决定。其次是认知复发:系统的默认输出可以转向目标环境,在多数情况下接近完全捕获,然后在训练继续且产生初始转向的完全相同条件下,部分回退至基线——这种标志性特征,任何将刚性仅仅解释为学习速度缓慢的论述都无法预测。这两个发现共同将认知刚性重新定义为一个具有至少两种独立失效模式的结构性属性,而非单一更新速率。这一框架将在第二节(https://arxiv.org/html/2607.11958#S2)中正式展开,并在第三至五节(https://arxiv.org/html/2607.11958#S3)至(https://arxiv.org/html/2607.11958#S5)中通过完整实验扫描进行检验。以下内容并未证明生物神经系统会如此行为。它只是证明:一个源自第一性原理的机制,在一个其行为未被预先假设且可能未能显示任一模式的网络上进行测试,产生了与机制预测一致的结果。这就是主张的范围,第五.D节(https://arxiv.org/html/2607.11958#S5.SS4)将完整说明其局限性。

## II 理论框架

根据自由能原理,系统维持一个内部生成模型 \( P(o,s) \),指定感官观测 \( o \) 及其隐藏原因 \( s \) 的联合概率[1]。由于真实后验 \( P(s \mid o) \) 通常是不可处理的,系统用识别分布 \( Q(s \mid \mu) \) 来近似,其中 \( \mu \) 表示编码当前信念的内部状态。变分自由能 \( F \) 是这个近似与真实后验之间的散度,加上观测本身的惊讶度:
\[
F = \mathrm{KL}\big[ Q(s \mid \mu) \,\|\, P(s \mid o) \big] - \log P(o) \tag{1}
\]
由于 KL 散度非负,\( F \) 给出了惊讶度的上界,因此最小化 \( F \) 同时驱动识别分布趋近真实后验,并抑制传入证据所产生的意外[2,3]。

由此得出两个后果。体验是生成模型的功能,而非原始感官输入;系统在任何时刻所表示的是其当前的最佳假设,其权重由分配给每个证据的精度决定。并且模型是可塑的:持续的预测误差——当前模型不再适合传入证据的持久信号——会驱动模型参数的变化,以及在更长时间尺度上,驱动实现这些参数的底层基质的变化[3,4,9]。

### II-A 本体论倒置:定义与条件

本体论倒置是指这样一种状态:合成环境 \( I_s \) 取代基线环境 \( I_0 \),成为系统主要的生成先验——即系统默认用于评估新证据的模型,以及在未受外部输入驱动时主导自我参照和内部生成处理的模型。这不同于一个能够令人信服地表示 \( I_s \) 但仍在默认状态下保留 \( I_0 \) 作为后备的系统。它是指系统无约束的、自生成的输出以 \( I_s \) 而非 \( I_0 \) 为中心的状态。

本体论倒置必须同时满足三个条件:
1. 系统的内部表示必须能够可靠地区分 \( I_s \) 和 \( I_0 \),其程度超过在暴露于对方之前任一表示单独所能达到的水平。
2. 系统的默认、自生成输出(在无外部输入约束时产生)必须围绕 \( I_s \) 而非 \( I_0 \)。
3. 在 \( I_s \) 主导模型下的总变分自由能必须已降至与稳定预测一致的水平,即系统已充分学习 \( I_s \),使得 \( I_s \) 内部的新证据产生低惊讶度。

这三个条件单独任何一个都不足够,这正是本文旨在检验而非假设的理论主张。高表征准确率(条件 1)并不必然意味着系统默认输出已经转移(条件 2):系统可以学会区分两个环境,但这种区分能力并不决定它在无约束时产生什么。同样,默认输出的转移也不能保证其稳定性:系统的无约束输出可以移向 \( I_s \),但仍然受制于一个自由能景观(条件 3),在该景观中 \( I_0 \) 仍是一个活着的竞争者,而非一个完全被取代的替代选项。第 II-B 和 II-C 节将阐述将条件 1 和条件 2 视为真正可分离、以及将条件 3 视为可达到而后部分失去(而非一次达到便永远保持)所带来的推论。

### II-B 残余对比与并发对比

预测误差需要一个差异:当前模型的期望与系统接收到的信息之间的不匹配。一个专门在 \( I_s \) 上训练、训练信号中完全不涉及 \( I_0 \) 的系统,初看似乎拥有通往本体论倒置的最直接路径。这是否成立,取决于本文理论框架视为核心的一个区别,而先前的对比驱动巩固框架通常会含蓄地忽略这一点。

基线暴露可以通过两种不同方式驱动预测误差:
- **残余对比**是指系统因先前暴露于 \( I_0 \) 而已经携带的结构,在任何过渡协议开始之前就已建立,并存在于系统参数中,无论之后接收到什么。一个已经形成强大内部 \( I_0 \) 模型的系统,一旦在 \( I_s \) 上训练,就会产生大量预测误差,纯粹因为 \( I_s \) 不适合它已有的模型,无需 \( I_0 \) 出现在后续的训练流中。
- **并发对比**则性质不同:它是在整个过渡协议期间持续传递的基线信号。其效果不依赖于系统参数已编码的内容,而依赖于 \( I_0 \) 作为真实的、当前的证据在整个协议运行期间持续到达。

这两个角色做出不同的、可检验的预测。如果只有残余对比重要,那么一个对 \( I_0 \) 有强烈先前暴露的系统,即使在过渡期间没有并发的 \( I_0 \) 暴露,也应该能够完成向 \( I_s \) 的倒置,因为驱动巩固所需的预测误差已经从现有结构与新证据之间的不匹配中获得了。如果并发对比本身也很重要(而不仅仅是残余结构的代理),那么在整个协议期间持续传递真实的 \( I_0 \) 证据,应该会继续产生有利于 \( I_0 \) 作为候选模型的预测误差,只要该证据持续到达,即使在系统的默认输出已经转向 \( I_s \) 之后。根据第二种解读,并发对比不仅仅是减缓正在进行的倒置。它在存在的整个持续时间内,始终是对任何已巩固内容的一个活的竞争压力。

第三节(https://arxiv.org/html/2607.11958#S3)中的实验旨在直接分离这两种解读:通过保持残余对比恒定(所有条件从相同的基线训练起点开始),同时将并发对比作为一个连续扫描的参数进行变化,而不是事先假定一个最优的固定值。

### II-C 两种预测的失效模式:解耦与复发

两个具体预测直接源自第 II-A 和 II-B 节,此处作为实验将严格检验的主张陈述如下。

相似文章

出于必要性的偏差:收敛式人工智能与人类验证中顺序处理的不可能性定理

arXiv cs.AI

本文证明了不可能性定理,表明由于因果掩码(causal masking)约束,首要效应(primacy effects)、锚定效应(anchoring)和顺序依赖性(order-dependence)是自回归语言模型中架构上必然存在的偏差。作者跨越12种前沿大语言模型验证了这些理论界限,并通过涉及工作记忆负荷的预注册人类实验证实了相关预测。