内部动作映射的校准测试：无全局仿射闭包的状态信号

# 1. 引言
来源：https://arxiv.org/html/2608.13626
内部动作映射的校准测试：

无全局仿射闭包的状态信号

杨德坤¹,\*

¹浙江大学

\*通讯作者：pauliyangwork@gmail\.com

ORCID：杨德坤：0009\-0002\-3496\-3596 (https://orcid.org/0009-0002-3496-3596)

预印本；证据截止日期 2026年8月12日

摘要\.一个隐藏的状态信号可以在不支持可复用动作映射的情况下被解码或因果可用。我们测试了在不含来源的情况下拟合的动作映射是否能达到其自然的动作后激活并进行组合。我们将测试组织为一个证据格，并在已知的仿射S5S\_{5}载体上验证几何分支：所有保留来源的折叠均通过了单步、组合、逆、解码和交换性门控。结构化曲率和保留域共轭会单调增加误差，但仅有23/30个最强单元翻转了闭包门控，这限定了校准的范围而非使其普遍化。在经过后训练的Qwen/Qwen3\-4B中，冻结的最终标记h28仿射映射的平均保留实体误差为.519\.519，而测试域内交叉拟合的误差为.398\.398。七种随机实体分割和映射几何并不支持纯粹特定实体的解释。早期的h4/h16层更好地拟合了单步转换，但h4的冲突状态解码较弱，且词汇控制尚未解决。从单个冻结检查点重新生成的三个匹配干预数据集仅在h28/h36层显示因果效应。具有结果意识的重新拟合将h28的单步误差改进至.474\.474（带权重时为\.469\.469），但没有一次重新拟合通过组合测试。学习到的有限世界同样保留了相对代数信号或共享图表，但没有保留来源的仿射闭包。在测试的载体中，状态可用性、因果用途、局部几何和可复用闭包是可分离的。该结果仅限于一个预训练模型、采样的最终标记层、两个有限世界以及测试的仿射或诊断函数类。

关键词：机械可解释性；因果干预；组合泛化；算子闭包；表示几何；置换群

跟踪变化世界变化的模型必须将实体与其当前属性绑定，在操作后更新这些属性，并将结果向前传递。语言模型的激活可以编码实体状态，并且对这些激活的干预可以改变后续预测[12 (https://arxiv.org/html/2608.13626#bib.bib1);9 (https://arxiv.org/html/2608.13626#bib.bib2)]。其他工作已识别出在微调和信念跟踪过程中路由或检索状态信息的计算[14 (https://arxiv.org/html/2608.13626#bib.bib3);15 (https://arxiv.org/html/2608.13626#bib.bib4)]。这些发现共同确立了状态信号的存在及其相关性，但并未证明每个动作都实现了一个稳定的函数，该函数能够迁移到未见过的来源并与其他动作组合。

一些较弱的观察可能看起来像是此类算子的证据。探针可能解码一个离流形激活，或者一个仿射映射可能优于平均方向，同时仍然遗漏了大量自然目标位移。当两个端点都不准确时，正确和反转的动作顺序也可能被排序。静态关系映射、任务向量和函数向量使得算子假说似乎合理[6 (https://arxiv.org/html/2608.13626#bib.bib5);5 (https://arxiv.org/html/2608.13626#bib.bib7);16 (https://arxiv.org/html/2608.13626#bib.bib6)]。这些观察中没有一个能单独确立对变化世界状态的闭包性。

因此，我们的测量框架是一个格子，而非顺序阶梯。一旦状态信息的可用性得到确立，因果局部用途和可复用闭包/代数定律就可以独立测试。未检测到输出效应的几何信息仍然具有信息量，没有保留来源闭包的因果用途也是如此。两者都不是完整的主张。在行为上合格的任务中，只有来自两个分支的证据才能支持“因果忠实的可复用算子”这一表述。这种偏序避免暗示因果修补必须先于每一个几何诊断。

我们研究了一个受控的语言模型设置以及两个精确的有限世界。基础实验冻结了后训练的思考/非思考Qwen/Qwen3\-4B检查点用于炼金术状态更新任务。其他实验在一个具有121个状态的Z112\\mathbb\{Z\}\_\{11\}^\{2\}系统和120个状态的置换群S5S\_\{5\}中训练仅解码器Transformer。炼金术保留了语言模型的上下文依赖性并允许配对干预。有限世界提供了完整的转换表、交换标签、逆元和训练轨迹。

一个失败的门控立即引发一个构念效度问题：当算子已知存在时，测试是否会通过？我们用一个端到端的阳性对照来回答这个问题，即一个已知的上下文化S5S\_\{5\}载体，在相同的保留来源逻辑下进行评估。一个奇偶性支持分割、平滑观察曲率和保留域坐标共轭随后对该载体进行压力测试。精确恢复检查实现情况；结构化压力测试在错误指定情况下探测行为。它们的校准具有信息量但有限，因此我们不将在一个有利噪声族上的成功视为普遍能力的证据。

基础结果将重构、因果用途和载体身份分开。测试域内交叉拟合改进了h28的重构，但随机实体分割并不支持由实体身份主导的映射。动作身份反而主导了测试的参数几何。单步重构在h4/h16最佳，而独立重新生成的配对干预在h28/h36有效。词汇和状态探针控制并未确定h4是否是一个表面载体。最后，一个冻结的桥接将大部分明显的h28单步改进归因于最终的重新拟合，而非逆位移权重或更大的仿射函数类。那些重新拟合的映射仍然未能通过组合测试。

在方法上，该研究提供了一个围绕自然端点、保留来源、用于负面和受阻结果的不同标签以及对每个形式性后续步骤的独立审计而构建的校准证据格。在实证上，测试的表示分离了状态可用性、因果用途、动作主导的参数几何、单步规格敏感性、相对代数区分度和全局仿射闭包。这些发现适用于测试的载体和假设，它们并非对内部算子的普遍否认。

## 2. 相关工作

### 2.1 状态跟踪与因果状态用途

实体跟踪研究表明，隐藏激活可以包含动态的世界信息。[12 (https://arxiv.org/html/2608.13626#bib.bib1)]结合了翻译与干预，而[9 (https://arxiv.org/html/2608.13626#bib.bib2)]研究了跨实体和序列条件的行为跟踪。在过程性文本中，神经过程网络使用学习到的动作算子更新设计的实体记忆状态[2 (https://arxiv.org/html/2608.13626#bib.bib12)]。后来的工作研究了微调如何重用实体跟踪机制，以及回溯操作如何将信念绑定到早期观察[14 (https://arxiv.org/html/2608.13626#bib.bib3);15 (https://arxiv.org/html/2608.13626#bib.bib4)]。这些研究共同处理了可用性、绑定、因果相关性和架构指定的状态转换。我们的闭包分支则问了别的问题：从现有模型残差流中恢复的动作条件映射，是否能预测拟合中排除的来源的自然动作后表示。

### 2.2 线性变换与复合函数

仿射关系解码器可以将主体映射向客体并支持因果编辑[6 (https://arxiv.org/html/2608.13626#bib.bib5)]。任务和函数向量可以总结演示诱导的计算并影响输出行为[5 (https://arxiv.org/html/2608.13626#bib.bib7);16 (https://arxiv.org/html/2608.13626#bib.bib6)]。关于连续潜在变量和组合基元的工作将这一想法扩展到多步计算[4 (https://arxiv.org/html/2608.13626#bib.bib10);13 (https://arxiv.org/html/2608.13626#bib.bib8)]。

[8 (https://arxiv.org/html/2608.13626#bib.bib13)]研究了双跳事实函数g⁡(f⁡(x))g(f(x))，识别了中间变量的残差流特征，并比较了直接与组合机制。我们的对象、表示、闭包测试和因果主张则不同。我们基于显式世界动作来条件映射，评分自然隐藏端点，从拟合中排除实体或来源状态，并且仅在绝对重构后解释相对定律。中间表示可以支持函数评估，而无需形成全局仿射动作代数。

### 2.3 代数结构与世界模型

在合适的任务和接口下，结构研究表明代数计算可以被学习或强加。[11 (https://arxiv.org/html/2608.13626#bib.bib14)]在置换词训练的Transformer中识别出结合性和奇偶结合机制。[1 (https://arxiv.org/html/2608.13626#bib.bib15)]将表示层级同态错误与组合泛化联系起来。[10 (https://arxiv.org/html/2608.13626#bib.bib16)]使用保留的转换对、漂移、同态和交换子诊断评估结构化循环接口。这些构造启发了我们阳性载体的构建，并解释了为什么在普通残差流中的失败并非不可能结果。

行为提供了另一个正交标准。在马尔可夫决策过程上训练的Transformer可以编码转换动力学[3 (https://arxiv.org/html/2608.13626#bib.bib17)]，但强大的局部预测可能与不连贯的恢复世界模型并存[17 (https://arxiv.org/html/2608.13626#bib.bib9)]。探针控制引发了一个相关担忧：一个测量可能奖励其自身的拟合能力而非预期构念[7 (https://arxiv.org/html/2608.13626#bib.bib11)]。一个过期的搜索日志记录了数据库、查询族、筛选边界和最接近工作特征矩阵。在该记录的截至2026年8月12日的搜索中，我们未发现先前研究同时结合了已知代数校准、保留来源的自然端点、匹配干预、定律测试、行为合格性以及对现有语言模型和精确有限系统的独立工件审计。这是对该综合协议的搜索限定描述，而非主题层面的优先声明。

## 3. 证据框架

### 3.1 从状态信号到动作映射

令h⁡(s,c)h(s,c)为上下文或历史c中世界状态s的表示。对于动作a，主要族是：

Aa(h)=Wah+ba。A\_{a}(h)=W\_{a}h+b\_{a}\。
仅插值观察到的对是不够的。一个可复用的WaW\_{a}必须跨实体、上下文、历史或从拟合中排除的来源状态进行迁移。对于炼金术，行相对端点误差是‖Aa(h)−h′‖2/‖h′−h‖2\\\|A\_{a}(h)\-h^{\{\prime\}}\\\|\_{2}/\\\|h^{\{\prime\}}\-h\\\|\_{2}；因此，当位移非零时，恒等映射的误差为1。在有限世界中，归一化均方根误差（NRMSE）将合并平方误差除以冻结的方差参考值。这两个指标都是将预测与自然的动作后激活进行比较，而不仅仅是检查解码标签。

考虑一个最初处于状态green的保留实体，接着进行fill\_red和fill\_blue。状态探针检查最终激活是否解码为blue。顺序测试比较AblueAredhA\_{\mathrm{blue}}A\_{\mathrm{red}}h与反转的顺序。绝对闭包则询问组合点是否与保留来源的自然最终激活匹配。探针和顺序测试都可能成功，而该端点仍然不准确。

状态可用性与因果局部用途是分开测量的。在保留数据上，一个固定的探针与确定性随机标签控制进行评估。预注册的残差替换必须比匹配的错误状态或平移控制改变更多目标与来源的对数几率差。因为修补可能将激活移出流形，成功的干预授权的是一个因果可用的方向，而非自然遍历的转换。

### 3.2 绝对闭包与相对定律

H1将单步重构与恒等、平均平移和随机映射控制进行比较。基础诊断还包括一个残差MLP、径向基函数核岭回归、测试域内交叉拟合、来源状态标签门控仿射库以及一个乐观的样本内容量上限。每个参考回答不同的问题，其中一些并非可部署的机制。

H2对Ab(Aa(h))A\_{b}(A\_{a}(h))与自然两步端点进行评分，并将其与直接拟合的两动作映射进行比较。因为第二个设置器会覆盖第一个，设置器域还需要一个仅最后动作的基线。冻结的综合决策结合了端点误差、直接映射差异、顺序效应和状态探针增益。仅凭顺序对比无法单独通过H2。

H3涉及交换性。在炼金术中，其推断单元是匹配的同实体对和异实体对。在有限世界中，转换表标记每个无序动作对；AUROC随后测量归一化交换子是否将非交换对排在交换对之上。H4应用真实逆并评分返回到来源表示。在检查点层面，H5测试了代数违规是否与行为不连贯性共变。

### 3.3 门控、分支与证据标签

表1：证据格\.可用性支持两个独立分支。只有在行为合格性下的它们的合取才能授权最强的算子主张。所有阈值、分区和推断单元在相应形式结果之前已被冻结。不支持表示一个可测试的联合门控失败。未测试记录一个上游阻塞的实验。不可测试记录一个缺失的逻辑前提或可用观察。右删失记录一个在固定预算内未观察到的事件。诊断分支的结果不能重写较早的冻结裁决。

图1：内部动作映射主张的证据格。状态可用性支持对因果局部用途和可复用闭包/定律的独立测试。行为合格性守护模型层面的解释。没有检测到因果用途的几何，以及没有闭包的因果用途，仍然是不同的部分结果；只有它们的合取才能授权一个因果忠实的可复用算子。有向边表示证据先决条件，而非时间出现或中介。该图不包含采样观察。

## 4. 实验设置

### 4.1 受控炼金术与分割支持

基础实验使用了Qwen/Qwen3\-4B的一个固定局部快照，即后训练的思考/非思考检查点，而非Qwen3\-4B\-Base。它有36个Transformer层和2,560的隐藏宽度；权重从未更新。提示描述了处于五种状态之一的容器：empty、red、blue、green或yellow。动作清空容器或用一种颜色填充它。表示取自最终提示标记。

最初的Phase 1扫描冻结了h28，因为它是最早通过直接状态解码和配对状态特定干预的采样位置。该分割排除了实体身份和生成的上下文/激活实例，而非状态类别或两个主要模板。

表2：基础分割支持。该协议排除了实体和生成的上下文/激活实例，而非状态类别或两个主要模板。