自组织数字电路

# 自组织数字电路
来源：https://arxiv.org/html/2608.02606
Marcello Barylli¹， Gabriel Béna²¹¹footnotemark:1， Alexander Mordvintsev³， Eleni Nisioti¹， Sebastian Risi¹ ¹哥本哈根信息技术大学 ²伦敦帝国理工学院 ³谷歌，智能范式团队 bary@itu\.dk， g\.bena21@imperial\.ac\.uk

###### 摘要

经典计算中的容错传统上依赖于静态策略，如硬件冗余和纠错码。相比之下，生物系统表现出自适应可塑性，通过在损伤周围进行动态重组来维持功能。受这一原则启发，我们引入了自组织数字电路，将功能逻辑生成与维护构建为图上的元学习问题。我们的架构采用一个拓扑掩码 Transformer，用于配置电路布尔门的查找表（LUT）。它扩展了神经细胞自动机（NCA）的模式生成范式，在退化的布尔搜索空间中导航以满足计算任务，而不是重新生成一个固定的目标状态。我们证明，它可以从零开始自组装功能电路，并能在永久性、前所未见的硬件故障周围快速重新路由逻辑。对于软错误，该策略在远超训练条件的损伤规模下实现了接近完美的恢复（>99.99% 准确率）。我们还观察到跨电路规模的泛化：在比训练时显著更宽的图上，准确率有所提升。这项工作将生物自组织原理与数字硬件的实际领域连接起来。

投稿类型：全文

数据/代码 + 电路可视化 可在以下网址获取：https://github.com/GabrielBena/boolean_nca_cc/tree/gabi††© 2026 Marcello Barylli, Gabriel Béna, Alexander Mordvintsev, Eleni Nisioti, Sebastian Risi。根据知识共享署名 4.0 国际（CC BY 4.0）许可发布。

## 引言

鲁棒性是现代信息学的核心原则。现代系统具备令人印象深刻的容错能力，利用纠错码（ECC）、模块冗余和复杂的回退协议等机制来确保优雅降级（Neumann,1956 (https://arxiv.org/html/2608.02606#bib.bib61)；Woods and Lightbody,2008 (https://arxiv.org/html/2608.02606#bib.bib52)）。然而，这些工程上的成功通常依赖于预见：资源被预先分配，故障模式被提前建模。当系统遭遇到超出其冗余预算或违背其故障模型的损伤时，往往会脆性地失效。

参见图注
图 1：从自组织图像到自组织电路。A) 基于 LUT 的门构成的数字电路可能因翻转 LUT 内容的错误而损坏。B) NCA 通过局部消息传递实现自组织、自修复的图像（Mordvintsev 等人，2020 (https://arxiv.org/html/2608.02606#bib.bib20)）。C) 我们将这一范式扩展到电路：每个 LUT 维护一个隐藏状态，并通过邻居通信更新其逻辑。D) 在部署时，训练好的局部策略无需全局监督即可修复损伤。

生物智能提供了另一种补充范式：自适应可塑性。自然自动机，如哺乳动物大脑皮层，并不单纯依赖静态备份。相反，它们通过动态地重新利用存活的组件来补偿损伤，从而维持功能，这一现象被称为皮层重映射（Nudo,2013 (https://arxiv.org/html/2608.02606#bib.bib19)）。这种恢复力不是预先编程的，而是涌现的，并且由生物网络的简并性所促成：即存在结构不同但功能等效的通路（Edelman and Gally,2001 (https://arxiv.org/html/2608.02606#bib.bib72)）。

受这些生物学原理以及冯·诺依曼早期假设——系统应当“跨越错误运行”（von Neumann,1966 (https://arxiv.org/html/2608.02606#bib.bib17)）——的启发，我们的目标是赋予数字硬件类似的能力。正如 Woods 等人所强调的（Woods and Lightbody,2008 (https://arxiv.org/html/2608.02606#bib.bib52)），真正的硬件自主性对于远程部署至关重要，例如与地球失去联系的深空任务。这要求超越简单的冗余，转向类似有机体的自愈能力，即集体在失去个别组件的情况下仍能维持功能。然而，在当前的可重构计算系统（如现场可编程门阵列，FPGA）中，这种错误缓解受到“重构惩罚”的限制：即全局监控故障和重新映射逻辑的开销（Woods and Lightbody,2008 (https://arxiv.org/html/2608.02606#bib.bib52)）。

为了解决这一问题，我们引入了一个自组织数字电路框架，用去中心化的局部策略取代全局、受监督的重构。我们将神经细胞自动机（NCA）范式从模式形成扩展到功能逻辑生成。在 NCA 中，简单智能体仅与其局部邻居通信，却能集体产生全局协调的行为。我们将这一原理应用于可编程逻辑门基底，其中每个智能体对应一个门，其真值表是一个可微分参数。当一个门发生故障（无论是可逆损坏还是永久损坏）时，电路必须被重新配置。重新配置的目标是恢复原始输入-输出函数（图 1 (https://arxiv.org/html/2608.02606#Sx1.F1)）。

我们的架构通过两个阶段进行元学习。局部更新规则通过时间反向传播离线训练，利用连续 LUT 松弛的可微性。一旦训练完成，它仅使用局部前向传播来优化电路，因此昂贵的全局优化只需付出一次代价，所得策略可以在没有可微分硬件组件的情况下组装和修复电路（Sunada 等人，2025 (https://arxiv.org/html/2608.02606#bib.bib18)）。

### 主要贡献

- •我们引入了拓扑掩码 Transformer（TMT），这是一个在二进制布线掩码下循环应用的共享权重注意力模块，将电路优化摊销为部署时的前向传播，且无需可微分硬件。
- •TMT 在比训练时所见大 5 倍的软错误模式上实现了 >99.99% 的恢复率，且编辑规模与扰动规模无关。
- •在随机拓扑上训练的策略能够泛化到未见过的更大电路，其宽度为训练时的 1.7 倍（264 → 450+ 节点）。

## 背景与相关工作

可进化硬件。可进化硬件（EHW）应用进化算法在 FPGA 等可重构基底上发现或修复电路配置（Thompson,1997 (https://arxiv.org/html/2608.02606#bib.bib84)；Whitley 等人，2021 (https://arxiv.org/html/2608.02606#bib.bib83)）。EHW 已展示了电路进化和在线故障恢复，与我们的核心目标——自主硬件适应——一致。然而，进化搜索对每个单独电路都产生完整的计算成本：染色体长度随电路复杂度增长，即使对于中等规模的设计，所产生的搜索空间也需要大量资源（Haddow and Tyrrell,2011 (https://arxiv.org/html/2608.02606#bib.bib85)）。我们的框架通过在训练中见过的所有电路上摊销优化成本来解决这一问题，用部署时的单一确定性前向传播取代基于随机种群的搜索。

从模式形成到功能基底。神经细胞自动机（NCA）用神经网络参数化局部更新规则，从而在网格上实现自组织模式形成（Mordvintsev 等人，2020 (https://arxiv.org/html/2608.02606#bib.bib20)）。最近的扩展已将 NCA 推广到任意图拓扑（Grattarola 等人，2021 (https://arxiv.org/html/2608.02606#bib.bib21)）以及动态计算任务（Béna 等人，2025 (https://arxiv.org/html/2608.02606#bib.bib65)），但自动机的状态始终是数据本身。

我们提出一个根本性的转变：将细胞状态视为处理数据的功能基底。每个细胞成为一个可编程逻辑门，其真值表由学习到的局部策略优化，从而使电路成为一个自组织系统。由于门会收敛到离散的布尔逻辑，所得电路仍可进行形式化验证（Kresse 等人，2025 (https://arxiv.org/html/2608.02606#bib.bib57)）。

与此同时，Miotti 等人（Miotti 等人，2025 (https://arxiv.org/html/2608.02606#bib.bib55)）使用可微分逻辑门来参数化 NCA 更新规则，以实现硬件原生实现；我们的目标是正交的，因为我们使用类似 NCA 的模型来优化门本身。

基于注意力的局部策略。图注意力网络（Veličković 等人，2018 (https://arxiv.org/html/2608.02606#bib.bib25)）引入了图上可学习的、基于内容的消加权。随后的图 Transformer 架构通过结构编码和边特征增强了注意力（Dwivedi and Bresson,2021 (https://arxiv.org/html/2608.02606#bib.bib60)）。我们的方法刻意更为简约：我们应用一个单一的共享权重 Transformer 块，其注意力通过二进制拓扑掩码限制在布线邻居内，且不添加额外的结构编码。这种拓扑掩码 Transformer（TMT）被循环应用，内化了一种局部搜索策略，取代了显式的全局优化器，这与近期关于元训练上下文学习者的工作相关（Kirsch and Schmidhuber,2022 (https://arxiv.org/html/2608.02606#bib.bib1)；Kirsch 等人，2024 (https://arxiv.org/html/2608.02606#bib.bib10)）。

## 方法

### 问题定义

我们将数字电路建模为一个由可编程查找表（LUT）组成的有向无环图（DAG），这些 LUT 通过固定导线连接（见图 1 (https://arxiv.org/html/2608.02606#Sx1.F1)A）。电路接收全局二进制输入x∈{0,1}Nin\\mathbf\{x\}\\in\\\{0,1\\\}^\{N\_\{in\}\}，并产生输出y^∈{0,1\}Nout\\hat\{\\mathbf\{y\}\}\\in\\\{0,1\\\}^\{N\_\{out\}\}\。每个门的元数为kk，并由一个包含2k2^\{k\}个条目的 LUT 参数化，该 LUT 完全指定其布尔函数。导线是整数索引，从上一层输出中选择位，允许任意连接性和扇出。门按前馈层排列；对于我们的 12 位任务，k=4k=4，这产生了一个大小为(96,96,48)(96,96,48)的三隐藏层架构。

在部署期间，两类硬件故障可能损坏门的 LUT：（i）可恢复（软）错误，翻转 LUT 条目但可以被覆盖；以及（ii）永久（卡滞）故障，不可逆地钳制门的输出。给定目标布尔函数ff，目标是学习一个去中心化的局部策略，该策略配置 LUT 使得y^=f\(x\)\\hat\{\\mathbf\{y\}\}=f\(\\mathbf\{x\}\)，并能在未见过的故障后自主恢复此映射，且在部署时无需全局监督或反向传播。

电路初始化为带噪声的“软导线”：每个门的 LUT 在其一个输入上充当恒等直通（按轮询方式分配），并加入少量加性噪声以打破对称性。

### 模型：拓扑掩码 Transformer（TMT）

为了应用自组织原理，我们将电路提升为一个图G=\(V,E\)\\mathcal\{G\}=\(\\mathcal\{V\},\\mathcal\{E\}\)，其中每个节点viv\_\{i\}对应一个门或输入引脚（图 1 (https://arxiv.org/html/2608.02606#Sx1.F1)C）。然后我们学习一个局部消息传递策略，该策略发现通信协议以满足目标逻辑。

节点状态。每个节点携带一个状态向量：

si=\[li,mi,pi\]\.\\mathbf\{s\}\_\{i\}=\[\\boldsymbol\{\\ell\}\_\{i\},\\mathbf\{m\}\_\{i\},\\mathbf\{p\}\_\{i\}\]\.其中，LUT logitsli∈R2k\\boldsymbol\{\\ell\}\_\{i\}\\in\\mathbb\{R\}^\{2^\{k\}\}定义门的逻辑，潜在记忆mi∈Rdhidden\\mathbf\{m\}\_\{i\}\\in\\mathbb\{R\}^\{d\_\{hidden\}\}\（dhidden=64d\_\{hidden\}=64）用于循环状态，以及归一化深度di/Dd\_\{i\}/D的正弦位置编码pi\\mathbf\{p\}\_\{i\}，该编码对电路规模不变。可选地，追加一个标量反馈信号rir\_\{i\}（如下所述），得到si=\[li,mi,pi,ri\]\\mathbf\{s\}\_\{i\}=\[\\boldsymbol\{\\ell\}\_\{i\},\\mathbf\{m\}\_\{i\},\\mathbf\{p\}\_\{i\},r\_\{i\}\]。

连接性。图拓扑镜像电路的布线。在随机拓扑机制中，连接通过随机排列前一层输出索引生成，确保均匀扇出，同时保持 DAG 结构。我们强制双向边：每条前向导线A→BA\\rightarrow B都隐含一条后向消息传递边B→AB\\rightarrow A。

更新规则。我们将更新规则参数化为一个在NN个门令牌上同时运行的单块 Transformer。我们用M^\\hat\{\\mathbf\{M\}\}表示层归一化（Ba 等人，2016 (https://arxiv.org/html/2608.02606#bib.bib75)）后的矩阵M\\mathbf\{M\}。节点状态S\\mathbf\{S\}被投影到潜在空间（dattn=128d\_\{attn\}=128）：

Z\(0\)=S^WinT∈RN×dattn\\mathbf\{Z\}^\{\(0\)\}=\\hat\{\\mathbf\{S\}\}\\,W\_\{in\}^\{T\}\\in\\mathbb\{R\}^\{N\\times d\_\{attn\}\}\(1\)一个单一的注意力块，其注意力通过二进制拓扑掩码M∈\{0,1\}N×NM\\in\\\{0,1\\\}^\{N\\times N\}限制在布线邻居内，对潜在表示进行精炼。我们采用Pre-LN归一化（Xiong 等人，2020 (https://arxiv.org/html/2608.02606#bib.bib79)），对查询和键/值使用独立的 LayerNorm，并采用 QK 归一化（Dehghani 等人，2023 (https://arxiv.org/html/2608.02606#bib.bib78)）以稳定跨循环步骤的注意力 logits。残差分支通过 ReZero（Bachlechner 等人，2020 (https://arxiv.org/html/2608.02606#bib.bib11)）进行门控：学习到的标量α\\alpha初始化为零，使得该块初始时充当恒等映射：

Z′\\displaystyle\\mathbf\{Z\}^\{\\prime\}=Z\(0\)\+αattn⋅MSA\(Z^\(0\),Z^\(0\),M\)\\displaystyle=\\mathbf\{Z\}^\{\(0\)\}\+\\alpha\_\{\\text\{attn\}\}\\cdot\\text\{MSA\}\\\!\\left\(\\hat\{\\mathbf\{Z\}\}^\{\(0\)\},\\;\\hat\{\\mathbf\{Z\}\}^\{\(0\)\},\\;M\\right\)\(2\)Zout\\displaystyle\\mathbf\{Z\}\_\{out\}=Z′\+αffn⋅MLP\(Z^′\)\\displaystyle=\\mathbf\{Z\}^\{\\prime\}\+\\alpha\_\{\\text\{ffn\}\}\\cdot\\text\{MLP\}\\\!\\left\(\\hat\{\\mathbf\{Z\}\}^\{\\prime\}\\right\)\(3\)两层 MLP（使用 GeLU 激活）独立作用于每个节点；所有跨节点通信仅限于掩码注意力步骤。输出潜在表示通过α\\alpha门控的线性头解码为残差参数更新：

Δli\\displaystyle\\Delta\\boldsymbol\{\\ell\}\_\{i\}=αl⋅Z^out,iWlT,\\displaystyle=\\alpha\_\{\\ell\}\\cdot\\hat\{\\mathbf\{Z\}\}\_\{out,i\}\\,W\_\{\\ell\}^\{T\},Δmi\\displaystyle\\Delta\\mathbf\{m\}\_\{i\}=αm⋅Z^out,iWmT\\displaystyle=\\alpha\_\{m\}\\cdot\\hat\{\\mathbf\{Z\}\}\_\{out,i\}\\,W\_\{m\}^\{T\}(4)位置编码pi\\mathbf\{p\}\_\{i\}保持静态；错误反馈rir\_\{i\}在每一步动态重新计算。更新以残差方式应用（si\(t\+1\)=si\(t\)\+Δsi\(t\)\\mathbf\{s\}\_\{i\}^\{\(t\+1\)\}=\\mathbf\{s\}\_\{i\}^\{\(t\)\}\+\\Delta\\mathbf\{s\}\_\{i\}^\{\(t\)\}），通过将此单一共享权重块循环应用TT步，形成一个TT层权重共享的残差网络，其表达能力来自迭代精炼。拓扑掩码施加了严格的“光速”限制：信息每一步最多传播一跳，因此全局协调从迭代的局部交互中涌现，忠实于 NCA 范式。

逐节点错误反馈。对于固定布线实验，上述架构已经足够；对于随机布线，我们发现显式错误信号至关重要。