iFuzz-Meta: 一个桥接自上而下与自下而上知识集成的可解释模糊学习框架

# iFuzz-Meta：一个可解释的模糊学习框架，桥接自上而下与自下而上的知识整合  
来源：https://arxiv.org/html/2608.14646  

作者：Xiaowei Jiang\*，Daniel Leong，Beining Cao，Nan Zhou，Yingtao Ren，Yu\-Cheng Chang，Thomas Do，Chin\-Teng Lin（IEEE Fellow）  

所有作者均隶属于澳大利亚悉尼科技大学工程与信息技术学院计算机科学系、澳大利亚人工智能研究所、计算智能与脑机接口实验室。  

本研究部分由澳大利亚研究理事会（ARC）资助（项目编号DP250103612、DP260101395）、ARC可持续与韧性建筑人机协作研究枢纽（ITRH）资助（编号IH240100016）以及澳大利亚国家健康与医学研究理事会（NHMRC）创新基金（编号APP2021183）支持。  

\*通讯作者：Xiaowei Jiang（邮箱：xiaowei\.jiang\-1@student\.uts\.edu\.au）  

###### 摘要  
可解释的表示学习仍是现代神经计算领域的关键挑战，尤其当模型不仅需要表现优异，还需解释其推理过程时。本文提出iFuzz\-Meta，这是一个可解释的模糊规则学习框架，在现代神经架构中保留人类可理解的推理结构。每条模糊规则对应于原始特征空间中定义的语义与空间原型，从而实现透明推理与直接可解释性。元学习作为一种分析范式被引入，用于考察这些可解释规则在任务和领域间的重组方式，为连接算法适应与认知表征提供了原则性方法。知识引导的正则化机制进一步实现了*自上而下–自下而上*的整合：理论先验作为软归纳偏置，而数据驱动的学习对其进行修正与扩展。这一双重过程确保适应过程沿着语义和生理上有意义的轨迹进行，而非任意的参数偏移。评估表明，iFuzz-Meta实现了可解释的推理和稳定的跨领域泛化，为构建可解释且知识感知的模糊系统提供了潜在的通用路径。  

## 引言  
见图1：所提出的iFuzz-Meta框架概念概览。该框架通过将学习建立在人类可理解的模糊规则中心上，解决了传统深度模型的不透明性问题。自上而下的先验知识与自下而上的数据驱动适应共同塑造了这些规则中心的演化，实现了可解释、稳定且知识引导的推理。这种交互在支持跨领域有意义的模型适应的同时，保持了模型的透明度。  

可解释的表示学习仍是现代神经计算的核心挑战。随着深度学习模型在各领域持续展现出卓越的预测准确性，其固有的不透明性对科学理解、知识迁移和可信度构成了根本性障碍[39]。这种张力在神经计算系统中尤为明显——其目标不仅是解码神经活动，还要揭示认知和意图从大脑动态中涌现的机制[26]。在此类场景下，将算法表征与可解释的神经生理现象关联起来的能力至关重要。  

传统的神经网络[22]、LSTM[46]或基于Transformer的模型[51]虽然功能强大，但通过学习高度纠缠的内部表征来实现性能，这些表征缺乏语义透明度和可解释性。一旦训练完成，从输入信号到潜在特征的映射便难以追溯或与领域知识相关联。应用于神经解码任务时，这一局限性阻碍了诸如频带特异性或空间模块化等成熟的神经科学先验知识的引入，并使学习到的特征对人类理解而言变得晦涩。  

一些方法试图通过多组架构解决此问题，例如基于滤波器组的SSVEPFormers[5]，它们根据预定义频带显式划分输入。然而，此类设计严重依赖先验知识的正确性。当基础理论不完美或不完整时[50, 19]，这些硬编码的先验可能引入结构性偏置，限制模型的自组织能力，并在增加模型复杂度和计算成本的情况下导致次优泛化。  

见图2：模型架构。模糊中心原型首先定义在原始神经生理空间（BB：批大小。CC：通道数。TT：时间步数）。EEG输入和模糊中心（RR：规则数）通过结构化卷积编码器投影到共享的潜在空间。所示配置采用了时空模式分析（TSpPA）设计。模糊嵌入在iFuzzy模块内使用高斯隶属度函数计算，由此产生的规则激活引入可解释知识来引导特征表示的调制。双层MLP作为最终的分类头。  

实际上，研究人员不得不依赖事后可视化或相关性分析来解释模型输出，例如SHAP[32]和基于梯度的方法如Grad-CAM[43]。这些方法既不保证因果有效性，也无法提供模型真正学到了什么的见解。此外，此类解释缺乏任务级别的可复用性，不能作为改进模型泛化能力的可迁移知识[20, 12, 16]。尽管Transformer脑机接口模型中的注意力机制显示出增强可解释性的潜力，但最近的研究表明，若不与神经或认知先验明确对齐，其解释能力仍然有限[54]。特别是，注意力机制中的键、查询和值表示是在无约束的潜在空间中学习的，与具有物理意义的EEG模式缺乏直接对应关系。  

与注意力不同，模糊推理提供了离散的、基于规则的原型，这些原型提供了清晰的语义路径。这一对比促使我们引入模糊规则，以在深度神经模型中恢复透明的概念级可解释性。  

模糊逻辑系统提供了一种原则性的替代方案，通过语言项和隶属度函数的形式编码人类可理解的推理规则。与纯粹的数值优化不同，模糊推理通过显式定义模糊集和规则[27, 52, 45, 53, 44]，在特征与决策之间提供了透明的映射。每条规则对应一个局部模型，其参数具有可解释的意义，如原型中心或特征重要性。这一特性使模糊系统能够桥接数据驱动学习和专家知识，使其在诸如脑机接口（BCI）[4, 18, 9, 13, 34]等对可解释性和生理基础至关重要的领域尤其具有吸引力。  

模糊神经建模的最新进展进一步表明，基于规则的推理和可微表示学习可以无缝集成。模糊神经网络（FNN）通常基于Takagi-Sugeno-Kang（TSK）推理系统[47, 30]，结合了深度架构的表达力和模糊推理的透明度，并可通过基于梯度的学习[36, 25]进行高效优化。此类框架已成功应用于各种认知和情感计算任务，包括社会认知任务[19]、情感计算[18]、物理认知估计[9, 8, 28]以及BCI中的稳态视觉诱发电位（SSVEP）分类[4, 17]。在迁移学习背景下，基于模糊规则的架构如iFuzzyTL[17]展示了如何通过共享规则中心和自适应隶属度函数在主体或领域间以可解释的方式保留和适应知识。  

总而言之，这些发展表明，模糊逻辑不仅增强了可解释性，还为复杂神经和认知系统中的透明、知识引导的适应提供了一个系统的、基于数学基础的框架。  

从算法角度看，传统模糊系统在现代学习环境下实现真正的可解释性仍面临根本性挑战。在大多数现有实现中，模糊中心或隶属度函数是在神经网络或其他表示学习器产生的高维嵌入空间中计算的。尽管这些嵌入允许基于梯度的优化并产生数值稳定的规则适应，但由此产生的规则中心不再对应明确或人类可理解的概念。因此，可解释性变成了表征性的而非语义性的：模型可以指示规则在潜在空间中*何处*发生了变化，但无法解释*为何*相对于底层机制而变化。当应用于神经数据时，这一局限性尤为突出，因为规则中心的偏移无法轻易与微状态转换或认知状态动态等有意义的神经生理过程联系起来。因此，虽然模糊系统理论上是可解释的，但当与基于嵌入的学习融合时，其现代实现往往会失去解释的透明度[17, 19, 4, 18]。  

见图3：(A) 时频谱模式分析（TSPA）框架。设计用于通过早期时序卷积层从EEG信号中提取时间动态。(B) 时空模式分析（TSpPA）框架。通过在初始时序处理后引入空间滤波器来增强空间信息提取。(C) 时空语义模式分析（TSSPA）框架。整合时间和空间特征以捕获高级语义表示。(D) 模糊中心原型可视化。地形图显示了三种代表性模糊中心在元学习和微调后每个架构下慢频段（0.5-8 Hz）的平均频谱功率。  

为解决这些局限性，我们提出了iFuzz-Meta，这是一个可解释的模糊规则框架，旨在揭示人类可理解的推理结构如何在认知任务间演化。在iFuzz-Meta中，每条模糊规则对应一个具有空间基础和语义意义的神经原型。具体而言，人类可理解的原型是指在原始EEG信号空间中定义的模糊规则中心，使得每个原型对应于一个可从波形形态、频谱内容和空间分布角度解释的时空模式。因此，可解释性内在于模糊推理机制，因为每个规则中心代表有意义的信号模式，而非抽象的潜在嵌入或针对模型激活的事后归因图。  

所提出的框架与已建立的模糊神经网络之间的一个关键区别在于原型定义空间的几何和概念映射。传统方法通常在潜在空间定义模糊原型[17, 19]，这提高了优化能力但削弱了语义可解释性。相反，我们的框架在原始空间定义模糊中心原型，并在潜在空间执行模糊推理，从而将可解释性与表示学习能力相结合。  

见图4：(A) 任务定义。物体识别（OR）指解码潜在物体类别，而物体识别（OI）指识别特定物体实例[23]。示例显示两个任务应用于描绘杯子的视觉刺激。(B) 实验设计。用于记录OI和OR范式EEG信号的实验设置示意图。在OR范式中，参与者被要求报告目标物体的类别。随后，在OI范式中，他们需要识别四个物体（上、下、左、右）中哪一个与目标属于同一类别。  

元学习在此被引入作为跨主体的分析范式，用于在留一主体外（LOSO）协议下的少样本适应，而非作为类别转移或类别增量学习的机制。  

具体而言，我们采用了*物体识别*（OR）和*物体区分*（OI）[24, 23]的范式，这使我们能够研究语义级处理（OR）如何在神经空间和规则空间中转化为实例特异性的个体化（OI）。OR聚焦于类别识别（例如，将图像识别为“杯子”），而OI则需要在视觉相似的选项中个体化特定范例（例如，在多个物体中选择“这个杯子”），如图4(A)所示。这两个子任务形成了一个具有认知意义的层级，反映了从感知到意图形成的转变。将此结构嵌入元学习公式中，使我们能够量化和可视化模糊规则中心如何沿着这一语义-意图连续体移动，从而将可解释的算法表征与神经认知过程联系起来。  

在此背景下，iFuzz-Meta既是一个透明的建模框架，也是一个研究人类意图相关