标签
本文证明，在广泛的人工神经网络类别中，推理逻辑可以被重新表述为稀疏符号交互，并得到数学判据和大量实验的支持，为可解释性和泛化性提供了新颖的见解。
本文提出在类似BiomeGPT的特征标记化Transformer中使用有符号、融合感知的集成梯度来进行预测归因，克服了CLS注意力权重的局限性，并揭示支持疾病与保护性微生物信号。
Semantica 是一个开源工具，可将任何数据转换为上下文图（Context Graph），记录每个 AI 智能体决策的完整因果链及 W3C PROV-O 溯源信息，为金融、医疗保健和政府领域提供确定性可解释性。
本文介绍了THBKG，一个时间异构生物医学知识图谱，涵盖11万实体和1110万条边，带有逐年证据时间戳，旨在仅使用决策时可用的证据来预测进入II期试验的靶点-疾病对是否会推进到III期。基于图谱的方法优于直接证据基线，尤其是在缺乏直接证据的配对中，作者将其作为持续更新的资源发布。
本文对事后分析方法（随机森林替代模型、LIME、PCA）在检测聚类结果中的结构化模式方面进行了比较评估，使用注入模式的人工合成数据集。研究发现，没有一种方法能持续检测所有模式类型，凸显了现有可解释性工具的不足。
本文提出了一种可解释的LLM智能体层，放置于开放世界学习管道的下游，用于油井异常检测，利用Qwen3.5-397B-A17B模型在3W数据集上提供自然语言理由和新颖性命名。
GraphArc 是一个开源工具，可将 AI 代理工作流可视化为交互式实时图形，使用户能够在执行前检查、调试和批准代理操作，从而让代理式 AI 更具可解释性和可控性。
FADEx 提出了一种新颖的局部逐实例特征归因方法，用于解释降维技术，利用泰勒展开和奇异值分解提供模型无关的解释和失真分析。
本文介绍了 CoT-Mediate，一个行为框架，用于测试医学视觉语言模型中的思维链推理是真正驱动预测，还是仅仅装饰预测。通过对 VQA-RAD 上的 LLaVA-Med 和 MedGemma 进行审计，发现推理的注入方式（前缀强制 vs 重新提示）以及归因来源（自我 vs 专家）显著影响模型的忠实度和谄媚程度。
本文介绍了TraceCoder，一个代码生成系统，它在片段粒度上记录并可视化AI生成代码的修复历史，从而实现对基于LLM的编码智能体的可解释、可审计的审查。
本文揭示了图神经网络top-k解释中的一个根本问题：输入图中的自同构导致解释不唯一，因为模型无法区分对称元素。作者提出了一个检测这种任意性的标准，并利用Lean 4中的自动推理对其进行了验证，表明该问题在分子数据集中广泛存在。
TanML是一个采用MIT许可的自动化模型验证工具包，专为表格机器学习模型设计，适用于受监管环境。开发者希望就其功能和报告获得反馈。
本文证明了现有基于边际影响的归因方法从根本上无法捕捉时间序列模型的条件依赖结构，并提出了DAG忠实性作为忠实解释的新标准。
本文提出了一种统一的黑盒鲁棒性评估框架，用于评估企业NLP中词元级解释的鲁棒性，并对比了编码器（BERT、RoBERTa）和解码器（Qwen、Llama）模型。研究发现，解码器大语言模型产生的解释明显更稳定，且稳定性随模型规模提升而增强，同时提供了部署前模型选择的成本-鲁棒性权衡曲线。
本文（立场论文）认为，LLM自我解释可能看似合理、忠实度存疑，但具有高度可行性，并提出了超越传统指标的评估指南。
本文提出了一种上下文增强提示框架，利用图神经网络专家模型提供预测提示和解释性子图，以改进小型语言模型中的分子性质预测。在MUTAG和Tox21上的实验显示，与仅使用SMILES的基线相比，准确率提升高达74%。
本文介绍了基于证据的视频问答（E-VQA），这是一个新任务，要求模型同时输出语义答案和精确的时空证据，如跟踪对象分割掩码序列。作者创建了一个人工验证的基准数据集和一个可扩展的训练数据集，在基线方法上显示出显著改进。
本文介绍了MemExplainer，一种通过拓扑归因树和记忆回溯树来归因贡献，并使用层相关性传播（LRP）提供忠实解释时间图网络（TGN）预测的方法。
本文对AI可解释性进行了系统全面的综述，介绍了其需求（调试、合规、安全）、经典方法和前沿挑战，强调了忠实的解释比看起来合理的解释更重要。
一项全面综述，考察了LLM和生成式AI在网络安全中的双重用途风险与收益，涵盖AI生成的恶意软件、防御策略和可解释性，并包含来自主要平台的案例研究。