Verified SHAP: 神经网络精确Shapley值的可证明边界

arXiv cs.LG 论文
shap neural-networks interpretability verification explainable-ai bounds

摘要

提出了一种基于验证的算法，用于计算神经网络精确SHAP值的可证明边界，可扩展到比先前精确方法大得多的搜索空间。

arXiv:2605.24084v1 公告类型: 新 摘要: Shapley加法解释（SHAP）被广泛认为对于神经网络而言在计算上是棘手的，因为它们会对输入特征产生指数级搜索空间。在这项工作中，我们朝着将精确SHAP计算扩展到更大搜索空间迈出了第一步，引入了一种算法，该算法利用神经网络验证方面的最新进展，为神经网络计算任意紧的精确SHAP值下界和上界，最终恢复精确SHAP值。我们证明，我们的方法可扩展到比最先进的精确方法大数个数量级的搜索空间。这为精确SHAP计算提供了重要的第一步，并为在更大搜索空间上评估统计近似方法建立了原则性的基石。
查看原文
查看缓存全文

缓存时间: 2026/05/26 09:00 

# Verified SHAP：神经网络精确 Shapley 值的可证明边界
来源：https://arxiv.org/abs/2605.24084
查看 PDF (https://arxiv.org/pdf/2605.24084)

> 摘要：沙普利可加解释（SHAP）被广泛认为对于神经网络而言在计算上是棘手的，因为它在输入特征上引入了指数级搜索空间。在这项工作中，我们朝着将精确 SHAP 计算扩展到更大搜索空间迈出了第一步，引入了一种算法，该算法利用神经网络验证的最新进展，为神经网络的 SHAP 值计算任意紧致的精确下界和上界，最终恢复精确的 SHAP 值。我们证明了我们的方法能够在比最先进的精确方法大数个数量级的搜索空间上运行。这为精确 SHAP 计算提供了重要的第一步，并为在更大搜索空间上评估统计近似方法建立了原则性的基石。

## 提交历史

来自：David Boetius \[查看电子邮件 (https://arxiv.org/show-email/41213bfe/2605.24084)\] **\[v1\]** 2026年5月22日，星期五 18:00:01 UTC（2,560 KB）

相似文章

加权k近邻回归与软标签预测的精确且经认证的数据沙普利值

arXiv cs.LG

本文首次提出了针对加权k近邻回归和软标签预测中数据沙普利值计算的精确且经认证的算法，弥补了文献中已知的空白。我们提供了一个伪多项式时间精确算法、一个经认证的FPTAS以及一个开源库，并通过实验验证了精确性以及蒙特卡洛近似的局限性。

关于神经网络的显式超表达逼近

arXiv cs.LG

本文研究了固定架构神经网络的显式参数-误差权衡逼近，利用中国剩余定理作为构造性编码机制，并获得了Lipschitz和Hölder光滑函数的显式界。