标签
这篇立场论文概述了现有可解释人工智能特征重要性忠实度指标的五项主要缺陷，并提出了四个研究方向以提高其可靠性，认为当前的可解释人工智能解释缺乏严谨的基准，难以量化其对底层模型的忠实程度。
本文提出 Ψ-Resilience——一种无模型的特征重要性方法，通过类别分歧景观的零维持久性从一维拓扑信号中提取解释，并在合成数据集与真实数据集上取得与 SHAP 和互信息方法相当的 Spearman 相关系数。
本文提出了一种使用Weight of Evidence评估可解释AI中特征重要性方法的新框架，增强了其与先验知识的对齐和稳定性评估。
本文提出了一种基于线性判别树集合的可解释多模态分类框架，该框架在准确性和可解释性之间取得平衡，在F1-mod增益和人工标注者一致性分数上优于Transformer模型。
本文提出了一种自适应保护机制，用于符号回归中的进化特征构建，旨在进化过程中保留重要的构建特征，并在回归基准测试和信用分类任务中展示了性能提升。
本文对事后分析方法（随机森林替代模型、LIME、PCA）在检测聚类结果中的结构化模式方面进行了比较评估，使用注入模式的人工合成数据集。研究发现，没有一种方法能持续检测所有模式类型，凸显了现有可解释性工具的不足。
提出了K-IPO，一种先生成后选择的过采样框架，在增强不平衡表格数据时保留原始数据的特征重要性排序（以肯德尔τ系数衡量），在20个数据集上展现出更优的重要性保持、解释一致性和预测性能。
Flyback 的一篇博客文章展示了，一个在重要性排名第一的 LightGBM 特征实际上因为目标编码泄露导致预测效果变差，这凸显了仅依赖特征重要性指标的危害。
本文提出了一种基于原型的解释框架，该框架在局部和全局层面整合特征重要性，利用“alike parts”突出相关特征子集，并通过特征多样性增强原型选择，在表格数据集上进行了评估。