标签
论文提出了一种新的机器学习解释评估方法，通过将解释转换为预测器并测试其重现模型预测的能力。研究表明，像SHAP和PDP这样的解释方法的有效性取决于数据中特征的独立性。
本文介绍了一个将可解释AI集成到CRM系统中用于电信客户流失预测的框架，通过基准测试分类器并利用SHAP和LIME进行可解释预测，以增强客户保留策略。
本文提出了BREAD，一种可扩展的基线参考解释方法，用于在基于AI的统计过程监控中诊断异常，并提供理论保证，证明在均值偏移异常下其忠实度高于LIME。
本文构建了一个用于信用风险评分的多尺度堆叠集成，并对LLM生成的解释进行了审计，发现排名提升虽然真实但幅度较小，而叙述性解释往往不忠实，SHAP和LIME在重要特征上一致，但在特征顺序或符号上不一致。
本文对事后分析方法（随机森林替代模型、LIME、PCA）在检测聚类结果中的结构化模式方面进行了比较评估，使用注入模式的人工合成数据集。研究发现，没有一种方法能持续检测所有模式类型，凸显了现有可解释性工具的不足。
本文系统评估了后训练量化如何影响使用Grad-CAM和LIME的CNN模型的可解释性，揭示分类准确性并非可解释性稳定性的可靠指标，并且架构选择对于可信部署至关重要。
本文对AI可解释性进行了系统全面的综述，介绍了其需求（调试、合规、安全）、经典方法和前沿挑战，强调了忠实的解释比看起来合理的解释更重要。
本文介绍了CoRA，一种基于GRPO的强化学习框架，旨在将LLM的置信度与生成的理由对齐，以提高思维链推理的可靠性，在多个基准测试中将不对齐误差降低了高达26.51%。