标签
这篇立场论文概述了现有可解释人工智能特征重要性忠实度指标的五项主要缺陷，并提出了四个研究方向以提高其可靠性，认为当前的可解释人工智能解释缺乏严谨的基准，难以量化其对底层模型的忠实程度。
本文指出了无参考忠实性指标中的一个盲点：它们只衡量精确性（即声明是否得到支持），而不衡量召回率（即相关事实的覆盖程度）。作者引入了一种使用Formula 1遥测数据和天气数据的完整Oracle评估，表明高精确度模型往往覆盖不佳，并提出了一个组合指标。