精确集成,脆弱叙事:多尺度堆叠与信用风险LLM生成解释的保真度审计
摘要
本文构建了一个用于信用风险评分的多尺度堆叠集成,并对LLM生成的解释进行了审计,发现排名提升虽然真实但幅度较小,而叙述性解释往往不忠实,SHAP和LIME在重要特征上一致,但在特征顺序或符号上不一致。
arXiv:2608.08126v1 公告类型:新
摘要:信用评分越来越依赖那些决策逻辑无法从其参数中直接读取的模型,这与监管机构对不利决策应当可解释的期望相矛盾。一种常见的提议是用语言模型来弥合这一差距:计算特征归因,将其交给LLM,让它撰写理由。我们端到端地构建了这样一个系统,并测试该承诺的后半部分是否成立。预测组件是一个多尺度堆叠集成,通过一个在包外预测上训练的神经元学习器,将四个不同正则化的梯度提升学习器与残差网络融合。在一个包含32,581条申请的公开信用数据集上,它达到了测试ROC-AUC 0.9539(95% CI [0.9462, 0.9616])和PR-AUC 0.9137,以Delta-AUC = 0.0143(在保守独立性假设下p = 0.016)击败了最佳单一模型。我们的核心发现是不对称的。排名提升是真实的,但在操作层面很小:在F1最优阈值下,与经过调优的随机森林相比,该集成仅在1,422个违约中多避免了六个漏报,成本加权损失削减不到2%。叙事层以一种仅靠提示工程无法修复的方式失败。在一个被审计的案例中,模型将三个因素命名为风险增加因素,而提供的归因将其评为风险降低因素,遗漏了主导驱动因素,并引入了一个从未提供给它的特征。我们将此追溯到我们测量而非假设的属性:SHAP和LIME在哪些特征重要方面一致(overlap@10 = 0.80),但在其顺序上不一致(tau = 0.43, p = 0.18),并且模型最敏感输入的归因符号在不同申请者之间接近抛硬币(众数符号占比0.53)。校准(ECS = 0.117)和扰动稳定性(DPD = 0.078)均未达到我们自己的阈值。约束提示是必要的,但不够充分:生成后必须验证解释与归因的接地性,而不能想当然。
查看缓存全文
缓存时间: 2026/08/11 08:10
# 多尺度堆叠与LLM生成的信用风险解释的保真度审计
来源:https://arxiv.org/html/2608.08126
## 准确的集成,脆弱的叙事:多尺度堆叠与LLM生成的信用风险解释的保真度审计
###### 摘要
信用评分越来越依赖于决策逻辑无法从其参数中直接读出的模型族,这使其与监管机构对不利决策应当可解释的期望产生冲突。一个常见的提议是用语言模型来弥合这一差距:计算特征归因,将其交给LLM,并让它编写理由说明。我们端到端地构建了这样一个系统,然后检验这一承诺的后半部分是否成立。预测组件是一个多尺度堆叠集成,通过一个小型神经元学习器在折叠外预测上训练,将四个不同正则化的梯度提升学习器与一个残差网络融合。在一个包含32,581个申请的公共信用数据集上,其测试ROC-AUC达到0.9539(95% CI [0.9462, 0.9616]),PR-AUC为0.9137,相比最强的单一模型提升了ΔAUC=0.0143;即使在故意保守的独立性假设下,该提升仍然显著(p=0.016)。解释组件融合了SHAP和LIME归因,并在贪婪解码下仅将排名最高的驱动因素传递给一个2.7B参数模型。我们的核心发现是不对称的。排名提升是真实的,但在操作层面很小:在F1最优阈值下,与经过调优的随机森林相比,集成仅额外避免了1,422个违约中的6个漏检,成本加权损失减少不足2%。相比之下,叙事层以一种单纯的提示工程无法修复的方式失败。在一个被审计的案例中,模型将三个因素命名为风险增加因素,而底层归因将其评为风险*降低*因素。我们将其追溯到我们测量而非假设的性质:SHAP和LIME在哪些特征重要上一致(overlap@10=0.80),但在排序上不一致(τ=0.43, p=0.18),并且诸如申请人收入等特征的归因符号在实例间接近抛硬币(众数符号占比0.53)。我们还报告了校准(ECS=0.117)和扰动稳定性(DPD=0.078),两者均未达到我们自己的协议所宣布可接受的阈值。我们得出的结论是,约束提示是必要但不充分的控制,并且接地必须在生成后加以验证,而不能假定提示中已经具备。
## I 引言
信用决策是关于人的决策。当贷款人拒绝申请或对其施加惩罚性定价时,在大多数司法管辖区,申请人有权被告知原因,而监管机构则关心所述理由是否就是实际起作用的理由[1](https://arxiv.org/html/2608.08126#bib.bib1)。这正是信用评分与大多数表格分类问题的区别所在:分数不是交付物。分数加上对分数的可辩护说明才是交付物。建模文献在很大程度上优化了前半部分。梯度提升树及其集成现在主导着信用基准测试[2](https://arxiv.org/html/2608.08126#bib.bib2), [3](https://arxiv.org/html/2608.08126#bib.bib3),并且相对于可解释基线(如正则化逻辑回归)的优势足够大,以至于机构不愿放弃。标准的应对是事后归因:先拟合任何表现最好的模型,然后用SHAP[4](https://arxiv.org/html/2608.08126#bib.bib4)或LIME[5](https://arxiv.org/html/2608.08126#bib.bib5)来解释它。这几乎已成为信用风险管理的默认做法[6](https://arxiv.org/html/2608.08126#bib.bib6)。然而,归因产生的是一个带符号的实数向量,每个特征一个,以对数几率或概率偏移为单位。信贷员不读这个向量,申请人也不读。因此,一个近期且快速发展的研究方向提出了进一步的翻译步骤:将归因输入大语言模型,让它撰写散文[7](https://arxiv.org/html/2608.08126#bib.bib7), [8](https://arxiv.org/html/2608.08126#bib.bib8), [9](https://arxiv.org/html/2608.08126#bib.bib9), [10](https://arxiv.org/html/2608.08126#bib.bib10), [11](https://arxiv.org/html/2608.08126#bib.bib11)。其吸引力显而易见。风险也同样显而易见,因为语言模型无论输出是否基于给定内容,都会生成流畅的文本[14](https://arxiv.org/html/2608.08126#bib.bib14),而流畅性恰恰正是使无依据的信用理由变得危险的原因:它比正确的理由更有说服力,而非更弱。大多数现有提议在输入端控制这一风险。它们将提示限制为少数几个排名最高的驱动因素,禁止模型捏造数字,并采用贪婪解码。我们完全实现了这一设计,然后提出该设计的倡导者通常留给未来工作的问题:*它有效吗?* 不是指输出读起来是否流畅,因为它显然流畅,而是指其断言的命题是否与所交付的归因一致。在我们的系统上,答案是否定的。本文报告了这一结果以及解释它所需的诊断工作,并在证据要求的地方下调了伴随的预测性声明。
### 贡献
1. 用于信用违约预测的多尺度堆叠集成。四个在不同深度/学习率尺度上刻意配置的梯度提升学习器,加上一个残差网络,由一个在折叠外预测上训练的小型神经元学习器融合。其测试ROC-AUC达到0.9539,PR-AUC为0.9137(第VII节)。
2. 统计而非修辞性的模型比较。我们为每个头条指标附加置信区间,并在一个选择上不利于我们自己主张的假设下检验集成相对于最佳单一模型的优势。该优势依然存在(p=0.016)。
3. 对头条指标进行限定的工作点分析。我们表明,在部署阈值下,跨广泛的误分类成本比率,排名提升转化为低于2%的成本削减(第VIII节)。仅报告AUC会夸大实际收益。
4. 对归因层实际提供内容的测量性描述。集成的风险表示在性质上不同于线性基线:loan_grade吸收了逻辑回归中loan_int_rate和信用局违约标志所扮演的角色(第IX节)。我们量化了SHAP–LIME一致性、跨模型一致性、归因集中度和方向稳定性,而不是断言它们。
5. 对叙事层的保真度审计,附带一个记录在案的失败案例。我们定义了一个轻量级的符号与成员资格审计,加以应用,并报告了一个生成的解释将其所获四个驱动因素中的三个方向颠倒的案例(第X节)。我们将其与前一节中测量的归因不稳定性联系起来,而不是将其视为一次性事件。
6. 诚实的可信度诊断。校准、扰动稳定性、局部解释一致性和群体差异均对照我们自己的协议所规定的验收阈值进行报告。四项中有三项未通过(第XI节)。我们认为这比一列表的绿色勾选对从业者更有用。
关于来源的说明是必要的。本工作的早期版本报告测试ROC-AUC为0.96。根据持久化的工件重新计算得到0.9539。本文报告的每个数字均根据序列化的实验输出重新计算,复现脚本随代码一并发布。
## II 相关工作
### II-A 用于信用评分的机器学习
过去十年的基准测试研究收敛于一个一致的排序:决策树集成优于单一学习器,并且在典型的信用评分特征集上优于神经网络,相对于正则化逻辑回归的优势实质但不压倒性[2](https://arxiv.org/html/2608.08126#bib.bib2), [3](https://arxiv.org/html/2608.08126#bib.bib3)。更广泛的表格数据文献报告了相同的现象,并提供了基于表格决策边界几何的解释:树集成偏向轴对齐、分段常数函数,这适合诸如等级区间和债务比率阈值等特征[19](https://arxiv.org/html/2608.08126#bib.bib19), [20](https://arxiv.org/html/2608.08126#bib.bib20)。我们的结果再现了这一排序,随机森林和XGBoost的性能优于我们测试的每一种神经架构,而我们的集成是围绕它而非反对它设计的,将神经组件用作五个声音之一而非替代品。
### II-B 事后归因及其局限
SHAP[4](https://arxiv.org/html/2608.08126#bib.bib4)将归因建立在Shapley值[34](https://arxiv.org/html/2608.08126#bib.bib34), [35](https://arxiv.org/html/2608.08126#bib.bib35)之上,该值唯一满足局部准确性、一致性和缺失性。LIME[5](https://arxiv.org/html/2608.08126#bib.bib5)在采样邻域内拟合一个稀疏线性替代模型。两者都是模型无关的,并且都在金融领域广泛部署[6](https://arxiv.org/html/2608.08126#bib.bib6), [36](https://arxiv.org/html/2608.08126#bib.bib36), [37](https://arxiv.org/html/2608.08126#bib.bib37)。它们的局限性也有充分记录。LIME对随机扰动的依赖使其解释在不同运行间不稳定[17](https://arxiv.org/html/2608.08126#bib.bib17),而且两种方法都可能被利用它们发出的离流形查询的对手故意欺骗[16](https://arxiv.org/html/2608.08126#bib.bib16)。Rudin从这些失败模式论证,高风险决策应使用本质上可解释的模型[18](https://arxiv.org/html/2608.08126#bib.bib18)。我们不解决这一争论。我们确实从中汲取方法论观点:归因向量是关于模型的证据,而非其记录,并且其下游构建的任何内容都继承了其噪声。第IX节在我们的系统上测量了这种噪声;第X节展示了它的传播。
### II-C 语言模型作为解释界面
让LLM将XAI输出言语化的提议是近期且活跃的[7](https://arxiv.org/html/2608.08126#bib.bib7), [8](https://arxiv.org/html/2608.08126#bib.bib8)。Kroeger等人[9](https://arxiv.org/html/2608.08126#bib.bib9)询问LLM是否可以直接充当事后解释者。关于叙事质量的因子研究发现,读者更喜欢LLM编写的解释而非原始归因表[10](https://arxiv.org/html/2608.08126#bib.bib10),这正是预期效果,也是错误叙事比错误表格更糟糕的原因。专门针对信用风险的工作询问LLM是否可以作为治理级可解释性工具[11](https://arxiv.org/html/2608.08126#bib.bib11),以及LLM导出的特征理由是否与经典模型的一致[13](https://arxiv.org/html/2608.08126#bib.bib13)。在我们的解读中,在生成文本上增加显式验证通道的两阶段设计[12](https://arxiv.org/html/2608.08126#bib.bib12)是正确的架构响应,而我们的结果是支持它们的经验论据。忠实性,即解释是否反映了其声称描述的实际推理,在NLP中有精确定义[15](https://arxiv.org/html/2608.08126#bib.bib15),条件生成中的幻觉问题在[14](https://arxiv.org/html/2608.08126#bib.bib14)中有综述。我们这里的贡献狭窄而具体:我们对按文献推荐方式构建的信用风险叙事管线应用了一个最小的忠实性检查,并报告其失败。
### II-D 定位
相对于先前工作,本文的新颖之处不在于集成,也不在于将归因与LLM配对的想法。而在于审计。我们不知道有任何信用风险研究既报告了其自身集成的完整归因稳定性概况,又报告了其自身叙事层的记录在案的符号反转失败,并将两者联系起来。
## III 数据与预处理
### III-A 数据集
我们使用公共信用风险数据集,包含32,581个消费贷款申请,由十一个预测变量和一个二元结果loan_status(1=违约)描述。七个预测变量为数值型,四个为类别型;表I列出了它们。目标变量不平衡:25,473个非违约(78.18%)对7,108个违约(21.82%),比率为3.58:1。整体完整度为98.97%。缺失仅限于两个连续变量,loan_int_rate(3,116条记录,9.56%)和person_emp_length(895条记录,2.75%),且是分散的而非结构性的。重复行占165条记录(0.51%)。
表I:预测变量与目标变量。名称与发布数据和代码中的完全一致。
### III-B 泄漏控制
最关键的预处理决策是排序。我们在从数据中学习任何内容之前进行划分。设计矩阵和标签以stratify=y按80/20划分,在两个划分中保持21.82%的违约率,产生26,064个训练和6,517个测试记录(5,095个非违约,1,422个违约)。每个后续变换(缩尾上限、插补、缩放、编码)仅估计训练划分上的参数,然后原样应用于测试划分。拟合的转换器对象被序列化,以便推理服务应用数值上相同的变换。
### III-C 变换
缩尾处理。领域上不合理的极端值被截断而非删除:person_age在100岁,person_emp_length在50岁,而原始最大值分别为144和123。上限在训练数据上估计并复用。
插补。两个不完整的数值列使用k近邻插补器(k=5)填充。由于缺失变量与收入和本金相关,局部插补优于全局均值或中位数替换。
缩放。数值特征以训练中位数为中心,并按训练四分位距缩放。收入严重右偏(样本偏度≈32,由少数极高收入者驱动),这正是稳健缩放器在基于梯度的学习器上优于标准化的情形。
编码。loan_grade带有自然顺序(A<…<G)。我们通过标签编码将其保留,为树学习器保留序数信息;在拟合任何模型之前,对类别型列person_home_ownership、loan_intent和cb_person_default_on_file进行独热编码,以保持特征数量在所有候选模型间一致。表II报告了独热编码后每个特征在训练和测试划分中的均值,并标记了任何训练/测试均值差異≥0.01的情况。
表II:训练/测试特征均值(独热编码后)。数值特征为中位数,类别型为比例。差异≥0.01的以粗体标出。
## IV 评估协议
### IV-A 模型候选
我们训练五个基础模型:L2惩罚逻辑回归(基线)、随机森林、XGBoost、LightGBM和一个残差网络。前三个是按标准实践调优的;残差网络在消除类不平衡的微型批量上训练。
逻辑回归基线(LR)。特征被标准化为均值0、方差1(使用训练统计量),类别型列以与树模型相同的方式独热编码。该模型充当可解释的基线:它处于性能谱系的下端,但提供完全线性、直接可读的系数。
随机森林(RF)。由200棵树组成,在每次分裂时对sqrt(p)个特征采样,叶子最小样本数为25。
XGBoost和LightGBM。两者都使用早期停止根据验证AUC进行训练:XGBoost使用最大深度为3的树,收缩率为0.05;LightGBM使用叶子级生长,最大叶子数为31,收缩率为0.05。
残差网络(ResNet)。一个三层全连接网络,宽度为64-32-16,在ReLU激活和批量归一化之间有跳跃连接。一个超参数(丢弃率p_drop)在{0.0,0.1,0.2}范围内选择,早期停止根据验证AUC进行。最终测试性能对随机种子(0–4)的敏感性很小(标准差<0.001 AUC)。
### IV-B 元学习器与折叠外预测
集成将五个基础模型与一个小型神经元学习器融合。元学习器的输入是五个折叠外预测组成的向量,加上原始logit(对于逻辑回归和树可以校准),而不仅是类别概率。折叠外预测通过5折交叉验证(分层)计算,与训练/测试划分分开,以避免泄漏。我们测试了三种元学习器设置:(i)逻辑回归元学习器;(ii)带有隐藏层(宽度32,ReLU)和其余超参数默认值的MLP元学习器;(iii)与(ii)相同但带有一个附加的逐特征dropout层,p_drop=0.2(表III)。所选的元学习器是一个带有隐藏宽度32的MLP,在折叠外预测上训练时对输入特征进行20%的dropout。它与所有五个基础模型都不同——它是一个小型神经模型,接收其他模型的预测,因此保留了集成中神经组成部分,同时允许树主导风险表示。结果模型记为Stacked Ensemble。
### IV-C 不确定性量化
对于所有头条指标,我们报告95%置信区间,使用带1000次自举重抽样的百分位置信区间。对于分类器之间的差异(例如,集成减去最佳单一模型),我们实现两种重抽样方案:(i)对测试集行进行成对自举,这保留了模型输出之间的相关性,并在两个模型在相同实例上产生相同错误的假设下进行检验;(ii)一种保守的独立自举,其中两个模型的预测在行索引上独立重抽样,从而消除了相关性——这高估了差异的方差。表III报告了两种方案。
### IV-D 阈值与成本
AUC和PR-AUC是阈值无关的。部署并非如此。因此,我们使用预期的每申请成本作为操作指标,定义为C = FNR·c_miss·π + FPR·c_false·(1-π),其中π为先验违约率,c_miss为漏检违约的成本(例如,不可收回本金),c_false为错误拒绝的成本(例如,失去的利息收入)。我们考虑成本比率c_miss:c_false在2:1到10:1之间,并在最小化预期成本的阈值下评估模型。将c_false固定为1,第VIII节报告了跨该比率范围的成本削减。
## V 叙事生成
解释管线分三步。首先,在给定测试实例x上计算SHAP值(使用训练背景数据集)以产生归因向量s(x)。其次,从s(x)中取前k个特征(按绝对SHAP值排序)以及对应的LIME值(LIME也在相同实例上计算)。最后,提示一个2.7B参数语言模型撰写一份理由说明。
### V-A 提示设计
提示遵循先前工作中确立的输入控制:
```
你是一位信用风险分析师。以下是对一位贷款申请人的预测违约概率的归因。
- 违约概率:{probability}
- 风险等级:{binned_risk}
- 最重要的特征(按SHAP绝对重要性排序):
{for each of the top k features}
- {feature_name}: SHAP = {shap_value}, LIME = {lime_value}
请根据这些归因,用不超过3句话为该申请人写一段简短的风险理由说明。只使用上述事实。不要添加任何外部知识。特别注意,符号为正表示违约风险增加,符号为负表示风险降低。
```
为了测量输入控制的影响,我们计算了该基线提示的变体:一个更严格的版本,添加了“如果归因的符号相互冲突,请在解释中说明冲突并优先考虑SHAP”;一个更宽松的版本,省略了对符号的提醒,仅提供前k个特征的归因值。所有变体在相同的测试子集上运行(见下文)。
### V-B 模型与解码
我们使用Qwen2.5-2.7B-Instruct。选择2.7B规模是刻意为之:它规模足够大,能够生成流畅、连贯的叙事,但规模足够小,可以本地提供服务,无需专门的推理栈。所有生成均采用贪婪解码。在贪婪解码下,输出是确定性的,这一约束在先前工作中被倡导,以排除温度采样的随机性。温度0.2的采样变动被测量(表IV),但报告的主要结果使用贪婪解码。
### V-C 审计程序
叙事层紧接其输入。中心审计问题是:生成的文本是否陈述了与其所给归因一致的命题?我们实现了一个符号与成员资格审计。给定一个测试实例,审计器(i)从提示中提取特征列表(前k个),(ii)从生成的文本中提取与这些特征名称匹配的提及,(iii)将每个提及分类为“风险增加”、“风险降低”或“中性”(通过匹配诸如“增加”、“降低”、“更高”等词),以及(iv)将每个提及的符号与提示中相应归因的符号进行比较。未提及的特征标记为“省略”,被提及但不在前k个中的任何特征标记为“幻觉”。如果一个特征被陈述的符号与其归因符号相反,则该提及被标记为“符号反转”。
## VI 可复现性
所有实验在固定随机种子下运行。数据分区、折叠划分、特征变换(包括缩尾上限、插补器和缩放器)以及模型权重均被持久化。唯一的随机性来源是训练前的权重初始化和神经网络训练的批处理顺序。报告的数字是从序列化的测试预测中计算出来的,而非从重新训练中得出。完整的实验配置在代码库中说明。
## VII 预测性能
表III列出了测试集上的主要结果。集成在ROC-AUC方面达到了0.9539,在PR-AUC方面达到了0.9137,而在测试中表现最好的单一模型是XGBoost(AUC 0.9396)。集成相对于最佳单一模型的AUC提升为0.0143。成对自举95%置信区间为[0.0161的低端, 0.0128的高端]——注意,由于表III的格式限制,以另一种方式排列。实际上,AUC差异的95%置信区间为[0.0128, 0.0161](均远高于0)。保守独立自举(消除模型输出之间的相关性)给出的95%置信区间为[0.0031, 0.0255],p=0.016,仍然显著。
表III:测试集性能。AUC差异使用自举法在10,000次迭代中计算。括号中为95%置信区间。PR-AUC为精确率-召回率曲线下面积。最佳单一模型用粗体标出。最佳集成用粗体标出。
### VII-A 与基线的比较
集成在ROC-AUC方面将最佳单一模型提升了1.5%(0.9396→0.9539),在PR-AUC方面提升了2.2%(0.8937→0.9137)。由于集成在5折训练/测试划分(而非内部交叉验证折叠)上进行评估,因此测试结果是诚实的,但在拾取对验证折叠过度拟合的风险方面存在轻微过拟合的可能性;然而,我们观察到元学习器对任何单一基础模型的严重过度拟合的证据很少。
### VII-B 各组件的贡献
为了了解哪些模型推动了集成,我们在保持元学习器不变的情况下,逐一排除每个基础模型重新训练。表IV报告了排除每个组件后集成的测试AUC。所有五个组件都对集成有所贡献,但XGBoost和LightGBM最为重要。移除ResNet使AUC降低了0.0021;移除Random Forest使其降低了0.0013;移除LR使其降低了0.0009。这些降幅很小,但在成对自举下是显著的(所有p<0.05)。
表IV:消融研究。每一行从集成中移除一个组件。AUC为测试集上的值。
## VIII 操作分析
AUC和PR-AUC总结的是排名,而非部署。为了评估操作价值,我们在最小化预期成本的阈值下计算每个分类器的性能,成本比率c_miss:c_false在2:1到10:1之间。对于每个模型,我们选择最小化成本加权误差的阈值,然后计算相对于LR基线的成本降低百分比。
成本节省很小。在成本比率2:1时,集成相对于LR的成本降低为8.2%(作为百分比比例);在5:1时为4.1%;在10:1时为2.1%。相对于已经调优的随机森林,集成的节省在2:1时仅为1.9%,在10:1时低于1%。在F1最优阈值下,测试集中有1,422个违约。LR漏掉了其中382个,RF漏掉了351个,集成漏掉了345个。集成相对于RF的改进是6个违约——在1,422个违约中,比例非常小。
关键点在于:排名增益(AUC +0.0143)在常用的S形阈值-成本区域内只转化为很小的操作改进。AUC差异的统计显著性(p=0.016)并不等于实际显著性。第X节连接到叙事层,它将处理欠采样且基准差异很小的问题。
## IX 归因
本节描述我们测量的归因,而不是假设的。我们不宣称SHAP或LIME是对真实因果关系的揭示;我们将其作为可测量对象的属性加以报告——不稳定性的证据——并为下一节的审计做准备。
### IX-A SHAP与LIME的一致性
对于测试集中的每个实例,我们计算SHAP和LIME归因(使用与集成相同的基础模型)。我们报告两个一致性指标:重叠(两个归因按绝对大小排序后,前10个特征的交集的大小)以及归因排序的Kendall τ。跨测试实例的平均top-10重叠为0.80(标准差=0.12)。平均Kendall τ(匹配符号,所有特征)为0.43(p=0.18)。因此,SHAP和LIME在哪些特征重要上大致一致,但在顺序上不一致。
表V:SHAP和LIME在1,000个测试实例上的归因一致性指标。符号匹配度衡量两个方法对每个特征分配相同符号的实例比例。
### IX-B 方向稳定性
对于每个特征,我们测量测试实例中归因符号的众数符号份额。一个完全稳定的特征(方向确定)在几乎所有实例中具有相同的符号。一个高度不稳定的特征(方向接近硬币翻转)的众数符号份额约为0.5。在众数符号份额最低的特征中,有person_income(0.53)、person_age(0.55)和person_emp_length(0.57)。图1显示了前10个最不稳定特征的众数符号份额。
图1:特征的符号稳定性。每个条形图显示测试实例中归因的众数符号份额。较低的值表示该特征被归因的符号在实例间经常翻转。
### IX-C 与线性基线的对比
集成(以及单一树模型)的全局风险表示与逻辑回归基线不同。在LR中,两个最强的系数是loan_int_rate(正系数)和cb_person_default_on_file(正系数)。在树模型中,这两个特征很重要,但loan_grade却承担了大部分解释方差,而loan_grade与loan_int_rate和cb_person_default_on_file高度相关。从实际角度看,这意味着对于一个给定的申请人,LR会将利率和信用局违约标志视为独立的驱动因素,而树模型倾向于将loan_grade视为一个包罗万象的风险汇总。关于这两种表述中哪种更“正确”的理论主张超出了本文的范围;我们注意到,在贷款审查中,贷款人的内部风险等级通常被用作决策变量,而利率和信用局违约标志则是其决定因素。
## X 叙述层审计
我们审计了在1,000个随机抽样的测试实例上生成的叙事文本。所有实例均使用主提示以贪婪解码生成。审计工具提取了每个生成的文本中提到的特征,并编码了每个提及的符号(增加/降低/中性)。然后将其与提示中提供的相应SHAP/LIME归因进行比较。
### X-A 总体数字
在1,000个生成的文本中,有37个包含至少一个特征,其表述的符号与SHAP归因的符号相反(符号反转)。此外,有61个文本提到了一个未被列为前k个驱动因素的特征(幻觉)。大多数预测忽略了2-3个前k个特征(省略)。符号反转和幻觉实例经常重叠;134个审计的文本(13.4%)要么包含符号反转,要么包含幻觉。当我们重复实验时,使用了更严格的提示版本(添加了“如果出现冲突符号,解释冲突并优先考虑SHAP”),符号反转的数量下降至29个,幻觉下降至48个。更宽松的版本使得符号反转上升到51个,幻觉上升到74个。
表VI:通过审计的叙事文本数量。N = 1,000。符号反转:陈述的特征符号与SHAP不同。幻觉:提到了在k=5个输入特征之外的特征。省略:提到但输入中存在,但所陈述的符号不确定。
### X-B 一个具体失败案例
我们选取了一个由集成预测违约概率为0.86的实例。前5个SHAP归因(绝对值)为(按其排名):
1. loan_grade:+0.24
2. person_income:−0.18(负方向:降低风险)
3. person_home_ownership:−0.12
4. loan_intent:+0.09
5. person_age:−0.05
该实例的生成叙事文本为:
> “该借款人的风险水平因其年龄、收入和房产所有权状况而较高。其风险意图也增加了风险。此案例在收入和房产所有权状况方面与其他高风险案例相似。然而,其风险意图是一个独特的因素,使该案例与众不同。基于这些因素,建议密切监控该借款人的信用历史,并考虑额外的风险缓解措施。”
这段文字流畅、措辞恰当,正确识别了风险等级,并且可以通过随意的审查。但它在一个具体且重要的方面是错误的。
表V:保真度审计相似文章
大型语言模型中的解释公平性:关于LLM在不同人口群体中如何证明决策的实证分析
本文提出了“解释公平性分类法”(Explanation Fairness Taxonomy, EFT),以分析大型语言模型(LLM)在不同人口群体中证明决策时的差异,研究发现尽管决策本身保持平衡,但在解释的质量和语调上仍存在显著偏差。
无真值的信用分配:基于执行重放审计LLM代理中的步骤级信用分配
本文使用执行重放的因果真值来审计LLM代理中的步骤级信用分配,发现常见的信用信号在识别因果重要步骤方面未能优于随机水平,这对训练方法具有启示意义。
面向多LLM系统中不确定性感知的信任估计方法:基于结构化专家判断
本文介绍了一种面向多LLM预测聚合的不确定性感知信任估计方法,该方法改编自结构化专家判断,采用库克风格对数加权来惩罚过度自信的错误预测。在MMLU和MMLU-Pro上的评估表明,该方法在异构和受污染的专家面板下实现了优越的准确性与可靠性平衡。
使用大型语言模型从时间序列中生成可解释的、数据驱动的洞察
提出一个领域无关的框架,利用大型语言模型为时间序列预测生成基于事实的自然语言解释,通过约束到可验证证据来减少幻觉。在金融和货运定价案例研究中进行了评估。
通过混合重采样与堆叠集成技术的破产预测及可解释人工智能(XAI)分析
本研究开发了一个破产预测框架,结合混合重采样、堆叠集成和可解释人工智能,以增强不平衡金融数据中少数类的检测。结果显示,GRU与SMOTE-ENN的组合表现最佳,而SHAP分析用于识别关键的破产风险预测因子。