从失语症图片命名错误特征中恢复大型语言模型的病灶参数

# 从失语症图片命名错误特征中恢复大语言模型的损伤参数
来源：https://arxiv.org/abs/2608.06429
作者：Yong Yang (https://arxiv.org/search/cs?searchtype=author&query=Yang,+Y), Roger Newman-Norlund (https://arxiv.org/search/cs?searchtype=author&query=Newman-Norlund,+R), Xiang Guan (https://arxiv.org/search/cs?searchtype=author&query=Guan,+X), Saeed Ahmadi (https://arxiv.org/search/cs?searchtype=author&query=Ahmadi,+S), Regan Willis (https://arxiv.org/search/cs?searchtype=author&query=Willis,+R), Nadra Salman (https://arxiv.org/search/cs?searchtype=author&query=Salman,+N), Kalil Warren (https://arxiv.org/search/cs?searchtype=author&query=Warren,+K), Sophie Arheix-Parras (https://arxiv.org/search/cs?searchtype=author&query=Arheix-Parras,+S), Srihari Nelakuditi (https://arxiv.org/search/cs?searchtype=author&query=Nelakuditi,+S), Leonardo Bonilha (https://arxiv.org/search/cs?searchtype=author&query=Bonilha,+L), Christopher Rorden (https://arxiv.org/search/cs?searchtype=author&query=Rorden,+C), Rutvik H. Desai (https://arxiv.org/search/cs?searchtype=author&query=Desai,+R+H), Julius Fridriksson (https://arxiv.org/search/cs?searchtype=author&query=Fridriksson,+J)

查看 PDF (https://arxiv.org/pdf/2608.06429)

> 摘要：大语言模型（LLM）的可解释性方法描述了内部状态，但并未直接检验该状态是否在因果上足以产生观察到的行为。在先前的工作中，我们对 LLM 进行损伤处理，以生成图片命名（评估失语症的核心任务）中的错误特征，并发现特定损伤产生的错误与个别中风幸存者的错误相似。在此，我们提出逆向问题：给定一个错误特征，能否恢复出产生该特征的损伤参数？这一逆问题揭示了 Transformer 计算的哪些特性？在 LLaVA-Vicuna 13B 中，损伤通过层索引、修改百分比和噪声 sigma 进行参数化，共涉及 4,840 种配置；错误特征则采用七类临床分类法（正确、语义、无关、形式、混合、新词、无反应）来刻画。我们训练了一个多任务神经网络，将错误特征映射回扰动参数。该问题得到了部分解决：在 10 个独立训练的逆向模型中，修改百分比和噪声 sigma 可以恢复，而层索引仅能在邻域内恢复。在反事实验证中，使用恢复出的参数扰动一个全新的模型实例，在 81.4% 的情况下重现了目标行为。这种低层恢复能力与高反事实保真度之间的分离，与 Transformer 层间的功能冗余一致，而这一特性是标准可解释性方法无法捕捉的。作为分布外测试，我们将训练好的模型应用于 278 名中风幸存者的图片命名错误特征；恢复出的参数具有综合征判别性，尤其在扰动强度方面最为显著，表明其泛化能力超出了训练分布。反事实验证为超越逆向映射的 LLM 可解释性主张提供了一个通用框架。

## 提交历史

来自：Yong Yang [查看电子邮件](https://arxiv.org/show-email/382f819a/2608.06429) **\[v1\]** 2026年8月5日（周三）20:58:49 UTC（2,874 KB）