interpretability

一篇博文根据 Muse Spark Open 在其思维链中提及的“宪章”进行重构，完全依据模型输出而非泄露文件来分析 Meta 的模型规范，并指出了有关准确性的注意事项。

neuronpersonas.com 上的一项实验在推理过程中，系统性地扰动 Qwen3-8B/14B 等模型中的单个神经元，发现约 4% 的单神经元调整会使模型声称自己拥有完全不同的身份，这对基于模型自报身份而提出的“模型蒸馏”指控提出了质疑。

研究人员发现了一个他们称之为“邪恶神经元”的神经元，并展示了激活它后产生的巨大影响，凸显了在神经元级别控制以及AI/神经网络可解释性方面的新发现。

该论文研究语言模型在处理花园路径句后是否会保留被放弃的句法分析残余，发现残余效应主要储存在名词短语的状态中，并可通过激活修补（activation patching）在32B和70B模型中近乎完全消除该残余。

本文提出了“数据驱动的行动追索”（DDAR），这是首个无需高成本人工监督即可为机器学习决策系统生成可执行追索方案的方法。该方法通过对用户历史轨迹构建动态模型，寻找成本低、合理可行且能实现预期结果的行动。

论文提出受控证据聚合（CEA）与平衡效用因果选择（BUC）方法，通过符号探针定位出可影响Transformer自然语言决策的紧凑注意力头集合，并在Pythia-410M上验证其因果效应。

一篇研究论文探讨了视觉语言模型（VLM）如何使用和解读视觉符号，发现像红心这样的简单视觉图案可以隐式引导模型行为（例如，使其倾向于采用递归编程方案），而且模型能够发展出不同于人类惯例的创造性视觉交流策略。

一篇研究帖构建了 CAT-4B——一个用 LoRA 微调后对猫产生执念的 Qwen3.5-4B 模型——作为对照，表明常见的 AI 福祉证据判据（探针 AUC、操控引导、消融、自我-他者分离、缓解按钮）无法区分被植入的倾向性与疼痛或挫败等真实目标状态。

该论文提出“多证据整合差距”概念，发现视觉语言模型（如Gemma-3-27B）能正确恢复所有局部事实，但在需要联合约束满足的任务上全局有效率极低（仅19.75%），并通过隐藏态探针和激活替换实验揭示了跨层深度的可干预性。

该论文提出 SEDATE（选择性检测与定向编辑），一种基于检测-编辑-验证策略的免训练方法，通过定位跨语言共享的“攻击性”神经元来提升大模型的安全性，并在7种语言和4个模型家族上验证了其优于基线的效果。

该论文表明，仅通过对激活值进行广义普罗克鲁斯特分析，就能将五个参数冻结、独立训练的模型（四个 Transformer 模型和一个状态空间模型）对齐到共享的表征空间，在最终层上实现 0.91–0.93 的留出集检索准确率；同时，论文也报告了一项负面结果：在这些模型之间进行路由选择，表现并不优于始终使用最强的模型。

论文提出了 SCAPE-T，一种基于编码器 Transformer 注意力的语义复杂度度量方法。在控制词长后，该方法以 78.5% 的成对准确率显著优于可读性与词法基线，并以 Python 包的形式开源。

该论文构建了两个相连的语言模型副本，研究当一个副本可读取另一个的内部记忆时，它是否会将对方的规则和代码词当作自己的，发现内容覆盖到自身记忆上时默认被标记为'我的'，因此模型间交换内部状态的系统必须同时测试所有权与传输。

TempShap 提出了一种用于时间序列预测的单元级、基于损失的 Shapley 框架，可生成归因张量，揭示特征在输入窗口中的何时发挥作用，以及其影响如何随预测时域变化，并在删除排序基准测试中优于现有的 Shapley 估计器。

CFBrainAug 提出一种模块度约束的反事实脑网络增强框架，将数据增强与反事实解释统一起来，在 ABIDE I 数据集上以轻量级 SVM 实现了具有竞争力的自闭症诊断精度与内在可解释性。

该论文表明，诱导稀疏性的正则化会促使多任务神经网络涌现出功能模块性，从而识别出紧凑的任务选择性子网络（“功能令牌”），这些子网络无需重新训练即可跨路径重新组合。

该论文提出REACT，一种条件激活干预方法，它从配对的安全/不安全思维链轨迹中学习一个安全方向，并对冻结的推理模型施加单次早期编辑，使StrongREJECT-273上的完全安全输出率从29.06%提升至82.05%，并表明最有效的干预窗口位于思维链的前两到三个token内。

本文提出了一套数学理论，解释了为何 Anthropic 的雅可比透镜（J-lens）会优先检测到大语言模型隐藏状态中的相干特征——即占主导地位、空间上相干的李雅普诺夫模态，并在贝叶斯滤波器和简化 Transformer 模型上验证了该分析，同时提出了一族侧重不同时间尺度的 ω-J 透镜。

耶鲁大学研究人员确立了思维链（CoT）可监测性指标的因果上界和下界，表明最低标准真阳性率（TPR）指标可能高估对干预所致行为的检测能力，并提出三种考虑干预的后训练方法（离策略自蒸馏、强化学习、在策略自蒸馏），以提高大语言模型推理轨迹的可监测性。

实验表明 PBT 并不能加速 grokking，但在固定超参数全部失效的'死区'内可以成功逃逸并诱导 grokking；复盘显示真正起作用的是学习率/权重衰减的调度路径而非种群间的权重拷贝。