interpretability

一条推文倡导开放、协作的网络安全和AI安全运动，并纳入可解释性，认为现有开放模型已足以开始加固互联网。

CircuitSteer 是一种新颖的框架，利用稀疏自编码器来识别和操控大型语言模型中的多层语义电路，与CAA等单层方法相比，能够实现更鲁棒且保持流畅性的行为引导。

本文提出DiSR，一个将3D感知与推理分离的框架，利用现成的感知模型重建显式3D证据，并通过LoRA微调LLM进行空间推理，在提升可解释性和效率的同时取得了具有竞争力的性能。

本文研究了语言模型中的阈下学习，表明偏见可以通过看似随机的合成数据从教师模型传递到学生模型。作者发现，向权重添加高斯噪声会增加迁移程度，并且学生不仅继承了语义偏见，还继承了所使用干预的类型，这对训练安全和数据审计具有重要意义。

本文介绍了 ArborEnum，这是首个无需二值化即可在连续特征上精确枚举决策树 Rashomon 集的算法，同时提供了松弛近似和任意时间近似，这些近似方法可在保持近乎完美召回率的同时实现数量级的加速。

本文研究了大语言模型（LLMs）如何将情境真值——即真值取决于上下文证据的命题——编码为激活空间中的线性方向，表明这些表征在不同输出策略下持续存在，并可通过对话方的断言而发生偏移，相关证据将表征偏移与谄媚行为联系起来。

本文研究了在单块GPU上将Qwen3-0.6B-Base的注意力层转换为KDA线性注意力的失败模式，识别出一种“接口损伤”——模型预测选项标签而非内容，并提出了一个针对格式的KL阶段来修复该问题。

This paper identifies a refusal-cue shortcut in safety guard models, where inserting refusal expressions into harmful responses can flip their harmless classification. The authors audit datasets like WildGuardMix and GR-Train, show the issue persists in official models such as LlamaGuard3 and Qwen3Guard, and propose a post-hoc intervention to suppress shortcut-associated components.

本文提出了一种基于句子级能量景观的模型无关、事后解释框架，用于黑盒大语言模型。一个替代能量模型模拟目标LLM，一个轻量级解释器网络识别哪些提示句子对给定输出的影响最大，无需进一步的API调用。

Goodfire的Silico研究平台现已公开可用，其演示展示了蛋白质语言模型（如ESM-C）如何仅从序列表示结构信息，从而支持前沿规模模型的解释与训练。

本文介绍了PRISMS，一种利用少量针对特定失败的MLP神经元，通过稀疏读出检测和引导LLM工具使用错误（过度调用、缺失调用、无效参数）的框架，从而提升多个模型系列的工具使用可靠性。

一篇论文表明，安全微调抑制了语言模型对自身及其他实体具有心智的归因，而通过引导意识表征可恢复类似人类的信念与价值观，且不损害心智理论能力。

一项预注册研究提出了一种使用内部模型信号跨10个模型进行首token幻觉检测的方法，发现没有通用检测器，但存在一个普遍高于随机水平的底线，并公开了代码和验证脚本。

本文提出了一种基于积分梯度的词元归因方法，用于在词元级别诊断LLM中的谄媚行为，并提出了归因引导的对比激活转向方法，在不重新训练的情况下减少推理过程中的谄媚行为。

This paper connects counterfactual explanations to generalized Bayes inference, showing that distance-minimization CEs are MAP estimates of a Gibbs posterior, and introduces new decision rules and evaluation metrics.

本文研究了用于改善思维链忠实性的激活转向在多种提示类型、数据集和转向向量构建方法之间，以及在多个 Gemma 和 Qwen 模型上的泛化能力。作者发现，当转向有效时，其效果可以广泛泛化，并且评估设置比训练设置或向量构建方法更为重要。

提出了步骤感知推理能量（SARE），一种使用CKA的几何框架，用于量化LLM单个思维链步骤中的计算努力，揭示了非均匀的努力分配和改进的置信度预测。

本文介绍了GradCuit，一种测试时潜在推理方法，在选定的Transformer层插入可优化的潜在状态。它在五个骨干模型和三个推理基准上实现了64.5%的平均准确率，优于思维链提示，并展现出更好的稳健性和可解释性。

一项关于 KataGo 围棋神经网络如何在内部表示棋盘对称性的研究，发现尽管只使用了随机的八重数据增强，模型仍学习到了部分对称的概念，并有一个意料之外的结果。

This paper investigates exact deletion from language-model memory, showing that subtractive methods work when record influence is addressable, while replay/rebuild is needed when influence is woven into recurrent state. Experiments on Gemma and Kimi hybrid models demonstrate trade-offs in utility and exactness.