标签
本文引入了双立场评估，以测试为减少阿谀奉承而进行的激活引导是否也会抑制与事实正确陈述的同意，发现引导方向无法有区别地针对阿谀奉承的同意与事实上的同意。
本文提出了一种特征空间监测方法，通过在激活空间中跟踪表示漂移来检测LLM在监督微调期间的涌现错位，实现了0.990的AUROC，假阳性率和假阴性率低，优于无监督基线。
本文识别并诊断了EEG基础模型中的“身份陷阱”，即高准确率可能源于受试者身份特征而非真实的临床生物标志物。它提出了FMScope，一种冻结表示协议以分离这些信号，并证明了受试者身份混杂在三模型中普遍存在且可通过线性方法移除。
探究视觉-语言模型中的空间表征，揭示了一个普遍存在的偏差：模型将图像中的垂直位置与距离混为一谈，并引入了 SpatialTunnel 合成基准来暴露这一捷径；研究发现，更好的解耦空间表征能提升模型的鲁棒性。
LaRA是一个逐层表示分析框架，通过测量模型各层的几何偏差来检测RL后训练LLM中的数据污染，优于输出级基线。
提出计算现实监测（Computational Reality Monitoring）方法，用于检测语言模型何时依赖预训练记忆而非检索到的上下文，从而解决检索增强生成中的归因盲点问题。
本文研究了秩1激活引导在何时有效且具成本效益，提出了几何引导搜索和粒度的概念来解释变异性，并引入了GRACE框架用于高效的大语言模型控制。
本文证明了在表示各向异性条件下，平均池化余弦相似度并不具备长度不变性，表明其会随着序列长度的增加而人为夸大相似度。文章主张将中心化核对齐（CKA）作为默认指标，以纠正跨语言和跨表示分析中的偏差。