sae

这项预注册研究测试了和乐（一种几何度量）是否集中在Gemma 2 2B语言模型的主动SAE特征平面上。与语义集中预测相反，主动特征平面比匹配的混合特征控制平面携带更少的和乐，导致了一个狭窄的操作性反转，其根本原因仍然未知。

一位研究人员提供了证据，表明强目标文本能在 Gemma 3 12B IT 的最终输出之前引发可测量的潜在状态转移，这种转移不同于词汇或内容重叠，并讨论了这是对仅依赖输出评估的 AI 安全的影响。