sae

本文介绍了 SAEScientist-Bench，一个用于评估 AI 智能体自主使用稀疏自编码器进行机制可解释性研究能力的基准，揭示了进展但与专家基准相比仍有显著差距。

HyperSAE是一个开源Python库，利用双曲几何将LLM学到的概念组织成可浏览的树状结构，改进了扁平的特征列表。它捕获了Gemma-2-2B模型99.8%的特征，并包含交互式演示。

这项预注册研究测试了和乐（一种几何度量）是否集中在Gemma 2 2B语言模型的主动SAE特征平面上。与语义集中预测相反，主动特征平面比匹配的混合特征控制平面携带更少的和乐，导致了一个狭窄的操作性反转，其根本原因仍然未知。

一位研究人员提供了证据，表明强目标文本能在 Gemma 3 12B IT 的最终输出之前引发可测量的潜在状态转移，这种转移不同于词汇或内容重叠，并讨论了这是对仅依赖输出评估的 AI 安全的影响。