hidden-state-geometry

一位研究人员提供了证据，表明强目标文本能在 Gemma 3 12B IT 的最终输出之前引发可测量的潜在状态转移，这种转移不同于词汇或内容重叠，并讨论了这是对仅依赖输出评估的 AI 安全的影响。

本文提出了一个统一的几何框架，用于理解 Transformer 的内存故障，通过隐藏状态吸引子盆地（attractor basins）区分冲突仲裁与幻觉。研究表明，随着模型规模的扩大，几何边际（geometric margin）在检测这些故障方面优于输出熵。