norm-decomposition

本文通过将干预分解为角度和径向分量，分析了语言模型中的线性激活转向。研究发现概念主要编码在角度结构中，但范数调整对稳定性至关重要，支持球形转向方法的同时表明加性系数混淆了几何特性。