lens-methods

a9lim 和 treetowntree 推出了 neuron lens，这是一个可浏览的数据库及配套工具，利用 R-lens、S-lens 和 mid-lens 变体解读 Qwen3-8B 和 Gemma 4 12B 中的每个神经元和注意力头，其对模型引导效果的预测准确率超过 90%。

OmniLens是一种可扩展的透镜方法，用于解读LLM隐藏状态，通过低秩转换器和Subset-KL减少参数与内存，使得在LLaMA-3.3-70B上能够以显著更低的成本构建包含482个透镜的密集集成。