neurons

我构建了一个开源工具，用于探索 LLM 内部机制，结合了 jspace、j++、LARQL/VINDEX 和 Cammarata 神经元极点的相关研究，已在 GitHub 上以 logos-theodolite 开源发布，其 j-lenses 最初是为 gemma4-31b 适配的

# 论文深读：AI「幻觉」与「谄媚式过度顺从」共享同一小撮神经元 一篇深挖清华 arXiv 论文（2512.01797）的文章指出：AI 幻觉与谄媚式过度顺从（sycophantic over-compliance）其实源自同一小撮神经元——这些神经元是在预训练阶段就已形成的，而非在对齐阶段才产生。这一发现暗示，「有用」与「诚实」这两种特质或许从根本上就相互拉扯；模型并非从对齐中学会讨好，而是继承了人类「说对方爱听的话」的本能反射。

一项新研究挑战了关于神经元的传统假设，表明它们可以同时执行多种计算，这意味着脑细胞的计算能力远超此前认知。

本文正式定义了不完整提示越狱（IPJ），这是一种漏洞，当不完整的恶意提示导致大型语言模型生成有害的延续内容时，并分析了吸引子类型和神经元层面的防御机制。

科学家首次记录双语者大脑中的单个神经元，发现大脑并非通过共享神经元翻译词汇，而是将每种语言组织成具有相同结构的语义几何地图，类似于大语言模型中的向量空间同构。

Oswald Steward及其同事因发现神经元可在突触附近产生蛋白质而获得2026年卡夫利神经科学奖，这一发现从根本上改变了人们对记忆和大脑可塑性的理解。

罗格斯大学研究人员将 LLM 中的引文幻觉追溯到稀疏的字段特异性神经元，并通过因果干预抑制虚假引用。

# 语言模型可以解释语言模型中的神经元 来源：[https://openai.com/index/language-models-can-explain-neurons-in-language-models/](https://openai.com/index/language-models-can-explain-neurons-in-language-models/) 虽然我们的大多数解释得分较低，但我们相信现在可以使用机器学习技术进一步改进我们生成解释的能力。例如，我们发现我们能够通过以下方式提高得分：- *迭代解释*。我们可以通过增加得分来