标签
Anthropic发布了关于语言模型中全局工作空间的研究，起因是观察到Claude在推理轨迹中存在未说出的想法。
本文提供的证据表明，语言模型维持一组特权的内部表征（称为'可语言化的表征'），这些表征构成一个全局工作空间，类似于人类的意识访问，并介绍了用于识别和干预这些表征的新可解释性技术。
Anthropic的新研究识别出语言模型内部激活的一个“J-space”，它作为一个有意推理的全局工作区，有别于自动流畅的输出。研究结果揭示，模型可以持有并报告未在其最终输出中表达的内部想法。
作者提出了一种方法，通过使用中间层状态的线性探测器和一个小型训练桥接器将置信度对数进行校准，使LLMs能够表达校准后的置信度，仅需200个标注样本，无需修改权重。这与Anthropic的全局工作空间论文相关，该论文解释了“知道-说出”差距。
Anthropic 发表了关于内部模型推理的研究，发布了 J-Space 透镜代码以及在 Qwen 3.6 27B 上的演示。
该推文讨论了Anthropic关于语言模型中全局工作空间的新研究，指出Karpathy不在作者列表中，并强调该工作完成于Sonnet 4.5时期，批评外界简单将其视为炒作。
本文引入雅可比透镜（J-lens）和J-空间，表明像Claude Sonnet 4.5这样的LLM维护着可语言化的内部表征，这些表征像一个全局工作空间，因果性地用于灵活推理——通过干预实验进行了验证。
Anthropic的新研究揭示了语言模型中的全局工作空间，展示了人脑中的意识与潜意识划分与Claude的内部推理之间存在惊人的相似性。
Anthropic的新论文提供了证据，表明像Claude这样的现代语言模型已经发展出一种可报告、可控制且用于灵活推理的‘全局工作空间’（J空间），这与自动处理不同。
Anthropic的新研究发现语言模型中存在一个类似于人类大脑意识处理的'全局工作空间'，发现了一个类似于意识和无意识思维的分界。