Anthropic刚刚报告，大语言模型拥有隐藏的想法而不说出来。一个内部的“J-Space”

在[Anthropic的新论文](https://www.anthropic.com/research/global-workspace)中，他们发现语言模型内部一小部分激活（他们称之为J-space）表现得像一个全局工作区：模型可以报告其中的内容，有意地将其中的东西保留下来，并用于多步推理。疯狂的是，模型大多数流畅的输出完全绕过了这个区域——语法、事实和语气。这个工作区只在真正思考时才会激活。读这篇论文时，我想亲自观察一下，于是构建了[subtext](https://github.com/ninjahawk/Subtext)，这样内部词汇就能在模型思考时被揭示出来。每个浮动的词都是模型在说出之前——有时永远不会说出——倾向于该词的内部状态。我花了一些时间复现了论文中的以下信息： **•** 判断在它仍在阅读时就形成了。问“这个对吗？12 + 5 = 1”，在回复的第一个token出现之前，不正确的信号就已经饱和。 **•** 两跳推理可见：“形状像靴子的国家的货币”→意大利在第20层出现，欧元在第26层出现，在生成开始之前。 **•** 它会在说出无关词汇时高强度地保留计划中的词汇。 需要明确限制（论文对此很谨慎，我也应该如此）：这表明信息在功能上可用于报告和推理。它并未表明主观体验。基于Anthropic的新研究，你们有人认为存在内部“体验”吗？他们特别提到不确定Claude中是否存在内部体验。