J-space论文悄然平息了关于“LLM是否真的在思考”的争论的大部分。我构建了一个实时查看器，让你可以亲眼观察，而不是争论。

如果你还没读过：https://www.anthropic.com/research/global-workspace。语言模型有一个涌现的内部工作空间，由沉默的词组成，它们可以报告、引导和推理。让我印象深刻的是：要求模型检查“12 + 5 = 1”时，错误信号在内部饱和，而它还在阅读问题；片刻之后它打出“不，那不对”，这不过是对已经发生的决策的叙述。争论现在可有可无了。你只需要观察。仓库：https://github.com/ninjahawk/Subtext 这个子论坛多年来一直在争论“它只是自动补全”与“它真的在推理”，而诚实的答案其实是：两者兼有，而且现在可以测量了。该仪器显示模型的大部分流畅输出（语法、语气、常识事实）完全绕过了工作空间（不涉及“思考”），而多步骤问题则明显地经过它。两个阵营都只说对了一半。这就是有趣的地方。Anthropic开源了透镜，Neuronpedia发布了针对Qwen预拟合的版本，所以我把它集成到了一个聊天界面中。每个令牌有9层读出，实时渲染，包括在模型读取你的消息时（此时还没有任何输出）。仓库中有演示视频：关于12+5=1的判定在阅读过程中形成，然后模型在说出任何一个词之前就已经在脑海中保存了模运算和按位运算（它正在规划模运算的注意事项。你可以观察它的规划。）如果你没有GPU，可以在浏览器中回放：https://ninjahawk.github.io/Subtext/ 是的，功能上的可用性不等于意识，在有人开始争论之前——论文对此很谨慎，我也一样。但有趣之处在于：没有人设计这个工作空间。它就是在你训练transformer时出现的，在随机开源的4B模型上和Claude上一样。¯\_(ツ)_/¯