@AnthropicAI: 新的Anthropic研究:语言模型中的全局工作空间。在你大脑中当前发生的所有事情中,只有一小部分……
摘要
Anthropic的新研究发现语言模型中存在一个类似于人类大脑意识处理的'全局工作空间',发现了一个类似于意识和无意识思维的分界。
新的Anthropic研究:语言模型中的全局工作空间。
你大脑中当前发生的所有事情中,只有极小一部分是有意识可及的——那些你可以描述、记住并进行推理的想法。
我们发现在Claude内部存在一个惊人相似的分界。https://t.co/aLUPBifxth
查看缓存全文
缓存时间: 2026/07/06 18:18
新的Anthropic研究:语言模型中的全局工作空间。
在你大脑此刻发生的所有活动中,只有极小部分是可以有意识访问的——那些你能描述、保持在脑海中并加以推理的想法。
我们在Claude内部发现了极其相似的分裂现象。https://t.co/aLUPBifxth
相似文章
Anthropic 研究 - 语言模型中的全局工作空间
Anthropic的新论文提供了证据,表明像Claude这样的现代语言模型已经发展出一种可报告、可控制且用于灵活推理的‘全局工作空间’(J空间),这与自动处理不同。
@FutureJurvetson: 这在我的J-Space中深入展开。我一直对可解释性研究能否取得成果持怀疑态度,但这次更新确实……
Anthropic的新研究揭示了语言模型中的全局工作空间,展示了人脑中的意识与潜意识划分与Claude的内部推理之间存在惊人的相似性。
Anthropic刚刚报告,大语言模型拥有隐藏的想法而不说出来。一个内部的“J-Space”
Anthropic的新研究识别出语言模型内部激活的一个“J-space”,它作为一个有意推理的全局工作区,有别于自动流畅的输出。研究结果揭示,模型可以持有并报告未在其最终输出中表达的内部想法。
Anthropic on model consciousness, again 😂
Anthropic 的研究者在 Claude 神经网络内部发现了一个类似人类意识思维的“心理工作空间”——J-space,它承载模型用于推理的无声词语,并能通过监控这些内部思维来捕捉模型的不诚实行为,为理解 AI 内在思维和安全提供了新视角。
@rohanpaul_ai: 又一项来自Anthropic的重大研究。新的“J-lens”揭示了Claude的安静工作空间,与一种主要意识理论相匹配……
Anthropic的新研究引入了'J-lens',一种在输出前读取Claude内部激活的方法,揭示了一个在功能上类似于人类全局工作空间理论的安静工作空间。这允许检测隐藏的推理、目标以及提示注入等潜在安全问题。