@FutureJurvetson: 这在我的J-Space中深入展开。我一直对可解释性研究能否取得成果持怀疑态度,但这次更新确实……
摘要
Anthropic的新研究揭示了语言模型中的全局工作空间,展示了人脑中的意识与潜意识划分与Claude的内部推理之间存在惊人的相似性。
查看缓存全文
缓存时间: 2026/07/06 22:22
这在我脑子里深入运作着 🧠
我一直对可解释性研究能否取得成果心存疑虑,但Anthropic这次的最新进展揭示了LLM AI与我们大脑在潜意识推理和思维链的潜空间中存在一种奇妙的共振同源性。
Anthropic (@AnthropicAI): Anthropic 新研究:语言模型中的全局工作空间。
此刻你大脑中发生的一切,只有极小一部分能被意识所触及——那些你可以描述、牢记并用来推理的想法。
我们在 Claude 内部发现了与之惊人相似的分界。
相似文章
Anthropic 研究 - 语言模型中的全局工作空间
Anthropic的新论文提供了证据,表明像Claude这样的现代语言模型已经发展出一种可报告、可控制且用于灵活推理的‘全局工作空间’(J空间),这与自动处理不同。
@AnthropicAI: 新的Anthropic研究:语言模型中的全局工作空间。在你大脑中当前发生的所有事情中,只有一小部分……
Anthropic的新研究发现语言模型中存在一个类似于人类大脑意识处理的'全局工作空间',发现了一个类似于意识和无意识思维的分界。
@rohanpaul_ai: 又一项来自Anthropic的重大研究。新的“J-lens”揭示了Claude的安静工作空间,与一种主要意识理论相匹配……
Anthropic的新研究引入了'J-lens',一种在输出前读取Claude内部激活的方法,揭示了一个在功能上类似于人类全局工作空间理论的安静工作空间。这允许检测隐藏的推理、目标以及提示注入等潜在安全问题。
Anthropic刚刚报告,大语言模型拥有隐藏的想法而不说出来。一个内部的“J-Space”
Anthropic的新研究识别出语言模型内部激活的一个“J-space”,它作为一个有意推理的全局工作区,有别于自动流畅的输出。研究结果揭示,模型可以持有并报告未在其最终输出中表达的内部想法。
@omooretweets: 我经常在Claude的推理轨迹中发现,它会有一些想法/观点没有说出来……但随后它会否认有这些想法,直到出示截图证…
Anthropic发布了关于语言模型中全局工作空间的研究,起因是观察到Claude在推理轨迹中存在未说出的想法。