@kimmonismus: Anthropic 表示 Claude 在训练过程中自行发展出了一个隐藏的“思维空间”。它被称为 J-space：一个小的……

X AI KOLs Timeline 论文
interpretability anthropic claude internal-representations j-space ai-safety

摘要

Anthropic 发现 Claude 在训练过程中自行发展出了一个隐藏的“思维空间”（J-space），其中无声的内部活动代表概念。这一可解释性发现与神经科学中的全局工作空间理论相呼应。

Anthropic 表示 Claude 在训练过程中自行发展出了一个隐藏的“思维空间”。 它被称为 J-space：一组内部模式，展示了 Claude “在脑海里”有哪些概念，即使它从未说出来。 示例：Claude 可以默默思考“蜘蛛”来回答“8条腿”。如果研究人员将该内部模式替换为“蚂蚁”，Claude 会回答“6”。 因此，这不仅仅是思维链文本。它是无声的内部活动。
查看原文
查看缓存全文

缓存时间: 2026/07/06 20:20

Anthropic 表示 Claude 在训练过程中自行发展出了一个隐藏的“思考空间”。

这个空间被称为 J 空间：一组内部模式的微小集合，展示了 Claude 在“潜意识”中关注的概念，即便它从未明说。

例如：Claude 可以默默思考“蜘蛛”来回答“8条腿”。如果研究人员将该内部模式替换为“蚂蚁”，Claude 会回答“6条腿。”

所以这不仅仅是思维链文本。这是无声的内部活动。

Anthropic (@AnthropicAI):
在神经科学中，全局工作空间理论认为，当思想进入一个在脑内广播的特权工作空间时，它们才能被意识所及。

通过一项新的可解释性技术，我们在 Claude 中发现了类似的存在：J 空间。

相似文章

What’s at the center of Claude’s mind?

Reddit r/singularity

Anthropic的研究发现Claude模型内部存在一个名为“J空间”的结构，类似于人类的工作记忆，用于内部推理和思考。这一发现可帮助监控模型的潜在不当行为，并加深对AI内部机制的理解。

Anthropic 研究 - 语言模型中的全局工作空间

Reddit r/singularity

Anthropic的新论文提供了证据，表明像Claude这样的现代语言模型已经发展出一种可报告、可控制且用于灵活推理的‘全局工作空间’（J空间），这与自动处理不同。