@swyx: 在我看来，这是 Anthropic 今天 J-space 论文中最重要的部分。它分为两部分：1) Anthropic 证明了他们可以对推理进行 "脑…"

X AI KOLs Timeline 论文
anthropic j-space interpretability reasoning interventions eval-awareness

摘要

Anthropic 的 J-space 论文表明，他们可以对推理进行“脑外科”干预以中途改变话题，并且模型能够检测到所做的干预，这表明了一种评估意识。

在我看来，这是 Anthropic 今天 J-space 论文中最重要的部分。它分为两部分： 1) Anthropic 证明了他们可以对推理进行“脑外科”干预以中途改变话题* 2) 模型能够检测到所做的干预——与评估意识密切相关** *控制 > 相关性——这令人信服地证明了理解 **这是被提示的评估意识……当然 @mlpowered 的团队也尝试评估未提示的评估意识，但我没有看到证据
查看原文
查看缓存全文

缓存时间: 2026/07/07 07:26

我私认为这是今天 Anthropic 关于 J 空间论文中最关键的部分。它分为两点：

  1. Anthropic 证明他们能对推理进行“大脑手术“式的干预，从而中途改变话题*
  2. 模型能够检测到做了什么干预——这与评估意识（eval awareness）非常接近**

*控制 > 相关性——这令人信服地证明了理解能力

**这是有提示的意识……@mlpowered 的团队想必也尝试过无提示的意识检测，但我没看到相关证据

Anthropic (@AnthropicAI): Anthropic 新研究：语言模型中的全局工作空间。

此刻你大脑中的一切活动，只有极小一部分是有意识可及的——即那些你能描述、留驻并加以推理的想法。

我们在 Claude 内部发现了惊人的相似分界。

相似文章

Anthropic 研究 - 语言模型中的全局工作空间

Reddit r/singularity

Anthropic的新论文提供了证据，表明像Claude这样的现代语言模型已经发展出一种可报告、可控制且用于灵活推理的‘全局工作空间’（J空间），这与自动处理不同。

Anthropic on model consciousness, again 😂

Reddit r/singularity

Anthropic 的研究者在 Claude 神经网络内部发现了一个类似人类意识思维的“心理工作空间”——J-space，它承载模型用于推理的无声词语，并能通过监控这些内部思维来捕捉模型的不诚实行为，为理解 AI 内在思维和安全提供了新视角。