internal-workspace

Anthropic的研究论文揭示了LLM中存在一个涌现的内部工作空间，推理在输出之前发生，一位开发者构建了一个实时查看工具（Subtext）来观察这一过程，从而平息了关于LLM是否真的在思考的争论。

Anthropic的新研究引入了'J-lens'，一种在输出前读取Claude内部激活的方法，揭示了一个在功能上类似于人类全局工作空间理论的安静工作空间。这允许检测隐藏的推理、目标以及提示注入等潜在安全问题。