可语言化的表征在语言模型中构成全局工作空间

# 语言模型中的可言语化表征构成全局工作空间 来源：https://transformer-circuits.pub/2026/workspace/index.html ## 可言语化表征构成语言模型中的全局工作空间 引言 (https://transformer-circuits.pub/2026/workspace/index.html#intro)方法 (https://transformer-circuits.pub/2026/workspace/index.html#methods)全局工作空间 (https://transformer-circuits.pub/2026/workspace/index.html#workspace)结构支撑功能 (https://transformer-circuits.pub/2026/workspace/index.html#structure)对齐审计 (https://transformer-circuits.pub/2026/workspace/index.html#apps-auditing)助手的视角 (https://transformer-circuits.pub/2026/workspace/index.html#apps-diffing)反事实反思训练 (https://transformer-circuits.pub/2026/workspace/index.html#reflection)讨论 (https://transformer-circuits.pub/2026/workspace/index.html#discussion)Wes Gurnee\*,Nicholas Sofroniew\*Adam Pearce,Mateusz Piotrowski,Isaac Kauvar,Runjin Chen,Anna Soligo,Paul Bogdan,Euan Ong,Rowan Wang,Ben Thompson,David Abrahams,Subhash Kantamneni,Emmanuel Ameisen,Joshua BatsonJack Lindsey\*† --- ## 引言 (https://transformer-circuits.pub/2026/workspace/index.html#intro) 如果说心灵是一片海洋，那么我们终其一生都漂浮在海面上。在我们之下，大量的处理活动在我们毫无察觉的情况下进行着：我们的视觉系统解析着面部的轮廓，我们的运动回路维持着身体的姿势。在任何特定时刻，只有一小部分神经活动能够被我们意识所及。然而，正是这少数特权活动，支撑着我们的深思熟虑：计划做菜需要买什么食材，或琢磨引擎为何无法启动。这些想法可以大声说出，有意识地记在心中，并用于应对当下的任何任务。这种区别——可被意识触及的思想与无意识加工之间的区别——或许是人类认知最显著的特征。 在本文中，我们提出证据表明，现代AI模型中也出现了一种类似的功能性区别。具体而言，我们观察到语言模型维护着一组特权化的内部表征，这些表征可用于报告、调节和灵活的内部推理，而其下方则是更大体量的自动加工处理。我们利用一种新的可解释性技术来识别这些表征，该技术能揭示模型在其处理过程中随时准备言语化的概念。测量并干预这些表征，让我们得以一窥模型的思维过程，揭示那些并未出现在其输出中的内部推理和反应。 ### 动机：意识访问与全局工作空间 (https://transformer-circuits.pub/2026/workspace/index.html#intro-human-workspace) 上述现象有时被称为**访问意识（access consciousness）**：在大脑处理的所有信息中，只有一部分是可供意识访问的（即可以用于推理以及直接控制行为和言语）。注意，访问意识是一个纯粹功能性的概念；它与主观体验（有时称为**现象意识（phenomenal consciousness）**）之间的关系存在广泛争议。在本文中，我们对此问题不作立场表态，而是关注意识可访问信息所扮演的**功能性**角色。它与其它信息在表征或加工方式上有何不同？哪些心智功能依赖于它，哪些不依赖？ 通常认为，意识可访问信息与无意识加工相比具有若干功能性属性。这类信息通常是**可报告的（reportable）**，即可以根据要求用语言表达出来；事实上，言语报告常常被视为意识访问的主要经验性标志。它受**自上而下的控制**：一个概念可以被有意识地召唤、保持在心中并随后解除。它是**深思熟虑推理**的媒介：一个想法接一个想法地费力、逐步进行链条式推演。它允许**灵活泛化**：同一内容可以被路由到当前任务所需的任何操作，并与其他可访问内容以新颖方式重新组合。此外，它具有**选择性**：在任何时刻，大脑持续进行的加工中只有很小一部分能以此种方式被访问，大部分感知、运动和语言计算都是自动进行的，不涉及意识访问。 神经科学中一个有影响力的理论——**全局工作空间理论（global workspace theory）**——将这些功能属性植根于大脑的结构性和计算性特征。根据这一理论，大脑由许多专门处理器组成，这些处理器大体并行且孤立地工作，其活动在意识访问之外进行。当一个表征被发布到一个共享的“全局工作空间”，并被许多下游过程读取时，它就变得可供意识访问。根据该理论，工作空间是一个处理枢纽，用于整合和广播信息，使其能够用于灵活的内部推理和报告。值得注意的是，工作空间被认为容量有限，因此进入是竞争性的，并受注意调控；在任何时刻，工作空间的内容都是大脑持续活动中一个很小的选择。尽管全局工作空间模型并未被普遍接受，也存在其他不同方式解释意识访问的理论 (?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-discuss-conscious))，但我们认为它是一个有用的比较点，用以引导我们在语言模型中的研究。 ### 语言模型中的全局工作空间 (https://transformer-circuits.pub/2026/workspace/index.html#intro-lm-workspace) 现代大型语言模型（LLMs）已知会执行复杂的多步内部计算以选择其动作。在其内部处理过程中，LLMs是否可能已经发展出自己的全局工作空间，以扮演与意识访问类似的角色？这一点并不显而易见；在大脑中，工作空间通常与递归动力学和脑区相互作用密切相关，而这些在LLMs所基于的Transformer架构中并没有直接的对应物。另一方面，维护一个全局工作空间可能在计算上是有用的：一种共同的表征格式允许中间结果被写入一次，并被多个神经过程读取。一个必须串联推理步骤、在任意上下文中应用通用操作、并回答关于自身处理问题的语言模型，也理应受益于这种组织方式。即使实现方式不同，我们自然要问：LLMs中是否已经涌现出与全局工作空间相关的功能属性？ 对于LLM来说，拥有一个全局工作空间意味着什么？LLMs将内部状态表示为高维向量，这些向量由更原始的概念向量表示组成。这些表征编码了多种信息，从低层级的书记信息（如当前词的词性、一行文本的字符长度）到更高层级的抽象概念（如实体（如金门大桥）、心理状态（如绝望）以及情境知识（如意识到自己正在接受评估））。如果语言模型拥有类似全局工作空间的东西，我们可能会假设其中**一些**表征属于它，但并非全部。因此，我们的问题变成：在LLM的向量表征库中，是否存在一个特权的子集，在计算角色上类似于全局工作空间？我们将一个向量表征的子集定义为**类工作空间（workspace-like）**，如果它满足以下属性，这些属性反映了上述意识访问的特征： - **言语报告**：当模型被问及它在思考什么时，它会说出工作空间中表征的概念。将一个活跃的工作空间向量替换为另一个，模型会根据新的向量改变其回答。 - **定向调控**：当被指示记住某个概念或进行心理计算时，模型能够激活并使用工作空间向量进行计算，且独立于其输出。此外，当任务需要时，通常不在工作空间中表征的信息也可以被拉入。 - **内部推理**：当模型串联推理步骤或制定计划时，工作空间向量可用于表示中间计算的值，并且干预这些向量足以改变结论方向。 - **灵活泛化**：同一表征可以作为许多不同下游计算的有效参数。换言之，从一个上下文提取的工作空间向量放到另一个上下文中，会被新上下文提供的任何函数正确处理。 - **选择性**：工作空间只构成模型激活中总表征内容的很小一部分。它只对模型行为的一小部分有所需求，尤其是它不参与普遍性的、例行性的处理（如文本解析或语法流畅性）。 在本文中，我们提供证据表明LLMs确实拥有此类类工作空间表征。我们通过搜索满足第一个属性（即可言语化）的表征来识别它们。然后我们发现，令人惊讶的是，它们也满足其他属性。这些表征由一个小的、不断演变的未说出单词集合组成，既不是输入的单纯回声，也不是下一个标记的预测，而是命名模型当前正在推理的概念。下面，我们给出一些用于展示这些属性的实验的示意性说明，这些实验将在后续章节详细阐述。 图1：全局工作空间的五个功能属性，以及我们用于在语言模型中测试这些属性的实验示意说明。### 雅可比透镜与J空间 (https://transformer-circuits.pub/2026/workspace/index.html#intro-jlens) 我们的结果使用了一种新的可解释性技术，称为**雅可比透镜（Jacobian lens, J-lens）**，它旨在识别那些易于用于言语报告的内部表征。对于模型词汇表中的每个标记，雅可比透镜识别出一个向量表征，该向量编码了模型未来言语化该标记的潜力。具体而言，它计算每个层中激活对模型产生特定标记（现在或未来）可能性的平均线性化效应，并对大量上下文语料进行平均（详见方法 (https://transformer-circuits.pub/2026/workspace/index.html#methods)）。平均步骤是关键，因为它区分了那种**可言语化**的表征（即随时可以谈论，只要场合合适）与那些仅仅在某个特定上下文中被言语化的表征。雅可比透镜可以被理解为logit透镜的一种原则性改进。logit透镜假设所有层中的表征使用相同坐标，而雅可比透镜修正了跨层发生的表征变化，从而使其能够在早期层中发现有意义的语义信息（而logit透镜在这些层中只能产生不可解释的读出）。 雅可比透镜向量共同构成了模型表征空间的一个子成分，我们称之为**J空间（J-space）**。从数学上看，如果我们将模型的激活视为稀疏活跃的线性特征之和，这些特征定义了一个跨越激活空间的稀疏框架，而J空间是该稀疏框架的一个子框架。J空间的更详细形式化描述见?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-app-sparse-frame)。我们发现J空间远不止支持言语化，它还扮演了与全局工作空间相关的其他功能角色：定向调控、内部推理、灵活泛化和选择性 (?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-workspace))。模型在J空间被抑制的情况下仍能流利地说话、解析输入并进行大量自动推理；然而，它在执行更复杂的内部推理形式时会遇到困难。 J空间也具备全局工作空间的一些结构特征 (?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-structure))。它仅在一部分层中扮演“类工作空间”的角色：连贯的内容只在经历了初始的若干层后才涌现出来，而在最后几层中，抽象概念让位于更直接与即将产生的输出相关的表征。在它实际运作的层内，其容量有限，模型的大多数表征特征都位于它之外。而且它在机制上享有特权：与其他表征向量相比，J空间向量与模型权重的上游和下游交互更广泛，这符合其作为广播格式（许多电路从中读取或写入）的假设角色。 图2：图?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-structure) 中确立的J空间三个结构属性的示意性说明。尽管存在这些相似之处，我们并不声称语言模型完全再现了全局工作空间理论归因于大脑的整体架构——即专门化、封装化的处理器竞争进入一个工作空间，而工作空间通过递归连接将信息广播回这些处理器。其中一些特征在基于Transformer的语言模型中没有清晰的对应物：没有明显可分离的输入处理器，我们记录的广播发生在单次前向传播中，而非通过递归循环。此外，尽管我们观察到对J空间访问存在一定程度的竞争，但尚不清楚这是否对应于大脑中工作空间进入时所特有的尖锐竞争性“点燃（ignition）”。我们的发现表明，J空间实现了大脑全局工作空间的许多**功能性**属性，同时仅共享其部分架构属性。我们在?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-discuss-differences)中详细讨论了显著的差异。 雅可比透镜是一个不完美的工具，我们认为它只能近似且不完全地捕捉模型的底层工作空间结构。例如，它只能识别与模型词汇表中单个标记对应的概念向量，但许多重要概念对应多个标记（尽管参见?? (https://transformer-circuits.pub/2026/workspace/index.html#fig-app-multi-token) 中可捕获多标记词组的扩展）。我们在限制 (https://transformer-circuits.pub/2026/workspace/index.html#discuss-limitations) 中讨论了这些不足以及改进建议。尽管如此，我们发现当前形式的雅可比透镜已足以揭示大量重要结构。 ### 我们在J空间中能找到什么？ (https://transformer-circuits.pub/2026/workspace/index.html#intro-jspace) 除了描述J空间的属性，我们还探索了它的内容。雅可比透镜经常揭示出高度抽象的概念，它们既不是原始输入，也不是预测输出，而是模型已形成并使其可用于下游电路的中间评估。在下面的例子中，雅可比透镜揭示了模型识别出面孔图像、注意到被要求阅读的代码中的错误、从原始序列中鉴定出蛋白质的生物学功能，以及在内部标记可疑的互联网搜索结果。