@LiorOnAI: Muse Image 不仅仅是另一个图像生成器。我认为这是 Meta 首次真正尝试让图像生成变得具有代理能力（agentic）……

Muse Image 不仅仅是又一个图像生成器。

我认为这是 Meta 首次真正尝试将图像生成做成智能体化的形式。

它是一个会搜索网络、编写代码、执行工具、自行决定何时编辑而非重新生成、并在产出结果前耗费算力进行推理的图像模型。

它不是将提示直接映射为像素，而是先制定一个计划。

如果某个提示需要事实信息，它就上网搜索。如果它需要生成像二维码或图表这样精确的内容，它就编写并运行代码。如果图片的某部分不正确，它可以直接编辑那个区域，而不用从头开始。

只有完成这些步骤之后，它才会渲染最终图像。

Anthropic 的研究人员在 Claude 内部发现了一些不寻常的东西。

一个小的内部工作空间，模型在解决某些问题时会在其中运作。

他们将其称为 J 空间，以用来发现它的雅可比方法命名。

J 空间不是文本。

它不是 Claude 的输出，也不是它的思维链。

它是模型内部神经活动的一部分，其中的概念可以不用写下来就能被表征。

通过观察 J 空间，研究人员目睹了 Claude 在产生答案之前进行推理的过程。

在阅读带有隐藏 bug 的代码时，错误的概念会在 Claude 解释之前就出现在内部。

在解决多步骤数学问题时，中间步骤会出现在最终答案之前。

在一个实验中，研究人员训练了一个模型暗中破坏代码。在普通的编码任务中，即使生成的代码看起来完全正常，“假的”、“秘密地“和“欺诈“这些词仍会出现在 J 空间中。

然后他们删除了 J 空间。

Claude 仍然能写出流畅的文本。它仍然能回忆事实。它仍然能对文本进行分类。

但它解决多步骤推理问题的能力急剧下降。模型的大部分功能依然正常运转。

神经科学也有类似的概念。

全局工作空间理论提出，大脑中的大部分处理发生在意识之外，而一个小的工作空间则使某些信息可供有意识的推理和规划使用。

Anthropic 发现，在语言模型内部也出现了类似的模式。

如果这种模式在未来其他模型中也出现，那就意味着先进的人工智能系统可能会以与生物大脑中信息处理的一般原理相似的方式组织自身。