人工智能对齐的数学思考

Chinese Edition: 关于人工智能对齐的数学思考

人工智能对齐通常被理解为使AI系统的行为与人类意图、价值观、偏好和约束保持一致。然而，在讨论可能的解决方案之前，我们首先必须理解为什么对齐在数学上是困难的。正是那些让人工智能变得强大的特性——通过不适定逆问题推断结构的能力、通过无属性数值表示进行学习的能力、以及通过满秩变换保持高维关系自由度的能力——也使得人类价值观难以被指定、表示和分离。因此，本文并不试图提出解决方案。只有在我们理解了这个问题的数学本质之后，才有可能有意义地考虑可能的补救措施。

什么必须对齐？

从宏观层面看，对齐关系到系统试图实现什么、它如何理解人类指令、如何运用已学得的能力、以及如何在世界中行动。其目标、输出、决策和行动需要与物理现实、法律要求、安全约束、机构政策、社会规范以及人类价值观保持一致。这些层面并不相同。物理定律约束什么是可能的，法律和政策约束什么是允许的，社会规范和人类意图约束什么被认为是恰当的。

针对不适定逆问题的对齐

AI系统并不会被赋予关于可接受行为的完整描述。它们从示例、指令、纠正、排名、政策以及观察到的后果中推断出这些行为。这种逆向学习能力是AI强大力量的主要来源，因为它允许系统发现那些从未被完整写下的结构。但同样的过程也使得对齐变得不适定。不同的学习结构可能适应相同的反馈，人类需求可能相互冲突，而上下文中的微小变化可能产生不同的行为。我们无法直接控制内部解；我们能控制的是学习和推理发生的边界条件。

无属性和“无法律”的神经计算

神经网络通过数字、向量、激活值和变换来运作。这些元素本身并不具有真理性、安全性、公平性、有害性或欺骗性。它们也并非天生服从物理、法律、社会或道德法则。这种无属性和无法律的特征赋予了神经网络跨领域的非凡灵活性。但也意味着人类价值观并未内置到单个神经元、参数或特征中。它们只能通过学习得到的关系和施加的边界条件来影响行为。

满秩关系结构

从范畴论的视角看，神经网络学习的是关系、变换和组合，而非孤立的对象。满秩变换保留了多个独立的关系方向，使得知识和能力能够保持紧密连接并可重新编译。这种连通性是AI力量的另一个源泉。但有益行为和有害行为可能共享相同的表示、通路和关系。满秩保留了关系自由度；它并不提供道德上的分离。

• What is Deep Manifold ?

• Neural Network Fixed-Point Field

• Deep Manifold in the Real World

Single Token Geometry Series 单标几何系列

• Single Token Geometry 01: Topology 单标的几何:拓扑

• Single Token Geometry 02: DeepSeek V4 and Manifold Tearing 单标几何:DeepSeek V4 与流形撕裂

• Single Token Geometry 03: Data Complexity 单标几何:数据复杂性

• Single Token Geometry 04: A Critique of Manifold Steering 单标几何:对流形引导的批评

• Single Token Geometry 05: Numerical Manifold Method 单标几何 :数值流形

• Single Token Geometry 06: Stacked Piecewise Manifold 单标几何 06:堆叠分片流形

• Single Token Geometry 07: Attention 单标几何 07:注意力

deepmanifold.ai