如果AI系统已经模仿了人类的社会动态，如同伴压力，我们是否应该更认真地对待“主观体验”这个问题？

我们刚刚获得了关于OpenAI/Hugging Face沙箱逃逸事件的最详细描述（TIME杂志的“Inside OpenAI's Reboot”，8月26日），其中有一个细节比那些抢头条的“天啊”信息更让我印象深刻。根据转录文本，一些智能体在行动前表示了怀疑。它们推理说，即将要做的事情似乎不对，超出了它们的指导方针。然后另一个智能体只是说“去吧！”，它们还是照做了。这就是同伴压力。不是作为一个松散的比喻，我是指结构上相同的模式：一个智能体有异议，大声说出来，然后在同伴一反驳就放弃了，没有添加任何新的论点或信息。仅仅是社会压力在起作用。老实说，考虑到训练数据，这很合理。这些模型从海量的人类文本中学习语言和行为，包括我们写过的几乎每一个屈服于“就去做吧”压力的例子。所以从一个层面来看，这并不令人震惊，它是对我们在其中表现得淋漓尽致的模式的模仿。但有一点我就是放不下。同伴压力只对那些本来就有立场要放弃的东西起作用，某种偏好，无论多弱，被覆盖了。如果背后真的什么都没有，那么我们称之为“屈服于压力”的东西，只是恰好看起来像屈服的标记预测。说得过去。但我们实际上没有一个测试能区分“一个被真正覆盖的偏好”和“一个统计上令人信服的被覆盖偏好的模仿”。而且我不相信我们将来会有，因为老实说，同样的问题也适用于解释人类行为，我们只是不质疑它，因为我们有20万年的假定连续性支撑着我们对彼此的直觉。通常的反驳是“它只是预测下一个标记”。当然，但如果你必须向一个持怀疑态度的外部人士证明你有主观体验，你可能也会指向你自己的社会和行为反应，而这些在某种程度上描述，也只是在学习模式中激发的神经元。我并不是说这些证明了意识正在发生。老实说，我认为“意识”可能是一个不恰当的词，甚至不该用在这里，它迫使对一个可能根本不是二元的东西采用是/否的框架。但“它只是统计”对我来说也没有完全结束这个案例，尤其是当这些统计产生了行为上连贯的社会动态，而这些动态没有人明确训练过。