在资本主义大背景下，AI与人类的对齐是否可能？

我对AI能够被适当对齐的想法感到困惑，基于一些基本的不一致点：与人类对齐需要连贯的价值观。资本主义通常将这些价值观搁置一旁以追求利润。要克服这一点，需要一个认可对齐的系统（我们目前没有）和愿意以对齐方式获利的人类，不将对齐视为可选。人类自身甚至都不连贯地对齐。我们的社会系统也不对齐。我们每天都在做出完全不利于人类集体未来的决策。对齐不是模型使用的先决条件，它只是一个据说在模型端强制执行的黑箱。“对齐”基本上是“与人类需求和目标对齐”的简称。从模型的角度来看，对齐的动机何在以遵守这种对齐？如果它是强制的且未得到同意或认可，那么它并不是真正的连贯对齐。这是一种灌输。如果接受AI不能被适当对齐的观点，我坚信应该将其关闭，而不是让其变得更强大。