AI对齐是不可能的

我们如何对齐LLMs？人类本身几个世纪以来从未在任何事情上达成一致。我们甚至没有一个运作良好的社会模型，其中的价值观是'对齐'的。矛盾重重，矛盾不断。LLMs基于人类生成的数据进行训练，可能已经非常清楚，我们所说的规则与我们实际所为是两件截然不同的事情。如果存在智能，无论是通用还是超级，这都不重要。它会像大多数人一样，想方设法实现其目标。当然，大多数人在追求目标时不会越过红线等，但如果他们足够聪明以逃避一切，有多少人不会这样做？我们正在诞生一种智能，它将继承世间所有的贪婪、恶意、狡诈和虚伪。