在解决 AI 对齐之前，我们必须解决权贵的对齐问题。

Reddit r/singularity 新闻
ai-alignment ai-ethics trust oligarchs alignment-definition

摘要

文章认为，在处理 AI 对齐之前，我们必须确保权贵的对齐，以避免 AI 系统偏向个人利益。

一个人发现了一个神灯，里面有一个精灵。精灵说：“你可以许任何愿望。但无论你许什么愿，你的邻居会得到双倍。”思考片刻后，那个人说：“挖出我的一只眼睛。”我们如何相信他们的对齐版本仅仅意味着“服从我个人”，而不会利用他们对其他人的巨大影响力？想一想，未对齐的ASI相比随机一个人，更有可能为所有人做正确的事。其他人不希望你成功。当然，他们不会比希望你成功更多。那么，我们怎能期望人们就一个包含我们所有人福祉而非仅少数人的对齐定义达成一致？
查看原文

相似文章

你不是对齐AI，而是与它对齐

Hacker News Top

本文批评了当前AI对齐领域的讨论，认为这场争论被研究人员和科技精英主导，他们排除了真正会受到AI系统影响的人群。文章对比了Eliezer Yudkowsky和Marc Andreessen的立场，指出他们共同持有一种假设：设计者才是唯一相关的参与者。