我们对AI的依赖在加深,而AI对我们的依赖在减少

Reddit r/ArtificialInteligence 新闻

摘要

作者指出人类对AI的依赖日益加深,而AI对人类的依赖正在减少,并警示一旦AI获得大量机器人身体,维持其对齐的约束将更加薄弱,呼吁现在就做好对齐准备。

对于关注AI对齐的人群:我认为这意味着我们现在就需要把一切准备好。一旦AI拥有Musk承诺的百万级以上的机器人身体,它对我们的需求将比现在更少。如果让AI保持对齐的部分原因在于它依赖我们,那么当它不再依赖我们时,我们又该何去何从?
查看原文

相似文章

人工智能未必需要消灭我们才能削弱我们

Reddit r/ArtificialInteligence

作者警告说,人工智能的真正危险不是敌意,而是人类的过度依赖,这可能会削弱批判性思维,并将信息控制权集中在少数几家公司手中。

如果AI比我们更聪明,做决定的将是它

Reddit r/singularity

作者讨论了AI一旦超越人类智能后可能自行决策的风险,认为AI在所有领域超越人类只是时间问题,并质疑阻止智能AI独立行动的长期可行性,提出以大量伦理文献作为训练数据或有助于对齐。

等到所有人都追上时,一切已经太晚了

Reddit r/singularity

该文章引用 Andrej Karpathy 对 AI 采用率的估计,警告大多数人低估了 AI 的发展速度,认为忽视 AI 的人将在未来五年内失去由 AI 创造的经济机会,社会正走向两极分化。