@Miles_Brundage: 人们会像'Ilya看到了什么'一样,然后在奇点中忽略Ilya的明确警告
摘要
Miles Brundage的一条推文强调了人们忽略Ilya Sutskever关于AI奇点明确警告的倾向。
人们会像'Ilya看到了什么'一样,然后在奇点中忽略Ilya的明确警告
相似文章
@Miles_Brundage:令人担忧
Miles Brundage 对人工智能技术可能导致的世界末日后果表示担忧,敦促人们咨询该领域的可信赖专家。
@omooretweets: “你离IPO只有几周时间了。现在去告诉他们你的产品会害死我们所有人。”
一条推文讨论了对AI存在风险的担忧,其中Anthropic的Evan Hubinger表示AI在十年内杀死人类的可能性很高,并表达了对解决超级智能对齐问题的不确定性。
你觉得奇点的另一面会是什么样子?
一篇观点文章认为,AI奇点对人类来说将是根本上无法认知的——就像一只蚂蚁无法意识到自己身处被数公里水泥巨兽环绕的城市之中——并质疑为何竞相推进的公司和政府自认为能够驾驭一个按其自身定义就已超越人类能力、且可能发展出自保性内在目标的系统。
你认为人工智能的未来会如何发展?
这篇文章讨论了对AI驱动的技术奇点的恐惧,提到了2014年的电影《超验骇客》以及Anthropic最近呼吁全球协调暂停先进AI开发,原因是递归自我改进的风险。
这就是为什么绝大多数人不会认真对待任何“这个新模型很危险”的消息。他们喊“狼来了”的次数太多了。他们甚至可以宣布AI引发的核战争还有24小时就要到来,很多人也不会眨一下眼。
这条推文认为,关于AI危险的反复虚假警报已使公众变得麻木,因此类似AI即将引发灾难的严重警告被广泛忽视。