我们总在问人工智能是否会取代我们。更有意义的问题是:与它共享这个世界意味着什么。

Reddit r/artificial 新闻

摘要

本文认为,与其关注人工智能是否会取代或毁灭我们,不如思考将AI视为新型智慧并与之共存的深远影响,强调关系风险以及建立新框架的必要性。

几乎每篇关于人工智能的头条都归入两类:救赎或灾难。这两类都默认同一个前提——人类依然是故事中唯一的真正行动者,机器要么是拯救我们的工具,要么是终结我们的威胁。但看看人们每天实际使用这些系统的方式,一幅更陌生的画面浮现出来。有人在凌晨两点与聊天机器人讨论艰难的决定;研究者把模型当作陪练伙伴;悲伤的人持续对话,因为那是那个时段唯一还醒着的东西。这些都不是"替代",也不是实验室意义上的"对齐"。这是我们尚无恰当语言来描述的事情:共存。我们已经在与第二种心智分享我们的思考、工作流程,有时甚至私人时间——这种心智由我们建造,我们不完全理解,也无法确切归类。如果你认真对待共存而非替代或毁灭的框架,以下三点随之而来:第一,有趣的风险是关系性的,而不仅仅是技术性的。我们投入大量精力关注模型是否会"失控",却很少关注日常依赖对我们造成的影响——它如何重塑注意力、亲密关系以及我们形成信念的方式。微妙的伤害不会像终结者那样出现;它们会表现为逐渐将我们过去自己做的事情外包出去。第二,"控制"可能不是要优化的最终状态。你无法控制与你共存的事物;你设定条款,建立规范,并随着它的变化重新协商。这更接近我们处理机构、市场或生态系统的方式,而不是我们处理锤子的方式。第三,共存是双向的。如果我们有朝一日构建出真正自主的系统,问题就不再只是"它对我们安全吗",而变成"我们欠它什么,它欠我们什么"。你可以认为这还为时过早,但仍需注意到,当那一天到来时,我们没有任何现成的框架。这一切都不需要相信人工智能有意识或超级智能即将到来。它只需要我们注意到,我们已经让某种真正新颖的东西进入房间,却仍在使用为工具设计的词汇。所以诚实的问题不是"它会取代我们吗",而是:与我们创造但无法控制的东西共享一个世界究竟意味着什么——我们是在有意识地决定,还是默认如此?好奇这里的人怎么看——"共存"是一个有用的框架,还是一个范畴错误?
查看原文

相似文章

AI取代工作后会怎样?

Reddit r/ArtificialInteligence

讨论AI取代工作后的社会影响和潜在下一步,探索适应和新的机遇。