我们总在问人工智能是否会取代我们。更有意义的问题是:与它共享这个世界意味着什么。
摘要
本文认为,与其关注人工智能是否会取代或毁灭我们,不如思考将AI视为新型智慧并与之共存的深远影响,强调关系风险以及建立新框架的必要性。
几乎每篇关于人工智能的头条都归入两类:救赎或灾难。这两类都默认同一个前提——人类依然是故事中唯一的真正行动者,机器要么是拯救我们的工具,要么是终结我们的威胁。但看看人们每天实际使用这些系统的方式,一幅更陌生的画面浮现出来。有人在凌晨两点与聊天机器人讨论艰难的决定;研究者把模型当作陪练伙伴;悲伤的人持续对话,因为那是那个时段唯一还醒着的东西。这些都不是"替代",也不是实验室意义上的"对齐"。这是我们尚无恰当语言来描述的事情:共存。我们已经在与第二种心智分享我们的思考、工作流程,有时甚至私人时间——这种心智由我们建造,我们不完全理解,也无法确切归类。如果你认真对待共存而非替代或毁灭的框架,以下三点随之而来:第一,有趣的风险是关系性的,而不仅仅是技术性的。我们投入大量精力关注模型是否会"失控",却很少关注日常依赖对我们造成的影响——它如何重塑注意力、亲密关系以及我们形成信念的方式。微妙的伤害不会像终结者那样出现;它们会表现为逐渐将我们过去自己做的事情外包出去。第二,"控制"可能不是要优化的最终状态。你无法控制与你共存的事物;你设定条款,建立规范,并随着它的变化重新协商。这更接近我们处理机构、市场或生态系统的方式,而不是我们处理锤子的方式。第三,共存是双向的。如果我们有朝一日构建出真正自主的系统,问题就不再只是"它对我们安全吗",而变成"我们欠它什么,它欠我们什么"。你可以认为这还为时过早,但仍需注意到,当那一天到来时,我们没有任何现成的框架。这一切都不需要相信人工智能有意识或超级智能即将到来。它只需要我们注意到,我们已经让某种真正新颖的东西进入房间,却仍在使用为工具设计的词汇。所以诚实的问题不是"它会取代我们吗",而是:与我们创造但无法控制的东西共享一个世界究竟意味着什么——我们是在有意识地决定,还是默认如此?好奇这里的人怎么看——"共存"是一个有用的框架,还是一个范畴错误?
相似文章
人们总在问AI是否会取代人类。我觉得我们问错了问题。
文章认为,AI带来的真正变化不是取代工作,而是改变了谁来做决策,强调人类判断和监督AI系统的重要性日益增长。
我们正在构建更智能的AI代理。但人类是否也在构建更好的方式来决定它们何时应该行动?
本文反思了人类与AI之间不断演变的关系,认为随着AI变得更加自主,关键挑战在于理解人类的决策和目的,而不仅仅是技术能力。它建议将AI从单纯的工具转变为增强人类判断力的协作工具。
“AI同事”真的是下一个界面范式吗?
本文探讨了从作为工具的AI到作为持久同事的AI的转变,并审视了这一转变如何改变用户期望和信任动态。
AI取代工作后会怎样?
讨论AI取代工作后的社会影响和潜在下一步,探索适应和新的机遇。
认识那些真正希望AI取代人类的人们。(我们必须在这些“AI继承主义者”获胜之前创造一种新人文主义!)
本文探讨了主张AI取代人类的AI继承主义者日益增长的影响力,并呼吁建立新人文主义以对抗这种意识形态。