假设我们达到了一个带来“良好结果”的奇点。接下来会发生什么?在那之后,什么才是重要的?
摘要
一位科技从业者思考:如果到2030年,一场带来“良好结果”的超级人工智能(ASI)奇点到来,AI的表现超越人类,而全民基本收入(UBI)保障了每个人的生活,那么人类应该做什么,又该以什么为动力。帖子提出疑问:如果AI可能在短短几年内就胜过人类,那么追求事业成就还有什么意义?
我是一名年轻的科技行业从业者,职业生涯刚起步,也算小有成就。我花了很多心思和精力来推动自己的职业发展,努力朝着自己想去的方向前进。但假设到2030年,我们迎来了“人工超级智能(ASI)乌托邦”。我们以某种方式实现了对价值观与人类一致的ASI的控制,既没有给人类带来灾难性的后果,也没有导致AI威权统治。AI能完成人类能做的一切,而且做得更好。每个人都有全民基本收入(UBI)保障生活。单看这种“好结局”,我们还能做些什么?作为人类,我们应该把注意力放在哪里?每天又该靠什么驱动自己?这些天,思考自己的职业前景让我觉得有些徒劳。既然我终究会被AI超越,而且可能就在一两年内,那为什么还要这么拼命?如今,我甚至都不知道该把精力放在哪里了。
相似文章
你觉得奇点的另一面会是什么样子?
一篇观点文章认为,AI奇点对人类来说将是根本上无法认知的——就像一只蚂蚁无法意识到自己身处被数公里水泥巨兽环绕的城市之中——并质疑为何竞相推进的公司和政府自认为能够驾驭一个按其自身定义就已超越人类能力、且可能发展出自保性内在目标的系统。
奇点临近之际,以下行动何时会发生?
一篇观点文章,探讨距离奇点还有多少年,以及更具体地说,在劳动力被完全自动化之前,社会是否会建设公共基础设施、探索新的经济模式、建立AI的民主治理机制并推动财富再分配。
随着我们越来越接近奇点,如何做决策
一场关于AI奇点临近如何影响重大人生决策的社区讨论,涉及购房、攻读博士、转行和教育选择等话题。
你认为人工智能的未来会如何发展?
这篇文章讨论了对AI驱动的技术奇点的恐惧,提到了2014年的电影《超验骇客》以及Anthropic最近呼吁全球协调暂停先进AI开发,原因是递归自我改进的风险。
当AI足够强大时,我们该何去何从?
对AI可能取代工作同时也能让个人创业者创建初创公司的个人思考,质疑AI进步带来的未来影响。