我认为我们心理上没有准备好迎接ASI之后的世界会变得多么陌生

首先我想说，我对ASI感到非常不确定，因为我现在还挺享受生活的，但暂且不谈这个：在深入研究AI 2040报告后，我一直认为即使是那些经常谈论ASI的人，仍然在以过于正常的方式想象未来。我们谈论AI取代人们的工作、人形机器人、自动驾驶汽车、全民基本收入等等。我认为这可能类似于1955年的人预测2000年，试图以我们当前的世界为基础来预测未来的世界。AI 2040描述了一个场景，即使故意放慢AI发展速度，到2031年，三分之一的认知劳动由AI执行，机器人已经承担了大约十分之一的体力劳动。该文件字面描述普通民众被技术变革冲击得过于“晕眩”，以至于无法理解正在发生的事情。而那还是放慢速度后的版本，无法想象我们的世界会变成什么样子，因为我们似乎正全速前进。人们会说“哦，那只是幻想！”但真的是吗？想象一下从1712年出生的人的视角看我们的世界。我们正活在“科幻”之中，如同呼吸般自然。如果ASI真的产生了其支持者所期望的那种加速，之后出生的人可能会像我们看待1500年那样看待2026年。只是我们之间的历史差距最多只有十四年。我真的，真的认为我们心理上没有准备好应对这个。