泰勒·考恩与德瓦凯什·帕特尔预测未来

这场访谈有好几个极其有趣的细节，而且还特别搞笑。快速总结：Dwarkesh 估计，由于 AI 带来的助力，AI 的进步速度已经比 2024 年快了 25% 到 50%。他预计，在 1 到 3 年内，完全由 AI 组成的团队将在 AI 研究上胜过人类实验室，使进步速度瞬间给人以加快至原来 3 到 4 倍的感觉。Dwarkesh 打赌，我们会在 1 到 3 年内解决“持续在线学习”问题。一旦攻克，部署在数百万个企业会话中的模型，就不只是像人类那样在 80 年的一生中学习——它将同时吸收数百万条并行的真实工作经验流。因此，他预测，“半人马”模式（人类与 AI 协同工作）将在 2030 年前消亡，转变为由 AI 自己包办一切。Dwarkesh 预计，5 年内，售价 3 万美元、全天候工作的机器人将承担大部分人类体力劳动，把体力工作的每小时成本降到几美元。到 2030 年，无论是数字 AI 还是实体 AI，数量都将超过人类。他把即将到来的转变比作几百名西班牙征服者凭借相对微小的技术优势，推翻人口达千万级的阿兹特克和印加帝国。Dwarkesh 认为，当前的模型已经表现出与情绪和全局工作空间相对应的功能特征。他承认，随意开启和关闭可能具有意识的心智，让我们在道德上自相矛盾（他将此比作我们对工厂化养殖的漠视），但他也认为，一个充斥着无意识 AI 的未来将是一场悲剧——就像“没有孩子的迪士尼乐园”。访谈的这一部分，无论从哲学还是伦理角度来看，都极其有趣。在 Dwarkesh 估计湾区有 20% 的人患有“AI 精神病”后，Tyler 说，Dwarkesh 似乎对此免疫，因为他不认为 AI 有感知能力。Dwarkesh 立即回答：“我有个坏消息要告诉你。”随后为机器意识辩护。Tyler 说，与他的狗相比，大语言模型不过是“被吹上天的收银机”，接着一本正经地说：“所以在我看来，你有 AI 精神病。”Dwarkesh 提到，他两天前与一位 Anthropic 研究员聊过，对方根据不被允许透露的“内部信息”，预计 AI 将在 9 个月内在 AI 研究方面达到人类水平。Dwarkesh 警告说，随着模型将研发自动化，实验室将不再向公众发布其最智能的模型——让社会和政策制定者完全蒙在鼓里，而内部能力则直线上升。Dwarkesh Patel 预测，AI 将在 2030 年前实现完全自主；Tyler Cowen 则认为，即使到 2045 年也做不到。我认为 Tyler Cowen 对时间线的判断过于保守，但他是一位出色的采访者。他问的每个问题都切中要害。https://youtu.be/b-jsSfh0a9M?is=7w6YAmcYZtJze4Qe