标签
Zvi Mowshowitz 回应 METR 报告以及 AI Futures Project、Paul Christiano 和 Dwarkesh Patel 的最新时间线更新,认为将超级智能在2027年到来的时间线缩短在方向上是正确的,同时警告不要过度反应,并强调 AI 安全是关键的限制因素。
METR 新增的 AI 任务时间跨度双曲线趋势线在 2027 年 10 月左右发散至无穷大,其陡峭程度远超此前基于倍增时间的指数拟合,这表明,如果该拟合成立,任务时间跨度可能在约 11 个月内呈垂直上升趋势。
AI Futures 研究人员更新了他们的时间线预测,认为 METR 的估计——AI 正在推动约 1.7 至 17 倍的 AI 进步加速——意味着智能爆炸将如期在 2027 年发生,超人类 AI 研究员(Superhuman AI Researcher)很可能在 2027 年出现,而在 2028 年之前出现超越顶级专家的 AI(Top-Expert-Dominating AI)的概率为 35% 至 65%。
一场社区讨论,对比了 Ray Kurzweil、AI Futures Project(AI 2027 / AI 2040)和 Elon Musk 的 AI 时间线预测,邀请读者分享各自的 AGI/ASI 预测,以及这些里程碑将对物理能力、数字能力和社会能力意味着什么。
> **Yann LeCun** 声称人类水平的 AI 还远不止两年才能实现?对此,一条推文泼了盆冷水——吐槽说:"两年"这说法听起来简直就像"转眼就到"。 > > **LeCun** 的论点是:当前的 AI 仍然远远无法匹敌人类乃至动物的智能水平。 **译注:** - **Yann LeCun**(杨立昆):Meta 首席 AI 科学家、深度学习先驱之一。 - 原文双关语 "just around the corner"(就在拐角处)在中文里译作"转眼就到",以传达嘲讽意味——即"两年"听起来完全不是遥不可及的期限。
讨论 Google 和 Anthropic 的预测,即递归自我改进(RSI)可能在 2027-2028 年实现,并可能导致无法控制的人工智能奇点。
本文讨论了人工超级智能(ASI)在明年内出现的可能性,引用了AI安全研究员Daniel Kokotajlo的预测,并询问在这样的情况下社会可能会如何改变。
一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识,并表达了对时间线、对齐问题和个人影响的担忧。
本文观察到,在相关社区中,关于‘快速起飞’(即AI能力快速、不受控制地增长的理念)的讨论有所减少,这表明AI安全和未来主义者圈子中的话语正在发生变化。
对著名的METR AI时间跨度图的详细批评揭示了大量严重的方法论错误,包括有偏差的人类基线、未测量的数据以及测试-训练数据污染,削弱了其关于AI能力的结论。
本文认为,基于扩展当前架构的AGI时间线可能具有误导性,因为真正的通用智能需要理性——处理开放式的现实世界情境——而当前系统由于框架问题以及智能与理性之间的低相关性而缺乏这一点。