ai-timelines

讨论 Google 和 Anthropic 的预测，即递归自我改进（RSI）可能在 2027-2028 年实现，并可能导致无法控制的人工智能奇点。

本文讨论了人工超级智能（ASI）在明年内出现的可能性，引用了AI安全研究员Daniel Kokotajlo的预测，并询问在这样的情况下社会可能会如何改变。

一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识，并表达了对时间线、对齐问题和个人影响的担忧。

本文观察到，在相关社区中，关于‘快速起飞’（即AI能力快速、不受控制地增长的理念）的讨论有所减少，这表明AI安全和未来主义者圈子中的话语正在发生变化。

本文分析并预测了Metr的时间跨度数据，这些数据可能与AI开发时间线及预测相关。

对著名的METR AI时间跨度图的详细批评揭示了大量严重的方法论错误，包括有偏差的人类基线、未测量的数据以及测试-训练数据污染，削弱了其关于AI能力的结论。

本文认为，基于扩展当前架构的AGI时间线可能具有误导性，因为真正的通用智能需要理性——处理开放式的现实世界情境——而当前系统由于框架问题以及智能与理性之间的低相关性而缺乏这一点。