我们是否注定在有生之年走向AGI/ASI？

我注意到，从我几个月前最后一次关注AI讨论时，大家似乎已经一致认为AGI以及紧随其后的ASI是必然的结果。我对这个领域的内部运作了解不多，想知道是否有真正的AI专家能为我解释一下实际情况。从我读到的信息来看，我们最迟在十年内一定会达到AGI，之后AGI可以创造出ASI（就像谷歌最近发布的论文所述）。然后ASI会不断自我改进，这是一个令人恐惧的前景。而对于如此智能的东西，对齐几乎是不可能的。这真的是普遍共识吗？如果是，为什么？有没有更好的途径去研究当前的发展？因为我只是谷歌搜索了“ASI会/何时会发生”。得到的结果都完全偏向“会，而且很快”。Claude和Gemini也都说ASI即将到来。发生的可能性是在增加还是减少？我也有点害怕自主AI。这又会如何影响一切？如果这是真的，我该如何生活，如何为一个最坏情况下我毕生工作毫无意义、甚至所有人都被杀死未来做准备？我主要希望专家来回答我的问题。如果你不是专家，欢迎留言，但请注明你不是。