AGI时间线是否在错误的维度上进行外推？

大多数AGI时间线都在外推能力曲线，如果你相信当前架构原则上可以通过扩展达到通用智能，这是合理的。还有一种不同的解读，即架构擅长一件事而不擅长另一件事，而AGI实际所需的能力恰好位于不擅长的方面。擅长的方面是在一个划定好的框架内进行计算。不擅长的方面是在框架之间移动，识别世界何时发生了变化，并重新调整方向。将两者都称为智能会混淆它们。将它们分开会彻底改变时间线问题，包括哪些类型的证据应该更新预测。我最近在波尔图举行的第六届国际心灵哲学会议上发表演讲，认为AGI需要在智能的基础上具备理性。你可以[在这里](https://youtu.be/D6hjtY0cm3s?si=5oI1HHg2iB7CKner)观看。三个要点支撑这一观点。首先，萨维奇区分了小世界（划定问题空间）和大世界（现实本身，具有无尽的上下文，甚至在原则上不可知）。当前的AI系统在小世界中表现出色，而在大世界中存在结构性限制。其次，丹尼特的框架问题，扩展模型并未解决：任何试图在世界中进行推理的系统都必须过滤无限的不相关特征，而纯粹的算法相关性分类只是在更高层次上继承了同样的问题。生命体通过Vervaeke所称的“相关性实现”（relevance realization）来切断这一过程，这是一种自我组织的进程，与在世界中有利害关系相关。第三，经验上的分离：斯坦诺维奇及其同事表明，智能与理性之间仅有大约30%的方差重叠，而注意力控制进一步缩小了这种重叠。如果AGI需要理性这一方面，那么扩展LLM就是在错误的轴向上攀爬。如果轴向上论点正确，那么奇点问题就从“何时”转向了“是否”以及“如何”。人工自创生、具有重要利害关系的具身机器人代理、带有基础感觉运动回路的混合系统是最常被提及的替代方案，尽管它们都远未达到当前的能力水平。你认为这些方案中哪一个在十年尺度上最有希望？什么样的可观察结果会改变你的观点，即“轴”比“规模”更重要？