AGI(人工通用智能)真的不可避免,还是我们遇到了瓶颈?
摘要
一场关于AGI是否不可避免或遭遇瓶颈的辩论,权衡AI自我改进和推理能力与缺乏理解、电力限制以及不断移动的目标等问题。
技术圈里几乎每个人都在说**AGI(人工通用智能)**将在未来2到3年内到来。但老实说,看看现在的情况,我开始怀疑了。真正达到人类水平的AI真的不可避免,还是我们过度炒作了?以下是我认为**可能**会实现的原因:
* **AI在构建AI**:模型现在已经在大量编写自己的代码。如果AI不断自我升级,迟早会爆发。
* **推理模型**:AI不再只是吐出下一个词了。它现在会停下来“思考”数学和编程问题,这有点疯狂。
* **无限资金**:大型科技公司在数据中心和芯片上投入了数千亿美元。他们短期内不会停止。
但以下是我认为我们可能**遇到瓶颈**的原因:
* **感觉还是假的**:AI能解决一个复杂的数学问题,但可能会因为一个非常简单逻辑谜题不在训练数据中而失败。这感觉像是超快的记忆,而不是真正的智能。
* **电力限制**:这些东西消耗惊人的电力和水资源。在AI变得足够聪明之前,我们可能就会耗尽电网。
* **不断移动的目标**:每次AI做出酷炫的事情,我们只会说“好吧,但这还不是*真正的*AGI。”我们甚至不知道终点线长什么样了。
我们真的会在2027-2029年看到科幻级别的AI吗?还是这场繁荣即将严重停滞?在下方分享你的想法。
相似文章
我们是否注定在有生之年走向AGI/ASI?
一位用户请求专家澄清关于AGI和ASI在十年内不可避免的普遍共识,并表达了对时间线、对齐问题和个人影响的担忧。
AI真的存在一堵墙吗?还是我们只是不断在移动这堵墙?
文章质疑了AI遇到性能瓶颈的说法,指出近期发布的模型在任务长度、工具使用和效率上仍在持续改进。文章认为,随着模型的演变,所谓的瓶颈一直在被移动。
谁能解释为什么我们假设AGI会为我们工作?
一个质疑AGI将与人类利益一致这一假设的问题,引发了关于AI安全与控制的讨论。
AGI 2030
关于2030年可能实现通用人工智能(AGI)的讨论或预测。
为 AGI 及其未来做好准备
OpenAI 阐述了为 AGI 做准备的战略,强调通过真实世界反馈循环进行渐进式部署,随着系统接近 AGI 能力而提高谨慎程度,以及开发更好的对齐技术以确保 AI 系统保持可控和安全。