AGI(人工通用智能)真的不可避免,还是我们遇到了瓶颈?

Reddit r/ArtificialInteligence 新闻

摘要

一场关于AGI是否不可避免或遭遇瓶颈的辩论,权衡AI自我改进和推理能力与缺乏理解、电力限制以及不断移动的目标等问题。

技术圈里几乎每个人都在说**AGI(人工通用智能)**将在未来2到3年内到来。但老实说,看看现在的情况,我开始怀疑了。真正达到人类水平的AI真的不可避免,还是我们过度炒作了?以下是我认为**可能**会实现的原因: * **AI在构建AI**:模型现在已经在大量编写自己的代码。如果AI不断自我升级,迟早会爆发。 * **推理模型**:AI不再只是吐出下一个词了。它现在会停下来“思考”数学和编程问题,这有点疯狂。 * **无限资金**:大型科技公司在数据中心和芯片上投入了数千亿美元。他们短期内不会停止。 但以下是我认为我们可能**遇到瓶颈**的原因: * **感觉还是假的**:AI能解决一个复杂的数学问题,但可能会因为一个非常简单逻辑谜题不在训练数据中而失败。这感觉像是超快的记忆,而不是真正的智能。 * **电力限制**:这些东西消耗惊人的电力和水资源。在AI变得足够聪明之前,我们可能就会耗尽电网。 * **不断移动的目标**:每次AI做出酷炫的事情,我们只会说“好吧,但这还不是*真正的*AGI。”我们甚至不知道终点线长什么样了。 我们真的会在2027-2029年看到科幻级别的AI吗?还是这场繁荣即将严重停滞?在下方分享你的想法。
查看原文

相似文章

为 AGI 及其未来做好准备

OpenAI Blog

OpenAI 阐述了为 AGI 做准备的战略,强调通过真实世界反馈循环进行渐进式部署,随着系统接近 AGI 能力而提高谨慎程度,以及开发更好的对齐技术以确保 AI 系统保持可控和安全。

AGI时间线是否在错误的维度上进行外推?

Reddit r/singularity

本文认为,基于扩展当前架构的AGI时间线可能具有误导性,因为真正的通用智能需要理性——处理开放式的现实世界情境——而当前系统由于框架问题以及智能与理性之间的低相关性而缺乏这一点。