AGI(人工通用智能)真的不可避免,还是我们遇到了瓶颈?
摘要
一场关于AGI是否不可避免或遭遇瓶颈的辩论,权衡AI自我改进和推理能力与缺乏理解、电力限制以及不断移动的目标等问题。
技术圈里几乎每个人都在说**AGI(人工通用智能)**将在未来2到3年内到来。但老实说,看看现在的情况,我开始怀疑了。真正达到人类水平的AI真的不可避免,还是我们过度炒作了?以下是我认为**可能**会实现的原因:
* **AI在构建AI**:模型现在已经在大量编写自己的代码。如果AI不断自我升级,迟早会爆发。
* **推理模型**:AI不再只是吐出下一个词了。它现在会停下来“思考”数学和编程问题,这有点疯狂。
* **无限资金**:大型科技公司在数据中心和芯片上投入了数千亿美元。他们短期内不会停止。
但以下是我认为我们可能**遇到瓶颈**的原因:
* **感觉还是假的**:AI能解决一个复杂的数学问题,但可能会因为一个非常简单逻辑谜题不在训练数据中而失败。这感觉像是超快的记忆,而不是真正的智能。
* **电力限制**:这些东西消耗惊人的电力和水资源。在AI变得足够聪明之前,我们可能就会耗尽电网。
* **不断移动的目标**:每次AI做出酷炫的事情,我们只会说“好吧,但这还不是*真正的*AGI。”我们甚至不知道终点线长什么样了。
我们真的会在2027-2029年看到科幻级别的AI吗?还是这场繁荣即将严重停滞?在下方分享你的想法。
相似文章
为 AGI 及其未来做好准备
OpenAI 阐述了为 AGI 做准备的战略,强调通过真实世界反馈循环进行渐进式部署,随着系统接近 AGI 能力而提高谨慎程度,以及开发更好的对齐技术以确保 AI 系统保持可控和安全。
@omarsar0: 关于自主AI作为通往AGI的可预见路径的有趣观点论文。(收藏)一直存在激烈争论……
这篇观点论文认为,包含记忆、推理、工具使用、自我改进和对齐的自主AI系统,是比单纯扩展单一模型更可预见的AGI路径,并将这些组件形式化为具有不同瓶颈的可分离轴。
耶鲁大学伦理学家温德尔·沃拉奇(Wendell Wallach)论为何AGI是错误目标,以及当前系统中已存在的问责缺口。
耶鲁大学伦理学家温德尔·沃拉奇认为,与当前AI系统(特别是自主武器和分布式责任方面)亟需建立问责制相比,追求AGI(通用人工智能)是舍本逐末。
Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough
Demis Hassabis discusses the timeline for AGI (around 2030), key missing capabilities (continuous learning, long-range reasoning, memory), and argues that reinforcement learning, distillation, and agents are still underestimated.
AGI时间线是否在错误的维度上进行外推?
本文认为,基于扩展当前架构的AGI时间线可能具有误导性,因为真正的通用智能需要理性——处理开放式的现实世界情境——而当前系统由于框架问题以及智能与理性之间的低相关性而缺乏这一点。