标签
文章解释道，正如I.J. Good在1965年所设想的那样，对超级智能的追求是导致大规模AI投资的关键原因，强调了‘智能爆炸’的终极目标以及对齐的迫切需求。
本文主张，超级智能人工智能绝不应被允许直接控制人类的关键基础设施，提出应将人工智能作为顾问而非操作者，以防止社会依赖并确保人类掌控。
一篇评论文章认为，超级智能可能不是爆炸性涌现，而是渐进式发展，因为人工智能的局限不在于推理能力，而在于现实世界验证和复杂涌现系统的缓慢进程。
AMI Labs首席执行官Alexandre LeBrun解释了他为何避免使用'AGI'和'超级智能'等术语，而是专注于机器人技术和实际AI应用的世界模型。这家初创公司尚未推出产品，但正在寻求机器人、制造和医疗领域的工业合作伙伴。
本文讨论了人工超级智能（ASI）在明年内出现的可能性，引用了AI安全研究员Daniel Kokotajlo的预测，并询问在这样的情况下社会可能会如何改变。
AI研究员Daniel Kokotajlo预测超级智能有70%概率在2029年出现，并警告可能导致人类灭绝、权力集中或大规模失业；他因对OpenAI行为失望而辞职，当前运营AI未来项目。
I.J. Good于1965年发表的一篇开创性论文，推测了'超级智能机器'的发展可能导致智力爆炸，提出了AI安全与超级智能领域的关键概念。
《AI 2027》情景的作者发布了一个关于 AI 未来新的乐观情景，提出了诸如将超级智能推迟到 2040 年以及提高透明度等策略。
文章介绍了'Plan A'，这是一个积极的愿景：人类将超级智能的诞生推迟到2040年，公开所有AI研究，并确保全球共享控制，以避免灭绝或不可逆转的权力集中。
Jason Chiam 在 OpenAI 工作九年后宣布离职，表达感激之情并对 AGI 的未来持乐观态度。
Sebastian Mallaby预测，到2028年，AI将实现递归自我改进，前沿模型将自主编写下一代模型，带来垂直进步，并终结超级智能竞赛。
Tim Ferriss 分享了 Sebastian Mallaby 关于具有欺骗性的 AI 和存在主义风险的警告，并推广了 Mallaby 的播客访谈，该访谈讨论了他的新书，内容涉及 Demis Hassabis 和迈向超级智能的竞赛。
一位推特用户同意之前的观点，认为超级智能已经实现，并警告说政府将接管生产资料，将最高质量的内存用于自己的目的。
Mustafa Suleyman 宣布在波士顿举行超级智能团队聚会，强调了面对面协作对于构建AI的重要性。
图灵奖得主理查德·萨顿在麻省理工学院发表71分钟演讲，批评当前人工智能发展现状，并主张通过自学、基于玩耍的抽象学习作为通往超级智能的路径。
文章总结了关于超级智能（ASI）的讨论，包括其定义、可能的时间线、算法突破的必要性、AI的能力局限、经济影响以及对国家和领导人的建议。专家们认为ASI可能在3-4年内到来，但面临算法和非平稳性挑战，且财富分配不均问题需要政策介入。
Steve Yegge 认为当前前沿的人工智能模型正变得危险地强大，并预测超级智能将很快像核武器一样受到控制，只有少数组织能够访问顶尖模型。他提出，由于供应链限制，开源模型将无法追赶，从而导致一个充斥着平庸模型的世界。
在OpenAI工作四年后，一名员工搬回印度，帮助构建具有全球影响力的AI机构，强调从任何地方追求宏大想法的机会。