标签
文章总结了关于超级智能（ASI）的讨论，包括其定义、可能的时间线、算法突破的必要性、AI的能力局限、经济影响以及对国家和领导人的建议。专家们认为ASI可能在3-4年内到来，但面临算法和非平稳性挑战，且财富分配不均问题需要政策介入。
Steve Yegge 认为当前前沿的人工智能模型正变得危险地强大，并预测超级智能将很快像核武器一样受到控制，只有少数组织能够访问顶尖模型。他提出，由于供应链限制，开源模型将无法追赶，从而导致一个充斥着平庸模型的世界。
在OpenAI工作四年后，一名员工搬回印度，帮助构建具有全球影响力的AI机构，强调从任何地方追求宏大想法的机会。
Google DeepMind发布《From AGI to ASI》报告，探讨从AGI通往超级智能的四种路径——扩展、范式转变、递归自我改进和多智能体集体智能，并分析相关瓶颈，引发广泛讨论。
文章认为，人类尚未准备好应对人工智能的快速发展与潜在的智能爆炸，强调了显著的风险以及采取主动措施的必要性。
谷歌DeepMind的一份研究报告探讨了从人类级通用人工智能（AGI）到超级人工智能（ASI）的转变，讨论了扩展、范式转变、递归改进和多智能体集体等潜在路径，以及瓶颈和开放研究问题。
本文提出，要使超级智能AI实现对齐，它必须缺乏自我保存本能，有效地对其自身存在漠不关心，并论证自我保存是错位的关键驱动因素。
本文探讨了从通用人工智能到超级人工智能的潜在路径，包括规模扩展、范式转变、递归改进及多智能体集体，并强调需通过跨学科全球协作应对变革性社会影响。
微软AI首席执行官穆斯塔法·苏莱曼讨论了超级智能在近期实现的可能性、公司与OpenAI重组后的关系以及新的前沿模型，并断言AI不会取代人类工作。
分享AI先驱Geoffrey Hinton的采访，讨论AI意识、超级智能即将到来及其潜在风险，可在Spotify和Apple Podcast收听。
谷歌联合创始人谢尔盖·布林在AGI House参加了一场即兴问答，分享了关于人工智能融合、迁移学习、超级智能的定义，以及人工智能在汽车和航空航天等重工业领域应用所面临的挑战。
本文认为，在将世界视为静止的唯我论范式下设计的超级智能AI系统将是自我削弱且不具合作性的，从而导致集体失败。作者呼吁建立一种新的研究范式，将相互依存与合作视为核心设计原则。
Idle Words 在2016年的一次演讲中批评了关于超级智能的恐慌观点，以及尼克·博斯特罗姆、斯蒂芬·霍金和埃隆·马斯克的论点，认为AI接管场景被过度炒作。
Nvidia宣布与Ineffable Intelligence合作，这是一家由前DeepMind科学家David Silver创立的英国AI初创公司，旨在开发用于超级智能的强化学习系统。该初创公司创纪录地筹集了11亿美元的种子轮融资。
Richard Socher 的新初创公司 Recursive Superintelligence 以 6.5 亿美元的融资从隐身模式中走出，旨在构建一种递归自我改进的人工智能，能够自主识别并修复自身弱点，无需人工干预。
前 Meta FAIR 总监田渊栋联合多位顶尖 AI 科学家官宣新公司 Recursive，致力于构建递归自改进超智能，并获超 6.5 亿美元融资，估值约 46.5 亿美元。
Recursive，一家由OpenAI、DeepMind等前研究负责人创立的人工智能初创公司，以6.5亿美元融资从隐身模式中走出，致力于通过开放式科学发现开发递归自我改进的AI，目标是实现超级智能。
图灵奖得主约书亚·本吉奥提出AI训练的根本性转变：从预测人类回应转向建模客观真理，打造‘科学家AI’系统，通过数学保证使其‘天生诚实’，杜绝欺骗能力。
约书亚·本吉奥通过其新组织 LawZero 提出了“科学家 AI”这一新型架构，旨在通过训练模型解释观察结果而非模仿人类行为，来制造可证明安全的超级智能体。