标签
# AI 主要进展综述 特朗普宣布成立联邦超级智能部队，并设立 AI 沙皇（AI Czar）一职；前 Anthropic 研究员 Jacob Coxon 警告称，人类很可能将失去对 AI 的控制；多家研究实验室报告称，AI 驱动的科研产出正在大幅增长。作者指出，尽管实验室承认无法控制这些系统，超级智能（SI）如今已成为联邦政策。
作者认为，Tesla 在车载推理计算机上进行迭代式扩展的做法在当时前所未有，而当前的 AI 算力短缺仅仅只是开始 —— 一旦自动驾驶变得不可或缺，将会出现远比现在严重得多的算力缺口。
Elon Musk 回复称，虽然目前仍有大量人类参与 AI 开发，但随着超级智能（SI）自我改进能力增强，所需人数会逐渐减少。
Elon Musk宣称SpaceX是一家“超级智能公司”，将这家航空航天企业定位为一项先进的人工智能或超级智能事业。
特朗普总统签署行政命令，要求联邦机构将人工智能称为“超级智能”（SI）。但据Politico报道，科技业内人士和游说人士表示，这一改名不太可能在向政府表忠之外真正流行开来。
Sundar Pichai 宣布，在与总统 Trump、JD Vance 及科技界领袖会面后，Google 签署了白宫《超级智能协议》（White House Accord on Super Intelligence）和《前沿责任联合承诺》（Joint Commitment on Frontier Responsibilities）。Google 强调其近期在 AI 领域投入了数千亿美元，并承诺通过测试、评估和红队测试等保障措施推进负责任的 AI 开发。
来自OpenAI、Google DeepMind和Anthropic的AI研究人员发布访谈，警告超级智能可能导致人类灭绝，并讨论控制此类系统的挑战。
Mark Zuckerberg 宣布 Meta 正在启动一个新的主要业务支柱，专注于超级智能，这将为人们和企业创造重大机遇。
该推文表明，超级智能将来源于众多自我改进的AI代理，而不是一个单一的主导AI模型。
论文提出了"无尽的考试"（The Endless Exam）这一基准，模型可自动构造并验证集合、图、编码等数学对象，即使超越已发表参考基准后仍能获得无上限的连续得分。在17种配置下评测的前沿模型均未能超越已发表的前沿水平，凸显出通向超级智能级别数学能力之间持续存在的差距。
文章总结了 Jensen Huang 在播客采访中的观点，他对人工智能超级智能表示怀疑，同时强调了严格的安全措施，甚至建议如果 OpenAI 不能确保安全，应该将其关闭。
本文探讨AI递归自我改进是否能克服收益递减，认为当前数据表明，除非有显著进步，否则自我改进循环不足以引发失控的智能爆炸。
一位用户认为，通过角色选择实现的默认对齐并不可靠，无法保证将AI扩展到超级智能时的安全性。
President Xi表达了对将人工智能更名为'超级智能'的支持，正如Donald Trump在Truth Social的帖子中所分享的。
来自@mattshumer_的一条推文，敦促某人在指挥超级智能AI代理时要超越SaaS应用。
Bill Ackman 暗示，由于人工智能进步驱动的对智能和能源的持续需求，美联储的加息可能无法抑制通胀，这可能会形成一个自我强化的通胀周期。
本文讨论了人工智能前沿模型的快速发展、它们对基准测试的饱和，以及关于超级智能及其对未来影响日益增长的讨论。
参议员Bernie Sanders和众议员Greg Casar提出立法，禁止开发人工超级智能，违规者将面临监禁处罚，并提议设立新的AI监督部门。
文章认为，LLM 不需要自己成为 ASI；它们可以研究和开发可能不是 LLM 的新 AI 模型，从而通过狭义超级智能实现 ASI。