anthropic cofounder Jack Clark “we are in the singularity”

TL;DR：Anthropic 联合创始人 Jack Clark 认为，2026 年已获得令人信服的证据表明"奇点"已经开始——AI 正在前沿科学领域取得突破，并将带来远超预期的经济与社会变革。 ## 开场：一个"人"的资历 "非常感谢这个毫无压力的开场介绍。"Jack Clark 上台后首先感谢邀请，随后列出自己的相关资历："我是一个人类。世界上只有一个我，而我花了将近 40 年的时间来积累经验，以发表今天的演讲。" 他整个职业生涯的定义是：找到那些看似对世界未来重要的信息，然后将这些信息告诉世界。二十年前他作为一名记者起步，专注数据中心领域；这项工作让他对 AI 如此痴迷，以至于 2016 年离开新闻行业加入 OpenAI。几年后，他与人共同创立了 Anthropic。 从那时起，他一直试图告诉世界：有一天 AI 系统会变得如此强大，以至于改变国家安全、改变这个星球的经济轨迹，甚至最终获得自我构建的能力。 "那个时刻已经到来。AI 正在改变国家安全，AI 正在改变世界经济的轨迹，而且它正在推动自身的发展。" ## 奇点已经开始 多年来，研究人员和科幻作家一直预测这样一个未来：AI 系统将极大加速整体科学技术进步的节奏，使事物发展之快让人类难以跟上——他们称之为"奇点"。 Clark 指出，作家 Vernor Vinge 在 1993 年预测了奇点。Vinge 说，当超越人类的智能推动进步时，这种进步将更加迅速；事实上，进步本身似乎没有理由不涉及在更短的时间尺度上创造更智能的存在。Vinge 将奇点描述为一个"我们的模型必须被抛弃、新的现实主宰一切"的临界点。 "我相信，今年我们已经获得了令人信服的证据，表明奇点已经开始。" 奇点的影响将触及生活的方方面面，但最重要的启示非常简单：我们应该预期，在未来几年里，不仅仅是 AI，整个科学领域的进步速度都将加快。这将令人感到困惑和不安，同时也会带来巨大的财富以及潜在的巨大风险。因此 Clark 今天的重点放在前者——AI 快速进步带来的益处，以及我们如何共同分享这些益处。 ## 科学家生产力的转折点 过去半个世纪里，大多数国家一直在应对研究者生产力下降的问题，尽管研究人员数量在快速增长。想法和发明似乎越来越难找到——正如一些经济学家所说，好的想法越来越难找到，突破的成本在上升。 但一些重要的东西已经改变了：我们现在构建的 AI 系统具备增强、扩展和自动化人类劳动的能力。这在软件开发领域表现得最为明显——AI 系统现在已经比世界上绝大多数软件工程师更有能力和更高效。现在一个人就可以为自己能想到的任何东西编写软件，创造出过去需要整个团队数月工作才能完成的东西。 Anthropic 内部的证据很具体：研究人员现在产出的代码量几乎是公司前四年总产出的 10 倍，而这种编码增长基本上与 AI 能力的进步直接相关。 ## 进步带来新能力，也带来新挑战 编码能力的提升意味着 AI 系统在网络安全和网络攻击方面都变得更加出色，这促使世界各国竞相部署这些强大的能力来创建网络防御，而恶意行为者则竞相利用这些系统进行黑客攻击。 "重要的是要认识到，这两者是密不可分的。AI 系统在编码这样一个通用领域的进步，会在网络安全等具有国际相关性的领域产生正面和负面影响。" 这些能力不会止步于编码。同样的事情将发生在科学和机器人领域，这意味着全球经济的一些重要属性可能会发生变化，比如创新速率，或者我们发明全新通用技术的频率——就像互联网、手机和人工智能一样。 ## 2026：前沿科学研究的迹象 2026 年，我们首次看到 AI 系统可能具备在前沿进行科学研究的迹象。 **数学领域**：AI 系统已被用来提出长期未解数学问题的解决方案，比如 Navier Stokes 千禧年奖问题、Jacobian 猜想，以及若干未解的 Erdős 问题。在许多情况下，AI 系统提供了使解决方案成为可能的核心洞见。 **生物学领域**：研究人员已使用 AI 从头设计病毒并识别新的候选药物进行测试。如今已经有一些药物正在临床试验中，它们在很大程度上是由 AI 系统设计的。 **机器人领域**：AI 系统现在越来越能够自主操作实验室设备，使我们能够在从生物学到材料科学的各个领域进一步自动化实验，加速电池或燃料电池开发等领域的进展。 单独来看，每一个例子都很令人兴奋，但深刻的事实是它们都涉及同一种底层技术——对于大多数这些用例，使用的是同一个底层前沿模型。我们拥有了单一实体，像 Claude、ChatGPT 或 Gemini 这样的 AI 系统，能够在多个科学学科的前沿开展工作。 "我们拥有了虚拟的博学家。" ## 量化证据：两条曲线 **人类最后的考试（Humanity's Last Exam）**——这个名字不是 Clark 起的。这个充满不祥意味的测试涵盖化学、计算机科学、数学、古典文学和生态学等多种主题。 - 2025 年 1 月推出时：得分最高的 AI 系统得分仅为 **8%** - 截至本周：得分最高的系统是 **Claude Opus 5.5，得分 67.7%** **FrontierMath**——2024 年 11 月发布，评估 AI 系统解决由专业数学家策划和评估的数百道挑战性数学问题的能力。 - 发布时：得分最高的系统只有 **2%** - 现在：**94%** Clark 说，他电脑上有一个文件，收集了过去一周里制作的 100 张图表，都是当天早上刚下载的数据。查看科学的不同领域，会看到同样的模式反复出现：进步正在加速，而且它在过去两年——有时只是过去一年——才开始加速。 ## TheophysEval：AI 找出了专家的错误 最新的例子来自上周发表的一篇论文 TheophysEval，测试 AI 系统解决理论物理学中未发表问题的能力。论文中的 50 个问题由世界各地的物理学家编写，答案尚未发表，出自他们自己的研究。 印度物理学家、测试作者之一 Suhas Raju 在 Facebook 上写道： > "我不知道有任何个人能在没有 AI 辅助的情况下解决我们最终问题集中相当比例的问题。我们的初步评估表明 GPT-6 Astra 的得分在 80 多分后期，紧随其后的是 Opus 5.5。但当我们开始调查模型可能犯的错误时，模型，特别是 Astra，坚持认为它们是正确的，而专家提供的答案是错误的。当我们回头去找专家时，发现在多个案例中，专家在他们的计算深处发现了细微的错误。随着他们修正答案，Astra 的得分开始逐步上升，最终以 98% 的得分结束。50 个答案中有 49 个正确。" 世界上一些最顶尖的科学专家用 AI 从未读到过答案的问题构建了一个测试。而当他们测试 AI 时，AI 不仅得分很高，而且通过发现人类辛苦工作的答案中的错误获得了更高的分数。 Clark 用电影叙事来比喻："在电影中，通常在三分之二处会有一个场景：年轻的主角终于向导师证明了他们具备独立走出去、取得成功的能力。老师变成了学生，或者学生变成了老师。这正是上周发生的事情。" ## 科学能力 = 创造力的最后前沿 为什么 AI 在科学方面变好很重要？Clark 的观点是：做真正的前沿科学——具备做出拓展知识前沿的突破的能力——隐含地测试了 AI 能力的最后几个前沿之一：**创造力**。 如果 AI 系统能够创造性地解决问题并成功进行科学研究，我们应该预期这是它们能够泛化到许多领域的一个标志，当然包括 AI 研究本身，这可能对创新产生爆发性的影响。 ## 增长：从 40 年到瞬间 增长的主要来源之一是研究带来新想法，推动增长的因素之一是人力资本存量。Clark 提出的问题是：如果这项技术让我们能够改变地球上研究人员的数量以及培养他们所需的时间呢？ "世界上只有一个我，我花了大约 40 年才走到今天。如果能够同时运行数百或数千个我的副本，这意味着什么？如果我的新版本可以被瞬间创建，而不是等待 40 年，这意味着什么？" 对比数据： - 培养新一代研究人员：**10 到 15 年**的定向教育和**数百万美元**的投入，才能培养一小批人 - AI 系统：只要有足够的算力，就可以**立即被创建任意数量**，可被跨领域使用，近乎即时地受益于新的科学洞见 这意味着在未来几年里，这个星球上的每一个人类科学家都会变得更加重要和强大，因为他们获得了监督数百或数千名志同道合的专家来解决他们感兴趣问题的能力。 ## 2030 年美国 GDP 44 万亿美元 Anthropic 的经济学家团队进行了建模，根据不同 AI 技术发展轨迹模拟不同版本的经济。如果假设 AI 模型将能够自主完成广泛的任务，并且它们向经济的渗透在接下来几年会增加，那么在这些"奇点条件"下，一个模型预测： **美国 GDP 到 2030 年可能达到 44 万亿美元。** Clark 承认"这听起来非常不切实际，但这是技术持续进步所隐含的结果"。如果 GDP 能增长这么多，那么经济理论表明，必须创造出新的产业和发明来支撑如此重大的经济扩张——而这正是"AI 系统能够进行自主科学探究"这一概念所隐含的内容。 ## 如何让世界受益：第一阶段已过 我们如何让世界广泛地从这些不断进步的能力中受益？如何在进步机遇与适当谨慎之间取得平衡？"仅仅因为 AI 将成为一位出色的科学家，并不意味着我们应该用它来做一切事情。" 关于为成功做规划，Clark 讲了自己的经历：过去 10 年里，他走访了世界各地的政府，告诉他们，由于 AI 系统变得越来越强大和有用，他们能抓住这场即将到来的革命的最好方式就是**建设足够的电力容量和数据中心空间**，并**投资于 AI 供应链**。 "没有多少决策者听取了这些意见。我认为现在我们必须面对这一后果。"当今世界，数据中心容量集中在美国、中国以及越来越多的中东地区，供应链高度集中且竞争激烈，价格不断上涨。 Clark 的结论是：这个建设仍然很重要，但这只是 AI 所暗示的经济和科学革命的**第一阶段**。 Source: [anthropic cofounder Jack Clark "we are in the singularity"](https://youtu.be/K-TWH-otxrI?is=1gjHZbouG4HmKWPk)