当你让人工智能运行科学实验室会发生什么 - 与 Ant Rowstron 的播客

# Ant Rowstron | 当AI接管科学实验室会发生什么 来源：https://www.existentialhope.com/podcasts/ant-rowstron **\[00:00:00\] Ant:** 你可能会与一位AI科学家对话，它很可能能够设计实验。更先进的AI科学家甚至能实际运行实验。我们利物浦大学有一个团队，他们让AI科学家运行了实验，但在特定阶段会暂停它，并问道：“现在，如果我们是人类，面对这些问题，下一步会尝试什么来取得进展？”同时，他们也允许AI科学家模型继续运行。有趣的是，目前AI科学家的表现并不差，但也未必好很多。但最有趣的是，它尝试的方法截然不同。 **\[00:00:36\] Beatrice:** 今天非常高兴能请到Antony Rowstron，他是英国ARIA（高级——全称是什么来着，创新与研究——） **\[00:00:46\] Ant:** 高级研究与发明局。 **\[00:00:48\] Beatrice:** 是的，谢谢，谢谢。你是ARIA的首位CTO，但我听说你现在是首席AI科学家。在此之前，你在微软研究院工作了26年，但现在你负责ARIA这个关于AI科学家的大型计划，我们今天将深入探讨它。那么，对于新人来说，什么是AI科学家？我们为什么要创建它？ **\[00:01:14\] Ant:** 是的，这是个非常有趣的问题。当我开始关注外部所有的AI及相关术语——“AI for science”等等——术语实在太多了。真正让我印象深刻的是，一种三层架构正在形成。最顶层是能够进行推理的系统。我所说的“推理”，指的是它们能有效地提出假设、进行构思、尝试设计实验，而且通常基于大型语言模型、前沿模型。中间层通常是一些构建模型的人。他们正在开发工具——AlphaFold就是一个例子。所以，他们倾向于构建能够预测事物的模型。你有数据集，对其进行建模，然后就能对数据集试图建模的对象做出预测。这极其重要。在某种意义上，你可以认为顶层需要调用并使用第二层。我认为，这一切的基础是更自动化的实验室的出现，以及完全依靠计算机模拟（in silico）来完成所有事情确实非常困难——在计算机上完成一切极其困难。那么，拥有既能参与其中、又能在最终阶段进行验证的自动化实验室，岂不非常有用？这样你就可以在需要时生成数据，验证实验，检验假设。因此，在我看来，AI科学家层就是那个顶层。“AI for science”对我来说是中间层，其基础是自动化实验室和使它们运作所需的数据集。 **\[00:02:50\] Beatrice:** 所以，你们的计划是专注于顶层，比如假设层。 **\[00:02:54\] Ant:** 我们在寻找那些拥有完整技术栈的人——但他们必须拥有顶层。理想情况下，他们还必须拥有能够展示顶层与之交互的实验室。其中许多人也在使用中间层，所以他们拥有类似AlphaFold的工具，并将其整合进来。这样，顶层可以随时调用工具，也可以随时调用实验室。因此，这就是我们想要理解的——我们处在哪个边界上。说今天这一切已经完全实现是不现实的。问题是，边界在哪里？我们能做什么？不能做什么？我们需要在哪里突破？哪些已经实现了？ **\[00:03:39\] Beatrice:** 如果我们深入一点——它实际上是如何工作的？一个AI科学家具体做什么？你有具体的例子吗？ **\[00:03:48\] Ant:** 有的。例如，你可以和AI科学家聊天。想象一下——如果你对探索某个领域感兴趣，可以和它交谈。它能生成你可能想探索的想法。如果你说“是的，我喜欢这个想法，让我们更深入地探索”，它很可能能够设计实验。更先进的AI科学家甚至能实际运行实验，分析结果，评估结果，并决定是假设错误还是实验出错，然后据此重新循环。我见过一些系统——有时这些系统更专注于特定领域，有时则尝试更广泛一些。实际上，我们资助的一些团队已经相当先进。最令人印象深刻的一次是我去参加会议，他们告诉我：“我们有一个系统，可以按需生成量子点，这其实相当困难。”这就像一个工具，你可以说：“我非常想要一个量子点，并且希望它具有这些特性。”会议开始时，他们询问了我们希望量子点具有哪些特性。量子点有点像LED——在某些情况下会发光。所以你可以指定希望它发射什么波长的光等等。会议结束时，我们走进了实验室，看到了一盘量子点——每一盘对应会议上的不同参与者，以及他们要求的特性。 **\[00:05:24\] Beatrice:** 也许这很有趣——你能谈谈一两个你们最终资助的项目吗？ **\[00:05:31\] Ant:** 好的，好的，我觉得有一些非常有趣的项目。其中一个——而且它们涵盖了整个光谱。我们在全球资助了大约12个团队。所以我们想真正看看完整的前沿是什么样的。大约一半在英国，一半在英国之外。我目前非常兴奋的一个项目在牛津大学，研究个性化癌症疫苗。基本前提是：当你患上癌症，如果肿瘤被切除，他们需要能够查看是否仍有癌细胞，以及是什么类型的癌细胞。他们希望通过采集血样来检测你患的是哪种癌症——癌症大约有一万种类型。然后他们想制作一种个性化疫苗来保护你，或者尝试激发你的免疫系统，攻击从你的血样中识别出的前20种癌细胞。于是你得到这种个性化疫苗，它试图刺激你自身的防御系统攻击剩余的癌细胞。这非常有趣，因为它实际上是由所有那些层协同实现的。他们真正使用了AI for science模型，上面还有AI科学家，同时他们拥有自动化实验室，这让他们能够加速进展。我认为这是非常令人兴奋的项目之一。另一个非常令人兴奋的项目是我们去伦敦拜访的一个团队，AminoAnalytica——一个非常小的机构，基本上只有三个人。他们刚开始时，一直在研究COVID，并创建能够与COVID结合的抗原，用于侧流检测等。他们希望自动化设计这些抗原，并自动化测试它们，找到合适的抗原。就在我们去的时候，汉坦病毒开始流行。他们坐在那里说：“利用我们现有的工具链，我们大概能在48小时内为汉坦病毒创建一个抗原。”我当时觉得：哇，这太疯狂了。他们的观点是，如果能够加速一切，他们将能够在三周内为一种新疾病、新病毒或其他任何东西开发出侧流检测。我认为这是另一个由AI科学家层、他们使用的AI for science模型以及用于测试和优化数据的实验室所加速的项目，使他们能够快速循环迭代。 **\[00:08:15\] Beatrice:** 反馈循环快得多。 **\[00:08:16\] Ant:** 是的，是的。 **\[00:08:17\] Beatrice:** 而且，你说你资助了12个团队，但收到了245份申请，这是有史以来响应最多的一次。 **\[00:08:24\] Ant:** 是的。在那时是有史以来响应最多的一次。我非常惊讶。而且我们还将这个计划设计成有史以来速度最快的——这些工具的特点之一就是一切关于速度，所以我也想快速推进。我们希望人们提交申请，希望尽快与他们签约，希望他们快速启动。我记不清具体开放申请的日期了，但大概在九月份。目标是在圣诞节前与所有选定团队签约。当然，面对245份申请，这几乎成了“成功的灾难”，因为大约只有三周时间来选择我们要资助哪些项目。我们希望阅读所有申请，审查所有内容。然后我们成功选出了12个我们非常愿意资助的团队。大多数团队在一月份就启动了，很好——许多团队从1月1日或2日左右开始工作。是的，这非常了不起。 **\[00:09:14\] Beatrice:** 干得漂亮，尤其是在一个政府机构内。 **\[00:09:17\] Ant:** 是的，嗯，这就是ARIA——是的，在需要的时候我们行动非常迅速。这很好。 **\[00:09:20\] Beatrice:** 而且，据我了解，你们还将其设计为九个月的冲刺周期。为什么——为什么选择这个周期？ **\[00:09:27\] Ant:** 嗯，实际上，我们只给了他们总共九个月的时间。其中一点是：我们不想资助那些还在创建系统的人，我们希望他们已经拥有一个系统，并想知道它能做什么。所以我们决定，不像通常的两年或三年期限，我们只做九个月。如果你拥有这些工具，它们应该能让你更快——所以我们尝试在短时间内完成所有事情。对于每个团队，我们要求他们做两件事：一件他们认为能做到的事，以及一件他们认为是真正的挑战——可能无法做到，但愿意尝试的事。这也不同寻常，因为ARIA有“机会领域”——我们认为存在颠覆机会的领域——我们通常只在那些机会领域内运行项目。但对于这个AI科学家计划，我们说你们实际上可以选择想解决什么问题，不必局限于我们的机会领域。现在，大多数团队——我们的机会领域相当广泛——所以大多数人最终都在我们的机会领域内做事，但有一两个在领域外做事。这没关系，因为我们真正想看到的是他们如何做，以及效果如何——而不是具体做什么。做什么在某种程度上是附加的，这对于资助来说很不寻常。通常资助关注的是你取得了什么成果，而不是你如何实现的。而我们想要反过来——我们对如何做超级感兴趣，而不是做什么。 **\[00:10:55\] Beatrice:** 这是因为你们认为这会对你们的工作有很大启发吗？还是—— **\[00:10:59\] Ant:** 为什么——是的，我认为这会给ARIA带来启发。它将帮助我们理解如何思考这些事物未来如何运作。我认为你注意到的一件事——我作为计算机科学家注意到的——是采用新工具通常很难。通常很难理解如何将新工具融入工作流程以加速进程。所以这也帮助我们思考：好吧，那些真正最大化利用他们能力的成功团队，他们是如何使用这些工具的？我们能否利用这一点来帮助我们生态系统中的其他创建者思考如何利用这些来加速他们的工作？ **\[00:11:36\] Beatrice:** 你是否大致预估——例如，在九个月内，你认为他们可能实现什么？比如，拿癌症疫苗项目来说。 **\[00:11:46\] Ant:** 是的，我认为——嗯，我认为他们会达到初步阶段。他们将获得证据。大多数这些项目将获得某些东西的证据，而不是完整地完成某件事。所以每个项目都会展示一些如果成功将是前进了一步的东西。但这并不是终点。对于癌症疫苗项目——实际上这非常有趣——他们现在的心态是快速推进。所以，在某种意义上，他们正在讨论如何从九个月结束时的状态，最终进入人体试验。他们将拥有这些疫苗可以被制造出来的证据，它们可能有效的证据，但他们不会有临床试验或类似的东西。但有趣的问题是，他们认为自己有了成果后，多快能尝试它。这很吸引人，因为我认为速度方面存在心态转变——他们认为自己能实现的速度非常有趣。我在所有项目中都看到了这一点——我们项目中的所有创建者都在真正思考，“好吧，我们如何加速以更快前进？如何利用这种速度并保持下去？”这很有趣。 **\[00:13:06\] Beatrice:** 是的，这有点像——当我为这次采访做准备时，与AI科学家相关的术语出现了“more shots on goal”（更多射门机会）。 **\[00:13:17\] Ant:** 是的，嗯，我不知道它们是射门机会还是什么——这是个有趣的问题。从宏观上看，你前进得更快。如果你更快，意味着你可能有更多的尝试机会，并且希望其中一些更可能命中目标。我认为同样有趣的是——我们有一个利物浦的团队非常非常有趣。他们让AI科学家运行，但在实验的特定阶段会暂停它。他们获取了该时间点的“宇宙快照”，然后问道：“好吧，现在，如果我们是人类，面对这些问题，下一步会尝试什么来取得进展？”同时，他们也允许AI科学家模型继续运行。这很有趣——因为结果还在陆续出来，我们才进行了四五个月——但目前我将其描述为势均力敌。我们没有——AI科学家并不差，但也未必好很多。但有趣的是，它做着不同的事情。所以和领导的教授交流时，他说：“嗯，这些是我做的，因为三四十年的经验告诉我应该这样做——但它做了一些我不会做的事情。”“而且实际上，它做得和我尝试做的一样好。”事实上，有趣的是，有时基于所有经验认为是显而易见该做的事情，在查看结果后发现根本没有带来任何好处——而AI科学家完全避免了这些事情。所以我认为这是一个有趣的项目——它还没有击败人类——但方式不同，我认为这非常有价值，因为可能意味着你会看到意想不到的结果。我们还有一个团队在研究子宫内膜异位症，他们正在寻找可能攻击的目标——或利用的目标，有趣的是，他们发现了一些专家说“我们不确定我们是否会瞄准那个”的目标。所以他们正在研究它们，并试图验证：它们真的是目标吗？它们是好的目标吗？