如何为AI世界识别最高影响力的研究

# Anastasia Gamick | 提升科学雄心：如何为人工智能世界识别最具影响力的研究 来源：https://www.existentialhope.com/podcasts/anastasia-gamick **\[00:01:52\] Beatrice:**今天，我非常激动能邀请到Anastasia Gamick。希望我发音正确……很好。你是Convergent Research的总裁兼联合创始人。 **\[00:02:02\] Anastasia:**是的，没错。 **\[00:02:03\] Beatrice:**嗯。我想邀请你的原因是——我们之前邀请了你的联合创始人Adam来聊你们所做的所有了不起的、令人兴奋的工作。但我最近在“进步大会”（Progress Conference）上听了你的一场演讲，就在几个月前同一个场地，你谈到了你实际上是如何努力优先考虑Convergent Research正在研发的能力的。我觉得这可能是一个非常有趣的话题，值得深入探讨。 当然，我认为我们也应该简要回顾一下Convergent Research正在做什么，给那些没听过Adam那期节目的人。不过，我们就从这里开始吧？你是谁，Convergent Research是什么？ **\[00:02:44\] Anastasia:**好的。我是Anastasia Gamick，正如你所说。我的背景几乎全在初创公司。我很早就在Neuralink工作，那是Elon的脑机接口公司。我也在机器人领域工作过。我还曾在撒哈拉以南非洲从事最后一英里支付配送，帮助大型非政府组织将资金直接发送给受益人。Adam和我创立了Convergent；实际上，很大程度上我是受到Elon Musk的启发，他也出席了这次Foresight活动。 那么，如何创造机制来帮助顶尖科学家将他们的想法从实验室带入现实世界？Adam提出了一个称为“聚焦研究组织”（Focused Research Organization，FRO）的想法。所以，这是一个受初创公司启发的研发项目。可以想象成：一群人在一段时间内达到临界规模，像初创公司一样运作。他们有CEO，有五年路线图，做季度规划，有OKR，还有多学科团队。他们有软件工程师、病毒学家和自动化工程师，全部朝着一个非常具体的技术目标共同努力。 我们寻找那些在学术界无法完成的项目，通常是因为它们不合适——因为它们的“美元-论文”比例很差。工程工作量大，不足以产生足够多的出版物来证明下一轮资助或下一个研究生的合理性。同时，它们也不适合营利性环境，因为作为非营利项目，它是公共产品，很难捕获其价值。所以，我们称这些为聚焦研究组织，过去四年里我们已经启动了10个这样的组织。 **\[00:04:27\] Beatrice:**你能跟我们说说，你实际启动的10个组织是哪些吗？这是个测验，对吧？嗯。 **\[00:04:34\] Anastasia:**前两个是E11 Bio和Cultivarium。E11 Bio我想对Foresight的听众来说会非常熟悉。他们正在做高通量连接组学，实际上是在构建大脑的突触级图谱——了解哪些神经元与哪些神经元通信。不过更具体地说，他们是在构建能够让我们廉价地做到这一点的工具。他们在研究大脑图谱的基础能力——我们可能之后会回到这个话题。 然后我们有一个叫Cultivarium的项目，研究非模式生物。也就是说，如何利用世界上存在的生物多样性，充分发挥各种微生物的潜力？现在，如果你在后院发现了一种很酷的微生物——因为你后院里肯定有——它能产生你喜欢的蛋白质，但实际上，在工业实验室环境中并没有真正的方法来使用它。所以，他们正在构建所需的工具，使这些不同的微生物变得易于处理。 我们还有其他项目，涵盖神经调控、建造一个能观测星系间暗物质的大望远镜，或者单细胞蛋白质组学。这些都是我们认为能从根本上改变其领域工作方式的项目。 **\[00:05:50\] Beatrice:**是的。我记得你提到过，它们是有时间限制的。通常五年。那么现在情况如何？比如E11是什么时候开始的？它是不是快满五年了？ **\[00:06:03\] Anastasia:**是的。E11还有几年时间；它们大约成立三年了，刚刚进入第二阶段。嗯，关于这些项目的时间限制性——首先，我认为无期限的研究是我们研发生态系统中一个非常美好和精彩的基本部分，但它非常探索性，并且你总是需要回来争取更多资金。我认为，当你与慈善家交谈时，他们关心的一个问题是，如果他们资助一个组织，明年还得有人资助它，后年还得有人。 所以，通过设定时间限制，我们减少了慈善家的负担。我们不要求你永远支持一个组织；我们请你支持这个五到六年的项目。嗯，在这些项目结束时，可能发生很多事情，这取决于项目本身。有些可能衍生出营利性初创公司；你可以在链条的某个地方捕获价值，然后拿这部分创建一个生物技术公司。 有些可能捐赠给其他非营利组织。世界上有很多持续运作的非营利组织，它们可以接手这个。有些可能回归学术界。有些可能成为开源数据集，供人使用。其他可能变成合同研究组织（CRO）。所以，我认为每个FRO在确定其工作能产生最大影响的方式时，都会有不同前进道路。 **\[00:07:38\] Beatrice:**有没有可能它们认为最好的方式是继续作为FRO，或者类似的东西？ **\[00:07:45\] Anastasia:**我认为与其作为FRO继续下去，不如有另一个FRO接替它。所以，我认为时间限制实际上非常重要。我认为如果结果是“再延长两年，再延长两年”，我们会很不满意。 因为关键是在FRO结束时有一个非常明确的产品或输出，我们希望它存在。E11将使这种脑图谱技术便宜一百倍、一千倍。当他们做到这一点时，那个FRO就结束了。他们之后可以说，“实际上，现在我想做的是绘制整个小鼠大脑。现在我想做的是人类连接组项目。”你可以选择一个不同的项目，用同一个团队去实现另一个目标。但我不希望只是简单地延长一年，因为那样它会变得更像一个传统非营利组织，每年都要为下一年的预算筹款。 **\[00:08:40\] Beatrice:**是的。 **\[00:08:40\] Anastasia:**FRO的美妙之处在于，从一开始你就在构建一个非常明确的产品。这意味着你可以去找慈善家或政府，你可以说，“这是世界上需要存在的东西。这是原因。我们需要3000万到5000万美元，五到六年来建造那个具体的东西。” **\[00:09:03\] Beatrice:**是的。我确实很喜欢时间限制这个元素。我认为这很独特，至少据我所知是这样。嗯，它避免了每件事都需要成为一个永远的项目的麻烦。 **\[00:09:18\] Anastasia:**我认为初创公司如此成功的原因之一是存在一种真正的生存危机感——你一直担心下一轮融资会失败。我认为在产业实验室或学术界，这种压力并不以同样的方式存在。所以，“我必须在接下来一年达到这个目标才能进行下一轮融资”这种观念，我认为非常重要，也是我们试图模仿的一点。 **\[00:09:46\] Beatrice:**是的。那么，我们或许可以深入探讨一下你是如何选择这些项目的。嗯，再次说明一下这期节目的背景框架：在“进步大会”的演讲中，你谈到如何选择能力来为智能时代做准备。嗯，或许你想先说说你所说的“智能时代”是什么意思？ **\[00:10:15\] Anastasia:**好的。今年1月，Adam和我坐下来思考了2075年。我认为从那时到现在会有很多变化。我认为我们在人工智能方面看到了真正的进步和新的能力。所以，如果一切进展顺利，那个世界会是什么样子？ 当我们充分利用这项真正了不起的新技术并避免所有负面后果时，那个世界会是什么样子？我们思考了一些事情：我们避免了重大风险。我们避免了AI让人们设计出导致大流行的生物武器。我们避免了所有人都用它来互相攻击关键基础设施，导致没有人有电、没有人有干净水源的世界。我们避免了民主崩溃和公民话语崩溃的世界。相反，我们有一个世界，在那里公民话语甚至可能比今天更人性化、更开放、更具协作性。 在一个世界里，AI和大语言模型正在建立作为人类的信心和舒适感——也许它们鼓励了更多的人际联系。我们已经解决了所有……不再缺少材料。我们处于一个后稀缺世界。我们可以治愈疾病；我们可以打印药物。我们有一个《星际迷航》式的复制器。还有清洁、丰富的能源——我们还考虑了其他几个方面。嗯，所以我们想，“等等，这就是我们想要的世界。太好了。” 但我不能就这么创造出那个世界。什么是那些基本能力？我们今天需要建造什么才能达到那里？所以，我们花了很多时间思考这个问题。那些技术的种子是什么？如果你想到一个后稀缺世界，有位置化学、纳米技术。你是否能真正解决建造未来系统所需的许多关键部件？而且—— **\[00:12:58\] Beatrice:**但是，我喜欢这种做法。它实际上表明——这是我们在“存在希望”（Existential Hope）项目做过很多的事情。我们——我称之为世界构建。你可以称之为情景规划，随便你怎么称呼。但我喜欢你们做了这个，并真正付诸行动：这就是重点，这就是我们做这件事的原因，这样我们可以回溯并思考现在应该做什么来实现它。嗯，抱歉打断。 **\[00:13:25\] Anastasia:**不，没关系。而且我认为其中一些是建立在……我认为我们思考的核心概念之一是“基础能力”。 你可以想象世界充满了我们与之互动的事物，无论是电脑、药物、mRNA疫苗、激光雷达——世界上有很多我们使用的东西。它们实际上基于更基础的研究。它们基于更基础的发现或工具。我们想要追溯到：什么是这些使能技术？是什么导致了所有这些下游结果？ E11 Bio就是一个例子。你知道，如果你思考意识如何产生，思考神经退行性或神经精神疾病，思考神经网络，有一个共同的理解是你想了解所有这些不同事物的一个方面，那就是大脑的突触连接。但实际上，要绘制大脑的突触连接，你需要一种图谱技术。要制作那种图谱技术，其中很大一部分被称为校对或纠错，这是一个极其昂贵的过程。这就是我们得出E11 Bio概念的原因——我们把几位技术专家聚在一起，说：“如果它们能建立这个基础能力，它将启用到所有下游结果。”所以，我们在许多不同领域进行了这样的审视，目前也在多个领域有研究员在开展工作。 **\[00:15:11\] Beatrice:**哪些领域——我的意思是，你不需要全部列举，但我猜你们还有其他聚焦研究组织可能正在研究这些基础能力，或者即将开始研究？ **\[00:15:24\] Anastasia:**是的，我们花了很多时间思考良好的认识论（epistemics）。 **\[00:15:36\] Beatrice:**我—— **\[00:15:37\] Anastasia:**我认为作为一个社会，有许多工具导致我们拥有更差的认识论、更差的对话。那么，是否存在你可以为审议式民主、为更好的对话构建的软件工具、AI工具？我认为如果你看看X（原Twitter）上的“社区注释”（Community Notes）——现在我突然想不起叫什么了。 **\[00:16:04\] Beatrice:**社区注释。 **\[00:16:05\] Anastasia:**是的，社区注释。这实际上是一个极其关键的发明。 **\[00:16:10\] Beatrice:**是的。 **\[00:16:10\] Anastasia:**是否存在其他类似的发明，我们可以找到来改善话语进行的方式？所以，这是我们花了很多时间的一个领域。我们仍然处于路线规划阶段。有一个我们非常兴奋的潜在项目，关于审议式民主，基于来自谷歌和另外几个组织的科学家的一些工作。 **\[00:16:33\] Beatrice:**这太令人兴奋了。我知道这绝对是——这绝对是一个基础能力。我也听说ARIA也在考虑类似的事情，你们也在思考这个，这很令人兴奋，因为我认为这确实是普通人会想到的事情。嗯，或者是现在有点挑战性的事情。 **\[00:16:51\] Anastasia:**我认为这将是未来几十年我们世界变化的一个重要部分。ARIA的Nicole Wheeler实际上来参加了我们关于这个问题的研讨会。我们做了很多事情是召集团体。我们实际上在9月举办了一个研讨会，参加者有——这是有人举办过的最奇怪的研讨会——来自位置化学、生物安全、这个审议式民主团队，可能还有安全软件领域。我们思考：我们要去往的是什么世界？还有来自不同政策组织和政府组织的人也在那里，我们一起思考我们正在走向的世界。 **\[00:17:29\] Beatrice:**那真的很酷。是的。 **\[00:17:30\] Anastasia:**非常有趣，我学到了很多。 **\[00:17:33\] Beatrice:**这只是针对认识论方面的，还是—— **\[00:17:36\] Anastasia:**不。所以它是跨学科的，涵盖所有领域，认识论是其中之一。我认为Foresight所做的，以及ARIA所做的，有一样我非常钦佩，那就是跨学科对话。我实际上认为它们对人们来说非常有启发性，能帮助人们弄清楚他们的项目应该如何与世界互动。 所以，我们把最感兴趣领域的领导者都聚集在一起。另一个我们在思考的领域是可证明安全的软件或形式化验证软件。我们的一个项目叫做Lean，这是一个用于形式化数学的开源软件语言。它允许你完成……