关于人工智能重大问题的获奖论文（23分钟阅读）

# 关于人工智能重大问题的获奖文章 来源：https://www.dwarkesh.com/p/blog-prize-winners 两个月前，我提出了一些关于人工智能的重大问题。本次比赛共收到600篇参赛文章。以下是三位获奖者的简介以及他们的三篇完整文章。感谢所有参与者的支持！ **第一名——Jassi Pannu** Jassi Pannu（https://jassipannu.substack.com/）是约翰·霍普金斯大学的助理教授，专注于生物安全和流行病防范。她是Blueprint Biosecurity的董事会成员。 Jassi回答了“OpenAI基金会应该做什么”的问题。她令人信服地论证，我们能够生活在一个疾病终结的世界，并提出了非常具体且深思熟虑的方案，说明如何将数百亿美元投入到这一项目中。 **第二名——Ege Erdil** Ege Erdil（https://x.com/EgeErdil2?lang=en）是Mechanize（https://www.mechanize.work/）的联合创始人，这家初创公司致力于为前沿编码智能体构建环境和评估体系。此前他曾在Epoch AI担任研究员。 Ege回答了“人工智能供应链以外的国家应如何避免被变革性增长完全边缘化”的问题。他认为，这些国家应集中精力实施那些已被证明能有效促进增长和提高生产力的政策。这些策略（强有力的产权保护、低资本税、开放的监管体制）在当今世界尤为重要，因为实施它们可能带来比当前高得多的增长差异。 我喜欢Ege文章的一点是，从某种意义上说，他给出的建议非常符合常识（相比之下，其他一些申请者提出了更“天马行空”的方案——有份申请建议中等国家通过威胁炸毁美国和中国的芯片厂和数据中心来进行勒索）。但恰恰是这种更接地气、更具永恒性的建议显得最反主流，也更有可能奏效。 **第三名——Michael Li** Michael Li（https://x.com/michael_lwy）是哈佛肯尼迪学院公共政策硕士候选人。他撰写Ceteris Paribus（https://michaellwy.substack.com/）——一个关注新兴科技、经济与政策交叉领域的博客。 Michael的文章主题是实验室究竟如何盈利。他的文章之所以入选，是因为他将AI实验室与香港地铁的商业模式进行了独特类比——即使你的主要产品消耗巨额资本支出且无法直接收回成本，也许你可以通过收购所有互补资产来弥补。对香港地铁来说，这些互补资产就是相邻的地产。我不知道这对AI实验室意味着什么，但这确实是一个值得思考的有趣类比。 我会将基金会作为国家级项目来运作，以终结空气传播传染病。 人工智能最大的福利提升（治愈疾病）和最致命的尾部风险（人造大流行病）都通过生物学途径实现。通过大幅抑制空气传播病原体，我们将释放每年超过1万亿美元的全球GDP（通过终结季节性流感等疾病、解决与病毒感染日益相关的慢性病、减少生产力损失、降低医疗成本等），并将灾难性大流行的可能性完全消除。 **双重收益原则：**大多数“让AI发展良好”的干预措施都是针对不良结果（尤其是尾部风险）的保险。我的元层面论点是，将资金转化为影响力的最佳方式是识别那些在两种情况下都能产生巨大回报的干预措施：既在日常世界中带来福利的阶跃式改善，又在紧急世界中显著降低尾部风险。我下面描述的生物韧性干预措施就是最好的例子。 **AI用于生物学是通往治愈方案的关键路径，但颠覆性能力将提早出现** 利用AI自动化和规模化生物学研究的每一步，包括管理研究过程本身（我称之为自主生物学发现），将使人类更接近一个疾病终结的世界。在40多亿年的时间里，生命一直在一条天文数字般微小、可行的、连接且适合生存的路径上随机漫步。用于自主发现的多组件AI反馈循环（包括生物基础模型和系统性的大规模湿实验）将使我们能够探索更多可能的生物设计空间。虽然我们最感兴趣的是预测和设计多细胞系统，但操控更简单病原体的颠覆性能力很可能会先出现。这带来的挑战是，基于AI的攻击（引发疫情）将比防御容易得多，而防御仍受限于物理世界的部署；我认为这有利于那些已嵌入我们基础设施的预置防御技术。 **有一条明确的路径，可以通过物理基础设施终结空气传播传染病。** 不过，无论你如何看待上述观点，仅凭日常收益就足以证明终结空气传播传染病是合理的。呼吸道感染不仅导致急性疾病和生产力损失，还日益与痴呆、心血管疾病等关联；即使是“正常”的儿童呼吸道感染，也被发现与长期神经发育结果相关。 在评估了多种方法后，我认为终结空气传播传染病比大多数人意识到的更可行，通过一种具体且被低估的方式。我现在所在的建筑为我提供了无病原体的水，保持食物冷藏且无病原体，帮我加热食物以消灭病原体，并排走污水。我们周围已经嵌入了各种技术，使我们能够生活在霍乱、伤寒、痢疾终结的世界。 有一种被动、与病原体无关（对任何病原体都有效）的物理基础设施技术，可以使我们的建筑完全不含呼吸道病原体，例如发射对人类安全但对病菌致命的波长（https://blueprintbiosecurity.org/works/far-uvc/）的灯具（称为far-UVC）。几十年来，研究人员一直怀疑这些技术在大规模应用时有效；我们之所以没有部署它们，主要原因并非技术问题。考虑以下类比案例。 我们现在生活在天花终结的世界。这是人类最伟大的成就之一。我们花了多长时间做到这一点？詹纳在1796年证明了疫苗接种可以预防天花。171年后的1967年，D.A.亨德森发起了成功根除天花的运动。在那段时间里，人类发现了电磁学、热力学、广义相对论，并且距离登月只有两年时间。根除工作仅用了10年就完成了（技术进展有限）。根除天花、清洁水和巴氏杀菌奶的延迟并非由于技术缺乏；它们主要是市场和协调失败，而政治意愿不足加剧了这些问题。这就是为什么这个问题如此适合慈善事业的原因。 **终结空气传播传染病的四个步骤** 总计：约400-600亿美元，用10年时间建设物理基础设施以终结空气传播传染病；OAIF剩余的资金用于其他符合双重收益原则的干预措施。到第10年，经合组织国家的所有小学和主要交通枢纽默认配备被动式病原体减少基础设施。季节性流感死亡率降低60%。呼吸道病原体达到大流行规模传播的概率降低一个数量级。 1. **推动式资金以确定目标产品特性（50亿美元，第1-3年）** → 聘请Blueprint Biosecurity（https://blueprintbiosecurity.org/）主任Jacob Swett领导一个DARPA式的项目办公室，专注于：a) 人类气溶胶中的病原体灭活数据，b) 部署的计算建模，c) 超越传统紫外线效应的安全性研究，d) 能够检测合理效应量的金标准整群随机试验。到第3年底，提供经过验证的far-UVC灯具TPP，以及显示减少超过30%传播的实际效果数据。 2. **预先市场承诺以保障需求并吸引私人资本（150亿美元，第1-5年）** → 创建阶梯式采购承诺：a) 10万个符合临时TPP的far-UVC灯具，b) 100万个符合完整TPP（包括安全性和有效性验证）的灯具，c) 1000万个用于改造特定建筑的承诺（见步骤3）。借鉴Kremer的肺炎球菌疫苗AMC和Ransohoff/Frontier的碳去除承诺。到第5年，预计将撬动300-500亿美元的私人资本，并建立能够改造约10%全球建筑存量的供应链能力。 3. **大规模部署以生成证据（150-250亿美元，第2-7年）** → 第2-4年：部署在全球50个最大都会区的所有医院和长期护理机构。第3-6年：在相同都会区的中小学部署。第2-7年：在主要机场和高密度工作场所部署。到第7年，积累大量实际证据基础。 4. **政治基础设施和国家移交（30-50亿美元，第1-10年）** → 天花根除是一个真正依赖于政治意愿的偶然历史事件。仿照洛克菲勒基金会IHD黄热病手册的模式，开展一场观念运动，将呼吸道传播从“正常”转变为“不受欢迎/不必要”，并培养数千名骨干进入政府，为全球部署和标准制定建立政治支持和制度基础设施。当试点部署在三个经合组织国家显示出≥40%的减少效果时，基金会从主要出资方转变为催化剂角色，启动规模大数量级的国家采购。 我认为一个很好的基线，是很少有国家（无论是否在AI供应链中）能够超越的，那就是“什么都不做，并忽视民粹主义压力采取激进行动。” 这是因为人们天生对技术保守，并且讨厌造成失业的经济破坏。AI对人类劳动的完全自动化将带来快速的技术和经济进步，但也会导致所有人失去工作。因此，默认预期应该是，在AI自动化时代的政策制定将极其非理性和适得其反。 即便是最有效率的政府，抵抗这种政治压力也已经足够困难。期望那些记录不佳的政府（如印度和尼日利亚）做得更好是不合理的。 **AI时代的良好政策是什么样的？** 在给出了这个基本但乏味的答案之后，我将进一步阐述我实际上认为在AI自动化时代什么对良好政策制定重要，尽管在实践中这些内容可能对政策决策的实际方式没有太多相关性。 今天，一个国家的经济产出取决于其自然资源禀赋、物质资本和人力资本的数量，以及利用这些资源的效率。AI带来的重大转变将是人力资本从这一等式中消失。如果一个国家想在劳动完全自动化后的世界表现良好，它需要更多的自然资源、更多的资本，或者更有效地利用这些投入的能力，即更高的全要素生产率。 虽然产出的资本弹性将主导所有其他生产要素，但一个国家最终拥有多少资本本身是内生的。资本比劳动力更容易跨境流动，它可能会流向那些与其互补要素（全要素生产率和自然资源）丰富的地方。 因此，我认为AI时代良好政策的支柱涉及在可能范围内朝以下方向努力： - **为AI自动化让路。** 废除或修订职业许可法、责任法、数据保护法和知识产权法。废除价格和工资控制。瓦解那些试图保护自身免受AI竞争的人类工人卡特尔和工会。在人类和AI之间一致适用安全与安保标准，而不是偏袒人类。大幅简化创办新企业的流程，因为AI要发挥其生产潜力，同样需要组织结构，就像人类一样。 - **提供政治和法律稳定。** 在不稳定环境下投资将疲软。如果一个国家能在世界可能动荡的几十年中成为稳定的孤岛，它将吸引巨额投资。最低标准是避免内战、革命或政变（对尼日利亚来说并非易事，因为2025年9月仍有一场严重的军事阴谋企图推翻蒂努布）；但这本身还不够。人们必须相信他们的投资不会被没收，他们企业的核心运营不会突然被宣布为非法。 - **增加你国家的资本形成。** 减少或取消资本利得税和公司所得税，不要让重要项目因许可问题而停滞，不要通过“必须支付现行工资”的要求阻碍建设。取消外汇、利率和资本管制。 - **如果AI部署所需的行业出现故障，要紧急修复。** 例如，尼日利亚的电网很糟糕，需要先修复才能谈其他事情，而这又是由于政府限制导致整个经济价格体系混乱的后果。如果不解决这个问题，这个国家将永远无法积累在AI自动化时代保持生产力所需的那种资本。 这些建议看似极端，因为人类本能地喜欢那些偏向劳动而非资本的政策。这在资本产出份额仅约30%的当今世界已经造成问题，但在劳动已被淘汰、资本产出份额高得多的世界里，这将很可能成为一个关键障碍。 如果一个目前状况不佳的国家成功做到了这些，它将吸引巨额外部投资，并在AI自动化世界经济的几十年里发生转型。它们之前没有AI实验室或估值万亿美元的芯片公司这一事实将无关紧要，因为那些公司当时正在自动化它们的护城河——它们的人力资本和组织知识。 **这会发生吗？** 很可能不会。正如我所说，相关国家过于功能失调，无法采纳这些激进改革，而目前处于AI供应链中的国家（如美国和中国）在我列出的指标上已经比其他国家的表现好得多。 然而，对于那些处于AI供应链之外的国家仍存有一线希望：现有领先者可能会搞砸。这并非难以置信，因为工业时代的政策质量与AI时代的政策质量并不一定会强相关，就像世界上最好的采集经济不是最好的农业经济，最好的农业经济也不是最好的工业经济一样。 具体来说，现有领先者可能会在关键行业禁止AI自动化，放缓数据中心建设，没收资本持有者资产，对在医学、法律等关键行业部署AI智能体施加严格的安全标准，等等。在即将到来的极度非理性时期，他们可能犯的错误几乎没有限度。如果一个平庸的国家只是坚持住，不犯任何重大错误，他们很可能最终能够安然度过。