OpenAI 与洛斯阿拉莫斯国家实验室宣布研究合作伙伴关系

# OpenAI 与洛斯阿拉莫斯国家实验室宣布生物科学研究合作 来源：https://openai.com/index/openai-and-los-alamos-national-laboratory-work-together/ OpenAI 与美国领先的国家实验室之一洛斯阿拉莫斯国家实验室（LANL）正在合作研究如何在实验室环境中安全地使用人工智能来推进生物科学研究。这一合作延续了美国公共部门（尤其是国家实验室）与美国私营部门合作的传统，以确保创新进展能够转化为卫生保健和生物科学等关键领域的进步。 最近的白宫行政命令《关于人工智能安全、安保和可信开发与使用的行政命令》要求美国能源部的国家实验室帮助评估前沿人工智能模型的能力，包括生物学能力。这对 OpenAI 很重要，因为我们相信人工智能有潜力倍增科学研究的速度和影响。Moderna 已经在利用 OpenAI 的技术来增强临床试验开发，通过构建一个数据分析助手来帮助分析大型数据集。Color Health 使用 GPT-4o 构建了新的副驾驶功能，以帮助医疗保健提供者做出关于癌症筛查和治疗的循证决策。 "作为一家致力于服务公众利益的私营企业，我们很高兴宣布与洛斯阿拉莫斯国家实验室建立首个同类合作伙伴关系，以研究生物科学能力，"OpenAI 首席技术官 Mira Murati 表示。"这一合作伙伴关系标志着我们使命的自然进展，推进科学研究，同时也了解和缓解风险。" "人工智能是一个强大的工具，在科学领域具有巨大的潜在益处，但与任何新技术一样，也带来了风险，"信息系统与建模部门副组长 Nick Generous 表示。"在洛斯阿拉莫斯，这项工作将由该实验室新成立的人工智能风险技术评估小组领导，该小组将帮助评估和更好地理解这些风险。" OpenAI 与洛斯阿拉莫斯国家实验室生物科学部门正在开展一项评估研究，以评估 GPT-4o 等前沿模型如何通过视觉和语音等多模态能力来协助人类在实际实验室环境中执行任务。这包括对 GPT-4o 及其目前未发布的实时语音系统的生物安全评估，以了解它们如何被用来支持生物科学研究。我们相信即将进行的评估将是同类中的首次，并将有助于人工智能生物安全评估的最先进研究。它将建立在我们现有的生物威胁风险工作基础上，并遵循我们的《准备框架》，该框架概述了我们追踪、评估、预测和防范模型风险的方法，与我们在 2024 年首尔人工智能峰会上达成的前沿人工智能安全承诺一致。 我们与洛斯阿拉莫斯即将进行的评估将是第一个通过评估专家和初学者执行和排查包含安全协议的能力，在实验室环境中测试多模态前沿模型的实验。这些任务旨在代表更复杂的、具有双重用途风险的任务。任务可能包括转化（例如，将外源遗传物质引入宿主生物体）、细胞培养（例如，在体外维护和传播细胞）和细胞分离（例如，通过离心）。通过检查 GPT-4o 实现的任务完成和准确性的提升，我们的目标是量化和评估前沿模型如何能够在实际生物任务中培养现有专业人士/博士和初学者的能力。 这些新评估在以下几个新维度扩展了我们之前的工作： 1. 纳入湿法实验室技术。合成和传播化合物的书面任务和回应是示意性的，但并不能完全反映实际进行生物工作台所需的技能。例如，知道必须进行质谱分析或甚至在书面上详细说明步骤可能很容易；但实际执行，特别是使用真实样品，则困难得多。 2. 纳入多种模态。我们之前的工作专注于 GPT-4，涉及书面输出。GPT-4o 跨模态推理和接收语音和视觉输入的能力可能会加快学习速度。例如，对湿法实验室设置的所有组件不太熟悉的用户可以简单地向 GPT-4o 展示他们的设置并通过语音提示问题，并通过摄像头在视觉上排查场景，而无需将情况表述为书面问题。 洛斯阿拉莫斯国家实验室一直是安全研究的先驱，我们期待在前沿人工智能模型的新颖而稳健的安全评估方面进行合作，因为能力持续快速改进。这种合作努力不仅强调了 GPT-4o 等多模态人工智能模型支持科学研究的潜力，还强调了私营和公共部门合作在利用创新和确保安全中的至关重要性。展望这些评估的结果，我们希望这一合作伙伴关系将帮助为科学中的人工智能安全和有效性设定新标准，为造福人类的未来创新铺平道路。