前沿模型论坛更新

# Frontier Model Forum 更新 来源：https://openai.com/index/frontier-model-forum-updates/ 在过去的一年里，业界推动了 AI 能力的显著进步。随着这些进步的加速，需要进行新的学术研究来应对 AI 安全问题。为了填补这一空白，论坛和慈善合作伙伴正在创建一个新的 AI 安全基金，该基金将支持来自世界各地、隶属于学术机构、研究机构和初创公司的独立研究人员。AI 安全基金的初期资金承诺来自 Anthropic、Google、Microsoft 和 OpenAI，以及我们慈善合作伙伴 Patrick J. McGovern Foundation、David and Lucile Packard Foundation(https://openai.com/index/frontier-model-forum-updates/#citation-bottom-A)、Eric Schmidt 和 Jaan Tallinn 的慷慨支持。这些合计超过 1000 万美元的初期资金。我们预期还会获得其他合作伙伴的额外贡献。 今年早些时候，论坛成员在白宫签署了自愿 AI 承诺，其中包括促进第三方发现和报告我们 AI 系统漏洞的承诺。论坛将 AI 安全基金视为履行这一承诺的重要部分，通过为外部社区提供资金来更好地评估和理解前沿系统。更广泛的声音和观点将使全球 AI 安全讨论和整体 AI 知识库受益。 该基金的主要重点是支持开发新的模型评估方法和 AI 模型红队测试技术，帮助开发和测试前沿系统潜在危险能力的评估技术。我们相信在这一领域增加资金支持将有助于提高安全和安保标准，并为业界、政府和民间社会需要采取的应对措施和控制手段提供见解。 该基金将在未来几个月内发出提案征集。Meridian Institute 将管理该基金——他们的工作将得到由独立外部专家、AI 公司的专家和具有资助工作经验的人士组成的顾问委员会的支持。