前沿模型论坛

# 前沿模型论坛 来源: https://openai.com/index/frontier-model-forum/ 政府和业界都认为，虽然人工智能具有造福世界的巨大潜力，但需要采取适当的防护措施来降低风险。美国和英国政府、欧盟、经合组织、七国集团（通过广岛AI进程）等已经做出了重要贡献。 为了进一步推进这些工作，需要在安全标准和评估方面做出更多努力，确保前沿AI模型的开发和部署负责任。该论坛将成为跨组织讨论和采取行动促进AI安全和责任的一个平台。 在未来一年，该论坛将专注于三个关键领域，以支持前沿AI模型的安全和负责任开发： - **识别最佳实践：** 推动行业、政府、民间社会和学术界之间的知识共享和最佳实践，重点关注安全标准和安全实践，以减轻广泛的潜在风险。 - **推进AI安全研究：** 通过识别AI安全领域最重要的未解决研究问题来支持AI安全生态系统。论坛将在对抗稳健性、机制可解释性、可扩展监督、独立研究访问、涌现行为和异常检测等领域协调研究工作。最初将重点关注开发和共享前沿AI模型技术评估和基准的公共库。 - **促进企业和政府之间的信息共享：** 建立可信、安全的机制，在企业、政府和相关利益相关者之间共享关于AI安全和风险的信息。论坛将遵循来自网络安全等领域的负责任披露最佳实践。 **Google & Alphabet全球事务总裁Kent Walker表示：** "我们很高兴能与其他领先企业合作，分享技术专业知识以促进负责任的AI创新。我们都需要携手合作，确保AI造福每个人。" **Microsoft副董事长兼总裁Brad Smith表示：** "开发AI技术的企业有责任确保其安全、可靠，并始终处于人类控制之下。这一倡议是一个重要的步骤，旨在将科技行业聚集在一起，推进负责任的AI发展，应对挑战，使其造福全人类。" **OpenAI全球事务副总裁Anna Makanju表示：** "先进的AI技术具有深刻改善社会的潜力，而实现这一潜力的能力需要监督和治理。至关重要的是，AI企业——尤其是从事最强大模型开发的企业——在共同基础上保持一致，推进周密且可适应的安全实践，以确保强大的AI工具获得最广泛的效益。这是紧迫的工作，该论坛位置优越，能够迅速采取行动推进AI安全发展。" **Anthropic首席执行官Dario Amodei表示：** "Anthropic认为AI具有从根本上改变世界运作方式的潜力。我们很高兴能与业界、民间社会、政府和学术界合作，推进该技术的安全和负责任开发。前沿模型论坛将在协调最佳实践和分享前沿AI安全研究方面发挥重要作用。"