回归监管讨论，时间到认识SAFA：谷歌、OpenAI和Anthropic提议的AI安全机构正在成形，可能于今年年底启动

Reddit r/singularity 新闻
ai-safety regulation standards frontier-ai google openai anthropic

摘要

拟议的前沿人工智能标准机构（SAFA）正在成形，有潜在的领导层和启动时间线，旨在通过辩论和潜在的公私合作伙伴关系为AI安全制定行业标准。

据报道，拟议的前沿人工智能标准机构（SAFA）正在成形，有暂定名称，并可能在今年年底或明年初启动。报告中的一些细节：Sriram Krishnan 和 Arati Prabhakar 被讨论为可能的CEO，Condoleezza Rice 和 David Friedberg 为可能的主席。各公司正在辩论SAFA应该自己测试前沿模型还是专注于制定标准。在白宫的一项类似FINRA的机构提案失去动力后，SAFA可能作为独立行业努力启动，希望未来实现公私合作伙伴关系。它可能与现有的Frontier Model Forum协同工作。据报道，其他AI公司对这三家实验室主导的举措持怀疑态度。来源：https://www.theinformation.com/articles/google-openai-anthropic-ai-safety-group-takes-shape https://x.com/leomschwartz/status/2103150505438433472
查看原文

相似文章

独家：OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险

Reddit r/ArtificialInteligence

OpenAI首席执行官Sam Altman暗示，AI公司之间即将达成一项协议，以减缓AI发展并应对安全风险。与此同时，Anthropic宣布了新的安全措施，包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧，以及行业范围协调的必要性。

前沿模型论坛

OpenAI Blog

OpenAI、Google、Microsoft 和 Anthropic 启动前沿模型论坛，旨在协调行业、政府和民间社会之间的AI安全标准、研究和信息共享。该倡议重点关注识别最佳实践、推进AI安全研究以及建立安全信息共享机制。