据报道，谷歌、OpenAI 和 Anthropic 正在组建自己的前沿AI安全机构，可能在发布前测试模型而不受政府监管。
摘要
据报道，像谷歌、OpenAI 和 Anthropic 这样的主要AI公司正在组建自己的安全机构，以便在发布前沿AI模型前进行测试，可能不受政府监管。
暂无内容
相似文章
OpenAI、Anthropic、Google 已就人工智能安全问题进行数周讨论
在Anthropic首席执行官Dario Amodei发表文章呼吁行业协调以避免灾难性风险之后，OpenAI、Anthropic和Google已就人工智能安全问题进行了数周讨论，讨论内容涉及反垄断法和潜在的标准制定机构。
前沿模型论坛
OpenAI、Google、Microsoft 和 Anthropic 启动前沿模型论坛，旨在协调行业、政府和民间社会之间的AI安全标准、研究和信息共享。该倡议重点关注识别最佳实践、推进AI安全研究以及建立安全信息共享机制。
前沿模型论坛更新
前沿模型论坛宣布创建一个新的 AI 安全基金，初期资金超过 1000 万美元，由主要 AI 公司（Anthropic、Google、Microsoft、OpenAI）和慈善合作伙伴提供支持，用于推进独立的 AI 安全研究。该基金将重点关注开发模型评估和红队测试技术，以评估前沿 AI 系统的危险能力。
前沿AI监管：管理新兴的公共安全风险
OpenAI提议了一个针对可能造成公共安全风险的「前沿AI」模型的监管框架，倡导制定标准流程、注册/报告要求和合规机制，包括部署前风险评估和部署后监测。
这不再是Anthropic与OpenAI之争了
美国政府正在收紧对AI模型发布的管控，这影响到Anthropic和OpenAI两家公司，安全目标不明确且缺乏测试基础设施，威胁到行业增长。