官方消息 - Anthropic和OpenAI刚刚聘请了独立安全审计员！

Reddit r/LocalLLaMA 新闻
ai-safety independent-auditors anthropic openai ethics ai-governance

摘要

Anthropic和OpenAI已正式聘请独立安全审计员，以监督其AI安全实践。

暂无内容
查看原文

相似文章

OpenAI 和 Anthropic 分享联合安全评估的研究成果

OpenAI Blog

OpenAI 和 Anthropic 发布了首次联合安全评估的研究成果。在这次评估中，两家实验室分别对彼此的模型进行了内部安全和对齐性测试，并公开分享了结果，以提高透明度并发现 AI 安全测试中的潜在漏洞。

OpenAI 加入 Anthropic 呼吁设立国际人工智能监管机构

Reddit r/artificial

OpenAI 和 Anthropic 均呼吁建立一个国际组织来监管前沿人工智能发展，理由是递归自我改进和智能爆炸的风险。这一联合呼吁凸显了人们的担忧：随着人工智能能力的快速发展，商业激励可能超越安全措施。

OpenAI 安全实践

OpenAI Blog

OpenAI 介绍了其积极采用并不断改进的 10 项安全实践，包括实证红队测试、对齐研究、滥用监控以及在首尔 AI 峰会上分享的自愿承诺。该公司强调采用均衡、科学的安全方法，将其融入开发的各个环节。