industry-cooperation

Anthropic 警告称，AI 系统可能很快实现无需人类监督的递归自我改进，并敦促行业开发安全制动机制并在监管方面进行合作。

OpenAI发布了一份政策研究论文，确定了四项战略来改进行业在AI安全规范方面的合作：传达风险/收益、技术协作、提高透明度和激励标准。该分析论述了竞争压力如何可能导致对安全性的投资不足，并提出了协调激励措施以促进安全AI开发的机制。