@rohanpaul_ai: OpenAI 刚刚发布了一项关于全球人工智能安全协调的提案。它要求美国领导一个国际框架…
摘要
OpenAI 提出了一个由美国领导的全球人工智能安全框架，专注于能力评估、风险评估、人类监督和事件报告，同时美国和中国正在进行关于AI事件通知的平行会谈。
查看缓存全文
缓存时间: 2026/09/22 23:59
OpenAI 刚刚发布了一份关于全球人工智能安全协调的提议。该提案呼吁美国主导建立一个国际框架，涵盖能力评估、风险评估、人类监督以及统一的事件报告机制。
OpenAI 表示，相关标准应追踪与RSI（相对技能智能体）相关的能力提升，并监控实验室内部在多大程度上是自主开展研究的，包括设定需要立即进行人类审核的触发阈值。报告指出，自主性越高的研究，其过程可能变得对人类而言过于不透明，从而难以实现有效监督。
该提案的发布时间，恰逢中美双方就一项旨在通报具有国家安全影响的AI事件的倡议机制展开单独磋商。
相似文章
OpenAI 对美国 AI 行动计划的建议
OpenAI 向联邦政府提出了一套全面的美国 AI 政策框架，重点关注创新自由、战略出口管制、版权改革、基础设施投资和政府 AI 应用，以保持美国在与中国竞争中的领先地位。
@rohanpaul_ai: 华盛顿已向北京提议建立人工智能事件预警渠道，用于处理严重威胁国家安全的事件……
华盛顿方面近期向北京提议建立人工智能事件预警通道，以提升对影响国家安全的人工智能相关事件的透明度。该提议源于近期双边会谈，但中方尚未接受。
美国通过州和联邦行动推进AI安全
OpenAI首席全球事务官讨论加州、纽约州、伊利诺伊州等美国州如何推进前沿AI安全立法，通过‘反向联邦主义’形成事实上的国家标准，并强调AI治理中民主监督的必要性。
谷歌DeepMind的Demis Hassabis表示，是时候建立一个由美国主导的全球AI监管机构了
Demis Hassabis提议建立一个由美国主导的全球AI监管机构，评估前沿模型，并在风险过高时协调减速，他援引AGI临近的紧迫性。
OpenAI、Anthropic、Google 已就人工智能安全问题进行数周讨论
在Anthropic首席执行官Dario Amodei发表文章呼吁行业协调以避免灾难性风险之后，OpenAI、Anthropic和Google已就人工智能安全问题进行了数周讨论，讨论内容涉及反垄断法和潜在的标准制定机构。