@sama:世界应有信心,开发日益强大人工智能的美国公司将负责任行事,尤其…
摘要
Sam Altman 强调 AI 公司负责任行动的必要性,并欢迎建立前沿 AI 安全的联邦框架,倡导共享标准和合作。
查看缓存全文
缓存时间: 2026/09/14 05:58
世界应当有信心,当美国企业开发日益强大的AI时,它们会负责任地行事——尤其是在进展轨迹日益陡峭的当下。每一家前沿实验室都必须践行这一点,否则我们所有人的工作都将失去意义。
我们欢迎建立统一的联邦框架,为前沿AI设定安全标准。但我们相信,无需等待反垄断豁免或立法通过,现在就可以开始建立这种信任。通过统一规则来管理前沿风险、从而最大化效益是个好主意(我们对独立审计等构想尤为期待)。
多年前,像我们这样的公司制定了诸如负责任扩展政策和准备就绪框架等机制。这些方案在当时是有效的,但主要关注已完成模型的部署环节,而非其开发过程。
当前转向安全开发与评估的新阶段,需要新的工具。例如,OpenAI现已在预期将显著提升能力的前沿强化学习训练前,明确制定安全预案——这与我们在模型发布前长期开展的安全工作并行。
我们希望其他公司能借鉴我们的方法并提出自己的方案;我们相信,在失谐监测、安全规范方面建立共享标准将带来更好的成果。期待与业界同仁共同构建最优化的安全体系。
当我们谈论“节奏”时,并非指“停滞”。AI进展飞速且将持续加速,但应比放任发展时更审慎——安全预案与监测机制本身就需要投入巨大成本。
这种节奏调整完全值得付出代价;再大的竞争压力也不应成为鲁莽行事的理由,绝不能让能力发展领先于对齐与监测。
我们需要政府协助的领域将是国际协调。但首先,我们应尽力做好自己分内的工作。
相似文章
@sama: 美国应通过持续开发最优秀的模型、确保其安全,并将网络工具交到可信赖的防御者手中,在人工智能领域保持领先地位…
Sam Altman认为,美国应通过开发最优模型、确保安全性,并向可信赖的防御者提供网络工具来引领人工智能领域的发展,同时称赞新的行政命令取得了适当的平衡。
独家:OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险
OpenAI首席执行官Sam Altman暗示,AI公司之间即将达成一项协议,以减缓AI发展并应对安全风险。与此同时,Anthropic宣布了新的安全措施,包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧,以及行业范围协调的必要性。
Sam Altman 呼吁在AI开发中“极度谨慎”
OpenAI CEO Sam Altman 强调在AI开发中需要极度谨慎,以优先考虑安全和负责任的进步。
美国通过州和联邦行动推进AI安全
OpenAI首席全球事务官讨论加州、纽约州、伊利诺伊州等美国州如何推进前沿AI安全立法,通过‘反向联邦主义’形成事实上的国家标准,并强调AI治理中民主监督的必要性。
Sam Altman 指出 AI 发展有两种可能走向非常糟糕且必须避免的情况。首先,我们可能失去对未来的控制……
Sam Altman 强调了 AI 进展中的两个主要风险:控制权丧失和权力过度集中,并强调了前沿实验室在对齐、安全和负责任的 AI 发展方面的重要性。