@sama:世界应有信心,开发日益强大人工智能的美国公司将负责任行事,尤其…

X AI KOLs 新闻

摘要

Sam Altman 强调 AI 公司负责任行动的必要性,并欢迎建立前沿 AI 安全的联邦框架,倡导共享标准和合作。

世界应有信心,开发日益强大人工智能的美国公司会负责任地行动,尤其是随着进步轨迹的日益陡峭。每个前沿实验室都必须做到这一点,否则我们就没有任何理由继续工作。 我们欢迎建立为前沿 AI 设定一致安全要求的联邦框架。但我们认为,我们不需要等待反垄断豁免或立法来开始提供这种信心的工作。一致的规则来管理前沿风险,以便我们能够最大化利益是个好主意(我们对独立审计员等想法感到兴奋)。 几年前,像我们这样的公司制定了负责任扩展政策和准备框架等。这些在当时很好,主要关注已完成模型的部署,而不是开发过程中发生的事情。 今天转向关注安全开发和评估将需要新工具。例如,在 OpenAI,我们现在在预计会显著提高能力的前沿强化学习运行之前制定明确的安全案例,除了我们长期以来在模型发布前所做的安全工作。 我们希望其他公司从我们的方法中学习并提出自己的方法;我们认为共享的错位、监控和安全标准将带来更好的结果。我们期待与业界的同事合作,制定这些标准的最佳版本。 当我们谈论“节奏”时,我们不是指“停止”。进步很快,并将继续。但它应该比可能的情况慢一些;像安全案例和监控这样的干预措施有重大成本。 调控节奏将值得这一成本;任何程度的美国竞争压力都不应证明鲁莽合理,或让能力领先于对齐和监控。 我们需要政府帮助的地方是国际协调。但首先我们应该自己尽力而为。
查看原文
查看缓存全文

缓存时间: 2026/09/14 05:58

世界应当有信心,当美国企业开发日益强大的AI时,它们会负责任地行事——尤其是在进展轨迹日益陡峭的当下。每一家前沿实验室都必须践行这一点,否则我们所有人的工作都将失去意义。

我们欢迎建立统一的联邦框架,为前沿AI设定安全标准。但我们相信,无需等待反垄断豁免或立法通过,现在就可以开始建立这种信任。通过统一规则来管理前沿风险、从而最大化效益是个好主意(我们对独立审计等构想尤为期待)。

多年前,像我们这样的公司制定了诸如负责任扩展政策和准备就绪框架等机制。这些方案在当时是有效的,但主要关注已完成模型的部署环节,而非其开发过程。

当前转向安全开发与评估的新阶段,需要新的工具。例如,OpenAI现已在预期将显著提升能力的前沿强化学习训练前,明确制定安全预案——这与我们在模型发布前长期开展的安全工作并行。

我们希望其他公司能借鉴我们的方法并提出自己的方案;我们相信,在失谐监测、安全规范方面建立共享标准将带来更好的成果。期待与业界同仁共同构建最优化的安全体系。

当我们谈论“节奏”时,并非指“停滞”。AI进展飞速且将持续加速,但应比放任发展时更审慎——安全预案与监测机制本身就需要投入巨大成本。

这种节奏调整完全值得付出代价;再大的竞争压力也不应成为鲁莽行事的理由,绝不能让能力发展领先于对齐与监测。

我们需要政府协助的领域将是国际协调。但首先,我们应尽力做好自己分内的工作。

相似文章

独家:OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险

Reddit r/ArtificialInteligence

OpenAI首席执行官Sam Altman暗示,AI公司之间即将达成一项协议,以减缓AI发展并应对安全风险。与此同时,Anthropic宣布了新的安全措施,包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧,以及行业范围协调的必要性。

美国通过州和联邦行动推进AI安全

OpenAI Blog

OpenAI首席全球事务官讨论加州、纽约州、伊利诺伊州等美国州如何推进前沿AI安全立法,通过‘反向联邦主义’形成事实上的国家标准,并强调AI治理中民主监督的必要性。