@levie:我们现在有了事实上的AI监管。目前尚不清楚为什么从现在开始,具有特定能力水平的模型……

X AI KOLs Following 新闻

摘要

特朗普政府已要求OpenAI因安全担忧而分阶段发布GPT-5.6,由政府逐个客户批准访问,标志着美国事实上AI监管的新时代。

我们现在有了事实上的AI监管。目前尚不清楚为什么从现在开始,具有特定能力水平或在特定算力规模上训练的模型在发布前不需要经过政府审查。 实际上,随着AI模型变得越来越强大,这将是不可避免的(我认为现在还为时过早,但事实如此)。所以现在更有趣的是思考从这里开始的影响和情景。其中一些包括: * 美国能够控制谁以及何时获得前沿智能的访问权限。只要我们始终保持在最前沿并且没有被超越的风险,这通常就有效。目前我们在前沿智能方面有明显的领先优势,所以这是一个不错的赌注,但有很多有动机的方想要改变这一点。 * 这可能会导致AI发布积压,这意味着模型进展中的快速往返跳跃会减少。乐观/良好情况是,我们每次发布时获得更大的步进函数,但速度较慢,最终达到相同的点。悲观情况是,那些增量的小跳跃对于持续的创新飞轮是必要的。 * 其他国家可能更有动力至少通过主权AI策略来对冲风险,从而不总是依赖美国AI的访问。以前这相对无关紧要,因为替代方案不够好,但出于必要性以及我们在中国看到的情况,这可能会改变。 * 开放权重显然是这里的大赢家,因为它可能成为主权AI构建的基础,并且(目前)仍然可以在没有相同控制的情况下发布到市场。一个有趣的问题是,监管最终将如何扩展到开放模型,这将带来一系列长期后果。 总之,由于我们现在在AI中看到的能力,每个人的AI监管思维模式都发生了一些重大更新。疯狂的时代。
查看原文
查看缓存全文

缓存时间: 2026/06/26 06:07

我们现在有了事实上的AI监管。从今往后,具有一定能力水平或基于特定算力规模训练的模型,在发布前必须接受政府审查——这背后的原因并不显而易见。

实际上,随着AI模型越来越强大,这种情况几乎是不可避免的(虽然我认为现在还为时过早,但现实就是如此)。所以现在最有趣的是思考由此带来的影响和可能的情景。其中几点包括:

  • 美国能够控制谁能获得前沿智能以及何时获得。只要我们在前沿领域始终保持领先,并且没有被超越的风险,这一方式大体可行。目前我们在前沿智能方面有明显优势,所以这是个好赌注,但许多有动机的参与方都渴望改变这一点。

  • 这很可能造成AI发布积压,意味着我们将看到模型进步的速度放缓,不再有快速迭代的跳跃。乐观情况是,我们只是以更慢的速度获得每次发布中更大的阶段性进步,最终达到同样的目标。悲观情况则是,那些较小的增量跳跃对于保持创新的持续飞轮是必要的。

  • 其他国家很可能更有动力至少通过主权AI战略来对冲风险,从而不依赖美国AI的随时访问。此前这相对无关紧要,因为替代方案不够好,但出于必要性和我们目前在中国看到的进展,这种情况可能改变。

  • 开放权重显然是大赢家,因为这很可能成为主权AI构建的基础,并且(目前)仍可以在没有同样控制的情况下发布到市场。一个有趣的问题是,监管最终将如何扩展到开放模型,这将会带来一系列长期后果。

无论如何,由于我们在AI中看到的能力,每个人对AI监管的心理模型都发生了重大更新。疯狂的时代。

Stephanie Palazzolo (@steph_palazzolo): 与@leomschwartz @amir 合作新消息:

特朗普政府已要求OpenAI因安全担忧而错开GPT-5.6的发布。

周四,CEO Sam Altman告诉员工,政府将逐个客户批准GPT-5.6的访问权限,这是一种极不寻常的做法。

相似文章

OpenAI 在美国 AI 监管风波中发布 GPT-5.6

The Verge

OpenAI 发布了 GPT-5.6,这是一个包含 Sol、Terra 和 Luna 的新模型系列,在编码、网络安全和自主任务方面性能提升,同时面临美国加强的监管审查。