节奏控制是什么意思?(6分钟阅读)
摘要
本文分析了Dario Amodei呼吁人工智能行业控制自身节奏的倡议,探讨五个不同阵营对'节奏控制'含义的看法,包括对可解释性、劳工权益、经济增长、地缘政治竞争和监管俘获的担忧。
Dario Amodei呼吁人工智能行业自我调节节奏,但五个阵营对'节奏控制'的解释不同,未能就速度达成一致。这些阵营关注模型可解释性、工人利益、经济增长、地缘政治战略和抵制新法规。此前限制人工智能训练计算的尝试失败了,突显了控制人工智能创新速度的挑战。
查看缓存全文
缓存时间: 2026/09/15 14:20
# 什么是"节奏控制"?
来源:https://tomtunguz.com/what-does-the-pause-mean
简言之:Amodei呼吁行业自我调节节奏,但无人定义这个词。五个阵营给出了不同解读:可解释性研究需要时间理解模型,劳工阵营要为工人争取时间,经济派期望增长以偿债务,地缘政治派意在对抗中国,而监管俘获派则拒绝新规则。他们都衡量了暂停的代价,却无人定义具体速度。唯一曾试图量化机制的算力训练阈值,在2023年以10²⁶ FLOPS为限提出,却在任何模型触及前即被撤销,且数周内便已过时。
五方阵营围绕日晷各据一方(https://res.cloudinary.com/dzawgnnlr/image/upload/q_auto,f_auto/oqvrcqoz3ghigvanxgsw)
Dario Amodei在一个周六(https://tomtunguz.com/what-does-the-pause-mean#fn:1)呼吁行业自我调节节奏。但"节奏"究竟意味着什么?
该提议承诺:审计机构将深入审查AI,行业集体行动以调控创新步伐,盟国间开展国际协调。节奏控制本质上是个政策问题。五个阵营评估了暂停的代价,却无人定义具体速度。
1. 可解释性阵营需要时间。Anthropic首席对齐科学家Evan Hubinger认为,十年内AI对人类造成灾难性错误的概率超过10%,且尚无应对方案(https://tomtunguz.com/what-does-the-pause-mean#fn:2)。可解释性——理解模型内部运作的科学——"并非总能产出清晰可靠的结果,"Amodei写道,"我们仍仅理解这些模型内部运作的极小部分。"
2. 劳工阵营要为工人而非研究者争取时间。Bernie Sanders已提出联邦禁令,要求在建立保障措施前暂停新建AI数据中心(https://tomtunguz.com/what-does-the-pause-mean#fn:3)。
3. 经济派视AI对GDP的贡献为解决国债问题的路径(https://tomtung.com/what-does-the-pause-mean#fn:4)(https://tomtunguz.com/what-does-the-pause-mean#fn:5)。"全球债务泛滥,"Bessent在G20表示,"我们摆脱困境的唯一途径是通过增长...这些资本支出将转化为生产力,这将极大抑制通胀,"他预测,"我推测未来六个月我们将开始看到效益显现。"这是所有阵营中唯一给出具体时间的预测。
4. 地缘政治派力图维持AI竞赛中的战略优势。"我们在AI领域领先中国,"Trump周日表示,"谁赢得AI谁就赢了。"
5. 监管俘获派完全拒绝新规则。制定规则意味着让对手付费遵守。总统科技顾问委员会主席David Sacks直接对Amodei和Altman喊话:"别假装需要他人许可。别假装必须暂停反垄断法才能组建卡特尔。"他在文中写道,如果实验室不愿自行减速,"我们就知道这不过是监管俘获的又一次图谋。"而前FTC主席Lina Khan从相反方向得出相同结论:"我们不应让关于新法律体系的讨论转移焦点——现有法律不存在AI豁免条款。"
这些视角仍未回答核心问题:节奏控制究竟意味着什么?
2025年1月,竞争者仅用41天便追平前沿水平。如今领先优势仅能维持数月,开源与闭源模型的差距已从三个月扩大至四个月。这个间隔期应该是60天?160天?600天?
我们真能将创新速度控制到如此精确的程度吗?
Amodei明确指出了调控杠杆:限制前沿模型的构成要素——训练算力与训练运行方式。算力阈值曾被尝试:2023年行政令要求报告10²⁶ FLOPS以上的训练,但不久即被撤销。当时尚无模型突破该门槛,而首个达成的Grok-3在数周后发布,今年约有十个模型将跨越此线。训练算力每年增长约五倍,固定数值终将成为地板自然触及的天花板。
问题不仅关乎速度,更关乎由谁决定。
### 下期内容直达邮箱
一分钟阅读,将科技数据转化为战略优势。已有15万+创始人与管理者阅读。
Theory Ventures合伙人。前谷歌产品经理。分享AI、Web3及风险投资领域的数据驱动洞察。
Bloomberg (https://www.bloomberg.com/news/articles/2025-04-30/google-places-ads-inside-chatbot-conversations-with-ai-startups)•WSJ (https://www.wsj.com/tech/tech-media-telecom-roundup-market-talk-f8f0355a)•Economist (https://www.economist.com/business/2023/07/25/next-generation-googles-run-a-tighter-ship)
相似文章
@levie: “Pacing”可以是一个有点敏感的词,因为它听起来像是任意降低能力或通过不当监管来束缚竞争对手的一种方式……
本文讨论了人工智能发展中的“pacing”一词,强调了在关键领域中确保安全和对齐的必要性,同时不妨碍创新进展。
Dario Amodei 和其他 AI 领袖想要‘引领前沿’,但是…如何?
Dario Amodei 和其他 AI 领袖提议通过安全评估和协调来调控 AI 发展,引发了行业辩论,并获得了像 OpenAI 和 Google 这样的公司的支持。
我们必须把控技术前沿的节奏
达里奥·阿莫迪主张放慢AI能力发展的速度,以应对风险并确保安全,强调需要使技术进步与风险防范工作保持同步。
把握节奏,稳步推进
本文就如何控制科技和人工智能发展节奏提供指导,以保持稳定进展并避免倦怠。
掌控前沿节奏
本文探讨了人工智能能力快速加速可能超越社会理解和控制能力所带来的风险,以及需要通过治理工具有意识地掌控前沿整体进展的必要性。