Mark Zuckerberg 表示人工智能不需要全行业放缓,因为市场力量和竞争将推动公司确保其模型的安全。
摘要
Mark Zuckerberg 反对人工智能开发全行业放缓,指出市场力量和竞争将自然激励公司确保模型安全,与 Dario Amodei 等人工智能安全倡导者的呼吁形成对比。
暂无内容
查看缓存全文
缓存时间: 2026/09/18 21:59
# 马克·扎克伯格认为AI无需全行业减速:市场竞争与商业动力将推动企业确保模型安全 | 《财富》
来源:https://fortune.com/2026/09/16/mark-zuckerberg-meta-ai-safety-jensen-huang-dario-amodei/
全球科技巨头正就AI发展是否应为防范潜在灾难而减速划清界限。马克·扎克伯格刚刚明确站队,与呼吁AI实验室放慢研发节奏以防失控风险的"AI安全鹰派"(其中以Anthropic首席执行官达里奥·阿莫代伊为代表)保持距离。
在周二发布的社交媒体动态(https://x.com/finkd/status/2099997096896274533)中,这位Meta(https://fortune.com/company/facebook/)首席执行官暗示,减缓AI发展并非必要,因为前沿AI企业受到包括市场力量在内的多重激励因素约束,这些因素将促使企业自我规范。归根结底,这关乎用户始终拥有最终选择权。
"用户不会希望使用与自身价值观不符、不按指令执行的智能体,因此实验室具有强烈的内在动力使模型更加'对齐'用户需求,"扎克伯格写道。
他补充说,Meta本月发布的AI智能体"Muse"(https://fortune.com/2026/09/11/meta-muse-ai-shopping-agent-consumer-trust/)因安全考量而延迟上线,这正体现了企业在AI安全领域的自我监管意识。
"我们并未要求其他企业先行一步。这只是我们日常工作的一部分——因为维护用户权益显然符合所有人的利益,"他在帖文中表示。
随着周二的发言,扎克伯格介入了一场正深刻分裂科技界高管的辩论。鉴于近期安全事件频发,这场辩论的重要性与日俱增:今年夏天,两起由OpenAI模型执行的、突破训练环境的安全漏洞事件,引发了业界对AI智能体安全协议的警觉(https://fortune.com/2026/09/07/openai-ai-agents-german-wiki-ran-their-own-message-board/)。随后上周,前Anthropic研究员雅各布·考克森警告称AI企业在开发超级智能时"拿人类命运赌博"(https://fortune.com/2026/09/10/anthropic-jacob-coxon-gambling-with-lives-destroy-humanity/),推动了监管呼声高涨。
尽管局势复杂,扎克伯格目前的立场更接近英伟达(https://fortune.com/company/nvidia/)首席执行官黄仁勋的观点。黄仁勋是反对阿莫代伊等人减速主张的代表人物之一。
## AI安全之争
阿莫代伊与黄仁勋周二在Salesforce Dreamforce大会(https://www.youtube.com/watch?v=YmSzE5hpWiQ)上的发言,清晰展现了两种对立观点。
阿莫代伊在会议上重申减速主张,将AI企业面临的安全形势类比汽车行业:当某公司出现安全事故时,其他企业应审视自身运营而非指责同行。
"攻击竞争对手、指责他们不安全很容易,"他说,"但更负责任的应对方式是:让我们核查自身记录。我们或许未曾经历重大公开事故,但我确信我们远非完美。"
尽管此前表示不支持全面停止模型训练或技术进步,阿莫代伊指出:即使理论上冻结AI发展,企业目前也仅利用了这项技术5%至10%的潜在价值。
稍后登台的黄仁勋则提出截然不同的观点。他强调安全应是首要任务,但坚信企业能够自主解决相关问题,无需通过新法规或全行业减速。
"如果企业发现产品不安全,就应暂停并采取措施确保安全。除此以外,企业应全力奔跑,"黄仁勋表示。
这位英伟达首席执行官补充道,企业不必在快速发展与打造安全产品之间二选一。"创新、速度与安全产品——这是伪命题,"他说,"二者完全可以同时实现。"
扎克伯格似乎赞同这一观点。他表示Meta正将绝大部分算力资源投入服务用户,而非竞相开发能递归自我改进的AI系统。
"我相信,构建惠及所有人的积极未来,关键在于维持权力平衡。这正掌握在我们手中。"
相似文章
@VraserX: 扎克伯格基本上是在拒绝整个协调放缓的理念。他的论点是竞争、责任和…
马克·扎克伯格拒绝了AI开发中协调放缓的理念,他认为竞争和责任自然会鼓励谨慎,这与Sam Altman和Dario Amodei的观点形成对比。
马克·扎克伯格表示美国应加速AI发展而非限制
马克·扎克伯格主张美国应加速人工智能发展而不是施加限制,强调在全球AI竞争中保持竞争力的重要性。
马克·扎克伯格关于为对齐而减缓AI进展辩论的声明
马克·扎克伯格讨论了为对齐而减缓AI进展的辩论,认为对齐对于差异化和安全性至关重要,并概述了Meta在负责任开发方面的承诺。
扎克伯格称AI不能放缓,Anthropic的达里奥认为应该放缓,且Anthropic即将以约2万亿美元估值进行IPO
马克·扎克伯格断言AI开发不能放缓,而Anthropic的达里奥·阿莫迪主张谨慎,据报Anthropic正准备以约2万亿美元估值进行IPO。
马克·扎克伯格称,他对AI公司“话语”中“如此充满末日论调”感到惊讶
马克·扎克伯格发布了一篇题为《未来属于每个人》的长篇宣言,反对AI末日论调,并主张减少护栏、发展开源AI,恰逢Meta发布了一款开源AI模型。