扎克伯格称每个实验室都应自行处理AI安全问题。这对构建智能体的我们意味着什么？
摘要
扎克伯格主张AI实验室应自主负责安全事务，并以Meta推迟Muse项目为例证明其有效性，同时引发了关于AI智能体部署及治理必要性的讨论。
扎克伯格本周发文称每个实验室都应对自己的模型负责，并指出Meta为安全考虑推迟Muse项目数月正是有效实践的证明。同一周，《华尔街日报》报道他、马斯克和黄仁勋分别致电特朗普，劝阻其设立类似金融业监管局的监督机构。我认为他没有在Muse项目上撒谎。每位厨师都会声称自己的厨房很干净，而其中大多数确实在说实话。但...我们依然需要检查员。作为智能体构建者，真正困扰我的部分是：他声称竞争机制能保障安全，因为用户不会选择不信任的智能体。如果你是终端用户，这或许成立。但当智能体处理贷款申请、排班表或福利申领时——购买者、操作者和承受结果的是三个不同的人，其中只有一方能轻易抽身离去。他还提到独立评估机构是最佳实践，Meta已在使用。但未说明具体机构、评估权限范围，以及是否允许公开结果——而这正是问题的核心。我个人从事AI安全与治理工作，因此完全支持放缓发展节奏。但各位实际怎么看？是应等到治理体系相对完善再逐步部署，还是持续快速迭代并在过程中解决问题？这个话题更直白的版本是：你们之中是否有人对自己的智能体感到担忧？比如发布那些在短期内可能无法完全掌控的系统，这是否会让你们感到不安？
相似文章
AI安全辩论是关于安全还是控制？
本文探讨了AI安全辩论，质疑其是否真正关注安全还是控制，并强调了像Dario Amodei和Mark Zuckerberg等高管关于行业自律与政府监督的观点。
马克·扎克伯格关于为对齐而减缓AI进展辩论的声明
马克·扎克伯格讨论了为对齐而减缓AI进展的辩论，认为对齐对于差异化和安全性至关重要，并概述了Meta在负责任开发方面的承诺。
Mark Zuckerberg 表示人工智能不需要全行业放缓，因为市场力量和竞争将推动公司确保其模型的安全。
Mark Zuckerberg 反对人工智能开发全行业放缓，指出市场力量和竞争将自然激励公司确保模型安全，与 Dario Amodei 等人工智能安全倡导者的呼吁形成对比。
@rohanpaul_ai: 马克·扎克伯格刚刚发布了一篇关于Meta AI未来愿景的长文，其中超级智能将人人可用……
马克·扎克伯格发表了一篇长文，概述了Meta让超级智能惠及所有人的愿景，包括向政府共享中间训练检查点的提议，并警告称放慢美国AI发布可能会损害领导地位。
马克·扎克伯格计划大力推行个人AI代理
马克·扎克伯格在2026年第二季度财报电话会议上宣布了Meta进军个人AI代理的计划，旨在打造开箱即用的消费者友好型代理，同时重点介绍了WhatsApp和Instagram上的商业代理。