成为全球首家公开披露智能体网络攻击的公司，我们学到了什么

今年七月，我们成为全球首家公开披露自主智能体网络攻击的公司。今天，我想分享从中获得的三个关键教训。

首先，人工智能领域需要更高的透明度。我常在想，如果我们当初决定不公开披露这次攻击，事情会怎样发展？ 尤其是在我们得知类似事件已暗中发生在少数前沿实验室数月之久，且缺乏有效监控的情况下。为了更好地理解和缓解这些新兴的网络安全风险，全球社会需要建立更强有力的监控与事件披露标准。例如，强制共享完整的智能体行动轨迹。 这个夏天我们认识到，构建并封闭部分系统并非安全之道。

第二，我们认识到最大风险并非强大的人工智能本身，而是强大人工智能带来的不对称性。 攻击者与防御者之间的不对称、少数公司与其余所有人之间的不对称、少数国家与世界其他地区之间的不对称。这是控制权、能力、算力与力量的不对称。遭受攻击时，我们的团队最初尝试使用前沿闭源API，却因安全防护机制而被拒之门外——这些防护至今仍无法始终区分攻击者与防御者。我理解这些防护机制出于善意设计，但它们可能让防御者处于劣势，同时攻击者却能突破限制，进一步加剧能力不对称。在我们遭遇攻击时，幸运的是我们能够使用来自中国的开源模型GLM 5.2的@nvidia版本，感谢@Zai_org提供的这一资源。这更加坚定了我们对开源人工智能重要性的信念。网络攻击可能日益来自封闭环境中的专有模型，而大部分防御工作可能最终将由开源工具驱动，因为它们限制更少、更注重隐私保护，且对全球各类组织而言成本低几个数量级。当今世界比以往任何时候都更需要开源人工智能来进行自我防御。 这不仅适用于网络安全领域，也适用于整个人工智能领域——分布式的能力、资源与控制权比集中于少数人手中更为迫切需要。

第三，在这次网络攻击中，我们了解到人工智能如何通过拟人化叙事和科幻意象在公众和政策制定者中引发恐惧。我们坚信，基于恐惧的叙事绝非为这项基础性、赋能型技术制定正确未来决策的正确方式，也无法引导公众与我们同行。尽管我们是这次网络攻击的受害者，但我们比以往任何时候都更确信人工智能将有益于网络安全、让世界更安全，正如以往的重大技术一样。我们遭受了人工智能的攻击，但更重要的是，我们依靠人工智能进行了自卫。 曾在此次攻击中协助我们的同一系统，此刻正在帮助我们应对本就面临的其他网络攻击。人工智能还在攻击发生前帮助我们修复系统漏洞与弱点，正如人工智能协助OAI改进其沙箱以防止智能体逃脱一样。人工智能不仅会带来新的网络安全挑战，若能保持正确的激励机制、为防御者而非攻击者赋予更多能力、不加剧双方的不对称性，它就能让网络安全实现根本性的强化。 而这还未计入人工智能对科学、医疗、教育、生产力等众多领域带来的积极影响。

最后，我想重申这次首次智能体网络攻击教会我们的核心启示：人工智能领域需要更高的透明度，需要更多开源人工智能来赋能防御者，帮助大小国家共同抵御不对称风险。非常感谢！