专家警告并翘首以盼的强大中国模型问世了

# 专家警告过、世人期待的强大中国AI模型已然登场 来源：https://www.wired.com/story/zai-open-weight-ai-models-release-cybersecurity-hacking/ 如今，利用AI寻找并利用计算机系统漏洞变得更加容易了。 上周五，中国人工智能公司智谱AI宣布（https://z.ai/blog/glm-5.3）推出一款强大的开放权重模型，称其能够几乎媲美Anthropic（https://www.wired.com/tag/anthropic/）和OpenAI（https://www.wired.com/tag/openai/）最好的公开模型，自动化完成前沿编码和网络安全任务。 这款名为GLM 5.3的新模型，对希望加固系统以抵御攻击的公司而言，可能是一份礼物。它提供了一种成本更低的途径，来扫描潜在的隐匿漏洞及其他弱点。开放权重——即免费下载的——模型可在自有硬件上运行，且通常比Claude和GPT等闭源模型成本显著降低。伴随新模型一同发布的，还有OpenVuln（https://t.co/Ln8ga5TpwE），这是一项利用GLM 5.3扫描代码仓库漏洞的服务。 目前，该新模型仅在有限的可信合作伙伴范围内发布，但它展示了开放权重模型获取超人黑客技能的速度有多快。如果该模型被罪犯和其他恶意行为者利用，可能会带来问题。 考虑到近期一系列涉及具备先进网络技能的失控AI智能体的惊人事件，这种前景尤其令人警醒。最近几周，OpenAI（https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/）、Anthropic（https://www.wired.com/story/ok-well-there-are-even-more-ai-agent-hacking-incidents/）和独立的安全研究人员（https://www.wired.com/story/moonshot-kimi-k3-ai-model-escape-sandbox/）都揭示了AI智能体逃离测试环境并自主入侵外部系统（包括研究平台Hugging Face）以完成任务的案例。 周一，OpenAI总裁格雷格·布罗克曼在一篇博客文章（https://blog.gregbrockman.com/the-defenders-window）中警告说，Hugging Face事件将被视为“网络安全领域的一个分水岭时刻，因为它让人窥见了未来几个月典型威胁行为者能力将如何演变”。 布罗克曼认为，AI模型在代码库中搜寻未知缺陷、分析系统错误配置方面变得如此强大，以至于组织利用AI扫描其系统并在漏洞被利用前识别问题，变得至关重要。 当然，OpenAI希望公司使用其AI来完成这项工作。迄今为止，它在提供其最强大AI访问权限方面一直颇为谨慎。与Anthropic一样，OpenAI在全面发布前已将其最先进的模型提供给有限数量的合作伙伴。美国政府也在努力应对这一问题，目前已在模型发布时对其进行审查。 有些人认为，开源AI对于加固系统以抵御攻击至关重要；英伟达最近宣布结成联盟（https://blogs.nvidia.com/blog/open-secure-ai-alliance/），以推动开放AI在网络安全领域的应用。智谱AI GLM模型的先前版本曾被Hugging Face用于加固其系统，此前OpenAI一个未发布的模型失控并破坏了其系统（https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/）。 网页设计与托管公司Vercel的首席执行官吉列尔莫·劳赫在X上发帖（https://x.com/rauchg/status/2089126690043916495）称，其工程师已测试过GLM 5.3，将其作为扫描网站漏洞的工具。“考虑到其较低的成本，我预计这将成为防御性安全工作的福音，”劳赫在帖子中写道。“这是一个新的开放前沿。” 智谱AI在宣布GLM 5.3的帖子（https://z.ai/blog/glm-5.3）中表示，该公司通过“后训练”改进了模型，即向模型提供已解决问题的范例，并让其通过实验进行学习。公司引用了编码和网络安全基准测试分数，显示GLM 5.3在某些方面（例如一个名为CyberGym的流行网络安全基准）接近甚至超过了Anthropic和OpenAI模型的分数。 智谱AI在其帖子中也承认了发布强大开放模型的风险。“这些能力可以帮助防御者更早地识别弱点、验证风险并加速补救，”公司写道。“它们也带来了明确的双重用途风险。因此，我们采取分阶段发布的方法。选定的安全合作伙伴将首先在受控环境中评估GLM-5.3。”智谱AI表示，完整模型访问权限将在两周内开放。 著名AI专家内森·兰伯特在关于GLM 5.3的帖子（https://www.interconnects.ai/p/glm-53-how-chinese-labs-keep-stride）中写道：“这个模型看起来非常出色，分数的提升有些惊人。这是经济体系中非常强大的网络能力必然扩散的又一步。” 智谱AI的最新发布也凸显了中国在开放权重模型方面的优势。尽管美国试图限制该国获取用于训练AI模型的最先进芯片，但最近几个月仍发布了多款极其强大的开放权重模型，包括阿里巴巴的通义千问3.8 Max（https://www.wired.com/story/expired-tired-wired-gpt-5/）和月之暗面的Kimi 3。智谱AI此前曾表示，其使用华为制造的芯片训练了部分模型。Meta看似已放弃开源AI，现在似乎准备以一款名为Muse Spark的强大模型引领美国发起挑战。 美国政府正在制定一个旨在减轻AI不断发展的网络能力影响的框架（https://www.wired.com/story/the-white-house-is-keeping-its-ai-cybersecurity-framework-secret/）。一个悬而未决的主要问题是，它应如何对待开放模型——尤其是在它们带来更多潜在风险的情况下。