行业领袖联合成立开放安全AI联盟，致力于AI安全与防护

# 行业领袖携手成立开放安全AI联盟，共筑AI安全防线 来源：https://blogs.nvidia.com/blog/open-secure-ai-alliance/ 开源软件是全球经济的关键支柱。它通过让技术对专家社区可访问且透明，支撑着云计算、金融服务、制造业、电信、政府和互联网服务。 网络安全是开源软件三大受益领域之一。开放安全AI联盟——基于Linux基金会 (https://www.linuxfoundation.org/blog/the-state-of-open-source-software-in-2025) 的Akrites (https://www.linuxfoundation.org/press/linux-foundation-and-industry-leaders-launch-akrites-to-defend-critical-open-source-software-against-ai-enabled-cyber-threats) 倡议和OpenSSF (https://openssf.org/) 社区工作的领导地位——将致力于利用开放技术修复和披露漏洞。 正如开源为软件创造了共享基础，美国及其合作伙伴如今正面临AI安全领域的选择：保护我们基础设施的防御措施是存在于少数不透明的系统中，还是建立在任何防御者都可以研究、调整和部署的开放模型、工具和工具包之上？ 世界需要封闭模型和开放模型 (https://www.nvidia.com/en-us/glossary/open-models/)。对于网络安全而言，开放模型和开放工具包至关重要，因为它们能够使防御能力民主化，提高防御者的透明度，在保护数据的同时实现网络防御，并以可定制、本地化的控制能力补充前沿封闭模型。开源实现了大规模分布式、社区驱动和自主控制的防御——没有单点故障。 开放模型，如同任何强大的技术一样，可能被滥用——包括试图削弱安全防护或将其能力用于网络攻击——但这些风险并非开放系统独有，无论前沿AI部署在何处，都必须加以管理。 最近的Hugging Face安全事件 (https://huggingface.co/blog/security-incident-july-2026) 提供了一个清晰的提醒：网络防御者需要开放的、前沿的智能体系统进行自我防御。当封闭的AI工具无法区分攻击者和防御者，甚至阻止了关键的取证分析时，Hugging Face在其自身基础设施上运行了开权重模型GLM 5.2，分析了超过17,000个动作并遏制了入侵。 该事件揭示了一个实际真理：当防御者无法在其自身基础设施上检查、调整和运行先进AI时，他们在最需要速度的时刻，应对能力会受到限制。公司和各国需要开放的前沿防御工具和技术，以便关键行业能够在多供应商生态系统中构建安全系统，避免单点故障。 这就是开放安全AI联盟的使命：确保世界各地的防御者拥有他们可以信任和控制的开放前沿工具。 来自云计算、网络安全、企业软件、开源基金会和AI研究领域的领导者——包括NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike (https://www.crowdstrike.com/en-us/blog/crowdstrike-joins-the-open-secure-ai-alliance/)、Databricks、Dell Technologies、DoorDash、Elastic (https://www.elastic.co/blog/elastic-nvidia-inaugural-partner-osaia)、HPE (https://www.hpe.com/us/en/newsroom/blog-post/2026/07/hpe-joins-open-secure-ai-alliance-to-advance-open-cybersecurity-innovation.html)、Hugging Face、IBM、LangChain、Linux基金会、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat (https://www.redhat.com/en/blog/strengthening-open-source-defense-layer-red-hat-joins-nvidias-open-secure-ai-alliance)、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab和TrendAI——是开放安全AI联盟的创始合作伙伴。该联盟旨在开发和共享开放技术、方法和工具，以在AI时代保护软件和智能体。 有人认为开放模型本质上不太安全，因为它们可能被用于网络攻击或被修改以移除护栏。这些风险是真实的，但它们并不会在封闭系统中消失，仅仅保持权重封闭并不能阻止决心坚定的攻击者寻找或利用强大的AI。 正确的应对措施不是拒绝防御者访问有能力的开放系统。而是将开放性与强大的防护措施、针对恶意滥用的明确规则、严格的评估和快速修复相结合。在网络安全领域，更安全的路径是赋予更多防御者测试、验证和加强社会赖以运行的系统的能力。 防御者需要前沿封闭模型和前沿开放模型协同工作，以便他们能够为任务选择合适的系统，并确保在安全需要的地方，透明度、适应性和主权控制都触手可及。 ## **开放研究提升网络安全与AI安全** AI智能体不仅仅是一个语言模型。它是一个由模型、工具包和护栏构成的复杂系统。 真正的AI安全与安全取决于整个智能体栈——身份、权限、工具包、护栏、日志和评估——而不仅仅是模型权重是开放还是封闭。开放的工具包和工具使众多防御者更容易检查、测试和改进这些控制措施。 NVIDIA正在向开放安全AI联盟贡献开放模型、模型权重、数据以及新的智能体工具包研究，以加速新网络安全工具和技术的开发。 新的开源NVIDIA Labs Object-Oriented Agent (NOOA) (https://developer.nvidia.com/blog/six-agent-harness-capabilities-for-higher-model-performance/?ncid=prsy-823400) 项目现已在GitHub (https://github.com/NVIDIA-NeMo/labs-OO-Agents/tree/main) 上提供，以使先进的AI安全功能更易于集成到智能体工具包中。NOOA研究框架使工具包能够更好地与模型集成，从而更易于测试、追踪、审计和治理智能体行为。 在整个联盟中，贡献者正在为智能体构建一个开放的防御栈——从身份和隔离到安全的模型格式、多模型扫描和安全编码工作流程。 HPE为SPIFFE/SPIRE (https://spiffe.io/) 做出贡献，该框架创建了零信任身份框架标准和方法，可以对AI智能体和服务进行加密验证，确保只有授权的工作负载才能通信并访问企业资源。 Hugging Face已向PyTorch基金会提供了Safetensors (https://github.com/safetensors/safetensors)——一种用于存储AI模型权重的安全格式，提供透明度并保证不会远程执行代码。 IBM和Red Hat的Lightwell (https://www.redhat.com/en/about/press-releases/ibm-and-red-hat-expand-lightwell-new-offerings-build-trust-infrastructure-ai-era-open-source) 通过数字签名补丁将安全扩展至整个开源供应链。 Microsoft的MDASH (https://www.microsoft.com/en-us/security/blog/2026/05/12/defense-at-ai-speed-microsofts-new-multi-model-agentic-security-system-tops-leading-industry-benchmark/) 多模型智能体扫描工具包协调专门的AI智能体，以发现、辩论并证明可利用的漏洞。 SpaceXAI已开源了Grok Build (https://x.ai/open-source) 终端型AI编码智能体，以促进信任、透明度和新能力，并计划开源Grok系列模型的权重，以支持开发者及研究社区。 ## **致政策制定者和监管者** 随着政策制定者和监管者应对AI安全问题，在AI和网络安全政策中，将开放模型、工具包和安全工具视为防御性资产而非负担至关重要。对开放前沿AI系统的一揽子限制将削弱防御能力，并有可能将权力、依赖性和脆弱性集中在少数封闭的提供商手中。 公司和国家应投资于共享的AI防御开放基础设施——数据集、评估框架、攻击模拟器和红队工具——正如前几代人投资于开源软件一样。 ## **我们应建设的未来** AI智能体的时代可以是一个具有韧性和共享安全的时代。通过正确的选择，开放安全的AI系统可以为防御者提供所需工具，加强竞争，扩展技术领导力，并确保这一非凡技术的安全性和保障性以开放方式为每个人构建。 这个未来不会通过假设保密即安全来实现。它需要通过构建足够强大以经得起检验、足够灵活以持续改进、足够开放以动员整个防御者社区的系统来实现。 这个未来值得建设——开放安全AI联盟邀请政府、行业和研究人员携手，共同捍卫AI时代。 *了解更多或表达加入开放安全AI联盟的意向* (https://www.nvidia.com/en-us/open-secure-ai-alliance-contact-us/)*。*