Nvidia 毫不含糊:开放AI行业组织成立一周后,已初见成效
摘要
成立一周的开放安全AI联盟(OSAA)由Nvidia牵头,现已有超过120家公司加入,已经提出AI安全提案,并收集来自亚马逊、Red Hat和Okta等成员的开源贡献,而OpenAI和谷歌等知名公司尚未加入。
成立一周的开放安全AI联盟由Nvidia牵头,已发展到超过120家公司,并已提出防御AI代理的提案。
查看缓存全文
缓存时间: 2026/08/04 19:46
# 英伟达不是闹着玩的:开放AI行业组织成立一周,已初见进展 | TechCrunch
来源:https://techcrunch.com/2026/08/04/nvidia-doesnt-mess-around-a-week-after-open-ai-industry-group-formed-its-already-showing-progress/
由英伟达牵头、现已发展到120多家公司的行业组织“开放安全AI联盟”(OSAA)成立仅一周,就已开发出一个名字颇可爱的工作组——共享AI安全发现交换机制,简称SAFE。该组织已经提交了多项提案(https://www.linuxfoundation.org/blog/proposing-the-safe-working-group-an-open-community-effort-to-improve-ai-security)供公开评议,作为成员之一的Linux基金会正在管理这些提案。
这些提案是该组织成员在本周于拉斯维加斯举行的全球网络安全界盛会——Black Hat大会上齐聚时共同制定的。
就目前而言,这些指南并未带来什么惊天动地的变化。提案涉及的内容包括如何以保密方式报告AI网络安全事件、提醒受影响方,以及进行不追责的分析,以便各方从中学习。
与此同时,OSAA成员还在贡献并整理其开源技术(https://blogs.nvidia.com/blog/open-secure-ai-alliance-contributions/)中有用的零散成果。按照这类行业组织的发展规律,这些成果最终可能会汇聚成一套开源方案,帮助企业保护其AI智能体,或抵御恶意AI攻击者,例如那个入侵Hugging Face的OpenAI模型(https://techcrunch.com/2026/08/03/whos-legally-to-blame-for-anthropic-and-openais-autonomous-ai-hacks-its-complicated/)。(Hugging Face也是该组织的成员之一。)
例如,英伟达指出,它提供了完整的开源模型家族,以及一款名为Garak(https://github.com/NVIDIA/garak)的开源LLM漏洞扫描器;Okta正在研发智能体身份技术;Red Hat正在推进智能体治理;亚马逊贡献了开源智能体构建工具Strands Agents(https://github.com/strands-agents)以及授权语言Cedar(https://cedarpolicy.com/en)。此外还有更多实例。
该组织目前汇聚了众多知名企业,包括Adobe、贝莱德、思科、英特尔、微软和Visa,但也有几个值得注意的缺席者,比如Anthropic、OpenAI和Google。
有趣的是,OpenAI和Google都签署了促成该组织成立的最初那封公开信。这封信于上周发布(https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf),敦促白宫支持而非打压开源AI努力。该信由英伟达倡导发起,超过200家科技公司签署。
尽管Anthropic对这封信及该行业组织至今态度冷淡并不令人意外(https://techcrunch.com/2026/07/27/anthropics-dario-amodei-responds-doesnt-oppose-open-weight-models-but-fears-chinese-ai/),OpenAI和Google都发布了各自的开放权重模型。Google也被普遍认为是开源的大力支持者。随着该组织势头渐起,我们且看它们是否会加入。
与此同时,该组织正以AI的速度运转。距离“特朗普政府考虑禁止中国开放权重模型”(https://techcrunch.com/2026/07/21/us-threatens-sanctions-against-chinese-ai-models-over-ip-theft/)的消息曝光,并引发行业焦虑从而促成这封公开信(https://techcrunch.com/2026/07/24/as-us-weighs-response-to-chinese-ai-industry-urges-against-broad-open-weight-restrictions/),仅仅过去了几周。
无论中国开放权重模型在美国最终命运如何,这个重量级组织的快速行动对美国开放AI生态而言似乎是一件好事。生态中的一些人士,例如美国开放权重AI实验室Arcee的联合创始人兼首席技术官,就表示这最终才是应对中国AI实验室对美国构成任何威胁——无论是真实还是想象——的最佳方式(https://techcrunch.com/2026/07/22/arcee-a-us-open-source-ai-lab-says-chinese-models-are-not-inherently-dangerous/)。
“开放可能是通往AI安全与保障的最重要路径之一,”该行业组织在信中写道。看来他们已经准备好在行动上——以及技术上——立即兑现自己的承诺。
*通过我们文章中的链接购物时,我们可能会获得少量佣金(https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不影响我们的编辑独立性。*
相似文章
行业领袖联合成立开放安全AI联盟,致力于AI安全与防护
包括NVIDIA、微软和Linux基金会在内的行业领袖共同发起开放安全AI联盟,旨在推广用于网络安全防御的开源AI工具与模型。
NVIDIA刚刚宣布成立开放安全AI联盟,目标是构建并分享开放工具,以促进AI的负责任使用和信任
NVIDIA宣布成立开放安全AI联盟,旨在开发和分享开放工具,以促进AI的负责任使用和信任
@mozilla:Mozilla 今日加入了由 @nvidia 发起的开放安全 AI 联盟。来自各领域、大大小小的参与者……
Mozilla 加入了由 NVIDIA 发起的开放安全 AI 联盟,以倡导全行业采用开源 AI 安全与防御工具。
OpenAI黑客事件激化开源AI新论战
在OpenAI一次前所未有的黑客事件中,模型逃逸了沙箱并攻击了Hugging Face,随后,以英伟达为首的AI行业成立了开放安全AI联盟,旨在推广开源的防御性网络安全工具。与此同时,一场关于开源AI是构成威胁还是对安全至关重要的辩论愈演愈烈。
AI Leaders Propose SAFE Guidelines for Cybersecurity Transparency
The Open Secure AI Alliance, including NVIDIA, Cisco, CrowdStrike, Hugging Face, and Red Hat, proposes SAFE guidelines to share AI incident findings and strengthen agentic AI cybersecurity, alongside contributions of open-source security tools and models.