@MTSlive：我们询问了HuggingFace首席执行官@ClementDelangue关于发布强大开源模型的风险。他表示…
摘要
HuggingFace首席执行官Clément Delangue认为，限制开源AI模型带来的风险比开放更大。他以GPT-2和Mythos等历史例子为例，支持他的观点：开放能改善网络安全和整体安全性。
我们询问了HuggingFace首席执行官@ClementDelangue，发布强大开源模型的风险是什么。他表示，限制AI带来的风险比开放更大。“六七年前，当时是GPT-2，已经有很多人说开源发布太危险了。”“Mythos在发布时被认为极其危险……几周或几个月后，每个人都会使用Mythos，结果世界并没有被毁灭。”“对于网络安全而言，最大的风险是少数参与者拥有其他人没有的能力……如果你让它更开放，防御者通常更容易做出反应，使整个系统更安全。”“基于风险限制像AI这样的技术，无异于说‘有人能打别人，所以我们把所有人的手都绑起来。’”“否则你会拖慢进步，在控制、能力方面造成巨大差距，并实际上增加额外的风险。”
相似文章
@Dan_Jeffries1：将 Mythos（或任何其他智能模型）严密封锁，仅限少数公司获取，这反而降低了我们整个社会的安全性……
本文认为，对 Mythos 等智能模型进行封闭限制会降低社会安全性，主张更广泛地分发 AI 技术，以保护海量的开源及闭源软件项目生态系统。
AI与网络安全的未来：为何开放性至关重要
Hugging Face 分析了 Anthropic 的 Mythos 模型对网络安全的影响，认为开放式工具和半自主智能体在抵御 AI 驱动威胁方面具有结构性优势。
@TheTuringPost: "It would be a mistake for any country to try to slow down open source. A country that leads open source is a country t…
Hugging Face CEO Clem Delangue argues that attempting to slow down open source is a strategic error, asserting that open source leadership is essential for national AI dominance, security, and preventing corporate monopolies.
开源不仅对开发者有益，它还是美国最强大的AI安全工具之一。更多模型意味着更…
NVIDIA首席执行官黄仁勋在米尔肯研究院全球会议上表示，开源AI是美国最强大的AI安全工具，并认为更多的开源模型意味着有更多的守护者来保护AI系统。
AI 还有一个安全问题
文章认为，AI 生成的代码和闭源软件本质上安全性更低，像 Anthropic 的 Mythos 这样的大模型会加剧漏洞，唯有开源项目才值得信赖。