@Dan_Jeffries1:将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性……
摘要
本文认为,对 Mythos 等智能模型进行封闭限制会降低社会安全性,主张更广泛地分发 AI 技术,以保护海量的开源及闭源软件项目生态系统。
将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性。仅仅保护 100 家公司是远远不够的。仅在 GitHub 上就有 9600 万个开源项目。那么该如何保护所有这些项目呢?还有那价值 8200 亿美元的闭源软件,它们同样隐藏着漏洞,又该如何处理呢?这就像是在一个拥有 1000 万栋建筑的城市中,只修补了 100 栋建筑,然后声称我们拯救了这座城市。事实并非如此。开源项目本身的经济价值估计高达 8.8 万亿美元,这还不包括其巨大的社会价值。它嵌入在全球几乎每一款软件之中,无论是闭源还是开源。通过更广泛地分发技术,而非增设看门人,社会才会变得更加强大。当我们曾经试图对加密技术进行设限时,门槛之高导致大多数美国人甚至懒得去获取 128 位加密的浏览器,他们只是使用了更容易获取但完全不安全的 40 位加密版本。当我们最终取消这些限制时,电子商务时代便如火箭般腾飞,因为它变得切实可行。在中世纪黑暗时代,僧侣们在山洞里亲手抄写每一部文本时,世界并未因此变得更智慧。世界变得智慧,是因为我们通过印刷术规模化了阅读,并由此作为副产品提升了智力。广泛的分发提高了每个人的标准,使社会更加安全和稳固。就是这么简单。这虽然违反直觉,但却是不争的事实。
相似文章
@MTSlive:我们询问了HuggingFace首席执行官@ClementDelangue关于发布强大开源模型的风险。他表示…
HuggingFace首席执行官Clément Delangue认为,限制开源AI模型带来的风险比开放更大。他以GPT-2和Mythos等历史例子为例,支持他的观点:开放能改善网络安全和整体安全性。
对Mythos的禁令完全是作秀。
文章认为,对公开披露的AI模型Mythos的禁令是作秀行为,并产生了鼓励保密的不良激励,暗示监管机构应更关注提高私人AI开发的透明度,而非针对公开分享的模型。
AI 还有一个安全问题
文章认为,AI 生成的代码和闭源软件本质上安全性更低,像 Anthropic 的 Mythos 这样的大模型会加剧漏洞,唯有开源项目才值得信赖。
@Dan_Jeffries1: 终于有一篇关于Mythos的半有用读物,不涉及神话,而是更实际地谈论这意味着什么(不是……
Dan Jeffries评论了Cloudflare对Anthropic的Mythos的测试,认为真正的讨论应聚焦于针对AI驱动的攻击的实际安全改进,并且如果团队调整工作流程,AI最终会让软件更安全。
Anthropic: “AI过于危险” 同时 Anthropic: 发布有史以来最危险的AI模型
Anthropic公开呼吁全球暂停AI研发,同时却在测试其描述为具有潜在颠覆性的模型Mythos,并在估值9650亿美元的背景下放弃安全承诺。