@Dan_Jeffries1:将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性……

X AI KOLs Following 新闻

摘要

本文认为,对 Mythos 等智能模型进行封闭限制会降低社会安全性,主张更广泛地分发 AI 技术,以保护海量的开源及闭源软件项目生态系统。

将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性。仅仅保护 100 家公司是远远不够的。仅在 GitHub 上就有 9600 万个开源项目。那么该如何保护所有这些项目呢?还有那价值 8200 亿美元的闭源软件,它们同样隐藏着漏洞,又该如何处理呢?这就像是在一个拥有 1000 万栋建筑的城市中,只修补了 100 栋建筑,然后声称我们拯救了这座城市。事实并非如此。开源项目本身的经济价值估计高达 8.8 万亿美元,这还不包括其巨大的社会价值。它嵌入在全球几乎每一款软件之中,无论是闭源还是开源。通过更广泛地分发技术,而非增设看门人,社会才会变得更加强大。当我们曾经试图对加密技术进行设限时,门槛之高导致大多数美国人甚至懒得去获取 128 位加密的浏览器,他们只是使用了更容易获取但完全不安全的 40 位加密版本。当我们最终取消这些限制时,电子商务时代便如火箭般腾飞,因为它变得切实可行。在中世纪黑暗时代,僧侣们在山洞里亲手抄写每一部文本时,世界并未因此变得更智慧。世界变得智慧,是因为我们通过印刷术规模化了阅读,并由此作为副产品提升了智力。广泛的分发提高了每个人的标准,使社会更加安全和稳固。就是这么简单。这虽然违反直觉,但却是不争的事实。
查看原文

相似文章

AI 还有一个安全问题

Lobsters Hottest

文章认为,AI 生成的代码和闭源软件本质上安全性更低,像 Anthropic 的 Mythos 这样的大模型会加剧漏洞,唯有开源项目才值得信赖。

MythosWatch:追踪谁有权使用 Anthropic 的 Mythos AI

Hacker News Top

MythosWatch 披露,Anthropic 强大的 Mythos AI 早期访问权限集中在美国阵营的基础设施、金融和政府机构手中,而五角大楼、欧盟和中国则被屏蔽或排除在外,引发全球监管回应。