@Dan_Jeffries1:将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性……
摘要
本文认为,对 Mythos 等智能模型进行封闭限制会降低社会安全性,主张更广泛地分发 AI 技术,以保护海量的开源及闭源软件项目生态系统。
将 Mythos(或任何其他智能模型)严密封锁,仅限少数公司获取,这反而降低了我们整个社会的安全性。仅仅保护 100 家公司是远远不够的。仅在 GitHub 上就有 9600 万个开源项目。那么该如何保护所有这些项目呢?还有那价值 8200 亿美元的闭源软件,它们同样隐藏着漏洞,又该如何处理呢?这就像是在一个拥有 1000 万栋建筑的城市中,只修补了 100 栋建筑,然后声称我们拯救了这座城市。事实并非如此。开源项目本身的经济价值估计高达 8.8 万亿美元,这还不包括其巨大的社会价值。它嵌入在全球几乎每一款软件之中,无论是闭源还是开源。通过更广泛地分发技术,而非增设看门人,社会才会变得更加强大。当我们曾经试图对加密技术进行设限时,门槛之高导致大多数美国人甚至懒得去获取 128 位加密的浏览器,他们只是使用了更容易获取但完全不安全的 40 位加密版本。当我们最终取消这些限制时,电子商务时代便如火箭般腾飞,因为它变得切实可行。在中世纪黑暗时代,僧侣们在山洞里亲手抄写每一部文本时,世界并未因此变得更智慧。世界变得智慧,是因为我们通过印刷术规模化了阅读,并由此作为副产品提升了智力。广泛的分发提高了每个人的标准,使社会更加安全和稳固。就是这么简单。这虽然违反直觉,但却是不争的事实。
相似文章
AI 还有一个安全问题
文章认为,AI 生成的代码和闭源软件本质上安全性更低,像 Anthropic 的 Mythos 这样的大模型会加剧漏洞,唯有开源项目才值得信赖。
@TheFP:Anthropic称Mythos功能强大,公司正在放缓其发布。我们问了Jared Kaplan为什么。
Anthropic宣布推出Claude Mythos,一款具有精英级网络安全能力的新型AI模型,包括识别和利用软件漏洞的能力。该公司通过Project Glasswing将其发布限制在40家企业,以便在更广泛部署前有时间准备对策。
AI与网络安全的未来:为何开放性至关重要
Hugging Face 分析了 Anthropic 的 Mythos 模型对网络安全的影响,认为开放式工具和半自主智能体在抵御 AI 驱动威胁方面具有结构性优势。
MythosWatch:追踪谁有权使用 Anthropic 的 Mythos AI
MythosWatch 披露,Anthropic 强大的 Mythos AI 早期访问权限集中在美国阵营的基础设施、金融和政府机构手中,而五角大楼、欧盟和中国则被屏蔽或排除在外,引发全球监管回应。
Anthropic 调查 Claude Mythos AI 被未授权访问的指控
Anthropic 正在调查有未经授权者通过第三方供应商接触其受限的网络安全模型 Claude Mythos 的指控,引发对前沿 AI 系统安全性的担忧。