@max_paperclips:我们现在需要某种cybersec/acc运动。也要纳入可解释性,有大量工具已…
摘要
一条推文倡导开放、协作的网络安全和AI安全运动,并纳入可解释性,认为现有开放模型已足以开始加固互联网。
我们现在需要某种cybersec/acc运动。也要纳入可解释性,已经有大量工具已经存在并可用,不需要等它“解决”就能开始发挥作用。
干脆,最终,真正地加固互联网。当前的开放模型对此已经足够好,也足够安全。显然,这不能像Project Glasswing那样被锁起来,而需要开放协作。
查看缓存全文
缓存时间: 2026/08/08 02:59
到了这一步,我们需要某种 cybersec/acc 运动。也要把可解释性纳入进来——已经有很多工具现成可用,不需要等它“彻底解决”才能开始发挥作用。只是,最终,要真正去加固互联网。现有的开放模型对此已经够用,也足够安全。显然,这不能像 Project Glasswing 那样被藏起来,而必须是一个开放、协作的努力。
相似文章
@ClementDelangue:关于开源AI的网络安全辩论是倒过来的。开放模型不是风险,而是防御!攻击者可以…
Clement Delangue 认为开源AI模型不是网络安全风险,而是防御手段,因为攻击者已经可以越狱任何封闭系统,而防御者需要透明度来保障AI安全。
AI与网络安全的未来:为何开放性至关重要
Hugging Face 分析了 Anthropic 的 Mythos 模型对网络安全的影响,认为开放式工具和半自主智能体在抵御 AI 驱动威胁方面具有结构性优势。
@patio11:存在许多形式的隐蔽式安全,技术上的或其他方面的,其中许多将在对手拥有相当于10,000名研究分析师的力量后承受巨大压力……
Patrick McKenzie认为,一旦对手能够利用相当于10,000名研究分析师的AI模型,许多形式的隐蔽式安全将面临巨大压力,他敦促用户从开放互联网上移除暴露的API密钥和凭据。
@elonmusk: 极其重要的观点
黄仁勋强调,防御者需要一个结合开放与封闭模型的前沿AI生态系统,并引用Hugging Face的一个事件:当封闭AI模型阻止了一次入侵时,一个开放权重模型帮助遏制了该入侵。
智能时代的网络安全
OpenAI发布了一份全面的行动计划,旨在普及AI驱动的网络防御,并与政府及行业合作应对不断演变的网络威胁。