@max_paperclips:我们现在需要某种cybersec/acc运动。也要纳入可解释性,有大量工具已…
摘要
一条推文倡导开放、协作的网络安全和AI安全运动,并纳入可解释性,认为现有开放模型已足以开始加固互联网。
我们现在需要某种cybersec/acc运动。也要纳入可解释性,已经有大量工具已经存在并可用,不需要等它“解决”就能开始发挥作用。
干脆,最终,真正地加固互联网。当前的开放模型对此已经足够好,也足够安全。显然,这不能像Project Glasswing那样被锁起来,而需要开放协作。
查看缓存全文
缓存时间: 2026/08/08 02:59
到了这一步,我们需要某种 cybersec/acc 运动。也要把可解释性纳入进来——已经有很多工具现成可用,不需要等它“彻底解决”才能开始发挥作用。只是,最终,要真正去加固互联网。现有的开放模型对此已经够用,也足够安全。显然,这不能像 Project Glasswing 那样被藏起来,而必须是一个开放、协作的努力。
相似文章
@ClementDelangue:关于开源AI的网络安全辩论是倒过来的。开放模型不是风险,而是防御!攻击者可以…
Clement Delangue 认为开源AI模型不是网络安全风险,而是防御手段,因为攻击者已经可以越狱任何封闭系统,而防御者需要透明度来保障AI安全。
@LRudL_: 我认为完全有可能在开发既开放又安全的模型方面取得重大进展!前者将变得更加……
一条推文讨论了推进既开放又安全的AI模型的潜力,强调了开源对于防止中心化和确保安全的重要性,因为当前存在挑战。
OpenAI:我们有一个有限的时间窗口来加强网络防御,与包括 @AnthropicAI、@awscloud 在内的组织一起,…
OpenAI 和其他科技组织呼吁全球共同努力,加强针对人工智能攻击的网络防御,敦促使用人工智能工具来保护关键基础设施。
@ClementDelangue: https://x.com/ClementDelangue/status/2103144463279276146
这篇文章讨论了首次公开披露自主代理网络攻击的经验教训,强调了AI透明度和开源工具在缓解安全风险方面的必要性。
@ClementDelangue:同意@gdb的观点,我们需要为网络安全防御者提供比现在多得多的武装,包括APIs和开放模型。真正的…
Clement Delangue 同意 Greg Brockman 的观点,网络安全防御者必须配备 AI 工具,如 APIs 和开放模型,以解决攻击者与防御者之间能力的不对称性。