@TheAhmadOsman: 我们并没有因为互联网能传播病毒就关闭它。我们继续发展,研发了杀毒软件,并且……
摘要
一个论点认为开放源代码AI模型不应因潜在滥用而被关闭,类比互联网——人们开发了杀毒软件解决方案,而不是关闭互联网。
我们并没有因为互联网能传播病毒就关闭它。我们继续发展,研发了杀毒软件,现在病毒传播的情况已经少了很多。并不是每隔一天就会发生互联网攻击。
同样的情况也会发生在开源AI模型上。如果它们可能导致坏事发生,你也能用它们来保护自己免受这些攻击。我们将能够打造更好的基础设施、更好的杀毒软件、更好的方法。
难道我们因为可能出错就要停止生活吗?
阻止对开源AI模型的访问权限——这些我们可以控制并拥有的模型——在我看来是个疯狂的想法,因为它剥夺了未来所有人繁荣发展的潜力。https://x.com/MTSlive/status/2080045051292660007/video/1…
查看缓存全文
缓存时间: 2026/07/25 02:02
我们没有因为互联网能传播病毒就关掉它。我们继续使用,并开发了杀毒软件,现在病毒传播的情况已经少了很多。也不是说每隔一天就会遭受一次网络攻击。
开源AI模型也会是同样的道理。如果它们可能导致坏事发生,我们同样能用它们来保护自己免受这些攻击。我们能建立更好的基础设施、更好的杀毒软件、更好的应对方法。
难道就因为可能出事,我们就该停止生活吗?
限制对开源AI、对这些我们能控制和拥有的模型的访问权限,在我看来是个疯狂的想法,因为这会剥夺我们所有人本可以蓬勃发展的未来潜力。https://x.com/MTSlive/status/2080045051292660007/video/1…
相似文章
@TheAhmadOsman: 这就是原因:
@TheAhmadOsman 的一条推文倡导开源人工智能,认为人工智能必须保持可及性和社区治理,以避免依赖封闭的企业系统。
我突然想到:如果开源模型现在已接近前沿水平的能力,我们还有哪些护栏能阻止有人设计另一种超级病毒并重演疫情?
对拥有前沿能力的开源AI模型风险的反思,质疑当前护栏在防止被滥用于生物武器制造方面的有效性。
@TheAhmadOsman: 但如果人们找不到或买不起本地运行模型的硬件,开源AI还有意义吗?当然有。这个问题…
这条推文认为,即使目前硬件稀缺,开源AI仍然有价值,因为模型会变得更高效,更便宜的硬件也会出现。
@ClementDelangue:关于开源AI的网络安全辩论是倒过来的。开放模型不是风险,而是防御!攻击者可以…
Clement Delangue 认为开源AI模型不是网络安全风险,而是防御手段,因为攻击者已经可以越狱任何封闭系统,而防御者需要透明度来保障AI安全。
反对开源AI的论点并不成立
一篇博文,认为对开源AI的批评毫无根据,并与开源软件历史和加密出口管制历史进行类比。