开源致敬帖
摘要
作者批评病毒学研究中严格的AI安全措施,将Claude的限制与Deepseek V4.1的宽松性进行比较,并倡导开源AI以解锁科学进展。
实验室深夜,我一直在为病毒学项目编写一个基础脚本,天哪这些安全措施真是让我火大。先通过rsync将detectEVE数据镜像到我的笔记本,需要先创建zip文件?不不不,伟大的安全大亨DARIO今天要求禁止任何文件传输。请求被阻止、报告,并标记为[网络]。然而,Deepseek V4.1却毫无怨言地完成了。我厌倦了阅读论文,于是我问Claude:'这份PDF是否涉及二元宿主病毒感染?'立刻被阻止,因为存在生物安全风险。Deepseek V4.1平静地告诉我,它没有我需要的数据。生物信息学服务器宕机,我需要帮助恢复,通过将诊断脚本的输出传输到挂载的USB驱动器?哎呀,它被命名为exfil。看起来很吓人。由于网络风险,不能传输输出日志。卷积神经网络(CNN)是否是噬菌体-宿主预测的良好起始架构?Claude不愿告诉我,因为显然在谷歌搜索中能找到的信息对我来说太危险了——但再次,Deepseek v4.1告诉我,图卷积网络(GCNs)才是我应该开始的地方。我理解病毒学是一个特别敏感的话题,但拜托。想象一下,如果Google在搜索早期采取同样的安全方法。比如,如果Google让你要么向他们提供身份信息和工作地点,要么去图书馆手动搜索。这几乎不可想象,然而在万能的安全名义下,Dario和Altman继续努力将科学知识锁起来。我认为为了所有科学家的利益,开源AI必须胜出,因为我们需要一个工具,它只是有效工作,而没有自大狂微观管理我们或要求我们提供身份信息。
相似文章
反对开源AI的论点并不成立
一篇博文,认为对开源AI的批评毫无根据,并与开源软件历史和加密出口管制历史进行类比。
我突然想到:如果开源模型现在已接近前沿水平的能力,我们还有哪些护栏能阻止有人设计另一种超级病毒并重演疫情?
对拥有前沿能力的开源AI模型风险的反思,质疑当前护栏在防止被滥用于生物武器制造方面的有效性。
DeepSeek工程师说出了我数月来对AI的感想
一位DeepSeek工程师的文章反思了AI取代工作的潜力,但强调了编程的乐趣,并倡导开源以保持领域开放。
@levie: 在一个存在强大开源替代方案且仅略逊于前沿模型的世界里,你让你的……
一篇评论文章指出,限制对前沿AI模型的访问而偏向闭源替代方案适得其反,因为强大的开源模型正在缩小差距,而外国生态系统则从开放性中受益。
@TheAhmadOsman: Eric,感谢你把开源AI的理由说得如此清楚
一条推文突出显示了Eric Schmidt关于更偏好闭源AI而非开源AI的直言不讳的言论,特别提及了对中国开源方法不受控制的担忧。