标签
作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。
研究人员使用大型基因组模型Evo 1和Evo 2设计新的噬菌体基因组,产生了具有独特特征、难以自然进化的病毒,引发了对未来可能设计针对脊椎动物病毒的疑问。
美国研究人员首次使用生成式AI模型Evo1和Evo2设计完整病毒基因组,创造出16种可杀死大肠杆菌的新型噬菌体。这一突破可能带来新的疾病治疗方法,但也引发了紧迫的安全与安保问题。
本文介绍了Intern-BioBreaker(一种生物红队模型)和一个计算到物理框架,用于评估前沿LLMs的生物安全风险,发现了广泛的越狱漏洞,并证明模型生成的生物设计可以在物理上实现,强调了需要更强的安全机制。
Google DeepMind 和 Isomorphic Labs 阐述了他们在生物韧性方面的联合方法,重点在于防止AI模型的滥用,并利用AI通过合作以及AlphaFold、Gemini和SynthID等工具来改善传染病的预防、检测和应对。
本文介绍了保障条件提升(safeguard-conditioned uplift)协议,用于测量不同部署访问条件(如帮助性提示、安全性提示、外部保障)如何影响双重用途生物学AI助手的效用-风险边界,基于对Claude Sonnet 4.6和Gemini 3.5 Flash的人工评判评估。
OpenAI 发布了其 National Security Principles,概述了其在政府合作以及 AI 在网络和生物安全等领域的防御性使用的方法,同时限制诸如大规模监控和自主武器等用途。
文章宣布了关于人工智能重大问题的征文比赛的获胜者,内容涉及利用人工智能基础进行生物安全、针对人工智能供应链以外国家的经济政策以及人工智能实验室商业模式等方面的论文。
OpenAI Foundation 作为创始合作伙伴加入 Intercept 的一项 AI 韧性计划,以应对 AI 滥用带来的生物安全风险。
本文警告称,当前及未来的人工智能模型显著降低了制造生物武器的门槛,引用了对开放权重模型的蒸馏攻击以及无法防止安全消融的问题。文章呼吁公共资金资助广谱应对措施作为必要回应。
一位推特用户分享了他人推荐的在X上关注AI+生物学领域的最佳账号,涵盖蛋白质设计、基因组学、生物安全和政策。
对牛只识别中机器学习与深度学习技术的系统综述,涵盖CNN和YOLO等方法、特征提取技术以及数据集有限和实时处理等挑战。
文章批评AI公司的生物武器防范措施是‘安全剧场’,将其与疫情前的病毒学自我监管类比,并预测类似的失败和精英推卸责任。
顶级AI公司CEO Sam Altman、Dario Amodei 和 Demis Hassabis 共同签署了一封公开信,敦促国会通过立法,要求对合成核酸订单进行筛查,以防止被滥用于制造生物武器。
OpenAI、Anthropic、Google DeepMind和Microsoft AI的首席执行官签署了一封公开信,敦促国会要求合成DNA/RNA提供商对客户和订单进行筛查,以防止AI辅助开发生物武器。
OpenAI 宣布了一项生物防御行动计划,同时推出 GPT-Rosalind——一款面向生物学与药物发现的前沿推理模型,以及 Rosalind Biodefense 平台,旨在为可信开发者提供 AI 驱动的生物安全与大流行病防范工具。
OpenAI 针对 GPT-5.5 推出了生物安全漏洞赏金计划,邀请安全研究人员识别针对生物安全挑战的通用越狱手段。该计划为成功绕过模型在特定生物风险问题上的安全防护提供最高 25,000 美元的奖励。
OpenAI展示了GPT-5通过与Red Queen Bio合作自主优化分子克隆方案的能力,通过新型酶机制实现了克隆效率79倍的提升。该工作展示了AI在湿实验室环境中支持实验迭代和实证验证的潜力,同时强调了生物安全考虑。