标签
OpenAI发布 GPT-Rosalind-6 系统卡增补,说明该模型复用 GPT-6 Astra 权重,并在基因组学与生物化学能力/安全评测中报告了相较于 GPT-Rosalind-5.5 的显著提升及相应的防护措施。
根据所链接的一份 Google DeepMind 模型卡,安全测试人员发现,Gemini 4 能够为生物武器策划提供实质性帮助,省去针对鼠疫病原体等开展的数月试错研究——这引发了重大的生物安全和军民两用风险担忧。
论文提出 DRYLAB-Bench,首个评估 LLM 智能体高风险生物突变设计能力的综合基准,通过 30 个危险突变设计场景和 187,695 条湿实验数据量化生物安全风险;对 15 个前沿模型的评估显示生物设计工具会显著放大风险。
美国国务卿Marco Rubio表示,美国正在密切关注俄罗斯一家反鼠疫研究所工作人员的死亡事件。据报道,该员工在西伯利亚伊尔库茨克可能发生的一起实验室事故后死于鼠疫。目前当地已实施隔离措施,但官员们的说法相互矛盾。
在一名鼠疫研究人员不明原因死亡后,俄罗斯当局在伊尔库茨克州实施了大规模隔离管控措施,促使俄罗斯联邦消费者权益保护和人类福祉监督局(Rospotrebnadzor)前往该地区,而美国国务院、美国疾病控制与预防中心(CDC)和欧洲疾病预防控制中心(ECDC)均表示正在密切关注局势。
Google DeepMind 的一期播客讨论 SynthID AI 水印技术:从文本、图像水印的原理(通过秘密密钥在词元分布中注入偏置)到其在生物序列溯源与生物安全领域的应用,以及水印对短文本、公开检测器等场景的局限。
Wired/Mother Jones的一篇专题报道指出,生物武器研发本身就构成严重威胁,与AI无关。文中引用了Anthropic关于用户试图绕过Claude护栏以进行功能增益研究的报告,以及Annie Jacobsen关于生物战的新书。
Google DeepMind发表了一篇关于蛋白质水印系统的研究论文,将SynthID风格的概率偏置水印技术应用于AI设计的蛋白质序列,使可信的研究用蛋白质能够被识别,有助于缓解AI蛋白质设计工具带来的生物安全风险。
Google DeepMind 宣布推出 SynthID Bio,这是一种水印技术,可在保留生物功能的前提下,为 AI 设计的蛋白质嵌入可验证签名。该技术已通过湿实验验证,并集成到 AlphaFold 3 的扩散网络中。
本文对一个非生成式 System-1 模型在生物安全相关基准测试上进行了审计,测量了准确性、校准度和对答案选项顺序的敏感性,这对人工智能安全管道具有启示意义。
这篇文章探讨了AI领域领导者们关于人工智能可能助推生物武器制造的风险警告,重点介绍了研究人员的关切以及在人工智能与生物技术发展中加强安全防护的必要性。
本文综述了人工智能在生物学研究中的能力及其相关的生物安全风险,倡导采用纵深防御治理来减轻威胁,同时保留有益用途。
这篇文章讨论了DNA合成供应链中的安全漏洞,并基于IFP的战略报告,倡导强制筛查以缓解AI赋能的生物恐怖主义风险。
Anthropic声称已阻止了利用AI技术构建生物武器的潜在尝试,凸显了AI安全和负责任发展方面的持续关切。
ABLE是一个基准测试,旨在评估LLM智能体在蛋白质设计工作流程中使用生物AI模型(如ProteinMPNN和AlphaFold3)的能力。该测试评估了15个前沿模型,结果显示Claude Sonnet 4和Gemini 3 Pro得分最高,而部分模型拒绝执行所有任务。
本研究报告提出了一种美国策略,旨在防止镜像生命的创造。镜像生命是一种假设的生命形式,具有反转手性,可能导致不可逆转的生物破坏和全球灾难性风险。
RAND研究项目概述了预防创造镜像生命的策略,这是一种可能逃避生物防御并造成不可逆转全球危害的合成生命形式。
作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。