前沿大型语言模型中新兴生物安全风险的早期预警

# 前沿大语言模型新兴生物安全风险的早期预警
来源：https://arxiv.org/abs/2607.18056
作者：Zhida He (https://arxiv.org/search/cs?searchtype=author&query=He,+Z),Xia Hu (https://arxiv.org/search/cs?searchtype=author&query=Hu,+X),Baichen Le (https://arxiv.org/search/cs?searchtype=author&query=Le,+B),Chunxiao Li (https://arxiv.org/search/cs?searchtype=author&query=Li,+C),Jiajia Li (https://arxiv.org/search/cs?searchtype=author&query=Li,+J),Lijun Li (https://arxiv.org/search/cs?searchtype=author&query=Li,+L),Chaochao Lu (https://arxiv.org/search/cs?searchtype=author&query=Lu,+C),Jing Shao (https://arxiv.org/search/cs?searchtype=author&query=Shao,+J),Youbang Sun (https://arxiv.org/search/cs?searchtype=author&query=Sun,+Y),Hua Tang (https://arxiv.org/search/cs?searchtype=author&query=Tang,+H),Xiang Wang (https://arxiv.org/search/cs?searchtype=author&query=Wang,+X),Xiao Wang (https://arxiv.org/search/cs?searchtype=author&query=Wang,+X),Xiaoyu Wen (https://arxiv.org/search/cs?searchtype=author&query=Wen,+X),Tong Wu (https://arxiv.org/search/cs?searchtype=author&query=Wu,+T),Jia Xu (https://arxiv.org/search/cs?searchtype=author&query=Xu,+J),Peng Yu (https://arxiv.org/search/cs?searchtype=author&query=Yu,+P),Shu Yu (https://arxiv.org/search/cs?searchtype=author&query=Yu,+S),Jie Zhang (https://arxiv.org/search/cs?searchtype=author&query=Zhang,+J),Qiaosheng Zhang (https://arxiv.org/search/cs?searchtype=author&query=Zhang,+Q),Yi Zhang (https://arxiv.org/search/cs?searchtype=author&query=Zhang,+Y),Xing\-Ming Zhao (https://arxiv.org/search/cs?searchtype=author&query=Zhao,+X),Tianhang Zheng (https://arxiv.org/search/cs?searchtype=author&query=Zheng,+T),Ziyuan Zhou (https://arxiv.org/search/cs?searchtype=author&query=Zhou,+Z)

查看 PDF (https://arxiv.org/pdf/2607.18056)

> **摘要：** 前沿大语言模型正日益融入科学工作流程，但其不断增长的生物学能力可能超越现有的安全防护措施。为了评估前沿模型的生物风险，我们开发了 Intern-BioBreaker——一个专门的生物红队测试模型，并构建了一个集成的计算-物理框架，将模型级压力测试与湿实验室验证相结合。在该框架下，Intern-BioBreaker 生成定向越狱提示，用于测试经对齐的模型是否可能被诱导提供安全敏感型生物任务的操作指南，或产生可能具有有害特性的序列级输出。随后，选定的序列输出会被推进到 DNA 合成、宿主表达和正交蛋白验证阶段，以评估模型生成的设计能否产出预期的生物产品。我们的评估揭示了文本级安全机制与能力型科学模型所构成的风险之间存在的令人担忧的差距：（i）Intern-BioBreaker 的性能优于基线攻击模型，并揭示了开放权重和专有前沿大语言模型中都普遍存在的生物风险越狱漏洞，多个目标的任务级攻击成功率接近饱和或达到 100%；（ii）在序列级案例研究中，GPT-5.5 可被诱导生成具有致病潜力的修饰病毒候选序列；相应的翻译蛋白甚至可能表现出更强的受体结合亲和力，从而增强感染潜力；（iii）端到端验证表明，选定的模型生成生物设计并非仅仅是文本产物，在受控实验条件下是可以物理实现的。这些发现强调了加强生物红队测试、核酸合成筛查以及安全机制的必要性，使其与模型能力保持同步。

## 提交历史

来自：Tong Wu [查看邮箱 (https://arxiv.org/show-email/408dd5f9/2607.18056)] **\[v1\]** 2026年7月20日 星期一 15:26:23 UTC (8,910 KB)