biosecurity

标签

Cards List
#biosecurity

GPT-Rosalind-6 系统卡补充说明(阅读需 6 分钟)

TLDR AI ↗ · 2026-11-02 缓存

OpenAI发布 GPT-Rosalind-6 系统卡增补,说明该模型复用 GPT-6 Astra 权重,并在基因组学与生物化学能力/安全评测中报告了相较于 GPT-Rosalind-5.5 的显著提升及相应的防护措施。

0 人收藏 0 人点赞
#biosecurity

在对 Gemini 4 进行安全测试期间,研究人员发现,它“省去了数月反复试错的研究”,涉及生物武器(例如鼠疫)。谷歌自己的测试人员从中获得的信息足以策划一次生物袭击。

Reddit r/ArtificialInteligence ↗ · 2026-10-16

根据所链接的一份 Google DeepMind 模型卡,安全测试人员发现,Gemini 4 能够为生物武器策划提供实质性帮助,省去针对鼠疫病原体等开展的数月试错研究——这引发了重大的生物安全和军民两用风险担忧。

0 人收藏 0 人点赞
#biosecurity

DRYLAB-Bench:评估智能体式大语言模型突变设计的生物安全风险

arXiv cs.AI ↗ · 2026-10-12 缓存

论文提出 DRYLAB-Bench,首个评估 LLM 智能体高风险生物突变设计能力的综合基准,通过 30 个危险突变设计场景和 187,695 条湿实验数据量化生物安全风险;对 15 个前沿模型的评估显示生物设计工具会显著放大风险。

0 人收藏 0 人点赞
#biosecurity

美国密切关注西伯利亚一名疑似因感染鼠疫死亡的实验室工作人员事件

Hacker News Top ↗ · 2026-10-05 缓存

美国国务卿Marco Rubio表示,美国正在密切关注俄罗斯一家反鼠疫研究所工作人员的死亡事件。据报道,该员工在西伯利亚伊尔库茨克可能发生的一起实验室事故后死于鼠疫。目前当地已实施隔离措施,但官员们的说法相互矛盾。

0 人收藏 0 人点赞
#biosecurity

俄罗斯因鼠疫研究人员死因不明而实施大规模隔离

Ars Technica ↗ · 2026-10-05 缓存

在一名鼠疫研究人员不明原因死亡后,俄罗斯当局在伊尔库茨克州实施了大规模隔离管控措施,促使俄罗斯联邦消费者权益保护和人类福祉监督局(Rospotrebnadzor)前往该地区,而美国国务院、美国疾病控制与预防中心(CDC)和欧洲疾病预防控制中心(ECDC)均表示正在密切关注局势。

0 人收藏 0 人点赞
#biosecurity

@GoogleDeepMind: Watch → https://goo.gle/4de3fiR Spotify → https://goo.gle/4dKZwte Apple Podcasts → https://goo.gle/4dQqKyH Or listen wh…

X AI KOLs ↗ · 2026-10-01 缓存

Google DeepMind 的一期播客讨论 SynthID AI 水印技术:从文本、图像水印的原理(通过秘密密钥在词元分布中注入偏置)到其在生物序列溯源与生物安全领域的应用,以及水印对短文本、公开检测器等场景的局限。

0 人收藏 0 人点赞
#biosecurity

即使没有AI,也有充分的理由对生物武器研发感到担忧

Wired ↗ · 2026-09-30 缓存

Wired/Mother Jones的一篇专题报道指出,生物武器研发本身就构成严重威胁,与AI无关。文中引用了Anthropic关于用户试图绕过Claude护栏以进行功能增益研究的报告,以及Annie Jacobsen关于生物战的新书。

0 人收藏 0 人点赞
#biosecurity

Google找到了为AI设计的蛋白质添加水印的方法

Ars Technica ↗ · 2026-09-30 缓存

Google DeepMind发表了一篇关于蛋白质水印系统的研究论文,将SynthID风格的概率偏置水印技术应用于AI设计的蛋白质序列,使可信的研究用蛋白质能够被识别,有助于缓解AI蛋白质设计工具带来的生物安全风险。

0 人收藏 0 人点赞
#biosecurity

Google DeepMind 今日发布 SynthID Bio,为 AI 设计的蛋白质添加水印并实现检测

Reddit r/singularity ↗ · 2026-09-30 缓存

Google DeepMind 宣布推出 SynthID Bio,这是一种水印技术,可在保留生物功能的前提下,为 AI 设计的蛋白质嵌入可验证签名。该技术已通过湿实验验证,并集成到 AlphaFold 3 的扩散网络中。

0 人收藏 0 人点赞
#biosecurity

审计 System-1 模型在生物安全相关基准测试上的表现:非生成模型中的校准、选择性预测与排列不稳定性

arXiv cs.LG ↗ · 2026-09-29 缓存

本文对一个非生成式 System-1 模型在生物安全相关基准测试上进行了审计,测量了准确性、校准度和对答案选项顺序的敏感性,这对人工智能安全管道具有启示意义。

0 人收藏 0 人点赞
#biosecurity

人工智能化学生物武器的幽灵:生物技术行业的警钟

MIT Technology Review ↗ · 2026-09-18 缓存

这篇文章探讨了AI领域领导者们关于人工智能可能助推生物武器制造的风险警告,重点介绍了研究人员的关切以及在人工智能与生物技术发展中加强安全防护的必要性。

0 人收藏 0 人点赞
#biosecurity

人工智能与生物安全:能力、威胁途径与纵深防御治理

arXiv cs.AI ↗ · 2026-09-16 缓存

本文综述了人工智能在生物学研究中的能力及其相关的生物安全风险,倡导采用纵深防御治理来减轻威胁,同时保留有益用途。

0 人收藏 0 人点赞
#biosecurity

一位既训练过前沿LLM又设计过病毒的人认为AI超级病毒末日论是荒谬的。

Reddit r/singularity ↗ · 2026-09-15

一位拥有训练前沿LLM和设计病毒经验的专家反驳了AI创造超级病毒的末日情景。

0 人收藏 0 人点赞
#biosecurity

@anselmlevskaya: 我曾亲手构建DNA合成仪和测序仪。我过去靠工程病毒谋生。我以前曾工程人类……

X AI KOLs Following ↗ · 2026-09-14 缓存

这篇文章讨论了DNA合成供应链中的安全漏洞,并基于IFP的战略报告,倡导强制筛查以缓解AI赋能的生物恐怖主义风险。

0 人收藏 0 人点赞
#biosecurity

NYT - Anthropic称其阻止了可能用于构建生物武器的行动

Reddit r/singularity ↗ · 2026-09-10

Anthropic声称已阻止了利用AI技术构建生物武器的潜在尝试,凸显了AI安全和负责任发展方面的持续关切。

0 人收藏 0 人点赞
#biosecurity

基于智能体的BAIM-LLM评估(ABLE):LLM使用蛋白质设计工具的基准测试

arXiv cs.AI ↗ · 2026-09-10 缓存

ABLE是一个基准测试,旨在评估LLM智能体在蛋白质设计工作流程中使用生物AI模型(如ProteinMPNN和AlphaFold3)的能力。该测试评估了15个前沿模型,结果显示Claude Sonnet 4和Gemini 3 Pro得分最高,而部分模型拒绝执行所有任务。

0 人收藏 0 人点赞
#biosecurity

防止镜像生命创造的美国策略

Hacker News Top ↗ · 2026-08-16 缓存

本研究报告提出了一种美国策略,旨在防止镜像生命的创造。镜像生命是一种假设的生命形式,具有反转手性,可能导致不可逆转的生物破坏和全球灾难性风险。

0 人收藏 0 人点赞
#biosecurity

@RANDCorporation: 一项新的RAND研究项目概述了如何预防一种新型合成生命——在其成为不可逆转的全球风险之前…

X AI KOLs Timeline ↗ · 2026-08-15 缓存

RAND研究项目概述了预防创造镜像生命的策略,这是一种可能逃避生物防御并造成不可逆转全球危害的合成生命形式。

0 人收藏 0 人点赞
#biosecurity

科学家正在利用AI设计新病毒。他们应该这样做吗?

Reddit r/ArtificialInteligence ↗ · 2026-08-10 缓存

科学家已利用AI设计新型噬菌体,这引发了人们对生物安全以及AI驱动生物技术监管速度的担忧。

0 人收藏 0 人点赞
#biosecurity

就我个人对生存风险的排序而言,AI引发的流行病威胁开始在我心中升至首位 ☣️

Reddit r/singularity ↗ · 2026-08-08

作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈