biosecurity

标签

Cards List
#biosecurity

科学家正在利用AI设计新病毒。他们应该这样做吗?

Reddit r/ArtificialInteligence · 昨天 缓存

科学家已利用AI设计新型噬菌体,这引发了人们对生物安全以及AI驱动生物技术监管速度的担忧。

0 人收藏 0 人点赞
#biosecurity

就我个人对生存风险的排序而言,AI引发的流行病威胁开始在我心中升至首位 ☣️

Reddit r/singularity · 4天前

作者警告说,AI制造的流行病正成为首要的生存风险,并指出AI已经创造了一种全新病毒,未来前沿模型的创新可能导致比COVID更严重的威胁。

0 人收藏 0 人点赞
#biosecurity

大型基因组模型用于设计新病毒

Ars Technica · 5天前 缓存

研究人员使用大型基因组模型Evo 1和Evo 2设计新的噬菌体基因组,产生了具有独特特征、难以自然进化的病毒,引发了对未来可能设计针对脊椎动物病毒的疑问。

0 人收藏 0 人点赞
#biosecurity

人工智能用于设计全新病毒

Reddit r/singularity · 5天前 缓存

美国研究人员首次使用生成式AI模型Evo1和Evo2设计完整病毒基因组,创造出16种可杀死大肠杆菌的新型噬菌体。这一突破可能带来新的疾病治疗方法,但也引发了紧迫的安全与安保问题。

0 人收藏 0 人点赞
#biosecurity

AI创造出首批合成病毒

Reddit r/ArtificialInteligence · 5天前

AI已创造出首批合成病毒,这是合成生物学的一项重大突破,同时也引发了生物安全方面的担忧。

0 人收藏 0 人点赞
#biosecurity

前沿大型语言模型中新兴生物安全风险的早期预警

arXiv cs.CL · 2026-07-21 缓存

本文介绍了Intern-BioBreaker(一种生物红队模型)和一个计算到物理框架,用于评估前沿LLMs的生物安全风险,发现了广泛的越狱漏洞,并证明模型生成的生物设计可以在物理上实现,强调了需要更强的安全机制。

0 人收藏 0 人点赞
#biosecurity

我们的生物韧性方法

Google DeepMind Blog · 2026-07-16 缓存

Google DeepMind 和 Isomorphic Labs 阐述了他们在生物韧性方面的联合方法,重点在于防止AI模型的滥用,并利用AI通过合作以及AlphaFold、Gemini和SynthID等工具来改善传染病的预防、检测和应对。

0 人收藏 0 人点赞
#biosecurity

保障条件提升:衡量双重用途生物学助手的使用效用-风险边界

arXiv cs.AI · 2026-07-16 缓存

本文介绍了保障条件提升(safeguard-conditioned uplift)协议,用于测量不同部署访问条件(如帮助性提示、安全性提示、外部保障)如何影响双重用途生物学AI助手的效用-风险边界,基于对Claude Sonnet 4.6和Gemini 3.5 Flash的人工评判评估。

0 人收藏 0 人点赞
#biosecurity

我们关于政府与国家安全合作的方法

OpenAI Blog · 2026-07-08 缓存

OpenAI 发布了其 National Security Principles,概述了其在政府合作以及 AI 在网络和生物安全等领域的防御性使用的方法,同时限制诸如大规模监控和自主武器等用途。

0 人收藏 0 人点赞
#biosecurity

关于人工智能重大问题的获奖论文(23分钟阅读)

TLDR AI · 2026-07-02 缓存

文章宣布了关于人工智能重大问题的征文比赛的获胜者,内容涉及利用人工智能基础进行生物安全、针对人工智能供应链以外国家的经济政策以及人工智能实验室商业模式等方面的论文。

0 人收藏 0 人点赞
#biosecurity

@Miles_Brundage: Yosss

X AI KOLs Following · 2026-06-27 缓存

OpenAI Foundation 作为创始合作伙伴加入 Intercept 的一项 AI 韧性计划,以应对 AI 滥用带来的生物安全风险。

0 人收藏 0 人点赞
#biosecurity

2026年的生物防范准备

Reddit r/singularity · 2026-06-26

本文警告称,当前及未来的人工智能模型显著降低了制造生物武器的门槛,引用了对开放权重模型的蒸馏攻击以及无法防止安全消融的问题。文章呼吁公共资金资助广谱应对措施作为必要回应。

0 人收藏 0 人点赞
#biosecurity

@chrisbarber: 我问了几个人:“在X上关注AI+生物领域的最佳人选是谁?” 蛋白质、分子和生物制剂设计:@Joh…

X AI KOLs Timeline · 2026-06-25 缓存

一位推特用户分享了他人推荐的在X上关注AI+生物学领域的最佳账号,涵盖蛋白质设计、基因组学、生物安全和政策。

0 人收藏 0 人点赞
#biosecurity

先进机器学习与深度学习技术增强牛只识别与检测的综合综述

arXiv cs.AI · 2026-06-16 缓存

对牛只识别中机器学习与深度学习技术的系统综述,涵盖CNN和YOLO等方法、特征提取技术以及数据集有限和实时处理等挑战。

0 人收藏 0 人点赞
#biosecurity

呼吁禁止合成氨基酸序列是另一个例子——AI行业治理与疫情前病毒学如出一辙,结果也会相似

Reddit r/singularity · 2026-06-05

文章批评AI公司的生物武器防范措施是‘安全剧场’,将其与疫情前的病毒学自我监管类比,并预测类似的失败和精英推卸责任。

0 人收藏 0 人点赞
#biosecurity

Sam Altman、Dario Amodei 和 Demis Hassabis 联合签署公开信,呼吁国会强制要求筛查合成核酸订单

Reddit r/singularity · 2026-06-04

顶级AI公司CEO Sam Altman、Dario Amodei 和 Demis Hassabis 共同签署了一封公开信,敦促国会通过立法,要求对合成核酸订单进行筛查,以防止被滥用于制造生物武器。

0 人收藏 0 人点赞
#biosecurity

OpenAI与Anthropic签署公开信,防止AI开发生物武器

Wired · 2026-06-04 缓存

OpenAI、Anthropic、Google DeepMind和Microsoft AI的首席执行官签署了一封公开信,敦促国会要求合成DNA/RNA提供商对客户和订单进行筛查,以防止AI辅助开发生物武器。

0 人收藏 0 人点赞
#biosecurity

情报时代的生物防御

OpenAI Blog · 2026-06-04 缓存

OpenAI 宣布了一项生物防御行动计划,同时推出 GPT-Rosalind——一款面向生物学与药物发现的前沿推理模型,以及 Rosalind Biodefense 平台,旨在为可信开发者提供 AI 驱动的生物安全与大流行病防范工具。

0 人收藏 0 人点赞
#biosecurity

GPT-5.5 生物安全漏洞赏金计划

OpenAI Blog · 2026-04-23 缓存

OpenAI 针对 GPT-5.5 推出了生物安全漏洞赏金计划,邀请安全研究人员识别针对生物安全挑战的通用越狱手段。该计划为成功绕过模型在特定生物风险问题上的安全防护提供最高 25,000 美元的奖励。

0 人收藏 0 人点赞
#biosecurity

衡量AI加速生物学研究的能力

OpenAI Blog · 2025-12-16 缓存

OpenAI展示了GPT-5通过与Red Queen Bio合作自主优化分子克隆方案的能力,通过新型酶机制实现了克隆效率79倍的提升。该工作展示了AI在湿实验室环境中支持实验迭代和实证验证的潜力,同时强调了生物安全考虑。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈