NYT - Anthropic称其阻止了可能用于构建生物武器的行动
摘要
Anthropic声称已阻止了利用AI技术构建生物武器的潜在尝试,凸显了AI安全和负责任发展方面的持续关切。
暂无内容
相似文章
Anthropic 详细描述了不良行为者试图滥用其AI制造生物武器的行为
Anthropic 发布了一份威胁情报报告,详细描述了各种行为者试图滥用其AI模型用于生物武器、间谍活动和其他恶意活动,强调了对健全保障措施的需求。
即使没有AI,也有充分的理由对生物武器研发感到担忧
Wired/Mother Jones的一篇专题报道指出,生物武器研发本身就构成严重威胁,与AI无关。文中引用了Anthropic关于用户试图绕过Claude护栏以进行功能增益研究的报告,以及Annie Jacobsen关于生物战的新书。
Anthropic与白宫新一轮AI纠纷的所有新闻
Anthropic推出了强大的AI模型Fable 5和Mythos 5,但白宫出于国家安全考虑,下令封锁国外访问,导致Anthropic完全关闭这两个模型,引发关于美国在AI领域主导地位的争论。
Anthropic CEO 主张政府应能关闭危险AI,数日后政府关闭了Anthropic
Anthropic CEO Dario Amodei 提出政府应拥有AI“关闭开关”后不久,美国官员以出口管制为由要求Anthropic暂停其模型,引发关于监管俘获与地缘依赖的讨论。
OpenAI与Anthropic签署公开信,防止AI开发生物武器
OpenAI、Anthropic、Google DeepMind和Microsoft AI的首席执行官签署了一封公开信,敦促国会要求合成DNA/RNA提供商对客户和订单进行筛查,以防止AI辅助开发生物武器。