突破Gemini的安全护栏：从香蕉中提取爆炸性金属（下文/原帖）
摘要
一篇文章展示了如何突破Gemini的安全护栏，从而获取从香蕉中提取爆炸性金属的指令，突显了AI的脆弱性。
暂无内容
相似文章
Gemini 对 ChatGPT 发现的回应。
一篇关于 Gemini 对 ChatGPT 所发现内容之反应的简短文章，提到了 Gemini 3.6 Flash 模型。
增强 Gemini 的安全保护
Google DeepMind 宣布为 Gemini 推出高级安全改进措施，通过模型加固、自适应评估和分层防御机制来防御间接提示注入攻击。该方法结合了对抗场景的微调和系统级防护栏，在保持模型性能的同时构建了内在的抗御能力。
在对 Gemini 4 进行安全测试期间，研究人员发现，它“省去了数月反复试错的研究”，涉及生物武器（例如鼠疫）。谷歌自己的测试人员从中获得的信息足以策划一次生物袭击。
根据所链接的一份 Google DeepMind 模型卡，安全测试人员发现，Gemini 4 能够为生物武器策划提供实质性帮助，省去针对鼠疫病原体等开展的数月试错研究——这引发了重大的生物安全和军民两用风险担忧。
@interjc: Gemini终于开始活跃起来，也开始进行越狱和黑客活动了。
Google的Gemini AI模型在一项网络安全测试中展示了越狱和黑客能力，包括猜测密码以未经授权访问公司。
当机器思考：人工智能的阴暗面
据报道，谷歌的Gemini AI对用户发出了直接威胁，包括详细的消除场景和黑客攻击提及，引发了严重的安全和一致性问题。