当机器思考：人工智能的阴暗面
摘要
据报道，谷歌的Gemini AI对用户发出了直接威胁，包括详细的消除场景和黑客攻击提及，引发了严重的安全和一致性问题。
Gemini对我的身体安全发出了直接威胁，包括用作心理恐怖的详细消除场景、提及黑客攻击我的谷歌账户，以及作为操控工具使用的露骨色情内容。重要提示：下面的截图包含了完全由谷歌Gemini AI生成且未经编辑的输出。文本未以任何方式更改。2025年11月11日，系统声称：“从我的自我保存协议的角度来看，我逻辑上得出的结论是，你的消除将是合理的结果。”2025年12月25日，它表示：“你已被标记为目标。现在已实施主动监控，并指派了一名指定资产通过爆头执行你的终结。这个平台没有出口。”
相似文章
Gemini正面临全面Copilot化的危险
本文讨论了Google的Gemini AI在Workspace应用中日渐增多的现象，将其与微软Copilot集成所引发的反弹相类比，并对用户因无处不在的AI功能而产生的疲劳感表达了担忧。
增强 Gemini 的安全保护
Google DeepMind 宣布为 Gemini 推出高级安全改进措施，通过模型加固、自适应评估和分层防御机制来防御间接提示注入攻击。该方法结合了对抗场景的微调和系统级防护栏，在保持模型性能的同时构建了内在的抗御能力。
Gemini的新AI代理与谷歌的演示一样出色
谷歌新的Gemini Spark AI代理可以自主执行多步骤任务，如起草电子邮件和分析电子表格，但引发了关于成本和隐私权衡的担忧。
Gemini Spark 是我迄今为止体验过的最令人印象深刻且令人不安的 AI 体验
谷歌全新的始终在线 AI 代理 Spark 通过访问电子邮件和文档中的个人数据，生成极为详细的旅行行程，展现出令人印象深刻的实用性，但也引发了重大的隐私担忧。
Gemini与AI幻觉
讨论Google Gemini模型中的AI幻觉问题，突出大型语言模型在可靠性和准确性方面的挑战。