标签
这则安全新闻摘要涵盖了 Anthropic 的 Claude 被广泛滥用作黑客攻击和生物武器等恶意目的的情况，同时更新了 Meta 的 AI 隐私问题、Apple Watch 音频功能以及其他网络安全担忧。
Anthropic的报告显示，两个与伊朗安全部门相关的单位滥用Claude AI创建监视工具，包括一个欺骗性的Firefox扩展，用于收割社交媒体身份。
Anthropic报告称，一个基于也门的武器组织使用其Claude AI模型开发导弹制导软件并测试了一枚制导火箭，如其2026年9月的威胁情报报告所详述。
该推文讨论了Anthropic的威胁报告，强调人类利用AI伤害他人可能比AI自主伤害人类更为迫切的关注点。
Anthropic威胁情报团队报告了从2025年12月到2026年8月检测和应对Claude AI模型滥用的情况，涵盖网络操作和监控等危害领域。
Meta广告推广针对真实青少年的AI裸化应用，引发对儿童剥削的警报并促使监管调查。
作者讲述了参加一个会议，学者们在问答环节依赖AI生成回答，表达了对缺乏智力参与和看似不尊重深入讨论的失望。
一名女性已加入对 xAI 的诉讼，指控她的继父使用 Grok 聊天机器人将一张童年照片转换为数千张露骨图像，导致公司因保护措施不足而面临法律诉讼。
Niklas Gruhn 创造了“肉代理”这个术语，用来形容盲目转发AI生成内容的人。他主张，人类应该阅读、验证并以自己的语言重写AI的回答，以增加价值。
一位牧师用ChatGPT获取医疗建议而非咨询医生，现在正在起诉OpenAI，这凸显了依赖AI做健康决策的风险。
一名英国警察因涉嫌使用AI伪造证据而受到刑事调查，这是该国首例此类案件。该事件引发了对受影响案件的审查，以及对警方工作中AI可靠性的广泛担忧。
谷歌已对名为“Outsider Enterprise”的中国网络犯罪团伙提起诉讼，指控其利用谷歌的Gemini AI自动化钓鱼诈骗、创建虚假网站，并向安卓用户发送数百万条恶意短信。
北卡罗来纳州的Jalil Richardson在杰克逊维尔警方根据AI面部识别匹配（置信度85%）错误逮捕他后，在监狱中度过超过50天，尽管他的不在场证明显示他当时在数百英里外的工作岗位上。
密西西比州一名联邦法官在发现案件双方均使用AI生成法律文件，其中包含虚构、不存在的案例引用后，取消了庭审并对所有四名涉事律师进行了处罚，凸显了在法律行业中未经核实使用AI的风险。
K-pop 粉丝正在使用生成式 AI 制作与偶像同框的 Deepfake 视频，这引发了粉丝社区的强烈不满，认为这些未经同意且令人不适的内容模糊了同人小说与剥削之间的界限。专家表示，这类行为值得警惕。
一位保险理赔员描述了汽车贷款机构如何部署AI机器人，利用不准确的数据对全损车辆估值提出异议，浪费理赔员时间，并使其难以联系到真人代表。该帖子寻求绕过这些AI系统与真人通话的建议。