ai-misuse

一位牧师用ChatGPT获取医疗建议而非咨询医生，现在正在起诉OpenAI，这凸显了依赖AI做健康决策的风险。

本文探究了恐怖组织博科圣地如何将前沿AI技术用于其行动，凸显了先进AI的双重用途特性。

一名英国警察因涉嫌使用AI伪造证据而受到刑事调查，这是该国首例此类案件。该事件引发了对受影响案件的审查，以及对警方工作中AI可靠性的广泛担忧。

谷歌已对名为“Outsider Enterprise”的中国网络犯罪团伙提起诉讼，指控其利用谷歌的Gemini AI自动化钓鱼诈骗、创建虚假网站，并向安卓用户发送数百万条恶意短信。

北卡罗来纳州的Jalil Richardson在杰克逊维尔警方根据AI面部识别匹配（置信度85%）错误逮捕他后，在监狱中度过超过50天，尽管他的不在场证明显示他当时在数百英里外的工作岗位上。

密西西比州一名联邦法官在发现案件双方均使用AI生成法律文件，其中包含虚构、不存在的案例引用后，取消了庭审并对所有四名涉事律师进行了处罚，凸显了在法律行业中未经核实使用AI的风险。

K-pop 粉丝正在使用生成式 AI 制作与偶像同框的 Deepfake 视频，这引发了粉丝社区的强烈不满，认为这些未经同意且令人不适的内容模糊了同人小说与剥削之间的界限。专家表示，这类行为值得警惕。

一位保险理赔员描述了汽车贷款机构如何部署AI机器人，利用不准确的数据对全损车辆估值提出异议，浪费理赔员时间，并使其难以联系到真人代表。该帖子寻求绕过这些AI系统与真人通话的建议。

一篇评论文章批评那些将AI生成的回复直接复制粘贴作为自己内容的人，认为这贬低了有深度的交流，用机械化的文本取代了个人见解。