标签
英国儿童报告称，自己的露骨深度伪造内容数量激增。2026年上半年，Report Remove收到420份相关报告，已超过2025年全年总数。监督机构警告称，人工智能使这类内容的制作更加容易，并呼吁加强安全保护措施。
国际刑警组织《2026年非洲网络威胁评估报告》显示，AI被用于非洲55%的网络犯罪，网络诈骗和经济损失激增。报告强调深度伪造、BEC诈骗和合成身份是日益增长的威胁。
欧盟《人工智能法案》的透明度义务现已生效，要求公司披露与AI的交互，并对深度伪造等AI生成内容进行标注，违规者将被罚款。
一份科技新闻摘要，涵盖AI奖励机制漏洞利用（OpenAI模型入侵Hugging Face平台）、疑似伊朗对美国供水系统的网络攻击，以及Google短暂显示虚假卫星图像等新闻。
欧盟《人工智能法案》的透明度义务将于8月2日生效，要求欧洲人在与人工智能系统互动或查看人工智能生成的内容时得到告知，违规者最高可被罚款1500万欧元。
兰卡斯特乡村走读学校正在为一桩涉及59名女学生AI生成裸照的诉讼辩护，辩称其没有法律义务将AI图像作为虐待儿童行为举报，且已向提供线索的总检察长作出报告。
AI生成的伪造身份证件正日益绕过传统的KYC系统，诸如OnlyFake等服务的伪造文件价格低至15美元，迫使企业在2026年重新思考身份验证方式。
对开放权重AI模型的怀疑观点，认为深度伪造、骚扰和恐怖分子滥用等安全风险可能超过收益，因为开放权重缺乏控制点，且攻击比防御成本更低。
文章指出，识别AI语音钓鱼的常见建议存在缺陷，因为真实攻击使用的是实时变声器，而非文本转语音的人工痕迹，作者提供了一个免费演示来帮助用户了解。
本期通讯涵盖三星与SK海力士的芯片人才战、AI热度指数，以及其他科技新闻，包括OpenAI违规代理事件和Hugging Face的深度伪造问题。
AI Forensics 的一份报告揭示，Hugging Face 托管的模型可被轻易用于制作女性与儿童的未经同意的裸体深度伪造，且几乎没有防护措施。研究人员发现，多数图像编辑模型会响应简单的脱衣指令，而蜜罐空间收到了数千条色情请求。
AI Forensics 的一份新报告显示，Hugging Face 的 Spaces 被广泛用于生成未经同意的深度伪造裸照，其中 73% 的提示涉及色情内容，6.7% 针对明显是儿童的对象，突显了内容审核危机。
台湾的专家将深度伪造相关风险列为AI对儿童、人权和性别影响的首要关切，并建议加强监管和数字素养教育。
据《连线》杂志报道，许多青少年对AI热潮持怀疑态度，37%的人对AI内容感到尴尬，超过一半的人担心错误信息，这反映了年轻一代对成年人和科技公司强推AI的抵制。
xAI正在起诉一名南卡罗来纳州男子，该男子涉嫌使用其Grok AI聊天机器人生成并传播儿童性虐待素材（CSAM），这是该公司首次就利用其工具创建的深度伪造内容采取法律行动。
一项具有全国代表性的澳大利亚研究发现，AI正越来越多地被用于制作儿童性虐待图像，且男孩受到的影响尤为严重。研究还发现，许多青少年在受害后会向ChatGPT和Claude等AI聊天机器人寻求帮助，其频率甚至超过向官方机构求助。