标签
OpenAI披露了一个伊朗影响力行动，该行动利用ChatGPT在至少20家美国新闻机构中植入了约100篇AI生成的文章，以虚假作者署名推广批评伊朗战争的内容。这些文章出现在各种媒体上，从佛罗里达的一家小型周报到拥有数百万社交媒体粉丝的大型媒体均有涉及。
OpenAI宣布已封禁利用ChatGPT开展影响力行动的俄罗斯和伊朗账号，其中一项行动诱骗秘鲁学校举办与一名有争议的乌克兰人物相关的活动，并引发了一名欧洲议会议员的回应。
OpenAI 报告称其已封禁两个利用其模型进行"假门面"影响力行动的组织，一个来自俄罗斯、一个来自伊朗，这些行动利用AI生成假记者身份、文章及社媒评论来传播地缘政治信息。
Anthropic发布了一份详细的威胁情报报告，详细描述了伊朗如何误用Claude AI针对海军基地、自动化美国人的档案，并在美国社交媒体上运行影响活动。
Anthropic威胁情报团队报告了从2025年12月到2026年8月检测和应对Claude AI模型滥用的情况，涵盖网络操作和监控等危害领域。
OpenAI挫败了一项俄罗斯秘密影响力行动，该行动使用ChatGPT生成社交媒体帖子，推广一个虚假的研究所，涉及VPN使用和内容复制以掩饰来源。
泄露文件揭露俄罗斯的“Project 2026”，由社会设计机构运营，旨在创建虚假参考平台（如德国维基百科克隆版）以污染AI训练数据和搜索索引，目的是将俄罗斯叙事嵌入AI回复中。
OpenAI报告称，两个可能源自中国的ChatGPT账户集群被用于针对美国AI辩论的隐蔽影响行动，涉及数据中心能源成本和关税等叙事。
OpenAI 披露了对伊朗秘密影响力行动（Storm-2035）的破获，该行动利用 ChatGPT 账户生成针对 2024 年美国大选和其他主题的政治内容，并通过社交媒体和虚假新闻网站进行传播。该行动的受众参与度极低，通过与微软威胁情报团队的合作被识别。
OpenAI 研究人员分析了大型语言模型如何被滥用于虚假信息传播和舆论操纵活动，提出了涵盖攻击管道四个阶段的缓解策略：模型存在、访问权限、内容传播和用户影响。