标签
OpenAI挫败了一项俄罗斯秘密影响力行动，该行动使用ChatGPT生成社交媒体帖子，推广一个虚假的研究所，涉及VPN使用和内容复制以掩饰来源。
泄露文件揭露俄罗斯的“Project 2026”，由社会设计机构运营，旨在创建虚假参考平台（如德国维基百科克隆版）以污染AI训练数据和搜索索引，目的是将俄罗斯叙事嵌入AI回复中。
OpenAI报告称，两个可能源自中国的ChatGPT账户集群被用于针对美国AI辩论的隐蔽影响行动，涉及数据中心能源成本和关税等叙事。
OpenAI 披露了对伊朗秘密影响力行动（Storm-2035）的破获，该行动利用 ChatGPT 账户生成针对 2024 年美国大选和其他主题的政治内容，并通过社交媒体和虚假新闻网站进行传播。该行动的受众参与度极低，通过与微软威胁情报团队的合作被识别。
OpenAI 研究人员分析了大型语言模型如何被滥用于虚假信息传播和舆论操纵活动，提出了涵盖攻击管道四个阶段的缓解策略：模型存在、访问权限、内容传播和用户影响。