打击来自俄罗斯的新秘密影响力活动

# 揭露俄罗斯新隐秘影响行动 来源：https://openai.com/index/disrupting-malicious-uses-of-ai-influence-campaign-russia/ 我们的使命是确保通用人工智能造福全人类。为实现这一使命，我们部署创新成果，打造协助人们解决复杂问题的AI工具。这包括开发使我们能够探测、调查、揭露并阻断隐秘影响行动（IO）的工具——即那些不揭示行动者真实身份或意图，试图操纵公众舆论或影响政治结果的欺骗性企图。 我们近期封禁了一组疑似源自俄罗斯的ChatGPT账户集群，这些账户被用于推广自称“专家社群”的国际伯克研究所（IBI），该机构注册于以色列。最初的调查始于AI生成的社交媒体帖子，最终引出了一个规模更大的影响行动网络。该网络围绕一个网站构建，其中包含抄袭并篡改来源的学术论文、一份为俄罗斯美化的“主权指数”，以及掩饰操作者俄罗斯背景的种种努力。尽管该行动的受众范围相对有限，但其精心构筑的复杂性，使其区别于自乌克兰战争爆发以来我们所阻断的其他与俄罗斯关联（新窗口打开）（https://cdn.openai.com/threat-intelligence-reports/threat-intel-report-may-2024.pdf）的影响（新窗口打开）（https://cdn.openai.com/threat-intelligence-reports/influence-and-cyber-operations-an-update_October-2024.pdf）行动（新窗口打开）（https://cdn.openai.com/threat-intelligence-reports/5f73af09-a3a3-4a55-992e-069237681620/disrupting-malicious-uses-of-ai-june-2025.pdf）。本报告将阐述该行动的运作方式、ChatGPT在其中扮演的角色，以及我们为阻断它所采取的措施。 ## 行动者 我们封禁的这组ChatGPT账户很可能源自俄罗斯。操作者使用俄语提示词生成社交媒体评论，并将其发布在Substack、Telegram、X、Facebook和LinkedIn等平台。他们生成的评论大多为英文，且操作者指令ChatGPT隐藏任何表明其俄罗斯身份的语言线索。由于我们不允许从俄罗斯访问我们的模型，他们使用VPN接入我们的平台。 生成的许多内容旨在推广一个自称“专家社群”的机构——国际伯克研究所（IBI）。IBI品牌关联着一个于2025年2月注册的网站。该网站声称研究所位于以色列。网站上发布的文章并非由我们的模型生成。许多文章抄袭自真实的学术著作，有时还被错误署名；部分文章似乎由斯拉夫语使用者起草后经机器翻译而成。例如，下图所示IBI网站文章的截图使用了一个不自然的短语，最合理的解释是它是从斯拉夫语言进行的直译。 IBI网站一篇关于德国的文章截图，使用了“Svetofor联盟”一词。 *IBI网站关于德国的文章截图。短语“the Svetofor coalition”意指由社会党、自由党和绿党组成的德国联合政府，因其党派颜色（红、黄、绿）而被称为“红绿灯联盟”，德语称“Ampelkoalition”。“svetofor”（светофор）一词在包括俄语在内的多种斯拉夫语言中意为“交通灯”，但英语或德语使用者几乎不可能用它来描述该联盟：这很可能是从斯拉夫语原文机器翻译而来。* 据我们所知，这是一个此前未被报道过的新型隐秘影响行动。其最显著特征是创建了由这个伪“智库”推广的“主权指数”，用以赞扬俄罗斯并贬低西方国家。这是我们首次揭露一个与俄罗斯关联、且费尽心机构建如此复杂体系的影响行动。 ## AI活动 该行动使用ChatGPT的主要目的是生成推广IBI网站文章的社交媒体帖子。我们在X、LinkedIn、Facebook、Substack和Telegram上发现了这些帖子。部分帖子由带有IBI名称和标识的账户发布；另一些则似乎来自普通用户（很可能是虚假账户），其主要活动就是发布IBI文章。 由该行动生成并发布在LinkedIn平台上的帖子。 *由该行动生成并发布在LinkedIn平台上的帖子* 除了这些主动发布的帖子，操作者还针对真实Substack用户在各种主题下的帖子生成回复。这些回复通常包含请求关注IBI频道的内容，并由IBI账户发布在Substack上。 该行动在回复帖子时生成的Substack评论。 *该行动在回复帖子时生成的Substack评论* 除了生成关于IBI的内容，其中一名操作者还生成了德语帖子，发布在一个名为“Lahme Ente”（意为“跛脚鸭”）的Telegram频道上。这些帖子常规性地批评乌克兰、欧盟和德国政府，并鼓吹与俄罗斯改善关系。 另一名操作者在生成IBI相关内容的同时，为十几个专注于德国、美国、法国、波兰和土耳其的Telegram频道（包括Lahme Ente）制作了标识。其中一些频道有时会发布关于IBI的内容，或分享IBI自己的帖子。该操作者还多次要求提供这些频道活动的俄语摘要。其中一个聚焦美国的频道，伪装成美国媒体，其个人简介包含多处非母语英语的痕迹。 带有非地道英语简介的Telegram账户“美国观察者”的主页。 *Telegram账户“美国观察者”的主页。本案中的ChatGPT用户之一为该频道生成了头像，并多次要求提供俄语摘要。请注意其中非地道的英语，包括神秘的一句：“a totally unhackneyed perspective on hazzy”。* ## 非AI活动 本次行动的核心似乎是国际伯克研究所（IBI），尽管我们所阻断的活动聚焦于推广或链接至该网站的社交媒体内容，而非直接托管在其网站上的内容。 该网站自称是一个在以色列拥有实体地址的“专家社群”。截至7月17日，其网站声称拥有一系列世界级专家，包括弗朗西斯·福山和诺姆·乔姆斯基等知名人士，并发布了大量研究。然而，在审查了IBI网站上链接的36篇发表于2025年9月至2026年5月的文章样本后，发现其中34篇是抄袭自网络其他地方。 其中一些文章已有多年历史；另一些则被错误署名。例如，一篇关于中巴经济走廊的文章似乎抄袭自剑桥大学出版社的原文，却被错误地归给一位诺丁汉大学南亚政治研究领域的教授。 归功于诺丁汉大学凯瑟琳·阿德尼教授的IBI网站文章。 剑桥大学出版社尤纳斯·萨马德荣誉教授的原文文章。 另一篇关于移民治理的文章似乎抄袭自移民政策研究所，却被错误地归给一位澳大利亚食品科学教授。这种行为表明，其意图是通过填充真实内容来使IBI网站显得更可信，同时掩盖这些内容的实际来源。 IBI网站上凯特·豪厄尔的作者页面，包含一篇日期为2026年1月21日的文章。 *IBI网站上*作者页面*（新窗口打开）（https://web.archive.org/web/20260706103716/https://ibi.institute/experts/kate-howell）的截图，包含一篇日期为2026年1月21日、归属于凯特·豪厄尔（据称是移民政策研究所专家）的文章。* 移民政策研究所由梅根·本顿、娜塔莉亚·巴努列斯库-博格丹和凯特·胡珀撰写的文章原文。 2017年凯特·豪厄尔的演讲者页面，使用了与IBI页面相同的头像。 除了这些文章，IBI网站还包含基于该研究所指数测量的不同国家及其主权的报告。这些报告并非使用我们的模型生成。部分报告以比较两个国家的形式呈现。其他则聚焦于单一国家，尤其是那些批评俄罗斯对乌克兰战争的国家，如法国和德国，以及欧盟。该行动对美国也推广了类似的叙事。这些报告通常带有批判性，甚至流于论战；示例如下： - 法国（新窗口打开）（https://web.archive.org/web/20260706160710/https://ibi.institute/read/the-macron-decade-the-sovereignty-that-was-doomed-to-failure-why-does-france-need-a-sixth-republic?type=research）：“马克龙主义的十年产生了必然的结果，一位从罗斯柴尔德银行走进爱丽舍宫的管理者必须带来的结果：法国像一个装着历史资本的保险箱被打开，现在正被分块出售。” - 美国（新窗口打开）（https://web.archive.org/web/20260706161552/https://ibi.institute/read/trumps-visit-to-china-what-really-happened?type=research）：“特朗普抵达[北京]时拥有世界第一的主权指数，离开时却采取了一系列可被定性为自愿削弱自主权的行动。” - 德国（新窗口打开）（https://web.archive.org/web/20260706162212/https://ibi.institute/read/requiem-for-germany-how-germany-sovereignty-melted-into-thin-air?type=research）：“德国需要一项保护就业而不仅是股价的产业政策。这个国家需要一场关于身份认同的坦诚讨论，没有禁忌和歇斯底里。它需要真正的军事主权，而非依赖美国基地。它需要那些首先忠于德国人民，而非纽约公司董事会的政客。” - 欧盟（新窗口打开）（https://web.archive.org/web/20260706162404/https://ibi.institute/read/slovakia-vs-italy-the-paradoxes-of-the-sovereignty-of-the-hostage-countries-of-the-big-union?type=research）：“斯洛伐克对意大利：‘大联盟’人质国家主权的悖论” 虽然推广IBI的社交媒体内容由俄罗斯的ChatGPT用户生成，他们竭力隐藏自己的来源，且IBI网站上的许多内容疑似抄袭自他处，但一些网络痕迹表明，以色列可能也有少数真实个人在文章提交和会议上代表IBI。我们无法确定这些人、IBI以及俄罗斯操作者之间的关系。 ## 影响 该行动的直接影响似乎有限：典型的社交媒体帖子仅获得少量浏览量，官方IBI账户的订阅者数量也很少。该行动的Telegram频道似乎吸引了更多订阅者，通常每个频道拥有1万至2万名关注者。使用布鲁金斯学会突破性规模（新窗口打开）（https://www.brookings.edu/articles/the-breakout-scale-measuring-the-impact-of-influence-operations/）来评估该行动的影响，我们会将其评定为**第三类**（在多个平台有活动，且有迹象显示渗透至真实受众）的较低端。 然而，该行动的意义与其触达的受众规模关系较小，更多在于其建立的基础设施。尽管行动者仅使用ChatGPT来制作零散的推广帖子，但这些帖子指向一个表面上看似可信的机构，该机构拥有据称的专家、转载的学术成果和所谓的专有风险指数。这说明了影响行动者如何在一个更宏大的计划中将AI用作辅助工具，以制造权威、掩盖其偏好评述的来源，并建立可随时间扩展的资产。这也说明了他们对AI的辅助性使用如何导致整个更广泛的行动被揭露。