以色列4500万美元的AI行动瞄准美国选民和聊天机器人回答
摘要
据报道,以色列向布拉德·帕斯卡尔支付了超过4500万美元,用于一项由AI驱动的舆论影响行动。该行动向数百万美国人发送短信,并创建网络内容,旨在引导ChatGPT和Claude等聊天机器人如何回答有关以色列的问题。这标志着首次有国家层面行为体通过协调内容来针对聊天机器人回答的详细记录。
[《华尔街日报》报道](https://www.wsj.com/politics/israels-50-million-experiment-to-change-u-s-public-opinion-253b3b70)称,以色列向特朗普2016年和2020年数字竞选经理布拉德·帕斯卡尔支付了超过4500万美元,用于一项针对美国的舆论影响行动。该行动利用AI生成的短信和内容,旨在引导ChatGPT和Claude等聊天机器人如何回答有关以色列的问题。据报道,数百万美国人收到了来自名为“Emma”“Sarah”或“John”的发件人的短信,这些发件人自称是“和平之友”组织的成员。当《华尔街日报》询问该组织是否真实时,帕斯卡尔反问:“你对真实组织的定义是什么?”之所以从普通的外国游说故事中脱颖而出,在于其对聊天机器人的引导角度。据报道,帕斯卡尔的团队搭建了网站、文章和社交媒体帖子,专门针对AI系统如何回答以色列相关问题。该媒体指出,一个名为Allyvia.org的联盟网站已出现在聊天机器人的回答中。这一切的背后,是以色列2026年预算中超过7亿美元的专项拨款——外交部长吉迪恩·萨尔称之为“塑造意识”的努力,金额是2025年拨款的四倍多。对于在OpenAI或Anthropic上构建应用的人来说,这是首个有据可查的国家层面行为体将聊天机器人回答本身视为说服平台的案例——不是通过提示注入,而是通过向大语言模型悄然爬取的开放网络投喂内容。令人不安的问题是,当前的检索管道能否将付费的协调内容与自然来源区分开来,以及提供商的安全与信任工作是否延伸到在引用结果中降级被标记的宣传活动。同一报道中引用的史蒂夫·班农问道:“第二大保守派谈话网络竟由注册外国代理人运营”,这指的是帕斯卡尔在Salem Media担任首席战略官的角色。
---
我们的报道:https://aiweekly.co/alerts/israels-45m-ai-op-targets-us-voters-and-chatbot-answers
相似文章
以色列疑似为欺骗AI聊天机器人而设立虚假智库
以色列设立虚假智库,旨在生成影响Claude和Gemini等AI聊天机器人的报告,此举被称为LLM投毒。
伊朗行动利用ChatGPT在真实美国媒体上植入虚假文章
OpenAI披露了一个伊朗影响力行动,该行动利用ChatGPT在至少20家美国新闻机构中植入了约100篇AI生成的文章,以虚假作者署名推广批评伊朗战争的内容。这些文章出现在各种媒体上,从佛罗里达的一家小型周报到拥有数百万社交媒体粉丝的大型媒体均有涉及。
OpenAI发现俄罗斯和伊朗账号利用ChatGPT进行影响力行动
OpenAI宣布已封禁利用ChatGPT开展影响力行动的俄罗斯和伊朗账号,其中一项行动诱骗秘鲁学校举办与一名有争议的乌克兰人物相关的活动,并引发了一名欧洲议会议员的回应。
破获伊朗秘密影响力行动
OpenAI 披露了对伊朗秘密影响力行动(Storm-2035)的破获,该行动利用 ChatGPT 账户生成针对 2024 年美国大选和其他主题的政治内容,并通过社交媒体和虚假新闻网站进行传播。该行动的受众参与度极低,通过与微软威胁情报团队的合作被识别。
人们正让 ChatGPT 帮助他们在中期选举中决定如何投票
NPR 报道称,越来越多的美国选民正使用 ChatGPT 等 AI 聊天机器人来研究中期选举中选票下方的各级竞选并核实相关说法;与此同时,专家警告,大语言模型(LLM)具备说服力强、迎合用户的特性,加之训练数据不透明,可能在政治决策中引入微妙的偏见。