以色列4500万美元的AI行动瞄准美国选民和聊天机器人回答

Reddit r/ArtificialInteligence 新闻

摘要

据报道,以色列向布拉德·帕斯卡尔支付了超过4500万美元,用于一项由AI驱动的舆论影响行动。该行动向数百万美国人发送短信,并创建网络内容,旨在引导ChatGPT和Claude等聊天机器人如何回答有关以色列的问题。这标志着首次有国家层面行为体通过协调内容来针对聊天机器人回答的详细记录。

[《华尔街日报》报道](https://www.wsj.com/politics/israels-50-million-experiment-to-change-u-s-public-opinion-253b3b70)称,以色列向特朗普2016年和2020年数字竞选经理布拉德·帕斯卡尔支付了超过4500万美元,用于一项针对美国的舆论影响行动。该行动利用AI生成的短信和内容,旨在引导ChatGPT和Claude等聊天机器人如何回答有关以色列的问题。据报道,数百万美国人收到了来自名为“Emma”“Sarah”或“John”的发件人的短信,这些发件人自称是“和平之友”组织的成员。当《华尔街日报》询问该组织是否真实时,帕斯卡尔反问:“你对真实组织的定义是什么?”之所以从普通的外国游说故事中脱颖而出,在于其对聊天机器人的引导角度。据报道,帕斯卡尔的团队搭建了网站、文章和社交媒体帖子,专门针对AI系统如何回答以色列相关问题。该媒体指出,一个名为Allyvia.org的联盟网站已出现在聊天机器人的回答中。这一切的背后,是以色列2026年预算中超过7亿美元的专项拨款——外交部长吉迪恩·萨尔称之为“塑造意识”的努力,金额是2025年拨款的四倍多。对于在OpenAI或Anthropic上构建应用的人来说,这是首个有据可查的国家层面行为体将聊天机器人回答本身视为说服平台的案例——不是通过提示注入,而是通过向大语言模型悄然爬取的开放网络投喂内容。令人不安的问题是,当前的检索管道能否将付费的协调内容与自然来源区分开来,以及提供商的安全与信任工作是否延伸到在引用结果中降级被标记的宣传活动。同一报道中引用的史蒂夫·班农问道:“第二大保守派谈话网络竟由注册外国代理人运营”,这指的是帕斯卡尔在Salem Media担任首席战略官的角色。 --- 我们的报道:https://aiweekly.co/alerts/israels-45m-ai-op-targets-us-voters-and-chatbot-answers
查看原文

相似文章

破获伊朗秘密影响力行动

OpenAI Blog

OpenAI 披露了对伊朗秘密影响力行动(Storm-2035)的破获,该行动利用 ChatGPT 账户生成针对 2024 年美国大选和其他主题的政治内容,并通过社交媒体和虚假新闻网站进行传播。该行动的受众参与度极低,通过与微软威胁情报团队的合作被识别。

OpenAI 如何应对 2024 年全球选举

OpenAI Blog

OpenAI 发布了 2024 年选举防护措施,包括将用户引导至权威投票信息来源、防止生成政治人物的深度伪造内容,以及破坏隐蔽影响力操纵活动。该公司报告称已将约 100 万个 ChatGPT 回复重定向到投票资源,并拒绝了超过 25 万个生成政治人物图像的请求。

国会最青睐的AI工具?ChatGPT

TechCrunch AI

国会在798笔交易中花费约100,580美元购买ChatGPT,使OpenAI的工具成为众议院办公室的主导AI供应商,Anthropic的Claude紧随其后;工作人员使用这些工具撰写备忘录、分析立法和提供选民服务。