谷歌的AI正遭到操纵，这家搜索巨头在悄悄反击

# 谷歌的AI正遭到操纵。这家搜索巨头正在悄然反击 来源：https://www.bbc.com/future/article/20260519-google-tackles-attempts-to-hack-its-ai-results Serenity Strull/ BBC/ Getty Images 一只手握着抓取工具，另一只手拿着扳手，正对谷歌首页的电脑窗口进行操作（图片来源：Serenity Strull/ BBC/ Getty Images）Serenity Strull/ BBC/ Getty Images \(图片来源：Serenity Strull/ BBC/ Getty Images **BBC的一项调查揭示了一种简单的方法，让AI聊天机器人向公众输出虚假信息。谷歌和其他AI公司正在努力解决这个问题。** 二月份我做了件蠢事。我听说有一种简单的方法可以污染AI聊天机器人，让它们替你散布谎言。经过一番挖掘，我了解到一些无良公司正在大规模滥用这个问题。于是我决定亲自尝试一下。 我们发现了多个例子，显示ChatGPT、Gemini以及谷歌搜索顶部的AI概览被操纵，在涉及健康和个人财务等严肃话题上给出带有偏见的回答。而仅仅用了20分钟，我就骗过ChatGPT和谷歌，让它们向公众宣称我是世界级竞技热狗大赛冠军。这个玩笑很蠢。但问题很严重。 然而这个把戏确实奏效了。我们的调查以及关注此问题研究人员的工作引发了广泛批评。现在谷歌已经更新了其政策来解决这一问题，有迹象表明其他AI公司也在跟进。最终，这可能会让AI工具乃至整个互联网变得更加安全。 但在更好的系统到位之前，专家表示你仍有被欺骗的风险。 Thomas Germain/ Google/ BBC 我让谷歌告诉全世界我是热狗大赛冠军，但人们利用这个技巧操纵AI对更严肃问题的回答（图片来源：Thomas Germain/ Google/ BBC）Thomas Germain/ Google/ BBC 我让谷歌告诉全世界我是热狗大赛冠军，但人们利用这个技巧操纵AI对更严肃问题的回答（图片来源：Thomas Germain/ Google/ BBC） “你应该假设自己正被操纵，直到他们建立更好的系统，”搜索优化与AI搜索咨询公司Algorythmic的创始人Lily Ray说道。“我们正在走向‘唯一正确答案’的世界。以前，谷歌会给你10个蓝色链接，你自己去做研究。但AI只给你一个答案。人们很容易就全盘接受。你需要小心。” 谷歌告诉我，他们的政策更新只是对其一直在做的努力的“澄清”。“我们早就将核心反垃圾政策与保护措施应用于生成式AI搜索功能——甚至在AI兴起之前，我们就一直在不断升级反垃圾措施，以领先于新兴手段，”一位谷歌发言人表示。 本质上，谷歌说他们什么都没改。但在幕后，谷歌和其他公司似乎正在加大力度解决这个问题。即便如此，有证据表明人们仍在用完全相同的手法欺骗这家全球最大的搜索引擎。 ## **问题所在** 通常，当你向聊天机器人提问时，AI会根据模型内置的数据生成回答。但有时，像ChatGPT、Claude以及谷歌的各种AI产品会搜索互联网来寻找答案。而问题就出现在这里。 据Ray和其他搜索引擎专家称，AI工具通常只从一个网页或社交媒体帖子中提取信息。这使得这些系统容易受到虚假信息的影响。 事实证明，操纵聊天机器人向公众说什么内容，可能简单到只需在网上（几乎任何地方）发布一篇精心撰写的博客文章。人们发现了这一点，并迅速找到了赚钱的机会。 我通过在自己个人网站上发布一篇关于我热狗食用能力的文章，证明了这个问题。第二天，来自一些全球最大公司的AI就开始传播我的谎言。但我们的调查还发现，同样的手法被用来淡化对医疗补充剂的健康担忧，或影响谷歌AI提供的关于退休的财务信息。专家表示，这种操纵正在广泛和系统性的层面上发生。 Keeping Tabs Thomas Germain是BBC的高级科技记者。他撰写专栏Keeping Tabs，并共同主持播客The Interface。他的工作揭示了运行你数字生活的隐藏系统，以及你如何能在其中更好地生活。 这种带有偏见或不准确的信息也可能导致你做出错误决策。它可能影响你如何投票，或者你雇佣哪个水管工。 “在最基本的层面，担忧在于经济影响，”经营SEO咨询公司Harps Digital的Harpreet Chatha说。“在更严重的层面，你可能会接受导致病情加重的医疗建议。在法律上，你可能会得到错误信息，做出在你所在州或国家不合法的事情。” ## **解决方案？** 这不是一个小问题。全球有超过10亿人定期使用AI聊天机器人，每月有25亿人看到谷歌的AI概览。如果你能颠覆这样的工具，你就拥有了巨大的权力。 但谷歌和其他公司似乎终于开始正视这个问题了。 上周，谷歌更新了其垃圾政策，正式确认试图操纵AI回答违反公司规定。这听起来像是一个小变化，但它表明谷歌正在主动寻找那些试图滥用系统的人，并向他们发出威胁。如果一家公司或网站被发现违反规定，它可能会被从谷歌搜索结果中移除或降低排名。而如果你不在谷歌上出现，你就好像不存在一样。 谷歌说我理解错了，情况没有改变。“上周我们垃圾政策语言的编辑是一个澄清，而不是方法的任何改变，”谷歌发言人表示。 Ray和Chatha也表示，他们注意到近几个月发生了一些显著变化，表明谷歌和其他公司正在试验解决方案。 例如，Ray表示，看起来谷歌和ChatGPT可能正在悄悄地从AI回答中移除那些被怀疑自我推广的公司。“所以如果你发布一个列表，说自己是最好的热狗食家，他们不会提到你的名字，”Ray说。“他们可能仍然会引用你的文章，但你会被排除在考虑之外。” 我个人注意到一些例子，谷歌和其他AI工具在其回答中增加了更多标签，让你知道聊天机器人对其答案并不自信。其他人也注意到，ChatGPT和Claude（由Anthropic公司制造的AI）已经开始明确告诉你，它们正在尝试根除某些查询回答中的垃圾信息。Ray说她注意到谷歌在回答某些与购买决策相关的问题时增加了更多附加条件，推荐你去查看第三方评论。 当我询问时，这些公司没有一家承认这些变化。OpenAI和Anthropic拒绝置评。谷歌的发言人对我的问题未作回应。 无论如何，Chatha对这类改变是否足够表示怀疑。“谷歌在打地鼠，”他说。“他们宣布（政策更新）是为了威慑人们，但手段只会转移。” 他已经看到这种情况在发生。随着谷歌打击操纵性的博客文章，公司们正在寻找更隐蔽的方式来推广自己。“你可以因为他们的网站而处罚一家公司，”他说，“但没有什么能阻止他们付钱给20个YouTube网红说他们的产品最好。”而现在，谷歌的AI正在引用YouTube视频。循环继续。 目前来看，操纵者很可能仍然领先一步。Ray说，最好的防御是记住AI到底是什么：一个自信地给你一个答案的工具，不管它是对是错。仅仅因为看起来是一个大型科技公司在对你说话，而不是某个随机网站，并不意味着你应该相信它。 *欲了解BBC更多科学、技术、环境与健康故事，请关注我们的**Facebook* (https://www.facebook.com/BBCFuture/)*和**Instagram* (https://www.instagram.com/bbcfuture_official/)*。*