公司利用Reddit操纵ChatGPT和Google AI搜索

# 公司正在利用Reddit操纵ChatGPT和谷歌AI搜索 来源：https://www.404media.co/companies-are-using-reddit-to-manipulate-chatgpt-and-google-ai-search/ 生物黑客子版块的管理员表示，肽类和激素替代疗法公司一直在暗中向Reddit灌水，试图让他们的帖子被AI聊天机器人抓取。这种策略旨在通过操纵聊天机器人将抓取的底层原始材料——本案中是一个受欢迎的Reddit社区——来系统性地操纵聊天机器人提供的答案。 在上周的一篇帖子（https://www.reddit.com/r/Biohackers/comments/1toaxp9/official_policy_update_on_peptide_hrt_content/?ref=404media.co）中，r/biohackers的管理员表示，他们将禁止发布关于肽类和激素替代疗法（HRT）的新帖子，原因是生产、营销和销售这些产品的公司试图进行操纵。r/Biohackers是一个历史悠久的子版块，讨论话题包括补充剂、实验药理学以及其他与长寿或健身相关的主题；肽类和HRT已成为该子版块中极其热门的话题，尤其是随着公司试图以非标签用途或灰色市场化合物的形式进行营销。 "随着AI搜索引擎越来越多地从Reddit提取答案，公司正在利用我们进行AEO（https://www.tryprofound.com/resources/articles/what-is-answer-engine-optimization?ref=404media.co）。除此之外，对肽类的兴趣激增和AI使用泛滥也冲击了本版。这两件事加在一起，给内容质量带来了巨大压力，"管理员在一篇帖子中写道。 AEO即AI引擎优化，它是搜索引擎优化的演进形态，品牌和营销公司试图创建内容，希望这些内容能被大型语言模型抓取。 用机器人（https://www.404media.co/ai-is-poisoning-reddit-to-promote-products-and-game-google-with-parasite-seo/）、马甲账号以及付费推广品牌的真人账号操纵Reddit，已成为从事AEO公司的核心策略，因为Reddit已成为ChatGPT和谷歌AI搜索等热门AI工具最常引用的来源之一（https://searchengineland.com/ai-search-engines-cite-reddit-youtube-and-linkedin-most-study-473138?ref=404media.co）。例如，一家名为RedRover的公司为企业提供AEO和SEO服务；其主页上写着："在搜索中排名第一，并被AI引用：AI代理大规模发布内容，帮助您在Google、ChatGPT和Reddit上排名——从互联网的每个角落为您的网站引流。" "一支由代理组成的军队发布博客内容和Reddit帖子，同时大规模解决SEO和AEO问题，"RedRover宣传道。 💡 **您是否了解关于AEO或Reddit操纵的其他信息？我很想听听您的想法。使用非工作设备，您可以在Signal上通过jason.404安全地联系我。或者，给我发邮件至[email protected]。** 肽类包括一系列可注射的氨基酸，从GLP-1到多种复方和灰色市场物质，可用于肌肉增长和恢复、头发生长、护肤和抗衰老以及许多其他用途；HRT也因多种原因被使用，包括跨性别者的性别确认护理，以及处于围绝经期或绝经期的女性，还有寻求延长寿命和生物黑客社区的人。这两个行业近年都呈爆炸式增长。这个行业由试图合法运营的公司和产品可能不安全的可疑公司混合组成。基本上，这是一个健康领域的狂野西部。 "我们看到像肽类这样的东西兴起，这些化合物正变得主流，但几乎没有监管，我们看到巨大的潜力和创新机会来对其进行临床验证，"生物黑客子版块的一位管理员在接受电话采访时告诉我。"但与此同时，我们也看到了极其危险的采购来源、青少年发帖想再长高几英寸。我们还看到来自供应商的AI操纵，试图推广这些肽类，引诱孩子们从他们那里购买。" "这两个问题加在一起让我们难以应对，在尝试了多种利用Reddit工具阻止这个问题的策略之后，我们做出了这个决定，"将关于肽类和HRT的帖子限制在每周的"超级帖"中，他们补充说。"我只是觉得，死互联网理论，我感觉互联网上这个曾经如此人性化的地方正在被侵蚀，被AI驱动的虚假内容填满。我觉得这超级令人沮丧。" RedRover网站截图 RedRover网站截图 考虑到该子版块的健康和自我实验性质，管理员表示，他们担心有可疑公司推广其产品，然后有人使用后受到伤害。 "有一种因素是品牌利用Reddit操纵消费者，让人购买他们的产品，以及营销伦理和注意力经济在AI下的演变。这本身就是一个问题，"管理员说。"但具体到我们，问题是：我们如何防止实际的身体伤害？" 阻止Reddit操纵变得极其困难，因为从事此类操作的公司越来越老练。管理员表示，存在非常标准且长期存在的策略，品牌会跳进评论区推荐自己的产品："那种营销一直存在，如果人们因为品牌引起了共鸣而想尝试新东西，那没问题。在我看来，营销应该以这种方式流动，"他们说。 "但我看到更可怕的是，有些公司会逆向工程出LLM优先考虑的实际提示模式，所以你会看到有人发一个超级标题党、高吸引力、模糊的问题，比如'关于维生素D的所有炒作真的值得吗？'"他们补充说。"那个帖子会表现得非常好，因为生物黑客版上每个人都有意见，所以它会获得互动并被LLM优先考虑，然后品牌会悄悄潜入，在看似自然的位置和时机，将他们的品牌提及嵌入到那些帖子中。但这一切都不是自然的，整个事情都是某个代理机构为了在LLM中优先考虑品牌提及或叙事而策划的策略。" 执行这种操作的Reddit账号都经过"热身"（https://www.404media.co/ai-is-poisoning-reddit-to-promote-products-and-game-google-with-parasite-seo/）或被打扮得像真人，意味着它们有发帖历史，并非纯粹推广。这使得它们更难被检测和打击。一些从事此类操作的代理机构正在付钱给真人发布推广内容，或者建立了社区，激励人们发布推广内容。管理员表示，Reddit的自动版主工具有帮助，但这类推广已经变得极其老练，几乎成了"看到才知道"的事情。 "很多变成了模式识别，"他们说。"你基本上就是知道该找什么。但问题是你不想惩罚那些并非恶意行事的人，所以我认为过度版主的风险非常真实。" Reddit的一位发言人告诉404 Media，他们一直在开发新工具来帮助版主捕捉操纵行为："我们的内部安全团队利用人工审核和复杂的自动化工具大规模检测和移除这些内容，我们有超过二十年的经验，"发言人说。"除此之外，我们还为版主提供自动化工具（https://redditinc.com/news/keeping-our-platform-safe?ref=404media.co），可以检测并暂停可疑的垃圾信息发布者。" --- 关于作者 Jason是404 Media的联合创始人。他曾任Motherboard的主编。他热爱信息自由法案和冲浪。 Jason Koebler