中国已开始对植入虚假内容以使其出现在 AI 聊天机器人回答中的公司处以罚款。同样的伎俩对 ChatGPT 也有效。

你可能见过一些机构，声称能让品牌出现在 ChatGPT 的回答里。在中国，监管部门已经开始对那些靠编造内容来做到这一点的机构开罚单。中国财经媒体《21世纪经济报道》统计，目前已有三起罚款案例，分别发生在北京、广州和深圳，每起罚款金额在5万元至12万元之间。北京的案例揭示了这套操作手法。该公司先向 AI 工具提问，记下它们引用了哪些网站，再付钱给中间人，把客户的文章发布到这些网站上，并在合同中承诺让客户在 AI 回答中排进前三或前五。它甚至把这套手法用在自己身上，让人们去问豆包哪家 GEO 公司最好，并展示了一条将自己排在首位的 AI 回答，其中给出了99.6分的评分和49%的市场份额。该公司后来承认，这些数字没有来源。这有多容易做到？中国中央电视台请一位业内人士在网上购买了这样一款工具，并虚构了一款智能手环。工具发布两篇虚假文章后仅两小时，一个 AI 模型就开始称赞这款手环的“量子纠缠传感”功能。三天内发布了11篇虚假评测和排名后，已有两个 AI 模型在推荐它。同一家报纸还检查了中国 AI 模型在4月份引用的1,000多个链接。超过30%的链接显示出明显的此类植入痕迹，而其中大部分内容使用了编造的来源、数据或评价。这些现象并非中国聊天机器人独有。在我上周发帖介绍的复旦大学研究中，刻意投放的帖子让 ChatGPT、谷歌 AI、Perplexity 和 Grok 在一周内就开始引用一个虚构概念。区别在于，中国的互联网监管部门如今将这种行为视为 AI 数据投毒，整治行动也针对 AI 应用，追究它们未核查所引用来源、未展示引用链接的问题。我没能在美国或欧盟找到类似的罚款案例。客观地说，中国这些罚款的金额并不大，而30%这个数字来自一家报纸自行开展的测试，并非经过同行评审的研究。如果你经营一个品牌，竞争对手正在投放这类与你有关的内容，你能察觉到吗？