K-pop 粉丝谴责偶像的恐怖 Deepfake 视频

# K-pop 粉丝正在谴责针对偶像的恐怖深度伪造内容 来源：https://www.404media.co/k-pop-fans-deepfakes-ai-generated-idols/ K-pop 粉丝是互联网上一股不可小觑的力量（https://www.technologyreview.com/2023/02/16/1067943/kpop-fans-shaping-elections-worldwide/?ref=404media.co），这是众所周知的事情。一些粉丝对特定艺人怀有强烈的忠诚和热情。在社交媒体上，一些执着的粉丝正在使用生成式 AI 来制作本质上属于自我代入的同人创作——即他们与自己最爱的偶像亲吻、拥抱和亲热的恐怖视频和图片。其结果是一种当代的、由技术驱动的偶像文化变异，将粉丝艺术带到了新的极端。K-pop 粉丝社群中的许多人对这种行为感到震惊，这完全可以理解。 Reddit 和各个 K-pop 论坛上的用户对这些深度伪造幻想表示愤怒，呼吁其他粉丝举报那些使用 AI 工具生成其 K-pop 心仪偶像非自愿视频的人。在 K-pop Uncensored 子版块的一个帖子（https://www.reddit.com/r/kpop_uncensored/comments/1ndj1ok/kpop_fans_who_do_this_are_so_weird_i_cant_believe/?solution=26c18d1e43a5583626c18d1e43a55836&js_challenge=1&token=bbbe4bf1c9a2b5160829c4be34da5861b796c4a4db4360cb57539720e56c3ab2&jsc_orig_r=&ref=404media.co）中，一位用户发布了另一位粉丝制作的 AI 生成视频的截屏（已做模糊处理），视频内容显示这位粉丝被韩国男团 CORTIS 的未成年成员 Keonho 拥抱并亲吻脸颊。Reddit 用户 wbu_lizzie 在该帖子中写道：“一些粉丝可能认为这无害，但如果你容忍这种行为，就是在为未来更糟糕的事情打开大门。偶像们并没有同意这样做，他们是真人，过着他们自己的生活，而不是 Wattpad/AO3 上的一堆角色。” 用户 Goldie_Prawn 在 K-pop Uncensored 的另一个帖子（https://www.reddit.com/r/kpop_uncensored/comments/1q23jpl/comment/nxesm5s/?ref=404media.co）中呼吁反对使用 AI 时写道：“人们一直以来都在做这种拼接的事情，但随着图像变得越来越逼真，它在心理上就变得越棘手。我认为即使是用传统的 Photoshop，所需的工作量和技能也为创作者提供了一定程度上的心理缓冲，而 AI 则没有这种缓冲。” 澳大利亚麦考瑞大学的 Sarah Keith 博士对 K-pop 粉丝文化有深入研究。她表示，这些 AI 深度伪造视频源于一个悠久的粉丝创作传统，其历史远不止于 K-pop 世界。同人小说和同人艺术一直是粉丝文化的重要组成部分，虽然这些创作经常游走在版权的边缘，但通常不会被视为令人毛骨悚然或剥削性的。但随着生成式 AI 工具的兴起，它们能够快速创建逼真的真人图像和视频，硅谷已经为法律和同意的社会规范找到了技术上的变通方法。 “K-pop 粉丝（就像所有流行文化粉丝一样）长期以来一直在积极制作关于他们喜爱偶像的粉丝材料。然而，到目前为止，这些材料作为可能涉及偶像本人的‘可信’产物，”Keith 告诉 404 Media。“这是一个涉及粉丝和 AI 工具的并行问题。由于这两个因素，现在粉丝们更容易制作大量内容，这些内容不尊重偶像的个人完整性，并且可以通过网络传播，损害偶像的声誉（例如，色情化的深度伪造）。” 虽然许多粉丝公开谴责这些令人不安的行为，但另一些人则将矛头指向了 K-pop 行业的商业模式，这种模式鼓励准社会关系型粉丝文化，同时剥削了许多艺人和粉丝。 “这是一个行业多年向粉丝推行准社会关系所带来的可悲副作用，”用户 Serious-Wish4868 在 r/kpopthoughts 的一个关于利用 AI 对偶像进行色情化的帖子（https://www.reddit.com/r/kpopthoughts/comments/1pirsha/the_use_of_ai_to_sexualise_idols_is_something_we/?ref=404media.co）中写道。“当偶像和公司从社交媒体发帖到直播互动，不断推动你在他们所做的一切中实现你的浪漫和性幻想时，你期待会发生什么？” 但一些管理 K-pop 艺人的娱乐经纪公司——以及艺人本身——也表示对这种情况感到不满。像 BTS（https://www.koreaboo.com/news/bts-jungkook-shading-ai-covers-weverse-live/?ref=404media.co）和 Tomorrow X Together（https://www.koreaboo.com/news/hybe-idols-different-group-voice-frustration-ai-usage/?ref=404media.co）等超级流行 K-pop 团体的成员曾公开反对使用生成式 AI 利用艺人形象创建数字模拟体。今年 3 月，由 Blackpink 成员 Jennie 创立的代表她的厂牌 OA Entertainment 在一份新闻稿（https://www.kpopstarz.com/articles/322889/20260311/blackpink-jennies-agency-launches-strong-legal-action-over-malicious-online-posts.htm?ref=404media.co）中警告称，将开始“对任何侵犯艺人名誉、权利、肖像权和其他知识产权的行为采取强有力的法律行动，包括民事诉讼和刑事诉讼。”该声明是针对涉及该艺人的骚扰和跟踪事件作出的回应，并强烈暗示了 AI 生成内容的问题，尽管没有明确提及。 与此同时，许多偶像经纪公司正在拥抱生成式 AI 工具，将其视为在整个行业削减成本的手段。SM Entertainment（https://www.musicbusinessworldwide.com/sm-entertainment-targets-ma-deals-and-ai-tech-integration-as-kpop-giant-outlines-next-3-0-strategy/?ref=404media.co）是韩国最大的厂牌之一，旗下有少女时代和 Super Junior 等主要团体，该公司已将生成式 AI 集成描述为其业务战略的核心部分，并于去年为其女团 Aespa 发布了完全由 AI 生成的音乐视频。去年 12 月，K-pop 世界迎来了一个名为 GLXE（发音为“galaxy”）的完全合成偶像团体（https://www.dazeddigital.com/music/article/70013/1/k-pop-has-a-generative-ai-problem-glxe-suno?ref=404media.co），该团体将 AI 生成的歌曲与怪异的 AI 虚拟形象结合在一起。 “如果他们能赚钱，他们会把整个行业都自动化了，”K-pop 粉丝、Tangle News（https://www.readtangle.com/?ref=404media.co）的副主编 Lindsey Knuth 告诉 404 Media。“对我来说，未成年偶像的色情深度伪造是个问题，而行业对此的（缺乏）回应同样是个问题。” 对粉丝生成的 AI 垃圾内容的文化容忍度因地区和背景而异。目前，韩国在消费 AI 垃圾内容方面排名第一（https://www.koreaherald.com/article/10669855?ref=404media.co），因为该国的科技行业正在推动对该技术的采用和文化接受度。然而，在美国，民意调查一致显示，大多数年轻人对 AI 工具（https://www.theverge.com/ai-artificial-intelligence/920401/gen-z-ai?ref=404media.co）和 AI 生成内容持有极其负面的看法，并且随着工作、学校和各种机构施压或强迫他们使用 AI，他们变得越来越反 AI。 Keith 指出，虽然厂牌和经纪公司一直非常积极地保护艺人和他们的声誉，但他们这样做只是从保护投资的角度出发。另一方面，粉丝通常投入更多的情感，更倾向于将偶像作为活生生的人来捍卫，既针对那些令人毛骨悚然的粉丝，也针对公司本身。 与 AI 和技术在更广泛领域的情况类似，由于缺乏针对该技术众多已充分证实的危害（https://www.theguardian.com/technology/2025/dec/18/2025-ai-boom-huge-co2-emissions-use-water-research-finds?ref=404media.co）（https://www.cnet.com/tech/services-and-software/what-is-ai-slop-everything-to-know-about-the-terrible-content-taking-over-the-internet/?ref=404media.co）（https://www.computer.org/publications/tech-news/trends/cognitive-offloading?ref=404media.co）的技术或法律保障措施，社会谴责已成为 K-pop 世界中阻止虐待行为的少数有效威慑手段之一。 “许多粉丝公开谴责非自愿使用 AI 和深度伪造的行为，这令人欣慰，因为在缺乏针对此类内容的技术护栏的情况下，社会可接受性才是真正重要的，”Keith 说。“所以是的，许多活跃的在线粉丝正在建立一种尊重文化，在这种文化中，偶像的肖像不会被以非自愿的方式使用，这确实令人欣慰。”