AI骗子制造虚假黑人形象推销Shein劣质商品

# AI 骗子正在制造假的黑人来销售希音（Shein）的廉价货 来源：https://www.theverge.com/ai-artificial-intelligence/938844/ai-tiktok-shop-blackface-shein-dropshipping 阿里亚（Aliyah），一位浅肤色的黑人女性，穿着西部乡村风格的服装，正努力在TikTok上推销她手工制作的金属皮带扣。在三月发布的一段平台视频（https://www.tiktok.com/@aliyahsbuckles.store/video/7614301114329992478?q=belt%20buckle&t=1777935944306）中，她对着镜头哭泣，恳求观看量。屏幕上的文字写道：“即使身为黑人女性，我也更相信白人女性会在这段视频上停留13秒，以挽救我的皮带扣生意。”她擦去脸颊上的一滴泪水。 但阿里亚并非真人，她所谓的手工制品（https://aliyahsbuckles.store/products/belt-blades）也不是真的——她只是众多AI生成的网红之一，用于通过TikTok、Facebook和Instagram上的代发货模式销售批量生产的产品。相同设计的皮带扣——向日葵图案、可拆卸刀片镶嵌，一应俱全——在快时尚网站希音（Shein）（https://go.skimresources.com/?id=1025X1701640&xs=1&url=https%3A%2F%2Fus.shein.com%2Fgoods-p-332186335.html%3Fgoods_id%3D332186335%26test%3D5051%26url_from%3Dadhub72957517%26scene%3D1%26pf%3Dgoogle%26ad_type%3DDPA%26language%3Den%26siteuid%3Dus%26version_bid%3D102311026%2C102310816%2C102353676%2C102310681%2C102310801%26version_eid%3D100902896%26landing_page_id%3D1510%26ad_test_id%3D49775%26requestId%3Dolw-5q0rzpa8ys3i%26cid%3D22676603674%26popup_login%3Dfalse%26gad_source%3D1%26network%3Dg%26gad_campaignid%3D22676603674%26adid%3D758069797857%26tv_b%3D2%26activity_id%3D5051%26currency%3DUSD%26lang%3Dus%26skucode%3DI8mje02lqb2iig%26product_set_id%3D3255%26onelink%3D0%2Fgooglefeed_us%26gclid%3DCj0KCQjwlLDQBhDjARIsAPlIefH0PS75hJyMJvIZ35igt7negLOfGfTkQM1raFu09BtlVR3zvpv4DAsaAihLEALw_wcB%26ismg%3Dae9bdce2a55093ce9d0cb1885bf2d14883b842889de1efe58c498f4e4078060e_01_1779099102%26geoid%3D9067609%26gbraid%3D0AAAAADm0yO7HU6pidjKY_ROweYrY-Ba1e%26setid%3D183974557594%26kwd%3Dpla-2436563939931）上销售，价格仅为其四分之一。 TikTok上的aliyahsbuckles（左），以及TikTok上的Amaya's buckles（右） 有一些线索可以帮助识别这段视频是AI生成的。阿里亚的声音机械且缺乏感情，与屏幕上哭泣的面孔不符。在一个片段中，她在皮带上缝线，而通常皮带上根本不需要缝线。当她擦去脸上的泪水时，擦拭位置下方的泪痕也随之消失。最后，TikTok上还流传着数十个非常相似的视频，只是使用了不同的AI生成角色。其中一个名为“Aliyahsbuckles”的账户简介，有着相同的背景、桌面和线轴。 《The Verge》在TikTok上发现了数十个（https://www.tiktok.com/@aliyahsbuckles.store/video/7614641001981889822）类似的（https://www.tiktok.com/@harpersbuckles?lang=en）账户（https://www.tiktok.com/@amayas.buckles?lang=en），（https://www.tiktok.com/@iron.spur.leather?lang=en）拥有（https://www.tiktok.com/@legacy.buckles3?lang=en）叙事（https://www.tiktok.com/@craftedbyjuliet?lang=en）和（https://www.tiktok.com/@kayas.bladebuckle?lang=en）各种（https://www.tiktok.com/@bucklesandblades）代发货产品，包括皮带扣、牛仔靴造型的杯子、钩针包和开衫。其中一些视频被标注为AI生成。类似账户在Instagram和Facebook上也十分活跃。这些账户几乎方方面面都像是AI生成的——从视频中的“人物”到对评论的自动回复（有些回复试图模仿非裔美国人的方言）——专家警告称，此类骗局正在日益增多。 “规模非常大，”AI生成媒体研究员、专注于AI视频检测的机构Riddance.ai（http://riddance.ai/）的负责人杰里米·卡拉斯科（Jeremy Carrasco）对《The Verge》表示，他指的是与电商店铺相关的AI生成视频。“大多数并非相互协调。有些是协调的。很多时候，他们会使用同一个（AI生成的）演员，或者几个演员来运营各种店铺，”他解释道。这些AI生成的虚拟形象假装制作商品、参加集市展示产品，并通过自动化方式“回复”评论。“我们现在看到的是这些零售骗局，它们会链接到Shopify网站。” 卡拉斯科估计，他的研究团队每天会找到多达100个试图通过AI生成虚拟形象销售产品的账户。《The Verge》发现的大多数账户都是在过去两个月内创建的，内容涉及边缘化群体拥有的、难以卖出商品的小企业；这些视频极其相似，只在脚本上有细微变化。虽然我们也发现了美洲原住民、西班牙裔和白人女性角色，但《The Verge》发现的最受关注、互动最多的AI生成角色是黑人女性。仅阿里亚的账户就有4万名粉丝。 **1/4** TikTok上Amaya's buckles的截图 “我们在这里看到的是‘同情诱饵’，”卡拉斯科说。“如果有一件流行的代发货商品可以卖给某个小众社区，他们就会找到它，并试图用某种个性来推销。”卡拉斯科解释说，这些趋势通常只是随机的赚钱机会。“这只是一个随机的机会——就像很多AI内容一样——平台并不真正在乎，人们也没有注意到。” 阿里亚最受欢迎的视频（https://www.tiktok.com/@aliyahsbuckles.store/video/7614301114329992478?q=belt%20buckle&t=1777935944306），即本文开头描述的那段，获得了81.4万个赞、650万次观看和近3万条评论。一些评论指出内容是AI生成的，但许多评论表达了帮助阿里亚生意的愿望，通过评论来提高她在平台上的可见度。 印度·卡特-坎贝尔（India Cater-Campbell）是那些评论者之一，她表达了购买阿里亚皮带扣的意愿。“我当时试图支持一位独立的黑人女商人，”卡特-坎贝尔说道，她本人就是一位黑人企业主，正在西雅图筹备开设一家咖啡馆。“（我感受到）一种团结感，因为我自己也在创业。” 尽管缺乏关于最新生成式AI视频模型的研究，卡拉斯科估计这些视频“足够逼真，可以欺骗”大多数人。短视频内容平台的用户已经被训练成无意识地滑动屏幕，而不去进一步探究他们所消费的内容。讽刺的是，这或许正阻止了卡特-坎贝尔实际购买皮带扣：她无法立即找到商店链接，于是划走了，很快就忘记了阿里亚。 “我当时试图支持一位独立的黑人女商人。” 但人们确实上当受骗，并且这些骗局日益突出：两周前，《波托马克的真正家庭主妇》的吉泽尔·布莱恩特（Gizelle Bryant）承认自己购买了两种钩针包，因为她看到一个视频中，一个AI生成的黑人男孩说他在钩针编织时被白人男孩欺负。“我当时想，我想帮这个黑人小男孩实现他的目标，”布莱恩特在她的播客*Reasonably Shady*（https://www.youtube.com/watch?v=noUoY0Izazc）上说道，并补充说其他名人也出现在评论区。“我怎么就被骗了？维奥拉·戴维斯（Viola Davis）也在那里。” 根据宾夕法尼亚大学的传播学研究员西安纳·戴维斯（Cienna Davis）的说法，这种趋势是一种数字黑脸（digital blackface）。戴维斯在视频通话中解释说：“数字黑脸是一种现象，非黑人个体能够利用互联网和数字技术模仿黑人的文化表达，以获取个人、经济或政治利益。”戴维斯此前曾撰文讨论数字黑脸，指出使用黑人的GIF图片以及为了政治目的冒充黑人的行为（https://academic.oup.com/ccc/advance-article/doi/10.1093/ccc/tcag009/8514204）。“它根植于黑脸滑稽戏，这与奴隶制的遗产密切相关，”她解释说。 戴维斯表示，基于“黑人性天生可被利用”和“唾手可得”的观念，数字黑脸被用来“以非黑人认为合适的任何方式从黑人身体中提取价值”。她补充说，在这种情况下，这些视频模仿的是“一种可识别的黑人困境形象”。 即使没有确认视频背后的人不是黑人，菲斯克大学哲学助理教授坦佩斯特·M·亨宁（Tempest M. Henning）也确认这些视频属于数字黑脸。“黑脸是对黑人的任何漫画式描绘，包括黑人以漫画式方式装扮成黑人，”亨宁说。她引用了历史先例——黑人偶尔被迫在杂耍表演中演出（https://www.whobuiltamerica.org/item/black-performers-in-blackface），以及更近期的例子——佐伊·索尔达娜（Zoe Saldaña）在传记片中扮演妮娜·西蒙（Nina Simone）时加深肤色并佩戴义体（https://www.theguardian.com/film/2016/mar/17/nina-simone-blackface-criticism-zoe-saldana-biopic-slavery）。 这些虚拟形象所声称的黑人性存在固有的虚假性。正如亨宁解释的那样：“虚拟形象的名字被编码为黑人名字，比如阿里亚或阿玛雅，但除了虚拟形象本身之外，没有任何其他（表明真实黑人性）的东西。”内容在不同种族身份间被复制，这只会强化这种虚假性，亨宁说，这导致了这些身份的扁平化。 《The Verge》联系了Aliyahsbuckles以及销售类似产品的其他店铺，但未收到回复。 阿里亚账户上发布的视频，在许多销售代发货商品的类似账户中被逐幕复制，仅根据角色身份或销售商品稍作修改。在一个以另一位黑人女性角色阿玛雅（Amaya）为特色的视频中，一名白人女性嘲讽地将咖啡泼在展会上展示的皮带扣上。略显沮丧的阿玛雅（情绪有些机械，看起来总是不太对劲）叹了口气，继续埋头诚实地制作她的皮带扣。在另一个名为ChubbyKnots（https://www.tiktok.com/@chubbyknots/video/7640596804706356510）的账户中出现了类似的场景；这次虚拟形象是一个黑人女孩，产品是一件钩针编织的蝴蝶开衫。 亨宁说，这些视频中存在着对道德炫耀（virtue signaling）的诉求，观众被召唤去展示善意，甚至种族或阶级团结。“这是一种道德炫耀，意思是‘哦，那个白人女士做了那种事，但我不是那种白人女士，所以我在哪里买这个皮带扣？’”亨宁说。“就像他们在说，‘我不和那些人站在一起。’” 然而，亨宁指出，当用户没有停下来首先研究他们支持的对象是谁时，这种基于种族或阶级的支持就显得肤浅。 这或许是短视频内容和“垃圾信息”消费带来的更大社会后果：她解释说，团结往往在“表面层面”上演，而不是通过连贯且多面的政治视角来进行。“我可能非常支持黑人拥有的企业，但这并不意味着所有黑人企业都与我的政治观点和我所支持的东西一致，”亨宁说。 这种对道德炫耀的诉求超越了种族范畴，还利用了工人阶级的标记，以及在经济衰退中人们努力工作维持生计的模拟。“（这不仅仅是）黑人的困境，因为其他视频中我们可以观察到工人阶级的困境、小企业的困境，”戴维斯说。“但很明显，这是利用那种（叙事）来销售大规模生产的商品。这毫无创意。这实际上只是AI生成的模板和角色的创建，这些角色被优化以让消费者认同并投资于产品。它超越了‘白人内疚’，因为它可以以任何感觉必要或适用于产品的方式来使用。” 尽管种族身份被扁平化，或者也许正因如此，算法——这些算法已被证明会延续其构建者有意和无意的种族偏见（https://www.ohchr.org/en/stories/2024/07/racism-and-ai-bias-past-leads-bias-future）——正在投递符合它们推断出的每个用户兴趣的AI生成内容，卡拉斯科说。这些兴趣可能包括AI角色能够模仿的特定人群的内容。“它针对（算法）能够看到的人口群体，”他说。“通常，黑人女性会在其信息流中看到AI生成的黑人，亚洲人会看到AI生成的亚洲人。” 仔细审视这些内容，很容易发现不一致之处和AI的痕迹。我们从未看到角色在屏幕上出现超过几秒钟，因为Seedance 2.0、Midjourney以及OpenAI最近停用的Sora 2等AI应用无法创建超过15秒的片段。当产品展示时，光线更亮而不是暖色调，拿着皮带扣的手是白色的。角色脸上的情绪与其声音的音调并不完全匹配。 但这种识别需要AI媒体素养，而这种素养尚未普及，尤其是在这些视频的创作规模如此之大、技术正朝着更快的自动化和更逼真的虚拟形象发展的情况下。“没有接受过媒体素养或批判性媒体素养培训的人，只会不加质疑地接受这些内容，”戴维斯说。 Amayasbuckles以40美元出售玫瑰刀片皮带扣的截图（https://platform.theverge.com/wp-content/uploads/sites/2/2026/05/Screenshot-2026-05-28-at-11.41.32AM.png?quality=90&strip=all） 希音以9.08美元出售玫瑰刀片皮带扣的截图（https://platform.theverge.com/wp-content/uploads/sites/2/2026/05/Screenshot-2026-05-28-at-11.42.00AM.png?quality=90&strip=all） **1/2** Amayasbuckles以40美元出售玫瑰刀片皮带扣的截图 短视频平台本身的结构——这些平台是错误信息的主要渠道（https://dl.acm.org/doi/10.1145/3772318.3790560）——鼓励用户缺乏辨别力，因为他们已经被训练成想要滑动到下一个视频，而不是思考他们在看什么。“（这些平台）正在被AI内容利用，部分原因是要识别出某样东西是AI，通常需要一两秒钟，”卡拉斯科说。“但到那时，你已经产生了某种互动。” 从这类视频中获利的人知道这一点，而创建可扩展的AI生成短视频广告的工具在网上随处可见。在报道这个故事的过程中，《The Verge》发现了YouTube频道（https://www.youtube.com/watch?v=8fgOqTSWpMg）和论坛（https://www.blackhatworld.com/seo/method-detailed-guide-to-create-your-fleet-of-tiktok-accounts-pushing-ai-generated-content.1705725/?x=-）提供教程，教授如何无需产品样品、网红费用或原创脚本来创建此类广告。 这些教程教用户如何使用多种AI工具复制病毒视频，并用AI生成的角色替换真实网红。ChatGPT和Gemini被用来从真实网红的真实视频中提取和复制脚本，并可以选择创建同一脚本的多个变体。这些工具还被用来根据真实网红和真实背景生成虚假人物和虚假背景的照片，然后导入到Kling 2.0和Maxfusion等应用程序中。使用某些AI视频生成模型，真实网红的视频可以完全导入应用程序，用户可以用自己创建的AI角色替换真人，从而窃取原始视频的脚本和背景。 虽然媒体素养可能有助于个人……