发现Facebook上存在利用残障人士AI视频推销劣质商品的情况
摘要
作者描述了在Facebook上发现AI生成的视频,这些视频冒充残障人士以推销低质量商品,强调了伦理问题以及对真实残障人士企业的影响。
我今天在Facebook上刷到一个视频,画面里是一个唐氏综合征女孩在开车哭泣,屏幕上打出一句恶意的评论,声称有人告诉她永远卖不掉自己的树脂工艺品。我首先注意到的是,这女孩的声音听起来根本不像唐氏综合征患者。其次,她独自开车——对于这种残障程度来说,通常也是相当惊人的。视频展示了她在做树脂工艺品的截图,起初我以为这是真实视频,但滚动看完之后,紧接着又出现一个一模一样的脚本,一字不差,只是这次视频里的人看起来没有唐氏综合征,说着一模一样的话,只是换了个产品,公司名字也不同,但脚本完全相同。
然后我又看到一连串视频,都是一个唐氏综合征女孩在讲,大多数人会划过去不关注她,而她在处理食物,她频道里所有的视频都是同样的套路。里面还有一个电话号码,可以打电话订购她的食物。
想到这些人类垃圾竟然利用AI模仿残障人士来推销他们的狗屁产品,我感到恶心。这种行为也抹黑了那些真正有残障、可能正努力在网上做真实生意的人。
可悲的是,这些视频下竟有那么多支持性评论。我甚至也留了一条支持评论,但当我意识到这视频是假的之后立刻删除了。这实在太令人作呕了。我不知道该怎么办,但我想把这件事放在这里,因为我觉得是时候公开了,必须制止这种行为。带着残障生活已经够难了,更糟的是还有人利用残障来推销代发货的垃圾商品,这让我们这样的人更难生存。
相似文章
AI骗子制造虚假黑人形象推销Shein劣质商品
The Verge报道称,AI生成的虚假黑人网红被用于在TikTok上通过代发模式推销Shein产品,揭示了AI在电商中的欺骗性使用。
品牌使用AI生成的网红在社交媒体上推广产品 | AI(人工智能) | The Guardian
The Guardian的一项调查显示,品牌越来越多地在社交媒体上使用AI生成的网红推广产品,但未披露其为人工智能生成,这引发了对提高透明度和加强监管的呼声。
社交媒体的未来:基于用户数据的即时AI生成个性化内容
探讨了未经用户同意的情况下,AI生成的个性化内容充斥社交媒体动态的可能性,引发了对操控和注意力经济的担忧。
致AI垃圾搬运工
一篇评论或批评文章,针对低质量的AI生成内容被大量制作和传播的问题。
完全由AI生成的“创作者”凌晨2点走出地铁——人们何时再也无法分辨?
作者使用omnigems.ai创建了一个完全由AI生成的某人走出地铁的片段,并质疑未公开的AI生成UGC用于广告是否合乎道德。