发现Facebook上存在利用残障人士AI视频推销劣质商品的情况
摘要
作者描述了在Facebook上发现AI生成的视频,这些视频冒充残障人士以推销低质量商品,强调了伦理问题以及对真实残障人士企业的影响。
我今天在Facebook上刷到一个视频,画面里是一个唐氏综合征女孩在开车哭泣,屏幕上打出一句恶意的评论,声称有人告诉她永远卖不掉自己的树脂工艺品。我首先注意到的是,这女孩的声音听起来根本不像唐氏综合征患者。其次,她独自开车——对于这种残障程度来说,通常也是相当惊人的。视频展示了她在做树脂工艺品的截图,起初我以为这是真实视频,但滚动看完之后,紧接着又出现一个一模一样的脚本,一字不差,只是这次视频里的人看起来没有唐氏综合征,说着一模一样的话,只是换了个产品,公司名字也不同,但脚本完全相同。
然后我又看到一连串视频,都是一个唐氏综合征女孩在讲,大多数人会划过去不关注她,而她在处理食物,她频道里所有的视频都是同样的套路。里面还有一个电话号码,可以打电话订购她的食物。
想到这些人类垃圾竟然利用AI模仿残障人士来推销他们的狗屁产品,我感到恶心。这种行为也抹黑了那些真正有残障、可能正努力在网上做真实生意的人。
可悲的是,这些视频下竟有那么多支持性评论。我甚至也留了一条支持评论,但当我意识到这视频是假的之后立刻删除了。这实在太令人作呕了。我不知道该怎么办,但我想把这件事放在这里,因为我觉得是时候公开了,必须制止这种行为。带着残障生活已经够难了,更糟的是还有人利用残障来推销代发货的垃圾商品,这让我们这样的人更难生存。
相似文章
AI骗子制造虚假黑人形象推销Shein劣质商品
The Verge报道称,AI生成的虚假黑人网红被用于在TikTok上通过代发模式推销Shein产品,揭示了AI在电商中的欺骗性使用。
品牌使用AI生成的网红在社交媒体上推广产品 | AI(人工智能) | The Guardian
The Guardian的一项调查显示,品牌越来越多地在社交媒体上使用AI生成的网红推广产品,但未披露其为人工智能生成,这引发了对提高透明度和加强监管的呼声。
完全由AI生成的“创作者”凌晨2点走出地铁——人们何时再也无法分辨?
作者使用omnigems.ai创建了一个完全由AI生成的某人走出地铁的片段,并质疑未公开的AI生成UGC用于广告是否合乎道德。
数据中心抗议活动中有多少是真正的AI垃圾内容?(赠阅链接)
本文探讨了人工智能生成的虚假信息(slop)如何渗透到针对AI数据中心的草根抗议活动中,虚假表情包和不准确的搜索摘要助长了不信任和困惑。
AI生成视频:好到不真实
一段AI生成的音乐视频在布料运动、手指互动和物理效果等细节上展现出前所未有的真实感,让人不禁好奇其使用了什么技术。