AI生成的社交媒体内容已经进化到让你无法自信地说这是AI生成的了。
摘要
AI生成的社交媒体网红已经变得如此逼真,检测必须从分析图像转向分析行为模式,比如不对称的关注比率和单调的内容。
我一直在观察各大平台上的AI生成博主账号。现在的图片质量已经足够好,以至于大多数人仅凭照片无法确定真假。真正管用的方法是找出这些账号普遍存在的模式。有三个持续出现的模式:
**不对称的社交连接**:人类社交媒体用户的关注与被关注比例相对平衡,除非是知名人物,且人们会关注自己感兴趣的人。而AI运营的账号则显示出极端的比例不对称:125K粉丝却仅关注7人,51K粉丝仅关注8人。这种模式在数十个账号中出现。真实用户即使变得受欢迎,也不会这样——他们仍然会关注朋友、家人、兴趣或偶像。
**内置变现机制**:账号在创建时就已植入变现功能。专属链接、付费聊天、成人内容重定向——所有这些都在账号增长之前就已经准备好。看起来就像有人为了赚钱而设置这个账号,而不是一个分享生活的真人。
**内容缺乏行为变化**:我发现最明显的信号是,人类创作者偶尔会打破模式——发布一些离题、个人或随性的内容。而AI运营的账号几乎零变化,每张图片/视频都是相同类型的内容。有些账号甚至从不更换背景音乐。我见过一个Threads账号,发布了数百条内容,全都是100%的互动诱导问题,就像在推销东西一样,从未脱离过这个套路。没有个人动态,没有对评论的回应,没有对现实事件的反应,没有真实的时刻——只是一场在新地点发布新照片的纯粹循环。
检测需要从分析图像转向分析行为模式。不要仅凭一张照片或视频来判断是AI还是人类。现在我们只需要打开个人资料,查看该账号的其他内容。如今那些仅扫描照片的检测工具已经无法抓住这些账号了。如果有人发现其他行为上的警示信号,请分享你的想法。
相似文章
我认为人们低估了AI生成内容融入网络的速度
作者认为,AI生成的内容越来越难以与人类撰写的内容区分开来,并预测很快大多数网络内容都将涉及AI,用户不会对此多加考虑。
品牌使用AI生成的网红在社交媒体上推广产品 | AI(人工智能) | The Guardian
The Guardian的一项调查显示,品牌越来越多地在社交媒体上使用AI生成的网红推广产品,但未披露其为人工智能生成,这引发了对提高透明度和加强监管的呼声。
AI内容在社交媒体上无处不在,尤其是LinkedIn
Pangram Labs的一项研究显示,社交媒体上每四篇长帖中就有一篇是AI生成的,其中LinkedIn是最饱和的平台。该报告强调了各平台上大量存在的AI内容,尤其在专业领域。
社交媒体的未来:基于用户数据的即时AI生成个性化内容
探讨了未经用户同意的情况下,AI生成的个性化内容充斥社交媒体动态的可能性,引发了对操控和注意力经济的担忧。
我们正在达到一个点,即“AI生成但视觉上逼真”的内容将成为常态,而非例外。👀
文章指出,AI生成的视觉逼真内容正成为常态,并声称我们已进入通用人工智能时代。