AI生成的社交媒体内容已经进化到让你无法自信地说这是AI生成的了。

Reddit r/artificial 新闻

摘要

AI生成的社交媒体网红已经变得如此逼真,检测必须从分析图像转向分析行为模式,比如不对称的关注比率和单调的内容。

我一直在观察各大平台上的AI生成博主账号。现在的图片质量已经足够好,以至于大多数人仅凭照片无法确定真假。真正管用的方法是找出这些账号普遍存在的模式。有三个持续出现的模式: **不对称的社交连接**:人类社交媒体用户的关注与被关注比例相对平衡,除非是知名人物,且人们会关注自己感兴趣的人。而AI运营的账号则显示出极端的比例不对称:125K粉丝却仅关注7人,51K粉丝仅关注8人。这种模式在数十个账号中出现。真实用户即使变得受欢迎,也不会这样——他们仍然会关注朋友、家人、兴趣或偶像。 **内置变现机制**:账号在创建时就已植入变现功能。专属链接、付费聊天、成人内容重定向——所有这些都在账号增长之前就已经准备好。看起来就像有人为了赚钱而设置这个账号,而不是一个分享生活的真人。 **内容缺乏行为变化**:我发现最明显的信号是,人类创作者偶尔会打破模式——发布一些离题、个人或随性的内容。而AI运营的账号几乎零变化,每张图片/视频都是相同类型的内容。有些账号甚至从不更换背景音乐。我见过一个Threads账号,发布了数百条内容,全都是100%的互动诱导问题,就像在推销东西一样,从未脱离过这个套路。没有个人动态,没有对评论的回应,没有对现实事件的反应,没有真实的时刻——只是一场在新地点发布新照片的纯粹循环。 检测需要从分析图像转向分析行为模式。不要仅凭一张照片或视频来判断是AI还是人类。现在我们只需要打开个人资料,查看该账号的其他内容。如今那些仅扫描照片的检测工具已经无法抓住这些账号了。如果有人发现其他行为上的警示信号,请分享你的想法。
查看原文

相似文章

AI内容在社交媒体上无处不在,尤其是LinkedIn

Hacker News Top

Pangram Labs的一项研究显示,社交媒体上每四篇长帖中就有一篇是AI生成的,其中LinkedIn是最饱和的平台。该报告强调了各平台上大量存在的AI内容,尤其在专业领域。