AI生成的社交媒体内容已经进化到让你无法自信地说这是AI生成的了。
摘要
AI生成的社交媒体网红已经变得如此逼真,检测必须从分析图像转向分析行为模式,比如不对称的关注比率和单调的内容。
我一直在观察各大平台上的AI生成博主账号。现在的图片质量已经足够好,以至于大多数人仅凭照片无法确定真假。真正管用的方法是找出这些账号普遍存在的模式。有三个持续出现的模式:
**不对称的社交连接**:人类社交媒体用户的关注与被关注比例相对平衡,除非是知名人物,且人们会关注自己感兴趣的人。而AI运营的账号则显示出极端的比例不对称:125K粉丝却仅关注7人,51K粉丝仅关注8人。这种模式在数十个账号中出现。真实用户即使变得受欢迎,也不会这样——他们仍然会关注朋友、家人、兴趣或偶像。
**内置变现机制**:账号在创建时就已植入变现功能。专属链接、付费聊天、成人内容重定向——所有这些都在账号增长之前就已经准备好。看起来就像有人为了赚钱而设置这个账号,而不是一个分享生活的真人。
**内容缺乏行为变化**:我发现最明显的信号是,人类创作者偶尔会打破模式——发布一些离题、个人或随性的内容。而AI运营的账号几乎零变化,每张图片/视频都是相同类型的内容。有些账号甚至从不更换背景音乐。我见过一个Threads账号,发布了数百条内容,全都是100%的互动诱导问题,就像在推销东西一样,从未脱离过这个套路。没有个人动态,没有对评论的回应,没有对现实事件的反应,没有真实的时刻——只是一场在新地点发布新照片的纯粹循环。
检测需要从分析图像转向分析行为模式。不要仅凭一张照片或视频来判断是AI还是人类。现在我们只需要打开个人资料,查看该账号的其他内容。如今那些仅扫描照片的检测工具已经无法抓住这些账号了。如果有人发现其他行为上的警示信号,请分享你的想法。
相似文章
Facebook动态中AI内容已占多数
一位用户反映,Facebook动态已从好友内容转向创作者内容,而近几周内多数帖子为AI生成,常常与最新一代模型制作的真实图片和视频难以区分。
AI 已变得难以分辨
一位用户指出,最近的 AI 生成视频几乎已经与真实影像难以区分,并以愚弄了大多数评论者的 AI 角色“JEANPHIL”为例,发问:随着 AI 写实度不断提升,社会今后该如何验证内容的真实性?
完全由AI生成的图片获得900多条评论,版主却屏蔽了AI指控。平台积极帮助掩盖内容是AI的事实
文章讨论了发布在社交媒体上的AI生成图片如何欺骗用户和版主,强调平台未能标记或标示AI内容,并积极掩盖其来源。
我讨厌我们被训练成默认假设事物是AI的现状
这篇文章表达了人们因AI普及而越来越怀疑所有内容都是AI生成的挫败感,导致持续的警惕和难以分辨真实与合成媒体。
我认为人们低估了AI生成内容融入网络的速度
作者认为,AI生成的内容越来越难以与人类撰写的内容区分开来,并预测很快大多数网络内容都将涉及AI,用户不会对此多加考虑。