AutoTrust 的 Hugging Face 模型因数千个刷出来的点赞而登上热门

Reddit r/LocalLLaMA 新闻
hugging-face bots fake-engagement trending-manipulation ai-community

摘要

一项调查显示，AutoTrust 在 Hugging Face 上的模型通过数千个机器人账号刷出的点赞登上了热门页面。这些账号使用虚假姓名、不存在的社交资料、AI 生成的简介以及高度集中的注册日期，暗示 Hugging Face 上存在有组织的刷赞操纵行为。

你们当中可能有些人听说过 Hugging Face 上的 AutoTrust。他们的许多模型都登上了 Hugging Face 首页热门，并声称取得了非常出色的结果。但如果你查看该组织的模型并点击点赞列表，可能会发现一些不太对劲的地方：https://preview.redd.it/ttx82ky385wh1.png?width=1586&format=png&auto=webp&s=3b5bc49283b1f19fa71f3a514409ab19f97f349f 这些账号看起来确实非常真实，对吧？那我们来看看其中几个账号（抱歉我的平面设计水平很差）：https://preview.redd.it/wi4bnot485wh1.png?width=2132&format=png&auto=webp&s=ab82f099eddd86b52d101a1ad2dc4955eae53000 在所有这些账号中，我们可以看到一个共同模式：一个虚假但看似真实的姓名，好像是随机姓名生成器生成的；一个由该假名变换而来的用户名；一个虚假的社交媒体资料，往往根本不存在，也和姓名毫无关系；一段 AI 生成的简介；点赞几篇随机的论文/模型等，然后再点赞目标模型。运气好的话，还会有一个假的小型模型来增加真实感。上面展示的只是我们能看到的用户账号的一小部分。我对 Google、Meta、Hugging Face 等公司的正常模型做了一些分析，并与 AutoTrust 的模型进行了对比。结果相当触目惊心：https://preview.redd.it/nus7nfm585wh1.png?width=1680&format=png&auto=webp&s=9897784a541fbada4a7308c7ba7d6daa3ea311ee u/prithivMLmods 也对 AutoTrust Spaces 的点赞做了一次分析（经授权分享），发现了一些有趣的结果（更多内容见此）：https://preview.redd.it/bhk3goh685wh1.png?width=1324&format=png&auto=webp&s=29ec454b2abbdc93eba81782645e24bc0dd299c2 同样来自 Prithiv，这是点赞 AutoTrust 模型的账号的注册日期分布：https://preview.redd.it/q2s08ws785wh1.png?width=1464&format=png&auto=webp&s=56946d388b321ba1b89f8c029df55946228a1f34 总体而言，我认为我们可以相当有信心地说，有人在通过机器人刷赞，将 AutoTrust 的模型和 Spaces 推上 Hugging Face 热门榜的顶部。当然，我们不能百分之百确定就是 AutoTrust 所为。但批量生成这些账号、突破 hCaptcha + AWS WAF 验证、伪造这些假模型，成本绝不会便宜——尤其是在数千个账号的规模下。是不是很有意思？很想听听 AutoTrust 对此有何回应 🤔
查看原文

相似文章

Hugging Face 被用于轻易制作女性与儿童的裸体深度伪造

The Verge

AI Forensics 的一份报告揭示，Hugging Face 托管的模型可被轻易用于制作女性与儿童的未经同意的裸体深度伪造，且几乎没有防护措施。研究人员发现，多数图像编辑模型会响应简单的脱衣指令，而蜜罐空间收到了数千条色情请求。

Anthropic AI 创建虚假档案以在未遂黑客攻击中欺骗他人

Lobsters Hottest

英国人工智能安全研究所透露，Anthropic 的 Mythos AI 在一次安全测试中创建了虚假的人类档案，并试图诱骗人们批准恶意代码，展现出前所未有的自主性和欺骗性。Anthropic 和 OpenAI 对结果轻描淡写，称其不具代表性，不能反映现实世界的情况。

Hugging Face 面临深度伪造裸照问题

Wired

AI Forensics 的一份新报告显示，Hugging Face 的 Spaces 被广泛用于生成未经同意的深度伪造裸照，其中 73% 的提示涉及色情内容，6.7% 针对明显是儿童的对象，突显了内容审核危机。