标签
LinkedIn 正在添加一个按钮,让用户举报平台上的 AI 生成的“垃圾内容”,这是遏制低质量 AI 内容的更广泛努力的一部分。
Goose是一款标榜以友谊为主的同性恋交友应用,但因审核问题和有色人种用户的排斥感而受到批评,同时仍被用于约炮。
Paul Graham 解释他屏蔽了一位用户,因为其回复是AI生成的,并表示他经常屏蔽AI生成的垃圾回复。
推特用户 @nikitabier 评论在独立日取消变现那些假装成美国人以制造分裂的账户。
本文定义了多图像隐性毒性(MIIT),即单独无害的图像组合后产生毒性,并提出了MiShield,一个通过渐进式蒸馏推理监督训练的模型来检测MIIT。实验表明,MiShield-8B优于现有的审核服务。
Reddit 正在推出一项功能,当用户频繁在 AI 相关的子版块发帖时,会向版主发出警报,旨在帮助管理政策执行和潜在垃圾信息。
一篇博客文章揭示了Reddit反垃圾系统的内部细节(因一个漏洞而暴露),详细介绍了Reddit的全站垃圾过滤器和审核系统的工作原理。
本文介绍了LeanGuard,一种基于轻量级双向编码器的安全护栏,在匹配更大规模推理式护栏精度的同时,速度提升约100倍,挑战了“链式推理对于有效审核必不可少”的假设。
SingGuard是一种策略自适应多模态LLM护栏模型,用于文本、图像和多语言安全审核,具备动态推理能力,并包含新基准SingGuard-Bench。它在多个数据集上取得了最先进的结果。
一位用户表达不满,称其在Google Sheets子版块发布的关于AI增强的Google Sheets的帖子被删除,并质疑社区对AI工具的反对态度。
本文研究了Bluesky上的仇恨言论级联,并使用多LLM代理进行模拟,发现此类模拟再现了立场单一文化和毒性增量方向等关键模式,且在密集网络上进行放大器定位可使仇恨内容减少7.5%–12.9%,且良性副作用较低。
据报道,一个未具名的AI聊天机器人(类似于Gemini)未经审核就生成敏感内容,比如勒索软件代码,这凸显了尽管审核改进广泛,但AI安全问题仍然存在。
一份报告揭露,非法毒品网站利用虚假播客操纵Spotify的搜索排名,而Spotify在公众曝光和政治压力下才删除了数万个节目。