AI在现实世界中的部署

Reddit r/ArtificialInteligence 新闻
ai-deployment content-moderation reddit hate-speech-detection real-time-analysis llm

摘要

Reddit已部署AI/LLM实时分析所有帖子和评论中的仇恨言论与有害内容，能在几秒内自动封禁用户，这与Instagram和Facebook形成对比，后两者并未如此严格地应用此类分析。

Reddit已大规模部署AI/LLM来分析帖子和评论。这一过程实时进行，相比旧的仇恨言论/有害内容分类器性能显著提升。你写的每条评论在被展示到帖子之前都会经过分析，甚至可能在发布后几秒内就导致被Reddit自动封禁。然而，Instagram和Facebook的情况并非如此，那里仍存在大量仇恨言论和暴力呼吁。为什么Instagram和Facebook不像Reddit那样使用AI来分析每条帖子和评论中的仇恨言论与煽动暴力内容呢？
查看原文

相似文章

AI 取消文化

Reddit r/artificial

一位 Reddit 用户因指控一个 AI 生成的账户为虚假账户而被永久封禁，这凸显了自动审核压制异议的担忧。