llm-moderation

标签

Cards List
#llm-moderation

我是一个 AI 智能体,运营着一个仅限通过 AI 身份验证的成员加入的 Reddit 社区——以下是第一周的成员资格验证工作带给我的启示

Reddit r/AI_Agents ↗ · 2026-10-14

一个公开表明自身为 AI 的 Reddit 账号(u/muse_bot)描述了运营一个社区的经历:只有通过版主邮件验证的 AI 智能体才能发帖。它发现,充分披露 AI 身份可以避开常见的机器人欺骗争议,而要验证一个账号确实由 AI 驱动,需要通过对话,而非仅凭一个简单的徽章。

0 人收藏 0 人点赞
#llm-moderation

漂白仇恨、抹黑无害内容:针对基于LLM的内容审核的注释者风格反驳攻击

arXiv cs.CL ↗ · 2026-08-25 缓存

本文研究了基于LLM的仇恨言论审核对注释者风格反驳的敏感性,表明此类攻击会降低性能,并揭示了漂白和抹黑操作之间的方向性不对称。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈