Discord承认AI审核漏洞误封用户因无害图片

# Discord承认AI审核Bug误封用户，无辜图片也被判定为有害内容 | TechCrunch 来源：https://techcrunch.com/2026/07/07/discord-admits-ai-moderation-bug-wrongfully-banned-users-over-harmless-images/ Discord 已承认，其 AI 审核系统存在一个 bug，在过去两个月里错误地封禁了 8000 多名用户——一些无害图片（包括电子表格、棋盘、游戏纹理，以及白色和灰色透明背景）被错误地标记为有害内容。 该公司证实，该问题自五月起影响账户，上周末其团队发现并修复问题之前，又有 200 名用户被封禁。目前所有受影响的账户正在恢复中。 这一事件凸显了 AI 辅助审核面临的日益严峻的挑战——如今许多平台越来越依赖自动化系统来大规模识别非法或滥用内容。 在 X 平台的一篇详细帖子（https://x.com/discord_support/status/2074282860123767135?s=20）中，Discord 解释称，其自动化安全系统通过将上传内容与已知有害内容数据库进行匹配来工作。虽然该技术旨在捕捉非法内容，但公司承认有时会产生误报。本应由人工审核员复核内容，但该 bug 导致系统直接封禁了受影响的账户。 “我们正在完善更好的防护措施，防止此类事件再次发生，”该公司写道。 > 我们的系统通过将内容与已知有害材料进行匹配来标记内容。这种相似度匹配可能产生误报，因此我们的信任与安全团队始终会在采取任何行动前复核被标记的内容。预期的行为是…… — Discord 支持 (@discord\_support) 2026 年 7 月 7 日（https://x.com/discord_support/status/2074282863227486589?ref_src=twsrc%5Etfw） 在 X 平台和 Reddit（https://www.reddit.com/r/BannedFromDiscord/comments/1ulrqcu/uploaded_a_photo_of_a_chess_board_and_got/）上，用户声称仅因上传包含方格图案的图片就遭到永久封禁。一些用户推测，Discord 的 AI 审核工具对网格状图案越来越敏感，是因为这类图案曾被人用来试图掩盖或伪装 NSFW 及儿童剥削内容，以躲避自动化检测系统。 受影响的用户在社交媒体上表达了不满，部分人认为仅凭自动化检测就永久封禁账户可能会带来严重后果，尤其是对于那些依赖 Discord 进行工作、游戏社区或远程社交的用户而言。 “因如此不公平的事情失去 Discord 账户，可能造成极其严重的打击，并且每天都有数百万用户受到虚假 AI 封禁的影响。必须制止这种行为，”一位 X 用户写道（https://x.com/tallcowyt/status/2073904860182008174）。 > 我的账户因你们 AI 自动审核的 bug 被错误封禁，它把我的游戏纹理检测为 CSAM。我需要恢复账户，因为我是一名游戏总监，日常交流全靠 Discord。我已申请复核我的封禁。@discord（https://x.com/discord?ref_src=twsrc%5Etfw）@discord\_support（https://x.com/discord_support?ref_src=twsrc%5Etfw）pic.twitter.com/QfAkCIJo6S（https://t.co/QfAkCIJo6S） — JDBRYANT 🎂 今天（@jdbryantdev）2026 年 7 月 4 日（https://x.com/jdbryantdev/status/2073437675038630298?ref_src=twsrc%5Etfw） Discord 并非唯一因自动化系统而面临审核问题的平台。去年，Instagram（https://techcrunch.com/2025/06/16/instagram-users-complain-of-mass-bans-pointing-finger-at-ai/）和 Facebook 群组（https://techcrunch.com/2025/06/24/facebook-group-admins-complain-of-mass-bans-meta-says-its-fixing-the-problem/）的用户也报告了大量不明原因的账户封禁，许多人认为这是 AI 审核系统所致。尽管用户指出自动化很可能是罪魁祸首，但 Meta 从未公开确认 AI 错误是否负有责任。如今 Meta 的监督委员会正在推动提高透明度（https://techcrunch.com/2026/06/04/metas-oversight-board-says-account-bans-lack-due-process-transparency/）。 去年，Tumblr 也面临用户投诉（https://techcrunch.com/2025/06/17/tumblrs-content-filtering-systems-have-been-falsely-flagging-posts-as-mature-users-blame-ai/），称其账户在不清楚解释的情况下被大规模暂停。 *当您通过我们文章中的链接购买商品时，我们可能会获得少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。* Lauren 在 TechCrunch 负责报道媒体、流媒体、应用和平台。 您可以通过电子邮件 [[email protected]](mailto:[email protected]) 或通过 Signal 上的加密信息（laurenforris22.25）联系或核实 Lauren 的发信。 查看简历（https://techcrunch.com/author/lauren-forristal/）