你们是如何大规模处理 AI 图像/视频内容审核的？

Reddit r/artificial 新闻
content-moderation image-classification video-moderation ai-safety open-source commercial-api scalability

摘要

一位从业者向社区请教如何大规模开展 AI 图像和视频内容审核（日上传量超过 100 万），希望获得有关开源模型、Sightengine 和 AWS Rekognition 等商业 API、混合架构、成本优化，以及误报与漏报之间权衡的建议。

我正在构建一个内容审核系统，每天可能需要处理超过 100 万次上传。我们需要检测并拦截以下类别：未成年人相关内容、性暴力、兽交、自残、真人相关内容（未经同意使用可识别个人的肖像）。我正在探索开源模型、自托管方案、商业 API（Sightengine、AWS Rekognition 等）以及混合方案。我们优先考虑的是高检测准确率、超大规模下的低成本、严格的数据隐私保护，以及可靠的视频审核。想请教运行类似系统的各位：你们使用哪些模型或 API？你们更倾向于自托管还是商业审核服务？如何优化大规模处理时的成本？在误报和漏报方面，你们有哪些经验？非常希望获得来自实际应用的推荐、架构建议和定价方面的见解！
查看原文

相似文章

AI图像的最佳且最道德的用例是什么？

Reddit r/ArtificialInteligence

本文探讨了如GPT和Grok等AI图像生成模型的质量，质疑其道德使用案例，并指出诸如深伪技术和特定场景生成中的不准确等问题。