全新改进的内容审核工具

# 新的和改进的内容审核工具 来源：https://openai.com/index/new-and-improved-content-moderation-tooling/ 为了帮助开发者保护他们的应用程序免受可能的滥用，我们推出了速度更快、准确性更高的 Moderation 端点(https://beta.openai.com/docs/api-reference/moderations)。该端点为 OpenAI API 开发者提供免费访问权限，可使用基于 GPT(https://openai.com/index/customized-gpt-3/) 的分类器来检测不需要的内容——这是使用 AI 系统(https://openai.com/index/critiques/)来协助人类监管这些系统的一个例子。我们还发布了一份技术论文(https://arxiv.org/abs/2208.03274)，描述了我们的方法论，以及用于评估的数据集(https://github.com/openai/moderation-api-release)。 当给定文本输入时，Moderation 端点会评估内容是否涉及色情、仇恨、暴力或自伤宣传——这些都是我们内容政策(https://beta.openai.com/docs/usage-guidelines/content-policy)禁止的内容。该端点经过训练可以快速、准确地工作，并能够在各种应用中表现稳健。重要的是，即使在大规模部署给用户时，这也降低了产品"说错话"的可能性。因此，AI 可以在敏感的领域（如教育）中解锁其好处，而在这些领域中它原本无法被自信地使用。