AI决策模型将如何改变内容审核

# AI 决策模型将如何改变内容审核 | TechCrunch 来源：https://techcrunch.com/2026/10/06/how-ai-decision-models-could-change-content-moderation/ 随着决策模型在整个行业中普及，一家名为 Musubi 的公司提出了一种新的应用思路：用于内容审核。周二，Musubi 宣布推出一款专为实时审核打造的轻量级决策模型 PolicyLM-1.7B（https://www.musubilabs.ai/blog/introducing-policylm-1-7b），并以开放权重的形式发布。 其思路是：将一份用通俗英语写就的内容政策，在 50 毫秒以内应用于消息审核。Musubi 的模型在成本和速度上旨在与大多数社交平台内容审核所依赖的 AI 分类器系统相当——但由于它具备现代 LLM 的灵活性，可以在无需专门训练的情况下应用复杂的政策。更重要的是，当政策发生变化时，该模型不需要重新训练，这使得人类政策制定者可以随时进行迭代调整。 在 Musubi 联合创始人兼首席 AI 官 Filip Jankovic 看来，这为平台管理者提供了一种主动标记内容的手段。 “产品团队只是想更好地了解他们平台上正在发生什么，尤其是在内容量呈指数级增长的情况下，”Jankovic 说。“能够以高度可扩展、可定制的方式为所有这些内容进行标注，非常有价值。” 自从 Typesafe AI 的 Jev 于 9 月发布（https://techcrunch.com/2026/09/18/a-new-kind-of-ai-model-from-a-chatgpt-inventor-is-thrilling-developers/）以来，决策模型已成为 AI 领域的热门话题，随后不久，OpenAI（https://techcrunch.com/2026/09/30/openais-jev-clone-could-help-the-frontier-lab-stop-its-swarming-agents/）和 Amazon（https://techcrunch.com/2026/10/01/amazon-releases-its-own-jev-clone-as-decision-models-flood-the-web/）也相继推出了竞品决策模型。与输出文本不同，决策模型输出的是结果概率，而在本例中，模型输出的是一种二元判断：内容要么属于该类别，要么不属于。通过将模型的输出限制在一组预先设定的选项内，决策模型能够以比大语言模型更快、更低成本运行，同时仍保留 Transformer 架构的灵活性。 其中一个早期应用场景是约束 AI 智能体的不当行为——因此，将同样的技术应用于人类的不当行为再自然不过了。 值得一提的是，Jankovic 表示他对决策模型的兴趣早于 Jev，可以追溯到 2024 年一个名为 GLiNER（Generalist Model for Named Entity Recognition，通用命名实体识别模型）的项目（https://medium.com/@zilliz_learn/gliner-generalist-model-for-named-entity-recognition-using-bidirectional-transformer-ed65165a4877），该项目采用了许多相同的技术。 尽管如此，Musubi 并不排斥这种比较。如果有什么不同的话，公司更希望借助外界对决策模型的新兴趣，将目光引向内容审核。“如果 Jev 引起了你的注意，那么 PolicyLM-1.7B 就是同一类模型，它是专门为内容审核训练的，你可以自行运行，”产品发布公告中写道。 *当你通过我们文章中的链接购买时，我们可能会赚取少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。* Russell Brandom 自 2012 年起从事科技行业报道，重点关注平台政策与新兴技术。他此前曾任职于 The Verge 和 Rest of World，并为 Wired、The Awl 以及 MIT 的 Technology Review 撰写过文章。你可以通过 [email protected] 或 Signal 联系他，号码为 412-401-5489。 查看个人简介（https://techcrunch.com/author/russell-brandom/）