multimodal-moderation

Mistral AI发布了Shieldstral，这是一个3B开放权重的多模态安全分类器，它将内容审核视为一种策略自适应的问答任务，在无需重新训练的情况下，性能优于其规模7倍的模型。