guardrail

SingGuard 是蚂蚁集团的一款多模态护栏系统，将安全策略视为输入，支持通过自然语言进行动态调整。该产品采用 Apache 2.0 许可证，覆盖文本和图像模态。

本文介绍了CHILLGuard，一个基于新的5大类、31小类风险分类体系和可扩展多阶段数据构建流程的细粒度中文大模型内容安全护栏。该模型实现了最先进的性能，在F1分数上相比现有基线提升了15.92%。