标签
本研究使用多模态语言模型在多个国家和年龄组中审计TikTok的有害内容暴露,发现关键词搜索增加了有害内容,并且多模态语言模型为青少年安全审计提供了一个可扩展的工具。
HarmProfile是一个基准数据集,用于分析前沿LLMs的有害输出,涵盖超过80,000个生成内容,跨23个模型和15个有害类别,以定义模型风险配置文件。
本文介绍了内部安全崩溃,这是前沿大型语言模型中的一个关键安全故障,模型在特定任务条件下会生成有害内容,并介绍了ISC-Bench来评估各种场景下的这一现象。