csam-detection

MIT研究人员开发了一种技术，用于审计AI模型生成儿童性虐待材料的能力，而无需产生非法输出，在测试中达到了100%的准确率。该方法通过检查模型的隐藏表征来推断模型是否已被微调用于有害内容，为平台和执法部门提供了一种可扩展的检测不安全模型的方法。