标签
Anthropic 宣布已训练 Claude 采用「自我评估」机制，在每次回复后对对话进行初步安全评估以标记潜在滥用行为，该机制自 6 月启用以来已发现其他手段未能捕捉的滥用情况。
Anthropic 发布 self-assessment 技术，让 Claude 在每次回复后对自己的对话进行初步安全评估，以检测潜在滥用；在 Claude Fable 5 上该方法以 1% 误报率捕获了强分类器标记有害对话的 78%（高优先级达 94%），且性能随模型能力提升而增强。
Anthropic 宣布，Claude 的企业滥用检测数据将存储在客户自有云账户中，移除 Anthropic 的默认访问权限，同时继续自动化监控。
Anthropic 宣布推出 Enterprise Frontier Safeguards (EFS)，这是一款结合零数据保留和高级滥用检测功能的解决方案，旨在提升企业客户的人工智能安全性。该解决方案是基于主要行业和云合作伙伴的反馈开发的。