标签
Anthropic 已与埃森哲合作，在其 AI 实验室内部署安全评测系统，用于模型审查和红队测试，并计划在五年内投资至少 10 亿美元以推进 AI 安全措施。
这篇博客文章提议使用嵌入式评估器来监控和评估前沿人工智能系统，以应对对齐风险并提高透明度，尤其是在像OpenAI-Hugging Face黑客事件这样的最近事件之后。
Anthropic与Accenture合作，对前沿AI模型实施嵌入式评估，旨在通过独立评估师在公司内部工作来增强安全性和问责制。