标签
旨在防止恶意使用的AI安全护栏，同时也阻碍了合法的进攻性网络安全研究人员，他们需要不受限制的模型访问权限来识别和利用漏洞以进行防御。研究人员批评了像Anthropic和OpenAI这样的AI公司所实施的任意把关行为。