标签
本文介绍了GPT-Red，一种通过规模化自我对弈训练的自动化红队测试代理，旨在发现针对前沿LLM的新型提示注入攻击，并利用其对GPT-5.6进行对抗训练，实现了有记录以来最大规模的LLM安全训练运行。
OpenAI 推出了 GPT-Red，这是一个能够自动对软件系统进行红队安全评估的 AI 系统。此外，尽管一项关键税收抵免已结束，美国热泵销量仍在持续增长。
OpenAI推出GPT-Red，这是一个自动化的红队模型，能够大规模发现提示注入漏洞，并用于对抗性训练如GPT-5.6 Sol等模型，使硬提示注入基准测试的失败率降低6倍。