论文页面 - GPT-Red：通过大规模自对弈实现自动化红队测试

来源：https://huggingface.co/papers/2607.26115
作者：

,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,

摘要

我们推出了 GPT-Red，一个经过训练的自动化红队测试智能体，能够发现针对前沿 LLM 的新颖提示注入攻击。该模型的目标是评估并提升我们生产系统的鲁棒性。为此，我们利用它对抗性训练了 GPT-5.6，这是迄今为止我们对提示注入攻击最鲁棒的模型。为了创建 GPT-Red，我们设计了一种可扩展的自对弈算法，其中模型被要求攻击一个由同时训练的防御智能体组成的多样化群体。我们在逼真的红队测试环境中训练该模型，其计算规模与我们最大的部分 RL 后训练运行相当，使其成为有史以来最大规模的 LLM 安全训练运行。GPT-Red 在红队测试中表现出色：它能够可靠地突破我们过去的模型（最高至 GPT-5.5），发现比人类红队成员更多成功的攻击，并能泛化到未见过的新环境、防御模型及测试装备。未来，我们预期随着每个新 GPT 模型鲁棒性的提升，它将反过来为更强的红队智能体提供更好的学习信号，从而开启自我改进的飞轮效应。

查看 arXiv 页面 (https://arxiv.org/abs/2607.26115)
查看 PDF (https://arxiv.org/pdf/2607.26115)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.26115)

在你的智能体中获取此论文：

hf papers read 2607.26115

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 (0)

尚无模型关联此论文

请在模型的 README.md 中引用 arxiv.org/abs/2607.26115 以从此页面链接。

引用此论文的数据集 (0)

尚无数据集关联此论文

请在数据集的 README.md 中引用 arxiv.org/abs/2607.26115 以从此页面链接。

引用此论文的 Spaces (0)

尚无 Space 关联此论文

请在 Space 的 README.md 中引用 arxiv.org/abs/2607.26115 以从此页面链接。

包含此论文的收藏集 (0)

尚无包含此论文的收藏集

请将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面链接。