GPT-2: 1.5B 版本发布

# GPT-2: 1.5B 版本发布 来源：https://openai.com/index/gpt-2-1-5b-release/ **1. 人类认为 GPT-2 的输出具有说服力**。我们在康奈尔大学的合作伙伴对人们对不同模型规模的 GPT-2 文本的可信度评分进行了调查。人们给予 1.5B 模型的"可信度评分"为 10 分中的 6.91 分。这比 774M 模型的输出（6.72）略高，明显高于中等规模的 355M 模型（6.07）。这些结果使我们更倾向于发布 1.5B 模型，因为相对于 774M 模型，1.5B 模型在人类感知可信度方面的增幅较小。 **2. GPT-2 可以被微调用于滥用**。我们在中部国际研究所恐怖主义、极端主义与反恐中心（CTEC）的合作伙伴发现，极端主义团体可以利用 GPT-2 进行滥用，具体是通过在四种意识形态立场上微调 GPT-2 模型：白人至上主义、马克思主义、圣战吉哈德伊斯兰主义和无政府主义。CTEC 证明了创建能够为这些意识形态生成合成宣传内容的模型是可能的。他们还表明，尽管在合成输出的检测准确度较低，但基于机器学习的检测方法可以为专家提供合理的怀疑，认为某个行为者正在生成合成文本。 **3. 检测具有挑战性**。我们预计基于内容的合成文本检测将是一项长期挑战。为了测试机器学习方法是否能够帮助解决当前问题，我们进行了内部检测研究，并开发了一个检测模型（https://github.com/openai/gpt-2-output-dataset），其在检测 1.5B GPT-2 生成文本方面的检测率约为 95%。我们认为这个准确度对于独立检测来说还不够高，需要与基于元数据的方法、人类判断和公众教育相结合才能更有效。我们发布这个模型是为了帮助推动合成文本检测研究，尽管这也让拥有访问权限的对手能更好地规避检测。 虽然我们发现检测准确度在很大程度上取决于训练和测试中使用的采样方法，但我们也发现在跨多种采样技术进行训练时检测更加可靠。如下图所示，我们观察到更大模型的输出更难分类，但在更大模型的输出上进行训练会使检测结果更加准确和鲁棒。我们预计这一趋势将继续下去，随着模型规模的增加，检测将变得更具挑战性。