malicious-use

OpenAI 发布了一份年度报告，详细介绍了其在阻止与国家相关的行为体和其他恶意行为体滥用AI工具的努力，包括防止这些工具被用于专制控制、儿童剥削、信息操纵和网络攻击等目的。

OpenAI和Microsoft破获了五个来自中国、伊朗、朝鲜和俄罗斯的国家支持的威胁行为者，他们滥用AI服务进行钓鱼攻击、代码分析和信息收集。这些行为者已被识别并账户已被停用，研究结果显示GPT-4在恶意网络安全任务中相比现有工具的增量能力有限。

OpenAI与领先研究机构合作共同撰写了一份综合论文，预测AI可能被恶意使用的方式并提出缓解策略。该研究强调承认AI的双重用途特性、借鉴网络安全实践，以及扩大围绕AI安全风险的利益相关者讨论。