打击国家支持的威胁行为者滥用AI

# 破坏国家支持的恶意行为人对AI的滥用 来源：https://openai.com/index/disrupting-malicious-uses-of-ai-by-state-affiliated-threat-actors/ 基于与Microsoft的合作和信息共享，我们破坏了五个国家支持的恶意行为人：两个中国关联的威胁行为人，分别被称为Charcoal Typhoon和Salmon Typhoon；伊朗关联的威胁行为人，被称为Crimson Sandstorm；朝鲜关联的行为人，被称为Emerald Sleet；以及俄罗斯关联的行为人，被称为Forest Blizzard。与这些行为人关联的OpenAI账户已被终止。 这些行为人通常试图利用OpenAI服务查询开源信息、翻译内容、查找代码错误以及执行基本的编码任务。 具体而言： - Charcoal Typhoon利用我们的服务研究各种公司和网络安全工具、调试代码和生成脚本，以及创建可能用于网络钓鱼活动的内容。 - Salmon Typhoon利用我们的服务翻译技术论文、检索关于多个情报机构和地区威胁行为人的公开信息、协助编码工作，以及研究在系统上隐藏进程的常见方法。 - Crimson Sandstorm利用我们的服务获得与应用程序和网络开发相关的脚本支持、生成可能用于鱼叉式网络钓鱼活动的内容，以及研究恶意软件规避检测的常见方法。 - Emerald Sleet利用我们的服务识别关注亚太地区国防问题的专家和组织、了解公开可用的漏洞、协助进行基本的脚本编写任务，以及起草可能用于网络钓鱼活动的内容。 - Forest Blizzard利用我们的服务主要进行有关卫星通信协议和雷达成像技术的开源研究，以及脚本任务的支持。 有关威胁行为人性质及其活动的更多技术细节可以在今天发布的[Microsoft博客文章](https://aka.ms/emerging-AI-threats)中找到。 这些行为人的活动与我们之前与外部网络安全专家合作进行的[红队评估](https://cdn.openai.com/papers/gpt-4.pdf)一致，该评估发现GPT-4仅为恶意网络安全任务提供有限的增量功能，超越已通过公开可用的非AI驱动工具实现的功能。