为AI的恶意使用做准备

# 为AI的恶意使用做好准备 来源：https://openai.com/index/preparing-for-malicious-uses-of-ai/ 我们与未来人类研究所、存在风险研究中心、美国新安全中心、电子前沿基金会及其他机构的同事共同撰写了一篇论文，预测恶意行为者如何可能滥用AI技术，以及我们防止和缓解这些威胁的潜在方式。这篇论文是近一年持续合作的成果。 AI对全球安全构成挑战，因为它降低了执行许多现有攻击的成本，创造了新的威胁和漏洞，并进一步复杂化了特定攻击的溯源。鉴于AI似乎带来的威胁形势的变化，该报告提出了一些高层建议，企业、研究机构、个人从业者和政府可以采取这些措施来确保更安全的世界： - **认识AI的双重用途性质**：AI是一项既能产生极大正面应用，也能产生极大负面应用的技术。作为一个社区，我们应该采取措施更好地评估研究项目是否可能被恶意行为者滥用，并与决策者沟通了解特别敏感的领域。正如我们在论文中所写："监视工具可用于抓捕恐怖分子或压制普通公民。信息内容过滤器可用于屏蔽假新闻或操纵舆论。政府和强大的私人行为体将能够获得许多这些AI工具，并可能将其用于公共利益或伤害。"这些问题的一些潜在解决方案包括对某些研究进行发表前风险评估、有选择地在一小组可信组织之间共享某些具有重大安全或安保成分的研究，以及探索如何在科学界中嵌入对双重用途问题做出反应的规范。 - **向网络安全学习**：计算机安全社区已开发出与AI研究人员相关的各种实践，我们应该考虑在自己的研究中实施这些实践。这些范围从"红队测试"（通过有意尝试破坏或颠覆系统）到投资技术预测以在威胁到来之前发现它们，再到围绕AI系统中发现的漏洞的保密报告的约定等。 - **拓宽讨论范围**：AI将改变全球威胁形势，所以我们应该在讨论中涉及更广泛的社会各阶层。相关方可能包括从事民间社会工作的人、国家安全专家、企业、伦理学家、公众和其他研究人员。 与我们在AI安全具体问题上的工作类似，我们以具体场景为基础讨论了恶意使用AI带来的一些问题，例如：由AI系统生成的劝诱性广告被用于针对安全系统管理员；网络犯罪分子使用神经网络和"模糊测试"技术来创建具有自动漏洞生成能力的计算机病毒；恶意行为者入侵清洁机器人，使其向VIP传送爆炸物；流氓国家使用无处不在的AI增强型监视系统来预先逮捕符合预测风险特征的人员。 我们很高兴能与同行、决策者和公众开始这一讨论。我们在过去两年里研究并巩固了OpenAI的内部政策，现在将开始与更广泛的受众就这些问题进行沟通。我们特别希望与更多自视为对AI政策辩论做出贡献以及取得研究突破的研究人员合作。