OpenAI 对人工智能和国家安全的态度

# OpenAI 在人工智能与国家安全方面的立场 来源：https://openai.com/global-affairs/openais-approach-to-ai-and-national-security/ OpenAI 今天，白宫发布了一份关于人工智能的《国家安全备忘录》(NSM)，阐述了美国政府如何负责任地利用人工智能推进国家安全，同时为其使用建立必要的防护措施。该备忘录还强调了增加半导体芯片、电力生成和数据中心容量供应和获取的重要性——我们也认为这些对于美国在人工智能领域的持续领先地位至关重要。 在 OpenAI，我们致力于开发能够惠及尽可能多人的人工智能。支持美国及其盟国以维护民主价值观的方式推进人工智能，对我们确保人工智能益处广泛共享的使命至关重要。我们将该备忘录视为这一努力的重要一步——以下是我们目前在国家安全方面的思考及我们所扮演的角色。 我们认为，民主化的人工智能愿景对于充分发掘其潜力和确保其益处得到广泛共享至关重要。人工智能是一项变革性技术，可以用来强化民主价值观，也可能被用来削弱民主价值观。这就是为什么我们认为民主国家应该继续在人工智能发展中发挥领导作用，遵循自由、公平和尊重人权等价值观。这也是为什么我们认为志同道合的国家应该了解，在适当的防护措施下，人工智能如何帮助保护人民、威慑对手，甚至防止未来冲突。 存在与我们使命相一致的重要国家安全用例。例如，我们已经与 DARPA 合作，帮助网络防御人员更好地保护关键网络。我们也在与美国国际开发署合作，该机构正在使用 ChatGPT 来减轻员工的行政负担。我们还看到与美国国家实验室深化合作的机会，这将建立在我们与洛斯阿拉莫斯国家实验室的生物科学研究合作基础上。 与此同时，我们需要明确的防护措施和政策来规范人工智能的使用方式。这就是为什么我们采取谨慎、循序渐进的方式来处理国家安全伙伴关系。 OpenAI 的使用政策禁止任何人使用我们的技术来伤害他人、毁坏财产或开发武器。在过去几个月中，我们还制定了一个评估潜在国家安全伙伴关系的框架——包括一套指导这项工作的价值观。每个潜在用例都要通过由我们的产品政策和国家安全团队主导的正式流程进行评估，以确保符合我们的政策和价值观。 指导我们国家安全工作的价值观包括： - **民主价值观**：我们认为人工智能应该以促进自由、保护个人权利和促进创新的方式开发和使用。我们认为这将需要采取切实步骤来民主化技术获取，最大化其经济、教育和社会效益。 - **安全性**：我们的目标是保护人类免受伤害。我们希望人工智能被用来降低风险、加强安全和保护人权，我们会严格评估所有潜在应用，以确保它们符合这一原则。 - **责任性**：我们认为人工智能应该被用于公共利益。我们的政策禁止使用人工智能造成伤害或侵犯基本权利，我们对所有潜在合作伙伴关系（尤其是在国家安全等敏感领域）严格执行这一政策。 - **问责制**：人工智能系统的开发和部署必须将问责制放在核心位置。我们认为所有人工智能应用，尤其是涉及政府和国家安全的应用，都应接受监督、明确的使用指南和伦理标准的约束。 白宫发布的新框架开放了支持美国及盟国更多国家安全工作的潜力，同时保持与我们使命的一致性。例如，我们可以应用我们的技术来推进科学研究、增强物流、简化翻译和总结任务，以及研究和减轻平民伤害。我们在这一领域的任何工作都将继续经历严格的内部审查流程。 我们认为，美国政府和我们这样的美国公司有机会在国家安全背景下如何安全、负责任地使用人工智能方面率先设定规范，就像我们在技术开发本身中处于领导地位一样。在我们与美国政府和盟国探索潜在合作伙伴关系时，我们希望以透明和谨慎的态度帮助设定这些规范。