我们与战争部的协议

# 我们与战争部的协议 来源：https://openai.com/index/our-agreement-with-the-department-of-war/ ***2026年3月2日更新*** 在整个讨论过程中，战争部明确表示，他们与我们一样致力于确保我们的工具不会被用于国内监控。为了尽可能明确我们的原则，我们共同努力在协议中增加了额外措辞。 这些措辞明确表示，我们的工具将不会被用于对美国公民进行国内监控，包括通过采购或使用商业获取的个人或可识别信息。战争部还确认，我们的服务不会被像NSA这样的战争部情报机构使用。向这些机构提供的任何服务都将需要新的协议。 新增措辞如下： - *在符合适用法律（包括美国宪法第四修正案、1947年《国家安全法》、1978年《外国情报监视法》）的前提下，AI系统不得被故意用于对美国公民和国民进行国内监控。* - *为免存疑，战争部理解此限制旨在禁止对美国公民或国民进行蓄意跟踪、监视或监控，包括通过采购或使用商业获取的个人或可识别信息。* 战争部计划召集一个由前沿AI实验室、云服务提供商以及该部门政策和运营界领导组成的工作组。OpenAI将参与其中，并期望这将成为就新兴AI能力、隐私和未来国家安全挑战持续对话的重要论坛。 这些更新建立在我们上周宣布的框架之上，我们希望这将为其他实验室未来与战争部合作开辟道路。 --- 昨天，我们与五角大楼达成了一项协议，涉及在机密环境中部署先进AI系统，我们要求他们也向所有AI公司提供此协议。 **我们认为，我们的协议比之前任何针对机密AI部署的协议（包括Anthropic的协议）都拥有更多护栏。原因如下。** 我们有三条主要的红线来指导我们与战争部的工作，其他一些前沿实验室也普遍认同这些红线： - 不使用OpenAI技术进行大规模国内监控。 - 不使用OpenAI技术来指挥自主武器系统。 - 不使用OpenAI技术进行高风险自动决策（例如“社会信用”等系统）。 其他AI实验室已减少或移除了其安全护栏，并主要依赖使用政策作为国家安全部署的主要保障。我们认为我们的方法能更好地防止不可接受的使用。 **在我们的协议中，我们通过更广泛、多层面的方法来保护我们的红线。我们保留对安全堆栈的完全自由裁量权，我们通过云进行部署，经过审查的OpenAI人员会参与其中，并且我们有强大的合同保护。所有这些都超越了美国法律中现有的强大保护。** 我们坚定地信仰民主。鉴于这项技术的重要性，我们相信唯一正确的道路需要AI工作与民主进程之间的深度合作。我们也相信我们的技术将在世界上引入新的风险，我们希望保卫美国的人们拥有最好的工具。 **我们的协议包括：** 1. **部署架构。** 这是纯云部署，包含我们运行的、包含这些原则及其他原则的安全堆栈。我们不会向战争部提供“关闭护栏”或未经安全训练的模型，也不会在边缘设备上部署我们的模型（在那里可能存在用于自主致命武器的可能性）。 我们的部署架构将使我们能够独立验证这些红线未被跨越，包括运行和更新分类器。 2. **我们的合同。** 以下是相关措辞： *战争部可将AI系统用于所有合法目的，但要符合适用法律、作战要求以及完善的安全和监督协议。在任何法律、法规或部门政策要求人类控制的情况下，AI系统不得被用于独立指挥自主武器，也不得被用于承担根据相同权限需要人类决策者批准的其他高风险决策。根据国防部指令3000.09（2023年1月25日），在自主和半自主系统中使用AI必须经过严格的验证、确认和测试，以确保其在部署前在真实环境中按预期运行。* *对于情报活动，任何对私人信息的处理都将遵守第四修正案、1947年《国家安全法》和1978年《外国情报监视法》、第12333号行政命令以及要求明确外国情报目的的适用国防部指令。根据这些权限，AI系统不得被用于对美国公民的私人信息进行无限制监控。除《地方保安法》和其他适用法律允许外，该系统也不得被用于国内执法活动。* 3. **AI专家参与。** 我们将有经过审查的前线部署的OpenAI工程师协助政府，经过审查的安全和一致性研究人员也会参与其中。 **你们为什么要这么做？** 首先，我们认为美军绝对需要强大的AI模型来支持其使命，尤其是在面对潜在对手日益将其AI技术整合到其系统中的威胁时。我们最初没有直接签订机密部署合同，因为我们觉得我们的保障措施和系统尚未准备就绪，并且我们一直在努力确保机密部署可以在有保障措施的情况下进行，以确保不跨越红线。 我们——过去和现在——都不愿意为了提升国家安全工作的性能而移除关键技术保障。那并不是支持美军的正确方法。 其次，我们也希望缓和战争部与美国AI实验室之间的紧张关系。美好的未来需要政府与AI实验室之间真正深入的合作。作为我们协议的一部分，我们要求将相同的条款提供给所有AI实验室，并特别要求政府尝试解决与Anthropic的问题；目前的状态是开启政府与AI实验室之间下一阶段合作的非常糟糕的方式。 **为什么你们能达成协议而Anthropic却不能？你们是否签署了他们不愿意签署的协议？** 根据我们所知，我们认为我们的合同比之前的协议（包括Anthropic最初的合同）提供了更好的保证和更负责任的保障。我们认为我们的红线在此更具可执行性，因为部署仅限于纯云（而非边缘）、保持了我们认为最佳的安全堆栈运作方式，并且让经过审查的OpenAI人员参与其中。 我们不知道Anthropic为何未能达成此协议，我们希望他们以及更多的实验室会考虑它。 **你们认为Anthropic应该被指定为“供应链风险”吗？** 不，我们已经向政府明确表明了我们的立场。 **这项协议是否会使战争部能够使用OpenAI模型来为自主武器提供动力？** 不会。基于我们的安全堆栈、纯云部署、合同措辞以及现有的法律、法规和政策，我们确信这不可能发生。我们还将有OpenAI人员参与其中以提供额外保证。 **这项协议是否会使战争部能够使用OpenAI模型对美国公民进行大规模监控？** 不会。基于我们的安全堆栈、合同措辞以及严格限制战争部进行国内监控的现有法律，我们确信这不可能发生。我们还将有OpenAI人员参与其中以提供额外保证。 **你们是否需要部署没有安全堆栈的模型？** 不，我们对部署的安全堆栈保留完全控制权，并且不会在没有安全护栏的情况下部署。此外，我们的安全和一致性研究人员将参与其中，并随着时间的推移帮助改进系统。我们知道其他AI实验室已经减少了模型护栏并依赖使用政策作为主要保障，但我们认为我们的分层方法能更好地防止不可接受的使用。 **如果政府违反合同条款会发生什么？** 与任何合同一样，如果签约方违反条款，我们可以终止合同。我们不希望这种情况发生。 **如果政府只是修改法律或现有的战争部政策怎么办？** 我们的合同明确引用了**目前存在的**监控和自主武器法律及政策，因此即使这些法律或政策将来发生变化，我们系统的使用也必须依然符合协议中所反映的现行标准。 在他们的帖子中，Anthropic列出了他们的两条红线（我们有相同的两条红线，外加第三条：自动化高风险决策），以及他们认为这些红线在他们当时从战争部看到的合同中不会得到维护的原因。以下是我们认为这些相同的红线会在我们的合同中得到维护的原因： - **大规模国内监控。** 在我们的互动中清楚地表明，战争部认为大规模国内监控是非法的，并且不打算将其用于此目的。我们确保在其不被视为合法用途的事实已在我们的合同中明确表达。 - **完全自主武器。** 我们合同涵盖的云部署面不允许为完全自主武器提供动力，因为这需要边缘部署。 除了这些保护措施之外，我们的合同还提供了额外的分层保障，包括我们的安全堆栈和参与其中的OpenAI技术专家。