美国通过州和联邦行动推进AI安全

# 美国通过州和联邦行动推进人工智能安全 来源：https://openai.com/index/advancing-ai-safety-through-state-and-federal-action/ *作者：克里斯·莱恩，全球事务首席官* 从全美各州首府到华盛顿，再到国际会议，前沿人工智能治理的严肃路径正在形成。它们共同推动着民主愿景下的人工智能发展。 加利福尼亚州、纽约州，以及最近的伊利诺伊州，已率先通过前沿安全立法，推动美国朝着治理最强大人工智能系统的共同基线迈进。 这些努力反映了OpenAI所称的*反向联邦主义*背后的动力：各州通过共同框架帮助确立统一方向。随着州级努力与联邦层面正在推进的工作相互融合，一项国家标准开始成形，为美国主导的全球人工智能框架奠定基础。我们相信，确保人工智能惠及多数人而非少数人的最佳方式是，从前沿安全开始，让关键决策由民主政府做出，而非仅由前沿实验室决定。 ## 各州 归根结底，美国最好能拥有一个基于这一原则的国家框架。但在缺乏统一框架的情况下，各州可以通过通过相互借鉴的法律来推动实现这一目标。步步为营，它们可以建立起事实上的国家标准。 如果安全是优先事项，那么这样的国家标准是最佳政策路径，以确保(a)美国继续引领创新，避免因法规碎片化而削弱其构建全球民主人工智能栈的能力——该栈旨在优化好人所需工具，以抵御试图在网络安全等领域滥用人工智能的坏人；(b)让美国处于最有利位置，将国家标准转化为基于民主价值观的全球人工智能安全部署方案。如果我们想建立一个真正优先考虑国家和国际标准的安全框架——而这正是支持人工智能安全部署的最佳途径——那么需要艰苦努力、严肃的目标意识以及连接各州、联邦政府和国际对话的战略。表演性或姿态性的做法在这里行不通——州级层面的混乱不符合持久安全方案的最佳利益，只会导致更多混乱。 为使这一路径成功，各州应继续像加利福尼亚、纽约和伊利诺伊那样，在核心要素上保持一致。概括而言，这些要素包括： - 一个记录在案的安全框架，包含对前沿模型的风险评估，以及这些评估及其结果的公开披露。 - 严重安全事件的报告制度。 - 通过独立、客观的审计实现治理与问责。 这三州合力，已为前沿人工智能部署建立起民主监督机制。加利福尼亚确立了核心披露框架。纽约展示了该做法可在不同司法管辖区采用。伊利诺伊则通过要求对关键披露进行独立验证，对此加以补充。 我们认识到，立法常常包含为获取通过所需选票而增设的额外条款。但我们相信，上述这些是通过反向联邦主义建立事实上的国家标准所需的基本要素。缺少这种自律，我们面临的是政策膨胀，以及各州法律的碎片化——监管者难以执行，消费者困惑不解，而开发者（尤其是初创和小公司）的资源也会被分散，这些资源本该更好地投入到安全领域。特别是，过去几周的事态表明，随着人工智能模型能力越来越强，我们需要一套连贯的系统，以便将工具交到政府、关键基础设施、盟友以及可信合作伙伴手中。 政策制定者也应防止任务扩散。各州不应被要求管理重大的国家安全风险（或实际上代表整个国家做出国家安全决策），也不应进行高度技术性的审查——这些更适合由联邦专家处理，因为他们拥有资源、专业知识、接触机密系统的权限以及与我们的团队密切合作的能力。 ## 联邦层面 在联邦层面，特朗普政府正继续与技术和国家安全专家合作，制定一个关于美国政府测试最强大人工智能模型网络能力的框架。该框架将确立测试标准、时间表和流程。OpenAI正在与政府、同行企业、商业团体及其他利益相关方进行建设性讨论，协助塑造这一努力。 正在进行的网络评估工作表明了为什么一致性至关重要。今天，在联邦框架完成之前，模型接受测试是可以理解的。随着各实验室在这一过程中摸索，一个教训变得清晰：我们需要在州和联邦层面都采用一致且可重复的方法。如果我们希望将最强大的模型交到政府、关键基础设施防御者、盟友和其他可信合作伙伴手中，这一点至关重要。我们感谢政府计划在8月初之前完成这一框架的目标。 一个联邦测试框架将有助于将先进的人工智能工具交到政府、关键基础设施防御者、盟友和其他可信合作伙伴手中。这样做将加强民主机构，并帮助构建美国主导的民主人工智能栈。现在是利用美国的创新领先地位来支持民主人工智能的时候了。 无论是未明确的联邦流程，还是各州法律的拼凑，都无法产生连贯的前沿安全机制。我们需要一种方法，确保最好的测试者评估最强大的模型——并且可信的防御者能够足够快地获得这些工具，以领先于恶意行为者。 国会也在行动。两院两党的立法者——包括最近众议员杰伊·奥伯诺尔特和洛里·特拉汉——已注意到各州和行政部门的进展，并提出了联邦框架的提案。没有一份有现实通过路径的讨论草案会是完美的。但我们认为这项工作是一个积极的步骤，并相信其许多条款具有深思熟虑之处，值得支持。 同样令我们鼓舞的是，参众两院的领导人正在国家治理和前沿安全提案上投入认真努力，我们与其中许多人进行了建设性对话。鉴于已经通过方向一致法律的州的规模和影响力，将这些州的做法纳入联邦立法，应该能更容易地建立单一的国家前沿安全机制。 OpenAI的前沿安全蓝图阐述了我们认为该框架的基本要素。 首先，联邦政府应主导最先进系统的测试与评估。前沿人工智能提出的国家安全和公共安全问题，需要任何州都无法完全复制的技术专长、资源和接入权限。 这项工作应加强由拜登总统创立、特朗普总统加强的AI标准与创新中心（CAISI）。CAISI可以提供所需的持久联邦能力，以评估先进模型，并将前沿安全转向在危害发生前加以预防，而非主要依赖事后问责。任何联邦立法都应仔细考虑CAISI应如何与政府其他部门协作，以及它在测试中心应扮演什么角色。 其次，开发最强大系统的公司应满足明确要求，包括独立审计、事件报告、强有力的安全标准和举报人保护。 第三，联邦与州的努力应相互加强。各州的法律不会完全相同，我们期待与全国各地的政策制定者合作，确保它们加强安全，同时最大化人工智能的经济效益。 各州还应继续作为民主实验室，探索前沿安全之外的领域，包括青少年保护、电力和环境政策，以及人工智能教育与素养。 一个联邦框架仍然至关重要。前沿人工智能提出的国家安全、经济竞争力和公共安全问题，最终需要国家标准、国家能力和国家机构来支持民主人工智能。 ## 全球层面 国家立法对于美国主导的国际人工智能标准框架也至关重要。几周前，在七国集团（G7）会议上，与巴西、埃及、印度、肯尼亚和韩国一道，前沿实验室的CEO们讨论了建立这样一个框架的必要性。会后，OpenAI首席执行官山姆·奥尔特曼在*金融时报*（在新窗口中打开）(https://www.ft.com/content/0c2e1077-f658-4b3d-9040-602615c961ca)中提议：“一个美国主导的国际论坛，确立公认标准，提供对能力和风险的专家公正分析，并向参与并遵守规则的国家和公司提供该技术。”本周，谷歌DeepMind首席执行官德米斯·哈萨比斯也在新论文中提出了富有洞见的想法。联邦立法——必然是两党合作的——将为这一国际努力提供坚实基础。 如今，在各个层面都能看到这种势头。各州正在确立共同做法。国会和行政部门正朝着国家框架迈进。全球领导人已开始讨论国际标准。如果彼此相辅相成，美国可以引领基于民主人工智能愿景的全球框架发展。而这种人工智能的民主对齐方法，才是真正优先考虑安全的方法。