在美国参议院的证词

# 美国参议院作证 来源：https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/ OpenAI 提交日期：2023年6月22日 以下是 OpenAI 首席执行官 Sam Altman 向美国参议院司法委员会（隐私、技术和法律小组委员会）提交的书面作证。 Blumenthal 主席、Hawley 议员和司法委员会各位成员，感谢你们给我机会就大型神经网络作证。我是 OpenAI 首席执行官 Sam Altman。OpenAI 是一家研究、开发和部署人工智能（AI）的公司，创造了 ChatGPT、Whisper 和 DALL·E 2 等 AI 工具。OpenAI 的成立基于这样一个信念：安全且有益的 AI 为人类提供了巨大可能性。我很荣幸能够分享我们在开发尖端 AI 技术和研究 AI 安全方面的经验，以及我们与政府合作开发和广泛推广安全且有益的 AI 工具的意愿。我们认为制定能够激励 AI 安全同时确保人们能够获得该技术众多益处的法规至关重要。 OpenAI 是一家成立于 2015 年的旧金山公司，致力于确保人工通用智能（AGI）造福全人类。OpenAI 的工作由我们的章程驱动，其中我们承诺致力于广泛分配 AGI 的益处、最大化 AI 系统的长期安全、与其他研究和政策机构合作，并在 AI 领域担任技术领导者以实现这些目标。OpenAI 拥有一个独特的结构，确保其专注于这一长期使命。我们有几个关键的经济和治理条款： - 首先，我们结构中的主要实体是非营利组织，是 501(c)(3) 公益慈善机构。 - 其次，我们的营利性运营受利润上限约束，由完全由非营利组织控制的子公司管理。 - 第三，由于董事会服务于非营利组织，每位董事必须履行其受信责任以推进其使命——安全且广泛有益的 AGI。虽然营利性子公司可以产生和分配利润，但它受这一使命的约束。非营利组织的主要受益方是全人类，而不是 OpenAI 投资者。 - 第四，董事会保持多数独立。独立董事在 OpenAI 中不持有股权。 - 第五，投资者和员工的利润由具有约束力的法律承诺设限。非营利组织保留所有剩余价值以造福人类。 这个结构使我们能够优先考虑安全且有益的 AI 开发，同时帮助我们获得必要的资本来开发越来越强大的 AI 模型。例如，今年 1 月，Microsoft 宣布了对 OpenAI 的多年期数十亿美元投资，继 2019 年和 2021 年的先前投资之后。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-1) 这项投资为 OpenAI 开发、测试和改进我们的技术提供了必要的资本和先进的超级计算基础设施。Microsoft 是 OpenAI 的重要投资者，我们重视他们与我们价值观和长期愿景的独特一致性，包括他们共同致力于构建可信任和安全的 AI 系统和产品。与此同时，OpenAI 仍然是由 OpenAI 非营利组织管理的完全独立的公司。Microsoft 没有董事会席位，也不控制 OpenAI。此外，AGI 技术明确为非营利组织保留。 OpenAI 是大型语言模型（LLM）和其他 AI 工具的领先开发者。从根本上说，当前一代 AI 模型是大规模统计预测机器——当给定一个人的请求时，它试图预测一个可能的回应。这些模型的运作方式类似于现代智能手机、电子邮件或字处理软件上的自动完成功能，但规模更大、复杂度更高。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-2) 模型通过阅读或查看世界上的数据来学习，这改进了其预测能力，直到它能够执行诸如总结文本、撰写诗歌和编写计算机代码等任务。使用该技术的变体，AI 工具还能够学习图像与文本描述之间的统计关系，然后根据自然语言输入生成新图像。我们的模型在包括公开可得内容、许可内容以及由人类审核员生成的内容的广泛数据上进行训练。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-3) 创建这些模型不仅需要先进的算法设计和大量训练数据，还需要大量的计算基础设施来训练模型，然后为数百万用户运行它们。我们最近的主要版本包括能够生成图像和文本的工具。2022 年初，我们推出了 DALL·E 2 的研究预览版，这是一个 AI 系统，可以从自然语言描述中创建逼真的图像和艺术。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-4) 现在数百万用户正在使用 DALL·E 创建和改进图像，并与世界分享他们的创意。自初始预览以来，我们扩展了 DALL·E 的功能，包括推出 DALL·E 应用程序编程接口（API）来帮助开发者将 DALL·E 集成到应用和产品中。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-5) 在文本方面，我们已经训练并公开发布了许多 LLM，从 2019 年的 GPT-2 系列模型开始，(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-6) 以及 2020 年的 GPT-3 系列模型。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-7) 2022 年 11 月，我们发布了 ChatGPT。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-8) 这些模型可用于组织、总结或生成新文本。它们"理解"用户查询和指令，然后根据这些查询生成合理的回应。模型通过预测对用户请求的下一个可能词语来生成回应，然后继续预测之后的每个后续词语。这些模型在世界大部分地区免费提供；我们还推出了试点订阅服务 ChatGPT Plus，为用户提供额外优势，(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-9) 我们还通过 API 为开发者提供这些模型，以便他们构建应用和服务。今年 3 月，我们发布了 GPT-4，这是我们最先进的系统，能够产生比之前 OpenAI 产品更有用、更创意、更协作和更准确的输出。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-10) GPT-4 在 ChatGPT Plus 上可用，以及（与其他 GPT 模型一样）作为 API 供开发者构建应用和服务。 OpenAI 的使命是确保 AI 系统以安全和有益的方式被构建、部署和使用。我们亲眼看到这些系统的潜力和实际正面影响，它们在改善人们生活方面起到作用。我们听到来自世界各地的用户反馈，他们多么喜欢我们的工具，以及 AI 如何以多种方式帮助他们，包括帮助他们更快地编写复杂的计算机代码、提升他们的生产力和创意、增强他们现有的优势、帮助他们学习新技能和扩展他们的业务。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-11) 以下是客户使用我们产品的一些方式： - 教育非营利组织 Khan Academy 试运行一个使用 GPT-4 为学生提供个性化虚拟导师和为教师提供课堂助手的项目。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-12) - Morgan Stanley 使用 GPT-4 来提供一个内部聊天机器人，该机器人对财富管理内容进行全面搜索，并"有效地释放了 Morgan Stanley 财富管理的累积知识"，帮助他们的财务顾问更好地为客户服务。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-13) - Stripe 以多种方式使用 GPT-4，包括改进其定制支持运营、帮助回答关于技术文档的支持问题，以及帮助检测其社区平台上的欺诈。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-14) - 面向法律专业人士的平台 Harvey 使用 GPT-4 使研究和起草等任务更高效，以便他们可以将更多时间花在战略上，并为更多客户提供更高质量的服务。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-15) - Speak 是韩国增长最快的英语应用程序，使用我们的自动语音识别 AI 系统 Whisper 来提供 AI 说话伙伴，并提供真正开放式的会话练习。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-16) - Weave 使用我们的工具构建了一个科学家协作平台，特别关注肿瘤学的突破。 - 从电影导演到独立音乐人的创意专业人士正在使用我们的图像生成工具 DALL·E 来增强他们的创意过程，从快速故事板到创建以前不可能创建的封面艺术。 我们还与非营利组织和其他组织合作，探索我们工具的社会有益用途。例如，我们的技术支持一个名为 Be My Eyes 的非营利组织帮助盲人或低视力人士使用我们的模型来帮助描述他们所看到的东西。这些用户通常依靠志愿者帮助他们进行数百项日常任务，我们看到一个名为"虚拟志愿者"的由 AI 驱动的系统可以帮助达到与志愿者相同的背景和理解水平。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-17) The Trevor Project 使用 GPT-2 来大幅扩展其防止 LGBTQ 青少年自杀的工作，而 Lad in a Battle 使用 DALL·E 为儿科癌症患者带来欢乐。冰岛政府使用 GPT-4 来保护冰岛语，(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-18) 其他国家也表示了使用同一模型来保护资源不足语言的兴趣。 我还想分享 Ben Whittle 的故事，他是一名有阅读障碍的游泳池安装工和景观设计师。Ben 担心他的阅读障碍会损害他与客户的电子邮件沟通。Ben 的一位客户基于我们的技术创建了一个 AI 工具来帮助 Ben 通过提出建议、改进语法和添加专业细节来写出更好的电子邮件。Ben 现在使用这个 AI 工具来处理他所有的工作电子邮件，并相信它在为他的公司争取一份 260,000 美元合同方面发挥了重要作用。Ben 在《华盛顿邮报》的采访中表示，"这给了我正好需要的东西。"(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-19) 这只是我们的技术如何在人们学习采用和使用 AI 工具时对其有益的一个方式。这些机会就是为什么前美国财政部长 Lawrence Summers 表示 ChatGPT 等 AI 工具可能与印刷术、电力，甚至轮子或火一样具有影响力。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-20) 我们对帮助建设未来的参与感到极大的兴奋、机遇和责任。 虽然我们认为我们已部署的工具的益处远超风险，但确保其安全对我们的工作至关重要，我们在所有级别中做出巨大努力以确保安全被构建到我们的系统中。在下面的部分中，我讨论了我们对安全的总体方法和我们为使模型更安全而采取的一些具体步骤。 在发布我们模型的每个新版本之前，OpenAI 进行广泛的测试、征求外部专家的反馈、使用强化学习人类反馈（RLHF）等技术改进模型行为，以及实施安全和监测系统。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-21) 我们最新模型 GPT-4 的发布提供了一个说明性的例子。在开发 GPT-4 后，我们花费了超过 6 个月的时间来评估、测试和改进该系统，然后才向公众提供。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-22) 除了我们自己的评估外，我们与外部 AI 安全专家合作进行了一个被称为"红队"的过程，通过该过程他们帮助识别 GPT-4 的潜在问题，包括生成不准确信息（称为"幻觉"）、仇恨内容、虚假信息以及与常规和非常规武器扩散相关的信息。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-23) 这个过程帮助我们更好地理解潜在的使用风险以及解决这些风险的方法。 在这些领域中的每一个，我们制定了缓解措施以显著增加安全性。我们的一些工作涉及对用于训练模型的数据进行调整，这被称为预训练阶段。其他干预措施在模型初始训练之后进行。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-24) 例如，在预训练阶段，我们减少了数据集中色情文本内容的数量。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-25) 在预训练阶段之后，我们塑造 GPT-4 行为的主要方法涉及让人们对模型回应提供反馈，以帮助教我们的模型以更安全和更有用的方式进行回应。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-26) 我们还教模型尝试拒绝有害请求，并在面对敏感请求时更适当地进行回应。这些努力从经验上减少了模型生成有害或不准确内容的可能性。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-27) 当被要求生成不允许的内容（如我们使用政策中所定义的）时，GPT-4 在超过 99% 的时间里拒绝这样做。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-28) 虽然我们的模型仍然有局限性，在某些情况下可能生成不允许的或不准确的信息，但我们通过这些安全努力取得了显著进展，我们正在继续加强这些努力。 我们努力工作以在部署前理解和防止风险。(https://openai.com/global-affairs/testimony-of-sam-altman-before-the-us-senate/#citation-bottom-29)