OpenAI 如何应对 2024 年全球选举

# OpenAI 如何应对 2024 年全球选举 来源：https://openai.com/index/how-openai-is-approaching-2024-worldwide-elections/ *2024 年 11 月 8 日更新：* - *在美国选举前夕，我们实施了安全防护措施，将人们引导到可靠的信息来源，防止深度伪造，并对抗恶意行为者的努力。以下是这些措施的一些早期洞察：* ***提升权威信息来源*** - *在整个 2024 年，我们致力于在 ChatGPT 中提升可靠的选举信息来源。通过与全国州务卿协会（NASS）的合作，我们将询问 ChatGPT 有关美国投票的具体问题（例如在哪里或如何投票）的用户引导至 **CanIVote.org** (http://canivote.org/)。在选举前的一个月内，大约 100 万条 ChatGPT 回复将人们引导至 **CanIVote.org** (http://canivote.org/)。类似地，从美国选举日开始，询问 ChatGPT 选举结果的用户会收到鼓励他们查阅美联社和路透社等新闻来源的回复。在选举日及随后一天，大约 200 万条 ChatGPT 回复包含了这条信息。* - *除了引导人们了解可靠信息来源的努力外，我们还致力于确保 ChatGPT 不表达政治偏好，也不推荐候选人，即使被明确要求也不例外。* ***防止深度伪造*** - *我们对 ChatGPT 应用了安全措施，拒绝生成真人（包括政治家）图像的请求。这些护栏在选举背景下尤其重要，是我们防止工具被用于欺骗性或有害目的的更广泛努力的关键部分。在选举日前的一个月内，我们估计 ChatGPT 拒绝了超过 25 万个使用 DALL·E 生成特朗普当选总统、哈里斯副总统、万斯副总统当选人、拜登总统和沃尔茨州长图像的请求。* ***破坏威胁参与者*** - *2024 年全球选举工作的中心部分是识别和破坏试图使用我们工具生成隐蔽影响力行动内容的企图。在 **5 月** (https://openai.com/index/disrupting-deceptive-uses-of-AI-by-covert-influence-operations/)，我们开始公开分享有关我们破坏行动的信息，并在 **8 月** (https://openai.com/index/disrupting-a-covert-iranian-influence-operation/) 和 **10 月** (https://cdn.openai.com/threat-intelligence-reports/influence-and-cyber-operations-an-update_October-2024.pdf) 发布了其他报告。* - *我们的团队在选举日前继续密切监控我们的服务，未见证据表明美国选举相关的影响力行动通过使用我们的模型获得了病毒式参与或建立了持久的受众。* --- *2024 年 10 月 31 日更新：* - *当我们接近美国选举日时，我们的团队正在积极测试我们过去一年实施的安全防护措施，并监控任何问题或规避这些防护措施的企图。我们将根据对人们如何与我们的工具互动的持续洞察，根据需要调整我们的保护措施。* - *从 11 月 5 日开始，询问 ChatGPT 选举结果的用户将看到一条信息，鼓励他们查阅 **美联社** (https://apnews.com/projects/election-results-2024/) 和 **路透社** (https://www.reuters.com/world/us/elections/) 等新闻来源，或他们所在州或地方选举委员会的最完整和最新的信息。* - *这项努力建立在我们与全国州务卿协会的合作基础上，该协会将寻求有关投票方式和地点信息的人们引导至 **CanIVote.org** (http://canivote.org/)，这是美国投票信息的权威网站。ChatGPT 将继续通过选举日将询问这些问题的人们引导到 CanIVote.org。* --- *2024 年 5 月 14 日更新：* - *作为我们持续推动在这个重要选举年围绕 AI 内容进行透明度工作的一部分，我们最近开始向研究人员提前提供一个新工具的访问权限，该工具可以帮助识别由 OpenAI 的 DALL·E 3 生成的图像。我们还加入了 C2PA（内容出处和真实性联盟）的指导委员会。C2PA 是一个广泛使用的数字内容认证标准，由包括软件公司、相机制造商和在线平台在内的各方开发和采用。* - *基于我们引导人们了解美国投票权威信息来源的努力，我们在 2024 年欧洲议会选举前推出了新的体验。当被问及与选举过程相关的某些问题（如投票地点）时，ChatGPT 现在将用户引导至欧洲议会的官方投票信息来源 **elections.europa.eu** (https://elections.europa.eu/)。这类似于我们为 2024 年美国总统选举与全国州务卿协会（NASS）的合作。* - *除了我们在 OpenAI 采取的措施外，我们认为政府发挥重要作用。今天我们支持 **《保护选举免受欺骗性 AI 法案》** (https://www.govtrack.us/congress/bills/118/s2770/text/is)，这是由美国参议院的克洛布查尔、霍利、库恩斯、柯林斯、里克茨和贝内特参议员提出的跨党派法案。该法案将禁止在政治广告中传播与联邦候选人相关的欺骗性 AI 生成的音频、图像或视频，同时包括保护第一修正案权利的重要例外。我们不希望我们的技术或任何 AI 技术被用来欺骗投票者，我们相信这项立法代表了解决政治广告背景下这一挑战的重要一步。* --- 保护选举的完整性需要民主进程各个角落的合作，我们要确保我们的技术不会以可能破坏这一进程的方式被使用。 我们的工具使人们能够改善日常生活并解决复杂问题——从使用 AI 来 (https://www.governor.pa.gov/newsroom/shapiro-administration-and-openai-launch-first-in-the-nation-generative-ai-pilot-for-commonwealth-employees/) 增强州服务，到为患者 (https://www.bostonglobe.com/2023/08/23/metro/can-chatgpt-help-with-medical-forms/) 简化医疗表格。 我们要确保我们的 AI 系统是安全构建、部署和使用的 (https://openai.com/index/our-approach-to-ai-safety/)。像任何新技术一样，这些工具既带来好处也带来挑战。它们也是前所未有的，随着我们对工具使用方式的更多了解，我们将继续发展我们的方法。 当我们为全球最大民主国家的 2024 年选举做准备时，我们的方法是继续我们的平台安全工作，提升准确的投票信息、执行有分寸的政策并改进透明度。我们有一个跨职能的工作组专门致力于选举工作，汇集来自我们的安全系统、威胁情报、法律、工程和政策团队的专业知识，以迅速调查和解决潜在的滥用行为。 以下是我们的团队投入资源为今年的选举做准备的主要举措：