AI进展和建议

# AI进展与建议 来源: https://openai.com/index/ai-progress-and-recommendations/ 当图灵测试的广泛认知悄然被超越时，我们中的许多人都觉得有些奇怪，日常生活似乎就这样继续下去了。这是人们几十年来讨论过的里程碑。它曾感觉遥不可及，然后突然感觉近在咫尺，然后我们就越过了。我们获得了一些很棒的新产品，但世界几乎没有改变，尽管计算机现在可以进行对话并思考困难的问题。 世界上大多数人仍然将AI视为聊天机器人和更好的搜索，但今天，我们拥有的系统可以在我们最具挑战性的一些智力竞赛中超越最聪慧的人类。尽管AI系统仍存在明显的局限性并面临严重弱点，但能够解决如此困难问题的系统看起来更像是让AI研究人员觉得离目标已经走到了80%，而不是20%。人们目前使用AI的方式与AI现有能力之间的差距是巨大的。 能够发现新知识的AI系统——无论是自主发现，还是通过使人类更高效——可能会对世界产生重大影响。 在短短几年内，AI已经从只能做一个人在几秒钟内能完成的任务（特别是在软件工程领域），发展到能做需要一个人花费一个多小时的任务。我们预计很快会有系统能够做需要一个人花费数天或数周的任务；我们不知道如何思考能做需要一个人花费数个世纪的任务的系统。 与此同时，给定智力水平的单位成本下降幅度很大；在过去几年中，每年40倍是一个合理的估计！ 到2026年，我们预计AI将能够做出非常小的发现。到2028年及以后，我们相当确信我们将拥有能够做出更重大发现的系统（尽管我们当然可能出错，这是我们的研究进展所表明的）。 我们一直认为AI的进展以令人惊讶的方式展开，社会会找到与技术共同进化的方式。尽管我们预期未来几年AI能力会取得快速而显著的进展，我们预计日常生活仍将感觉惊人地恒定；即使有更好的工具，我们的生活方式也有很大的惯性。 特别是，我们预期未来会提供新的、希望更好的生活方式，让更多人体验充实的生活，而不仅仅是今天的人们。工作确实会不同，经济过渡在某些方面可能非常困难，甚至基本的社会经济契约也可能需要改变。但在一个广泛分布丰富的世界中，人们的生活质量可以比今天好得多。 AI系统将帮助人们了解自己的健康状况，加速材料科学、药物开发和气候建模等领域的进展，并扩大全世界学生获得个性化教育的机会。展示这些切实的好处有助于建立一个共同的愿景：AI可以改善生活，而不仅仅是提高效率。 OpenAI对安全性的承诺很深（https://openai.com/safety/how-we-think-about-safety-alignment/），我们将其视为通过缓解负面影响来实现AI正面影响的实践。尽管潜在的好处是巨大的，我们将超级智能系统的风险视为可能是灾难性的，并相信实证研究（https://openai.com/index/chain-of-thought-monitoring/）安全性（https://openai.com/index/detecting-and-reducing-scheming-in-ai-models/）和对齐（https://openai.com/index/emergent-misalignment/）（https://openai.com/index/deliberative-alignment/）可以帮助全球做决策，例如当整个领域接近能够递归自我改进的系统时，是否应该放缓开发以更仔细地研究这些系统。显然，任何人都不应该在没有能够稳健地对齐和控制超级智能系统的情况下部署它们，这需要更多的技术工作。 我们认为以下几点可能有助于实现AI的光明未来： 我们认为前沿实验室应该就共同的安全原则达成一致，并分享安全研究（https://openai.com/index/openai-anthropic-safety-evaluation/）、对新风险的学习、减少竞争动态的机制等。我们可以想象前沿实验室就AI控制评估的某些标准达成一致这样的想法会很有帮助。 社会曾经历过类似的过程来建立建筑规范和防火标准，这些标准拯救了无数生命。 关于AI有两种思想学派。一种是AI就像"普通技术"，它的进展类似于过去的其他技术革命，从印刷术到互联网。事情会以给予人们和社会适应机会的方式进展，传统的公共政策工具应该会有效。我们需要优先考虑促进创新、保护与AI对话的隐私以及通过与联邦政府合作防止坏人滥用强大系统等想法。 我们认为今天AI能力水平大致在这里，应该向各处扩散，这意味着大多数开发者和开源模型，以及今天技术的几乎所有部署，相对于已经存在的情况，应该面临最少的额外监管负担。它肯定不应该面临50州的杂乱管制。 另一种是超级智能以人类未曾见过的方式和速度发展和扩散的情况。在这里，我们应该做上述大部分事情，但我们还需要更具创新性。如果前提是这样的情况对社会来说很难以"正常方式"适应，我们也不应该期望典型的监管能做太多事情。在这种情况下，我们可能需要与多个国家的执行部门和相关机构（如各种安全研究所）紧密合作以进行良好协调，特别是在减轻AI应用于生物恐怖主义（以及使用AI检测和防止生物恐怖主义）和自我改进AI的影响等领域。 高层目标应该是对公共机构的问责，但我们达到这一目标的方式可能不得不不同于过去。 在任一情景中，建立AI弹性生态系统都至关重要。当互联网出现时，我们没有用单一的政策或公司来保护它——我们建立了整个网络安全领域：软件、加密协议、标准、监控系统、应急响应团队等。那个生态系统没有消除风险，但将其减少到社会可以接受的水平，使人们能够充分信任数字基础设施，以在其上构建他们的生活和经济。我们需要AI的类似东西，国家政府在促进产业政策以鼓励这一点方面可以发挥强大的作用。 理解AI如何具体影响世界使得更容易地将这项技术引导向积极影响。预测很难：例如，AI对就业的影响一直难以预测，部分原因是今天AI的优势和劣势与人类的优势和劣势非常不同。测量实际发生的情况可能会非常有信息量。 我们认为成年人应该能够在社会定义的广泛范围内根据自己的条件使用AI。我们预计在未来几年内，获得先进AI将成为一项基础公用事业——与电力、清洁水或食物并驾齐驱。最终，我们认为社会应该支持使这些工具广泛可用，北极星应该是帮助赋权人们实现他们的目标。