将AI神话化更可能导致我们无法很好地操作它（2023）

# 没有“人工智能”这回事 来源：https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai 控制新技术的方法有很多，但首先我们必须停止将其神话化。 一台笔记本电脑戴着人类网状面具的插图。 插图：尼古拉斯·康拉德 /《纽约客》 作为一名计算机科学家，我不喜欢“人工智能”这个词。事实上，我认为它具有误导性——甚至可能有点危险。每个人都已经在使用这个术语（https://www.newyorker.com/science/annals-of-artificial-intelligence/what-kind-of-mind-does-chatgpt-have），现在再来争论它似乎有些晚了。但我们正处于一个新时代的开端——而管理技术最糟糕的方式，就是误解它。 “人工智能（https://www.newyorker.com/tag/artificial-intelligence-ai）”一词历史悠久——它诞生于二十世纪五十年代计算机发展的早期。近年来，计算机科学家们从小看着《终结者》和《黑客帝国（https://www.newyorker.com/magazine/2012/09/10/beyond-the-matrix）》这样的电影长大，也深受《星际迷航：下一代》中Data中校这类角色的影响。这些文化符号在科技文化中几乎成了一种宗教式的神话。计算机科学家渴望创造人工智能并实现这一长久以来的梦想，这再自然不过了。 但引人注目的是，许多追求人工智能梦想的人也担心这可能导致人类的末日（https://www.newyorker.com/magazine/2015/11/23/doomsday-invention-artificial-intelligence-nick-bostrom）。即便是在今天努力的最核心位置的科学家，也普遍认为，人工智能研究者正在做的事情可能导致人类物种的灭绝，或至少给人类带来巨大伤害，而且很快就会发生。在最近的一项调查（https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/#Chance_that_the_intelligence_explosion_argument_is_about_right）中，一半的人工智能科学家同意，人类被人工智能摧毁的可能性至少是百分之十。就连我的同事兼朋友、运营OpenAI（https://www.newyorker.com/magazine/2019/10/14/can-a-machine-learn-to-write-for-the-new-yorker）的萨姆·奥尔特曼也发表了类似的评论（https://abcnews.go.com/Technology/openai-ceo-sam-altman-ai-reshape-society-acknowledges/story?id=97897122）。走进任何一家硅谷咖啡馆，你都能听到同样争论上演：一个人说新代码不过是代码，人类仍然掌控一切；但另一个人反驳说，持这种观点的人只是不明白这项新技术的深远意义。这些争论并不完全理性：当我请那些最担忧的科学家朋友详细说明人工智能末日可能如何发生时，他们常常陷入瘫痪状态——就像试图构想无限时那种不知所措。他们会说：“加速的进步将超越我们，我们将无法理解正在发生的事情。” 我不同意这种说法。我许多朋友和同事对最新大模型（如GPT-4（https://www.newyorker.com/news/daily-comment/what-we-still-dont-know-about-how-ai-is-trained））的体验印象深刻，几乎在守夜等待更深层智能的出现。我的立场不是他们错了，而是我们无法确定；我们仍然可以选择用不同的方式分类这些软件。 最务实的立场是将人工智能视为一种工具，而不是一种生物。我的态度并不排除危险的可能性：无论我们如何看待它，我们仍然可能设计并糟糕地操作我们的新技术，从而伤害我们甚至导致灭绝。将技术神话化只会增加我们无法良好操作它的可能性——而且这种思考方式限制了我们的想象力，将它们束缚在过去的梦想中。我们可以基于“没有人工智能这种东西”的假设来更好地工作。我们越早理解这一点，就越早开始明智地管理我们的新技术。 如果新技术不是真正的人工智能，那它是什么？在我看来，理解我们今天正在构建的事物的最准确方式，是将其视为一种创新的社会协作形式。 像OpenAI的GPT-4这样能按指令写句子的程序，类似于一个包含更多数据的维基百科版本，只不过通过统计方法混合在一起。能按指令生成图像的程序，类似于在线图像搜索的版本，但带有组合图片的系统。在这两种情况下，都是人类撰写了文本并提供了图像。这些新程序混合了人类心智完成的工作（https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web）。创新之处在于，混合过程变得有引导和约束，使得结果可用且往往令人惊叹。这是一项重大成就，值得庆祝——但它可以被视为揭示了人类创造之间先前隐藏的关联，而不是发明了一种新的心智。 据我所知，我的观点是在美化技术。毕竟，文明除了社会协作还能是什么呢？将人工智能视为一种共同工作的方式，而不是一种创造独立智能实体的技术，可能会让它不那么神秘——不那么像HAL 9000或Data中校。但这是好事，因为神秘只会增加管理不善的可能性。 将智能归因于新系统很容易；它们具有灵活性和不可预测性，这是我们通常不与计算机技术相关联的。但这种灵活性源于简单的数学。像GPT-4这样的大型语言模型包含了特定词语如何在程序处理的大量文本中共同出现的累积记录。这种庞大的制表使得系统本质上近似于许多语法模式，以及可称为作者风格的一些方面。当你以特定顺序输入某些词语组成的查询时，你的输入与模型中的内容相关；由于关联数十亿条目的复杂性，每次结果可能略有不同。 这种非重复性的过程可能会让人感觉生动。而且在某种意义上，它可以让新系统更加以人为中心。当你使用人工智能工具合成一张新图像时，你可能会得到一组相似选项，然后必须从中选择；如果你是一名学生，使用语言模型作弊完成论文作业，你可能阅读模型生成的选项并选择一个。非重复性的技术需要一点点人类的选择。 我喜欢的许多人工智能用途，都基于计算机变得不那么僵化时我们获得的优势。我们所知的数字事物具有一种脆弱的特性，迫使人们去适应它，而不是评估它。我们都忍受过看着某个可怜的人在医生诊室前试图在前台屏幕上做预期操作时的痛苦。脸扭曲了；人性被削弱了。适应数字设计的需要在周围环境里创造了一种对人类服从的期待。从积极的角度看，人工智能如果运用得当，可能意味着这种折磨的终结。我们现在可以想象一个网站，例如，它会实时为色盲的人重新调整自己，或者一个网站会针对某人的特定认知能力和风格进行定制。像我这样的人文主义者希望人们有更多控制权，而不是被技术过度影响或引导。灵活性或许能让我们重获一些自主权。 然而，尽管有这些可能的优点，担心新技术以我们不想要或不理解的方式摆布我们，也完全合理。最近，我的一些朋友散发了一份请愿书（https://futureoflife.org/open-letter/pause-giant-ai-experiments/），要求暂停最雄心勃勃的人工智能开发。想法是在暂停期间制定政策。请愿书得到了我们社区内一些人的签名，但并非所有人。我觉得这想法太模糊——达到什么样的进展水平才能结束暂停？每周，我都会收到来自试图启动人工智能政策制定过程的组织的新使命声明，但总是含糊其辞。 这些努力用意良好，但在我看来毫无希望。多年来，我参与欧盟隐私政策的工作，逐渐意识到我们并不真正知道隐私是什么。这是一个我们每天都用的词，在上下文中可能有意义，但我们无法将其钉牢到足以概括的程度。我们对隐私最接近的定义大概是“不被干扰的权利”，但在一个我们持续依赖数字服务的时代，这似乎有点过时了。在人工智能的语境下，“不被计算操控的权利”几乎正确，但并没有完全表达出我们希望的一切。 人工智能政策对话中充斥着诸如“对齐”（人工智能“想要”的是否与人类想要的相符）、“安全”（我们能否预见防止坏人工智能的护栏？）和“公平”（我们能否阻止程序以不利于某些人的方式运作？）等术语。社区通过追求这些理念确实完成了许多好事，但这并没有平息我们的恐惧。我们最终促使人们试图规避我们设立的模糊保护措施。尽管这些保护确实有帮助，但整件事变成了一场游戏——就像试图智胜一个狡猾的精灵。结果是，人工智能研究社区传达出警告：他们的创造物可能很快还会杀死所有人类，同时提出越来越紧迫但冗长的审议过程。 最近，我做了一个非正式实验，打电话给同事，问他们是否有任何具体的事情是我们都能达成一致的。我发现确实存在一个共识基础。我们似乎都同意，深度伪造（https://www.newyorker.com/magazine/2018/11/12/in-the-age-of-ai-is-seeing-still-believing）——虚假但看似真实的图像、视频等——应由创造它们的程序进行标注。来自人造人类的通讯，以及旨在操控人类思想或行动的自动互动，也应被标注。我们还同意，这些标注应附带可采取的行动。人们应该能够理解他们看到的东西，并应有合理的选择作为回应。 所有这些如何实现？我发现，还存在近乎一致的意见：当前人工智能工具的黑箱特性必须结束。系统必须变得更加透明。我们需要更好地说明其内部发生了什么以及为什么。这并不容易。问题在于我们谈论的大型模型人工智能系统并非由明确的观念构成。没有对系统“想要”什么的明确表示，没有标签标明它何时在做特定事情（比如操控一个人）。只有一片巨大的果冻海洋——一个庞大的数学混合体。一个作家权利组织提议，在脚本编写过程中使用GPT等工具时，应全额支付真实人类作者报酬；毕竟，系统依赖的是真实人类创作的脚本。但当使用人工智能制作电影片段，甚至潜在制作整部电影时，不一定有编剧阶段。一部电影可能看起来拥有剧本、配乐等，但它是作为一个整体计算出来的。同样，从图像生成人工智能产生一幅画之前没有草图。试图通过让系统输出原本不必要的物品（如剧本、草图或意图）来打开黑箱，将需要构建另一个黑箱来解释第一个——这是一种无限递归。 与此同时，大模型的内部并非一定是无迹可循的荒野。从形式计算的角度，我们可能不知道“想法”是什么，但可能存在并非由想法而是由人留下的痕迹。在过去的某个时刻，一个真实的人创作了一幅插图，作为数据输入到模型中，并结合其他人的贡献，被转化为一幅新图像。大模型人工智能是由人组成的——而打开黑箱的方法就是揭示这些人。 这个概念，我参与（https://www.amazon.com/Who-Owns-Future-Jaron-Lanier/dp/1451654979/ref=nodl_?dplnkId=da962c54-3d95-4609-a813-7471d422d110）了开发，通常被称为“数据尊严”。它早在“大模型人工智能”兴起之前就出现了，作为一种替代常见安排的方式——在这种安排中，人们免费提供数据以换取免费服务，如互联网搜索或社交网络。数据尊严有时被称为“数据即劳动”或“多元性研究”。这种常见安排已被证明有其阴暗面：由于“网络效应”，少数平台占据主导地位，消灭了地方报纸等较小的参与者。更糟的是，由于即时在线体验本应是免费的，唯一剩下的业务就是兜售影响力。用户体验到的似乎是社区主义的天堂，但他们却被隐秘且令人上瘾的算法所针对，这些算法使人变得虚荣、易怒和偏执。 在数据尊严的世界里，数字事物通常会与那些希望因创造它而被认识的人关联起来。在某些版本的想法中，人们可以因他们的创造获得报酬，即使这些创造通过大模型被过滤和重新组合；科技中心可以通过促成人们想做的事情来收取费用。有些人可能会对在线资本主义的理念感到震惊，但这将是一种更诚实的资本主义。常见的“免费”安排已是一场灾难。 科技界担心人工智能可能成为存在威胁的原因之一，是它可能被用来玩弄人们，就像上一波数字技术那样。考虑到这些新系统的威力和潜在覆盖范围，担心灭绝作为一种可能结果并非不合理。由于这种危险被广泛认识，大模型人工智能的到来或许可以成为改革科技行业使其变得更好的契机。 实施数据尊严将需要技术研究和政策创新。从这个意义上说，这个主题让我作为科学家感到兴奋。打开黑箱只会使模型更加有趣。它还可能帮助我们更好地理解语言——语言是人类真正令人印象深刻的发明，也是我们在数十万年后仍在探索的。 数据尊严能解决常被表达的对人工智能的经济担忧吗？主要担忧是工人将被贬低或取代。公开场合，科技人员有时会说，在未来几年，使用人工智能的人将更有生产力，并在更高效的经济中找到新类型的工作。（例如，一个工人可能成为人工智能程序的提示工程师——与人工智能协作或控制人工智能的人。）然而私下里，同一些人常常会说：“不，人工智能会超越这种协作理念。”今日的会计、放射科医生、卡车司机、作家、电影导演或音乐家将不再有报酬。 数据尊严的方法将追溯在大模型提供有价值输出时最独特和最有影响力的贡献者。例如，如果你向模型请求“一部关于我的孩子们在会说话的猫历险的油画世界中的动画电影”，那么某些关键油画家、猫肖像画家、配音演员和作家——或其遗产——可能会被计算为在创造该输出时具有独特重要性。