为什么我们通过AI能取代什么来衡量其进步,而不是它能让人类做什么?

Reddit r/ArtificialInteligence 新闻

摘要

本文批评了AI取代人类角色的主流焦点,并提出通过AI如何增强人类能力来评估其进步,从而使人们能够完成之前无法完成的任务。

为什么我们总是用AI能取代什么来定义每一项新的AI能力?每当AI获得一项新能力时,一个熟悉的问题几乎立即随之而来:这会取代什么?如果一个模型在编程方面变得更好,我们会问它可能取代哪些程序员。如果它在写作、设计、研究、诊断或规划方面有所改进,讨论很快就会转向这些职业的哪些部分可能不再需要人类。这显然是一个重要问题。但我认为,这种框架已经变得如此主导,以至于我们忽略了评估同一技术进步的另一种方式:这项技术让人类能够做什么他们之前做不到的事情? 这不是一个新想法。1962年,Douglas Engelbart发表了《增强人类智力》。他的目标不仅仅是让计算机代替人类进行智力工作。他将增强描述为提高一个人处理复杂问题、理解这些问题并解决之前无法解决的问题的能力。重要的是,他感兴趣的系统不仅仅是计算机,而是人类、工具、语言、方法和培训的结合。 后来,国际象棋产生了一个特别有趣的例子。1997年,IBM的Deep Blue击败了Garry Kasparov,这成为替代叙事最清晰的象征之一:人类对抗机器,执行相同的任务,直到机器变得更好。但Kasparov的反应很有趣。他没有止步于人机对抗的国际象棋,而是帮助开发了高级国际象棋,其中人类玩家可以与国际象棋引擎合作。这完全改变了问题。相关的比较不再是简单地:人类 vs. 机器,而是:单独的人类 vs. 人类 + 机器。这种区别在现代人工智能中似乎越来越重要。 计算器扩展了狭窄的能力。望远镜扩展了感知。写作扩展了记忆和推理,超越了我们内部能容纳的范围。计算机进一步扩展了这些能力。人工智能是不寻常的,因为同一技术可能同时扩展人类能力的多个维度:推理、记忆、学习、感知、创造力、沟通和行动。然而,我们评估人工智能的语言似乎仍然严重依赖于自主机器:基准分数、无需人类完成的任务、自动化的职位,以及模型在某项任务上变得比人更好的时刻。这些是有用的测量,但它们主要测量机器能力。我感兴趣的是,我们是否需要同样认真地思考通过访问人工智能所创造的人类能力。不仅仅是:人工智能是否让某人在他们已经会做的事情上快了30%?而是:这个人现在是否能够理解、创造、调查、建造或完成一些之前超出他们有效能力范围的事情? 这导致了对人工智能进步的不同解释方式。每当模型获得一项新能力时,也许实际上有两个值得问的问题:这能取代什么?以及,人类因为这项技术的存在现在能够做什么?我很好奇这里是否有人已经看到第二类的有意义例子——那些人工智能不仅仅加速了现有技能,而是真正扩展了一个人能做的事情的情况。
查看原文

相似文章

人工智能评估应与人类协作

arXiv cs.AI

这篇立场论文主张,人工智能评估应转向评估人机团队,而非超人类性能,以促进更好的社会成果。