为什么我们通过AI能取代什么来衡量其进步,而不是它能让人类做什么?
摘要
本文批评了AI取代人类角色的主流焦点,并提出通过AI如何增强人类能力来评估其进步,从而使人们能够完成之前无法完成的任务。
为什么我们总是用AI能取代什么来定义每一项新的AI能力?每当AI获得一项新能力时,一个熟悉的问题几乎立即随之而来:这会取代什么?如果一个模型在编程方面变得更好,我们会问它可能取代哪些程序员。如果它在写作、设计、研究、诊断或规划方面有所改进,讨论很快就会转向这些职业的哪些部分可能不再需要人类。这显然是一个重要问题。但我认为,这种框架已经变得如此主导,以至于我们忽略了评估同一技术进步的另一种方式:这项技术让人类能够做什么他们之前做不到的事情?
这不是一个新想法。1962年,Douglas Engelbart发表了《增强人类智力》。他的目标不仅仅是让计算机代替人类进行智力工作。他将增强描述为提高一个人处理复杂问题、理解这些问题并解决之前无法解决的问题的能力。重要的是,他感兴趣的系统不仅仅是计算机,而是人类、工具、语言、方法和培训的结合。
后来,国际象棋产生了一个特别有趣的例子。1997年,IBM的Deep Blue击败了Garry Kasparov,这成为替代叙事最清晰的象征之一:人类对抗机器,执行相同的任务,直到机器变得更好。但Kasparov的反应很有趣。他没有止步于人机对抗的国际象棋,而是帮助开发了高级国际象棋,其中人类玩家可以与国际象棋引擎合作。这完全改变了问题。相关的比较不再是简单地:人类 vs. 机器,而是:单独的人类 vs. 人类 + 机器。这种区别在现代人工智能中似乎越来越重要。
计算器扩展了狭窄的能力。望远镜扩展了感知。写作扩展了记忆和推理,超越了我们内部能容纳的范围。计算机进一步扩展了这些能力。人工智能是不寻常的,因为同一技术可能同时扩展人类能力的多个维度:推理、记忆、学习、感知、创造力、沟通和行动。然而,我们评估人工智能的语言似乎仍然严重依赖于自主机器:基准分数、无需人类完成的任务、自动化的职位,以及模型在某项任务上变得比人更好的时刻。这些是有用的测量,但它们主要测量机器能力。我感兴趣的是,我们是否需要同样认真地思考通过访问人工智能所创造的人类能力。不仅仅是:人工智能是否让某人在他们已经会做的事情上快了30%?而是:这个人现在是否能够理解、创造、调查、建造或完成一些之前超出他们有效能力范围的事情?
这导致了对人工智能进步的不同解释方式。每当模型获得一项新能力时,也许实际上有两个值得问的问题:这能取代什么?以及,人类因为这项技术的存在现在能够做什么?我很好奇这里是否有人已经看到第二类的有意义例子——那些人工智能不仅仅加速了现有技能,而是真正扩展了一个人能做的事情的情况。
相似文章
人工智能评估应与人类协作
这篇立场论文主张,人工智能评估应转向评估人机团队,而非超人类性能,以促进更好的社会成果。
如果人工智能能完成工作,那我们究竟是为什么而获得报酬?
本文探讨了随着人工智能执行能力的不断进步,人类角色可能如何转向目标设定和判断,同时强调了在不断变化的工作环境中对技能发展和专业知识构建的担忧。
人们总在问AI是否会取代人类。我觉得我们问错了问题。
文章认为,AI带来的真正变化不是取代工作,而是改变了谁来做决策,强调人类判断和监督AI系统的重要性日益增长。
我们是否高估了AI能力转化为实际生产力的速度?
本文质疑AI展现的能力是否自动转化为实际生产力,强调了工作流所有权、可靠性以及与复杂人类系统集成等方面的差距。
我们总在问人工智能是否会取代我们。更有意义的问题是:与它共享这个世界意味着什么。
本文认为,与其关注人工智能是否会取代或毁灭我们,不如思考将AI视为新型智慧并与之共存的深远影响,强调关系风险以及建立新框架的必要性。