你对持续学习有何看法?[D]
摘要
一篇讨论帖,质疑AI中持续学习的定义和要求,引用了Dario Amodei和Demis Hassabis近期关于其对通用人工智能(AGI)重要性的言论。
似乎突然间每个人都成了持续学习专家。Dario Amodei在Dwarkesh Patel的播客中声称持续学习将在2026年实现,而Demis Hassabis则称其为通往更通用AI路径上最重要的未解突破。两位领域内最知名的人物,但我认为即便是持续学习的含义也尚未达成共识。我看到研究人员和初创公司从根本不同的角度切入。有些人将其定义为解决灾难性遗忘,另一些人则将其视为在线学习、终身学习或元学习。目标因说话者的不同而不断变化。我试图理解的是:持续学习实际上需要什么?为什么它对通用人工智能如此关键?瓶颈是架构问题,还是数据问题,或者是关于我们如何评估和基准测试它的更根本问题?真诚期待不同的见解,无论你认为它被过度炒作、未被充分重视,还是定义不清。也欢迎提供能够厘清嘈杂信息的论文或框架建议。
相似文章
@jacobli99: 持续学习目前被广泛讨论,但大多是关于在职提升或避免灾难性遗忘…
Jacob Li介绍了'Machine Studying'这一概念,将其视为一种独特且紧迫的持续学习形式,其中AI系统必须仅凭文档语料库在一个新领域发展专业知识。
@lateinteraction: 这项努力最意想不到的副作用之一是,它首次为我们提供了一个可衡量的智能体“智能”定义,让我感到满意
Jacob X. Li 讨论了人工智能持续学习的新视角,强调从文档库中培养专业知识,并指出这为智能体的智能提供了可衡量的定义。
伊利亚解决持续学习问题了吗?
讨论了未经证实的说法,即伊利亚·苏茨克维尔的新公司通过构建一个能实时学习和自我重连的模型,实现了人工智能的范式转变,可能推动AGI的发展。
@VraserX: 我现在最兴奋的AI研究是持续学习。我正在关注的三种方法:1: SEAL Models 生成…
作者分享了对三种持续学习方法的兴奋:SEAL模型(自适应)、测试时学习和终身模型编辑,预测到2027–2028年将实现真正的持续学习,从而形成一个通往人工超级智能的反馈循环。
@danintheory:精彩的对话,也是学习重要开放AI问题的有趣方式!
红杉资本强调当前一次性训练的AI模型与人类持续学习之间的差距,并指出了EngramLab在具有内部记忆、永不停止学习的AI方面的工作。