@jacobli99: 如果我们想要构建能够像专家一样在新领域操作的机器,要么我们必须将每个领域简化到足够可验证的环境,要么我们必须开发能够自主学习以获得专业知识的机器。
摘要
Jacob X. Li 讨论了人工智能系统需要从文档库中自主发展专业知识的需求,并将此视为一种具有挑战性的持续学习形式。
查看缓存全文
缓存时间: 2026/06/18 02:02
如果我们想要制造能在新领域像专家一样运作的机器,要么我们必须将每个领域简化为一个充分可验证的环境,要么我们必须开发能够通过自主学习获得专业知识的机器。机器学习探索的是第二种可能性!
这是“智能=压缩”直觉的又一个例证。如果提前的自主学习能够通过无限测试时的查找提高性能,那很可能是因为智能体找到了一种方法,将原始事实概括并压缩成更高层次的密集“学习成果”。在这一维度上的改进,将是一个非常有趣的煤矿里的金丝雀,预示着递归自我改进(RSI)开始发挥作用。
干得好,@jacobli99、@lateinteraction、Rick 和团队!
相似文章
@lateinteraction: 对 @jacobli99 的这项工作感到非常兴奋!我们对当前智能体在新领域获取专业知识的方式感到失望…
探讨了让AI系统像人类阅读教科书一样从文档中发展深层专业知识的挑战,强调了一种持续学习的形式。
@jacobli99: 持续学习目前被广泛讨论,但大多是关于在职提升或避免灾难性遗忘…
Jacob Li介绍了'Machine Studying'这一概念,将其视为一种独特且紧迫的持续学习形式,其中AI系统必须仅凭文档语料库在一个新领域发展专业知识。
@jacobli99: 为了比较 Machine Studying 的流程,我们首先定义专业知识。语料库在测试时始终可用…
Jacob Li 引入了 'Machine Studying' 作为持续学习中的一个新问题:AI系统如何仅凭文档语料库在不熟悉的领域发展专业知识,这与避免灾难性遗忘不同。
@lateinteraction: 这项努力最意想不到的副作用之一是,它首次为我们提供了一个可衡量的智能体“智能”定义,让我感到满意
Jacob X. Li 讨论了人工智能持续学习的新视角,强调从文档库中培养专业知识,并指出这为智能体的智能提供了可衡量的定义。
@DSPyOSS: “从某种意义上说,机器学习探讨的是当拥有明确的优化目标时,系统如何从数据中提升。机器学…
一条由@DSPyOSS和Jacob X. Li发布的推文,对比了机器学习(基于明确目标从数据中优化)与“机器研学”(从无下游任务的声明式语料库中学习),强调了AI系统迫切需要从非结构化文档中发展专业知识。