Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough

# Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough **TL;DR:** DeepMind创始人Demis Hassabis认为当前深度学习组件（预训练、RLHF、思维链）是AGI架构的一部分，但缺少持续学习、长程推理和记忆能力，预计2030年左右实现AGI，并强调强化学习、智能体和蒸馏技术仍被低估。 ## AGI时间线与关键缺失 Hassabis从十几岁起就致力于通用人工智能（AGI）。他预期AGI大约在2030年出现，因此任何深度科技创业都必须考虑这一时间线。“这未必是坏事，但你必须考虑到这一点。” 当前范式中的大规模预训练、RLHF和思维链，Hassabis认为它们“将成为AGI最终架构的一部分”，但“可能还缺少一两个东西”。具体来说： - **持续学习**：现有系统靠临时拼凑（如夜间梦境周期、经验回放），无法优雅地将新知识整合进已有知识库。 - **长程推理**：模型在简单推理上仍会出错，存在“锯齿形”智能——能解决国际数学奥赛难题，却犯基本算术错误。 - **记忆**：百万token上下文窗口虽大，但粗暴地存储所有内容（包括无关信息），且实时视频需支持更长时间跨度。 “我认为要实现AGI，所有这些都不可或缺。” ## 从神经科学到AI：记忆与梦境周期 Hassabis的博士研究聚焦于海马体如何工作，特别是记忆巩固中睡眠（尤其是REM睡眠）的作用。DeepMind早期的Atari程序DQN从神经科学中借鉴了“经验回放”——多次回放成功轨迹。这“要追溯到2013年，属于AI的‘暗黑时代’”。 但眼下方法仍不尽人意：“我们把所有东西都塞进语境窗口，包括不重要的、错误的信息。这看起来不太对劲。”即使拥有百万级上下文窗口，查找相关信息仍有成本。记忆领域存在巨大创新空间。 ## 强化学习被低估 DeepMind历史上倚重强化学习和搜索（AlphaGo、AlphaZero、MuZero）。Hassabis认为RL“有点被低估”。当前领先模型的“思考模式”和“思维链推理”其实是AlphaGo开创性工作的一种回归。“我们正以更大规模、更通用的方式重新审视一些旧的想法，包括蒙特卡洛树搜索。” 他预测这些想法将成为未来几年进步的重要组成部分。 ## 蒸馏与小型模型 Hassabis强调DeepMind的核心优势之一：先构建最大模型获得前沿能力，然后“快速地将这种能力蒸馏并封装到越来越小、越来越快的模型中”。蒸馏由DeepMind创始人（如Jeff、Oriol）发明，团队至今是世界级专家。 小模型的价值： - **成本与速度**：2023年一个小模型可达前沿模型95%性能、十分之一价格。对编码等迭代快的任务，速度收益超过那5%的损失。 - **隐私与安全**：可在边缘设备本地运行，处理个人音频、视频数据，只在必要时委托云端。 - **机器人技术**：家庭机器人需要高效、强大的本地模型。 Hassabis认为还未看到信息理论极限：“在我们领先专业模型发布一年或半年后，你就能在很小的、近乎边缘设备的模型中看到类似能力。”Gemma 4系列证明了这一点。 ## 推理：内省与“过度思考” Hassabis喜欢和Gemini下国际象棋，观察其思维轨迹：“所有领先的基础模型在游戏方面表现都很差。”他举例说模型有时会考虑一步棋，意识到是昏招，却找不到更好的，最后回头走那步棋。“这种情况在精准推理系统中本不该发生。” 他认为存在“一两个调整就能修复这些差距”，但差距“相当明显”。一种“关于自身思维过程的内省能力”可能是缺失部分。 ## 智能体：才刚刚起步 “你需要一个能够主动为你解决问题的系统才能通往AGI。智能体正是这条路径，而且我认为我们才刚刚起步。”当前智能体在任务上很有用，但缺乏持续学习能力，无法“设置后无需管理”。让系统适应特定语境是缺失的环节。 Hassabis认为智能体远未被过度炒作：“它的可能性完全不可思议。” --- **Source:** [Demis Hassabis: Agents, AGI & The Next Big Scientific Breakthrough - YouTube](https://www.youtube.com/watch?v=JNyuX1zoOgU)