在长时间分心后回忆一个新密码可能很难。

但对Transformer来说并非如此。

微软CVP Doug Burger与AI研究员Subutai Ahmad和Nicolò Fusi共同探讨人类记忆与机器智能之间的本质区别。https://t.co/4t9fhRJIC5 https://t.co/hV980ISqFo

机器真的智能吗？

来源：https://www.microsoft.com/en-us/research/podcast/will-machines-ever-be-intelligent/

技术进步的节奏如此之快，以至于有时很难清晰定义我们正在为之奋斗的明天。在《未来形态》(https://www.microsoft.com/en-us/research/story/the-shape-of-things-to-come/)中，微软研究院负责人Doug Burger (https://www.microsoft.com/en-us/research/people/dburger/)与来自不同领域的专家一起，剖析当今技术专家、政策制定者、商业决策者及其他利益相关者面临的最棘手的AI问题。目标：增强共识，共同构建一个AI转型带来净收益的未来。

在本系列的第一集中，微软研究院的Nicolò Fusi (https://www.microsoft.com/en-us/research/people/fusi/)和Numenta的Subutai Ahmad(新标签页打开) (https://www.linkedin.com/in/subutai/)与Burger一起探讨当今的AI系统是否真正智能。他们将基于Transformer的大语言模型与人类大脑分布式、持续学习架构进行比较，探讨效率、表征方式和感觉运动基础方面的差异。讨论深入剖析了智能的真正含义，当前模型的优势与不足，以及未来AI系统可能需要弥补的差距。

文字记录

[音乐]

**道格·伯格：**这里是《未来形态》，微软研究院播客。我是主持人道格·伯格。在本系列中，我们将深入AI能力的尖端，挖掘其基本原理，真正理解它们，并思考这些能力将如何改变世界——无论好坏。

在今天的播客中，我邀请了两位AI研究专家：Nicolò Fusi，他是数字、基于Transformer的大语言模型架构和学习的专家；以及Subutai Ahmad，他是生物架构（特别是人类大脑）的专家。我们要讨论的问题是：机器智能吗？

我的意思是：数字智能、大语言模型，是否正在超越人类的道路上？还是说，这些架构本质上如此不同，以至于一种会在某些方面表现出色，而另一种则在另一些方面非常擅长？因此，我们将围绕数字实现和生物实现的智能架构展开辩论，因为对这个问题的回答，我认为，将真正决定未来的形态。

[音乐渐弱]

我想请每位嘉宾做个自我介绍。请谈谈你们的背景，以及目前在AI领域的研究方向——能透露多少就透露多少。那么，Nicolò，你先来好吗？

**尼科洛·富西：**好的，谢谢道格邀请我们。非常开心。我是尼科洛·富西，微软研究院的研究员。道格是我的老板，所以在这个播客里，我会对道格非常非常非常友好。

不开玩笑了，我自己的背景是贝叶斯非参数方法。这是我最初的研究方向，比如高斯过程之类的。同时，我也涉足计算生物学，因为我认为这是AI技术最有趣的应用场景之一。这贯穿了我的整个职业生涯。和几乎所有人一样，我后来也离开了核方法 和贝叶斯非参数领域，开始更多地研究语言模型、Transformer模型，特别关注信息论以及信息论与生成式建模之间的联系。这是我今天的主要工作之一，另外就是管理那些比我做更有趣研究的人的研究工作。[笑]

**伯格：**我得插一句，尼科洛，你放了鱼饵。

**富西：**我猜到了。

**伯格：**你知道，在微软研究院，我有一条管理原则：我不能告诉任何人该做什么，因为我们雇佣的是世界上最优秀的人。你得信任他们。而且每个人都可以随时对我说“你错了”。所以尼科洛刚才在开玩笑；[笑] 他不需要完全服从我的意见。事实上，我鼓励他不要这样。所以……

**富西：**我只是得表现好点。我只想说这个。[笑]

**伯格：**是的。谢谢你，谢谢你给我下套。[笑] 因为他很清楚自己在做什么。我很喜欢他这一点。

Subutai，你能介绍一下自己吗？

**苏布泰·艾哈迈德：**当然。非常感谢道格邀请我。非常期待我们之间的对话。

我本质上把自己看作一名计算机科学家。我学习计算机科学的时间之长，我自己都不好意思说了。但在本科期间，我发生了一些变化。我决定辅修认知心理学，并开始对大脑的工作原理产生浓厚兴趣。

对我来说，理解智能并实现智能是计算机科学家能解决的最难的问题。所以我对此非常非常感兴趣。但当时我看不到如何真正将其商业化。我对做产品之类的事情也很感兴趣。所以有一段时间我停止了这方面的研究。我创办了几家做计算机视觉、视频处理之类的初创公司。

然后，当杰夫·霍金斯在2005年创立Numenta，致力于深入理解大脑工作原理并将其应用于AI时，对我来说，就像是我的所有世界汇聚到了一起。这就是我必须做的事情。我们谁也没想到[笑] 这会花这么长时间。在过去的二十年里，我们真的从计算机科学家、程序员的角度，深入钻研神经科学，试图理解其底层算法。这正是我的激情所在：试图将我们对神经科学的理解转化为当今的AI。

至于我们现在的工作，你知道，人类——也许我们稍后会深入探讨——大脑的工作效率极高——功耗低，能效高——我们正试图将这些理念具体化，让AI比现在高效得多。

**伯格：**很好。我想我们稍后会在播客中讨论效率问题，因为这是我非常关心的一个话题，你知道，我最初是学计算机架构出身的。

我想回到……我参与Numenta的原因之一是，Subutai和我多年来一直在通过邮件交流合作，互相拜访。真正让我印象深刻的是，我读了杰夫早期的一本书《论智能》(新标签页打开) (https://us.macmillan.com/books/9780805078534/onintelligence/)。书中有个例子，讲的是人类大脑是如何持续学习的。我认为生物体通常都是持续学习的。

我记得那个轶事：如果你正走下地下室的楼梯，有一个台阶一直矮几英寸，你决定修好它，于是把它垫高了，使其与其他台阶平齐。然后下次你下楼时，你忘了这件事，结果步子就错了。你撞上那个台阶，踩得比预期早或晚，失去平衡。你摇摇晃晃，肾上腺素飙升，以为自己要头朝下栽下楼梯了，希望你没有。第二次你下楼时，还有点不平衡，但没那么严重了。第三次你可能只注意到一点点，到了第四次，它就成了你熟悉的楼梯。

所以，从第一次下楼到第三、第四次之间，你大脑中发生了分子层面的变化，学会了地下室楼梯的新时机。书中的这个例子让我记忆犹新。这让我思考，哇，这和我们数字AI的工作方式如此不同。我想请你对此发表评论，然后我们再深入探讨数字领域。

**艾哈迈德：**是的，这是个很好的例子。我认为我们的大脑如此精细地持续为整个外部世界建模，而我们甚至没有在感知层面意识到这一点，这确实很了不起。比如楼梯的例子，你可能不会有意识地注意到，但如果你非常熟悉的世界中有什么东西不一样了，你会立刻察觉。然后你会更新你的世界模型，做出调整，继续前行。大脑能如此无缝地做到这一点，真的很了不起。

**伯格：**这在很大程度上是基于神经递质，对吧？因为当你产生“我要栽下楼梯了”这种身体反应时，会有一大堆神经递质涌现出来，实际上改变了你大脑学习的方式或至少是学习速率。

**艾哈迈德：**是的，大量的神经递质和神经调质会引发变化，有时非常迅速。另一个例子，如果你碰到热炉子——这是经典例子——你会非常非常快地学会。所以有很多化学变化发生。但同时很有趣的是，我们能够更新知识，更新我们对世界的认知，而不会影响其他已知信息。这再次与当今的AI模型非常、非常不同。我们能够以一种非常情境化、非常精细的方式进行这些改变。

**伯格：**所以，Nicolò，我想现在稍微聊聊Transformer。我想你知道，你、我和Subutai在2017年Transformer出现之前很多年就都在AI领域工作了。我和我的团队曾经构建硬件来加速RNN、LSTM，这些模型有严重的循环依赖瓶颈。而Transformer并行化程度高得多。

那么，你认为这些事情到底是怎么回事？也许我们可以从……我知道我们谈过很多——也许就从主要的几个模块开始吧。有注意力层、前馈层、编码器堆栈、解码器堆栈，以及中间的潜在空间。你能高屋建瓴地为我们介绍一下这些部分，并告诉我们你认为它们是怎么回事吗？

**富西：**好的。是的，我对Transformer为什么这么伟大有一个非常主观的看法。

**伯格：**这就是为什么请你来。[笑]

**富西：**也许，是的，也许我会加入我的看法。我不知道。我不认为这是一个超级新颖或独创的观点，但它确实是一个观点。所以我想两个主要的……你已经描述了两个主要组成部分：Transformer层和前馈层。思考它们的一种方式是，上下文中的信息如何相互关联，以及每个词元指的是什么，例如在语言模型的Transformer中。

这里说的上下文，是指你输入模型的信息，模型会不断生成并追加到其后。

**伯格：**就像你的聊天记录。

**富西：**你的提示词。你的什么？聊天记录或聊天会话中的特定提示词。

**伯格：**好的。

**富西：**这个提示词，一个单词序列，被离散化成一系列词元。词元可以是单个单词，也可以是连接在一起的多个单词。从单词到词元的过程通常通过一种算法实现，该算法试图尽可能多地压缩。多个单词，比如“the dog”，可能只是一个词元，作为输入模型的第一级压缩。它只是试图尽可能高效地将事物整合在一起。

然后，在这些模型中，有一个Transformer层。这个Transformer层或者说注意力层，试图弄清楚“the dog”中的“the”指的是什么，或者“the dog jumps on the table”中的“jumps”指的是那只狗。所以会发生这种映射关系。

然后还有前馈层，在现代大语言模型中，它们存储了大量信息。这就像是知识通常所在的地方，模型只是“知道”的东西。比如，我不知道，如果你把胳膊撞向桌上的水杯，水杯会从桌上掉下来。这是模型通过阅读大量关于杯子被撞掉下桌子的文本而内化学习到的。

所以，这些对我来说是两个基本组成部分。我之所以有主观看法，是因为老实说，我确实认为RNN，甚至状态空间模型——状态空间模型的现代化身——都足以学习语言数据、视觉数据或音频数据。

Transformer的优点在于它有两件事做得非常好。一是它不碍事。它没有“所有东西都必须通过一个状态来编码”这种概念，像循环网络那样。二是它在计算上非常高效，就像你说的。没有计算瓶颈。因此它创造了这个良好的契机，正好在正确的时间成为正确的架构，释放了足够的信息流通过模型……

**伯格：**是的。

富西：……以至于我们能够实现这些惊人的事情。

**伯格：**我想追问一件事。比如，在注意力块中，你可以找出哪些单词或哪些词元与哪些词元相关。我输入提示词，它会找出所有关系，然后将这些关系传递给前馈层——准确地说，是层内的前馈单元。你说知识在那里被编码，但这些映射访问知识到底意味着什么？然后你将它投影回输出，再传递到下一层的注意力块？

**富西：**是的，再次。

**伯格：**所以这看起来有点奇怪：访问知识，然后获取知识，合并它，再回到另一个注意力映射。

**富西：**你可以把它看作是层的前馈部分发生的一种混合操作。你知道，你先进行注意力操作，然后进行混合，再重新投影到信息含量更高的空间或不同信息提取层次的空间。然后你把它放回“好，让我再进行一轮处理”，再次注意力操作，然后再混合。然后一遍又一遍。

所以我认为，提示词中存在的以及已经内化到权重中的信息，会得到越来越精细的提炼。这种提炼是提取结构还是聚合成更高层次的概念，我不确定。我认为只是结构被提取出来，而那些……