《Attention is All You Need》论文的一位作者刚刚主张我们应当超越它。Pathway的'后Transformer'辩论值得关注

Reddit r/singularity 新闻

摘要

《Attention is All You Need》这篇开创性论文的一位合著者主张,这个领域应该超越Transformer,而Pathway主办的一场辩论正在探讨这一话题。

暂无内容
查看原文

相似文章

确定性就是你所需

Reddit r/artificial

本文介绍了一种利用确定性在Transformer模型中的新方法,基于'Attention Is All You Need'的范式。

@currying: 非常棒的13页讲解!

X AI KOLs Timeline

一条推文重点介绍了《理解Transformer与注意力机制》,这是一篇13页的论文,从应用数学的角度解释了Transformer架构和注意力机制。