Accelerated Understanding Inc 推出新 AI 模型,用神经算子取代 Transformer
摘要
Accelerated Understanding Inc 推出了一款新 AI 模型,用神经算子取代了 Transformer 架构,标志着 AI 模型设计的一次转变。
暂无内容
相似文章
Accelerated Understanding | 人工智能:模拟与理解物理学,助力发明与发现。
Accelerated Understanding 正在构建模拟和理解4D物理学的AI模型,以加速发明和发现,提供传统实验所缺乏的方向性反馈。
@AnimaAnandkumar:大多数 AI 模型缺少一个关键要素:理解物理世界的能力。获得这种理解的最佳途径…
Anima Anandkumar 重点介绍了一种 Neural Operator 框架,该框架扩展了现有的神经网络架构以学习连续函数,解决了 AI 理解物理世界能力中的一个关键缺口。该工作发表在 Nature 上,并由 Caltech 进行了报道。
很兴奋看到@Reuters报道我们初创公司Accelerated Understanding的发布。我们正在训练大规模AI模型……
Anima Anandkumar宣布启动初创公司Accelerated Understanding,该公司正在训练大规模AI模型以模拟和理解4D物理,旨在通过将上下文长度推至万亿级来加速发明和发现。
@_avichawla: 英伟达研究人员构建了一种新的Transformer变体。对层结构做了一个小改动:- 解码速度提升1.7倍 - long-…
英伟达研究人员推出了SparDA,这是一种新的Transformer变体,它增加了一个第四投影(Forecast)来预测下一层的KV块,从而支持从CPU内存预取并降低选择成本,实现了解码速度提升1.7倍,并在长程推理任务上准确率提升6.5个百分点。
@AnimaAnandkumar: 神经算子 – 将流行神经网络转换为神经算子用于科学建模 扩展神经网…
本文提出了将流行神经网络架构(CNNs、GNNs、Transformers)转换为神经算子的原则性方法,这些神经算子学习无限维函数空间之间的映射,使得在不同离散化下进行科学建模时能够获得一致的预测。发表于《Nature Machine Intelligence》。