很兴奋看到@Reuters报道我们初创公司Accelerated Understanding的发布。我们正在训练大规模AI模型……

X AI KOLs Following 模型

摘要

Anima Anandkumar宣布启动初创公司Accelerated Understanding,该公司正在训练大规模AI模型以模拟和理解4D物理,旨在通过将上下文长度推至万亿级来加速发明和发现。

很兴奋看到@Reuters报道我们初创公司Accelerated Understanding的发布。我们正在训练大规模AI模型,这些模型能够模拟和理解物理以进行发明和发现。我们的模型直接在4D(3D + 时间)中理解世界,并涵盖各种物理现象。完整的4D需要巨大的上下文长度,我们在训练中已将其推至万亿级,在推理时超过5万亿。AI提供更多想法的大干草堆并无帮助。新发明和发现的瓶颈正在从想法转向测试能力。通过能够模拟和理解物理的AI,我们直接攻克这一瓶颈。人们一直试图这样做,但通常是通过走捷径。窄化的替代模型在你恰好拥有足够精确的数据且设计循环保持在分布内时效果很好。视频模型看起来不错,但将物理精度掩盖了,而一些静态世界模型完全排除了物理。许多有趣的物理并非视觉的。不走捷径是什么样子?空间保持3D,并且还有时间:所以总共是4D。你还需要在同一模型中有多个物理模态,而不仅仅是可见的东西。这就是我们所构建的。扩展是使这项工作成功的关键因素。要表示世界,你需要足够的上下文,在我们的案例中,这在4个维度上增长。单个样本变得如此之大,以至于无法放入单个加速器甚至完整节点中。我们开发了架构技巧使其可行。我们在大规模预训练中将模型参数推至1万亿,并能够在需要时以高达万亿的上下文进行训练,在推理时超过5万亿上下文,无需任何子采样或分块。基于先前AI天气预报、聚变模拟、医疗设备、药物和芯片设计的成功,我们希望看看规模和通用性是否能有益于物理理解的AI。凭借我们团队在大规模基础设施和模型训练方面的经验,我们已经成功实现了这一点。https://reuters.com/business/ai-founders-who-walked-away-bezos-backed-prometheus-model-universe-2026-08-25/… https://acceleratedunderstanding.com @accelerated_u @bjenik
查看原文

相似文章