@AdinaYakup: BAAI 刚刚在 @HuggingPapers 上发布了 Orca 论文:一种多模态潜在世界模型,它首先学习世界本身,……
摘要
BAAI 发布了 Orca 论文,描述了一种多模态潜在世界模型,该模型首先学习统一的世界表示,然后使用冻结的主干网络和微小的解码器解码为文本、图像或动作,权重即将发布。
BAAI 刚刚在 @HuggingPapers 上发布了 Orca 论文
一种多模态潜在世界模型:它首先学习世界本身,而文本/图像/动作只是读取它的不同方式
怎么做?
他们冻结了整个主干网络,只在其上训练了微小的解码器。因此,任何胜利都来自表示,而非解码器。并且它同时在所有三种模态上扩展。
权重即将发布!
查看缓存全文
缓存时间: 2026/07/01 10:05
BAAI 刚刚在 @HuggingPapers 上发布了 Orca 论文
一种多模态潜在世界模型:它首先学习世界本身,而文本/图像/动作只是读取它的不同方式
怎么做? 他们冻结了整个骨干网络,只训练了顶部的微型解码器。因此任何收益都来自表征,而非解码器。并且它同时适用于所有三种模态。
权重即将发布!
相似文章
Orca:世界尽在你的脑海中
本文介绍了Orca,一个世界基础模型,它通过下一状态预测从多模态数据中学习统一的潜在空间,在文本生成、图像预测和具身动作生成等下游任务上优于专门的基线模型。
@_akhaliq: Orca 世界在你心中
Orca 是一篇关于语言模型的研究论文,声称该模型通过自身的推理来理解世界。
@artemZholus:谢谢!在第二篇论文(https://arxiv.org/abs/2605.06388)中,我们采用了您(和RAE)的方案,效果不错。
本文系统地比较了基于重建和基于语义的潜在空间在机器人行动条件潜在扩散世界模型中的应用。研究发现,像V-JEPA 2.1这样的语义编码器在策略相关指标上通常优于重建编码器,从而主张将语义潜在空间作为机器人世界模型的更强基础。
@mli0603: 这就是Physical AI的关键时刻!我们正式宣布Cosmos 3:面向Physical AI的全模态世界模型 - Cosm…
宣布Cosmos 3,一个面向Physical AI的全模态世界模型,能够在统一架构中理解和生成语言、图像、视频、音频和动作。
开源全模态世界模型(GitHub仓库)
JoyAI-Echo是一个开源的GitHub仓库,提供长期音视频生成和全模态世界模型,用于创建持久故事和交互式世界。