LingBot-Vision: 基于掩码边界建模的自监督预训练 (在1.1B参数下NYUv2线性探测RMSE为0.296,对比DINOv3-7B的0.309,在ImageNet上稍逊一筹);提供四种尺寸的权重[R]
摘要
LingBot-Vision引入了掩码边界建模用于自监督预训练,在1.1B参数下NYUv2线性探测上达到0.296 RMSE,而DINOv3-7B为0.309,虽然在ImageNet上表现稍逊;已发布四种尺寸的权重。
暂无内容
相似文章
蚂蚁集团发布LingBot-Vision:DINO系列视觉骨干网络,提供四种规模,其中0.3B参数的ViT-L在NYUv2深度估计任务上以约23倍更少的参数量达到与DINOv3-7B相当的性能
蚂蚁集团发布了LingBot-Vision,这是一个包含四种规模的DINO风格视觉骨干网络系列;其中0.3B ViT-L在NYUv2深度估计任务上,以约23倍更少的参数量达到了DINOv3-7B的性能,展现了显著的效率提升。
@rohanpaul_ai:一个仅1B参数的视觉模型在深度估计上击败了7B模型,且是冻结状态、单线性层、零微调。@robbyant_brain…
Robbyant发布了LingBot-Vision,一个基于边界训练的1B参数视觉模型,在深度估计上优于DINOv3-7B,且权重开放。
@AdinaYakup: LingBot Vision 来自蚂蚁集团的一种用于密集空间感知的自监督视觉骨干网络家族 @robbyant_brain - A…
LingBot Vision 是蚂蚁集团推出的一种自监督视觉骨干网络家族,它采用掩码边界建模方法,在密集空间感知任务上取得了领先性能,在 NYU-Depth v2 基准上超越了更大的 DINOv3 模型。
面向密集空间感知的视觉预训练
本文提出了一种名为掩码边界建模(masked boundary modeling)的自监督视觉预训练范式,该范式通过学习亚像素边界表示来提升密集空间感知能力。由此得到的模型LingBot-Vision在深度估计及其他下游任务中展现出显著改进,证明边界建模是一种可扩展的预训练原则,可用于学习空间结构化的视觉表示。
@AdinaYakup: 由新的LingBot Vision驱动 https://huggingface.co/collections/robbyant/lingbot-vision… - Apache 2.0 - 4个版本…
LingBot Vision是一个新的视觉基础模型,在Apache 2.0许可下发布,提供四种尺寸(small, base, large, giant),并使用掩码边界建模进行预训练。它驱动了一个在多个基准测试中名列前茅的深度估计系统。