学会判别场景结构,让自监督深度学习可扩展

Hugging Face Daily Papers 论文

摘要

MaSS 通过解耦结构表征与上下文特征并引入场景结构判别目标,使自监督单目深度估计可扩展到多样场景训练,并在零样本评估中展现出强大的跨域泛化能力。

自监督单目深度估计因其可利用无标注数据扩展训练的潜力而备受关注,但现有方法在多样化场景上训练时性能往往下降。本研究发现,在自监督条件下,模型倾向于编码数据集特有的结构偏置,而非可迁移的场景几何,从而导致跨域优化冲突。为解决这一问题,本研究提出了 MaSS 框架,旨在使自监督深度学习可扩展到多样化数据。MaSS 引入了一条与上下文特征显式解耦的专用结构表征通路,并由一种新颖的场景结构判别目标进行引导,以学习面向布局的、泛化的结构表征用于深度解码。在四个多样化数据集上分别及联合进行训练与评估后,MaSS 大幅超越了已有的自监督方法,并且是首个能从混合域训练中持续获益的方法。在另外八个数据集上的零样本评估进一步证明了其卓越的泛化能力,尤其是在完全分布外的场景上表现突出。源代码已在 https://mias.group/MaSS 公开。
查看原文
查看缓存全文

缓存时间: 2026/10/20 03:34

论文页面 - 学会判别场景结构使自监督深度学习具备可扩展性

来源:https://huggingface.co/papers/2610.23600

摘要

MaSS 框架通过将结构表示与上下文特征分离,并利用场景结构判别目标,在多样场景中提升了自监督单目深度估计的性能,从而实现了可扩展的混合域训练和强大的零样本泛化能力。

自监督单目深度估计(https://huggingface.co/papers?q=Self-supervised%20monocular%20depth%20estimation)因其能够利用无标注数据进行扩展而备受关注,但现有方法在多样场景上训练时往往性能下降。本研究发现,在自监督条件下,模型倾向于编码数据集特定的结构偏置,而非可迁移的场景几何信息,从而导致跨域优化冲突(https://huggingface.co/papers?q=cross-domain%20optimization%20conflicts)。为解决这一问题,本研究提出了 MaSS 框架,旨在使自监督深度学习能够扩展到多样化的数据上。MaSS 引入了一条专门的结构表示通路(https://huggingface.co/papers?q=structural%20representation%20pathway),显式地与上下文特征解耦,并由一种新颖的场景结构判别目标(https://huggingface.co/papers?q=scene-structure%20discrimination%20objective)引导,以学习泛化的、感知布局的结构表示用于深度解码。在四个多样数据集上分别和联合进行训练与评估,MaSS 显著优于以往的自监督方法,并且是首个能够持续从混合域训练中获益的方法。在另外八个数据集上的零样本评估(https://huggingface.co/papers?q=Zero-shot%20evaluation)进一步证明了其出色的泛化能力,尤其是在那些完全分布外的场景上。源代码已公开于 https://mias.group/MaSS。

查看 arXiv 页面 (https://arxiv.org/abs/2610.23600)查看 PDF (https://arxiv.org/pdf/2610.23600)项目页面 (https://mias.group/MaSS/)GitHub5 (https://github.com/mengtanZ/MaSS)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.23600)

在你的代理中获取此论文:

hf papers read 2610\.23600

没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.23600 以从此页面链接它。

引用此论文的数据集0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.23600 以从此页面链接它。

引用此论文的 Spaces0

没有 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.23600 以从此页面链接它。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection)以从此页面链接它。

相似文章

SpatialLM:训练用于结构化室内建模的大语言模型

Papers with Code Trending

SpatialLM 是一个多模态大语言模型,能够处理 3D 点云数据并生成结构化的室内场景理解输出,在布局估计上达到最先进性能,3D 具备竞争力的 3D 物体检测结果,并展示了提升 LLM 空间理解能力的可行路径。

从视频中自监督学习结构化动态

Hugging Face Daily Papers

本文提出了结构化动态模型(SDM),该模型通过自监督学习从冻结的图像特征中分离相机运动和物体运动,并在新的评估套件上优于基线方法。

重新思考长尾数据下监督对比学习中的表征几何

arXiv cs.LG

该论文提出一个理论框架,分析监督对比学习目标在长尾分布下是否能形成正则单纯形几何,并提出一种完全平衡的对比目标,可证明在最优时形成正则单纯形,从而在长尾识别和迁移学习任务上取得更好的性能。

SALD:扩散模型的自参照优势学习

Hugging Face Daily Papers

SALD 提出了一种自参考训练框架,通过在两个噪声水平下用同一模型评估图像-文本对来获取训练信号,无需外部教师网络或额外可训练参数,包含优势引导扩散(AGD)、时间优势记忆(TAM)和谱优势分解(SAD)三个组件,在多个架构和数据集上持续提升了生成质量。

EventLens:面向视频理解的事件结构强化学习

Hugging Face Daily Papers

EventLens 提出一种以视觉为中心的强化学习框架,通过事件结构恢复(事件分割、进程判别、多事件关系推理)来训练多模态大模型,实现可验证奖励的 GRPO 训练与多教师在线策略蒸馏,在 Qwen3-VL 上提升时序理解且降低训练成本。