更好的视觉表征是否总能带来更好的端到端自动驾驶?

Hugging Face Daily Papers 论文

摘要

论文提出 ViRA 框架,研究视觉基础模型(VFM)表征何时能提升端到端自动驾驶性能,发现 VFM 目标选择与辅助感知监督显著影响规划增益,并推出 ViRA-Diffusion 在 NAVSIM v2 上达到 92.3 EPDMS。

视觉基础模型(VFM)凭借其强大的表征能力,正日益融入端到端自动驾驶,但这些表征何时能够提升驾驶性能仍不明确。为研究这一问题,我们提出了 ViRA,这是一种与规划器无关的视觉表征对齐框架,可保持规划器架构和推理成本不变。我们的研究揭示了三点发现:(1) VFM 引导的视觉表征能够持续提升多种端到端规划器的驾驶性能,且这种增益也延伸至零样本闭环评估。(2) 作为对齐目标的 VFM 的选择会影响规划性能;对于采用预训练 VFM 编码器的规划器,与另一种 VFM 对齐可带来进一步收益。(3) 辅助感知监督可降低对 VFM 对齐目标选择的敏感性,将五种对齐目标之间的 EPDMS 分数差距从 2.7 分缩小至 0.5 分,并可能弥补效果较差的 VFM 对齐目标带来的不足。在这些发现的指导下,我们开发了 ViRA-Diffusion,这是一种无需辅助感知监督进行训练的扩散式规划器,在 NAVSIM v2 navtest 上取得了 92.3 的 EPDMS 分数,比我们比较的近期方法至少高出 1.9 分。这些结果表明,将 VFM 融入端到端自动驾驶时,应综合考虑对齐目标选择与规划器监督方式。研究结果和演示可在 https://github.com/OpenDriveLab/ViRA 获取。
查看原文
查看缓存全文

缓存时间: 2026/10/16 03:01

论文页面 - 更好的视觉表征总能带来更好的端到端自动驾驶吗?

来源:https://huggingface.co/papers/2610.09695

摘要

ViRA 将视觉基础模型表征与端到端驾驶规划器对齐,以提升性能,并表明目标选择和辅助感知监督会显著影响规划性能的提升幅度。

视觉基础模型 (https://huggingface.co/papers?q=Visual%20foundation%20models)(VFM)凭借其强大的表征能力,正越来越多地被集成到端到端自动驾驶 (https://huggingface.co/papers?q=end-to-end%20autonomous%20driving)中,但这些表征何时能够改善驾驶性能仍不明确。为研究这一问题,我们提出了 ViRA,一种与规划器无关的视觉表征对齐 (https://huggingface.co/papers?q=planner-agnostic%20visual%20representation%20alignment)框架,保持规划器架构和推理成本不变。我们的研究揭示了三点发现:(1)VFM 引导的视觉表征能够持续提升各种端到端规划器的驾驶性能,其收益还可延伸至零样本闭环评估 (https://huggingface.co/papers?q=zero-shot%20closed-loop%20evaluation)。(2)VFM 对齐目标的选择会影响规划性能,而对于采用预训练 VFM 编码器的规划器,对齐到另一种 VFM 还能带来进一步收益。(3)辅助感知监督 (https://huggingface.co/papers?q=Auxiliary%20perception%20supervision)降低了对 VFM 对齐目标选择的敏感性,使五种目标之间的 EPDMS (https://huggingface.co/papers?q=EPDMS)分数差距从 2.7 分缩小至 0.5 分,并可能弥补效果较差的 VFM 对齐目标所带来的不足。基于这些发现,我们开发了 ViRA-Diffusion,这是一种基于扩散的规划器 (https://huggingface.co/papers?q=diffusion-based%20planner),在不使用辅助感知监督 (https://huggingface.co/papers?q=auxiliary%20perception%20supervision)的情况下进行训练,在 NAVSIM v2 navtest 上取得了 92.3 的 EPDMS (https://huggingface.co/papers?q=EPDMS)分数,比我们比较的近期方法至少高出 1.9 分。这些结果表明,在将 VFM 集成到端到端自动驾驶 (https://huggingface.co/papers?q=end-to-end%20autonomous%20driving)时,应综合考虑目标选择和规划器监督方式。结果和演示可在 https://github.com/OpenDriveLab/ViRA 获取。

查看 arXiv 页面 (https://arxiv.org/abs/2610.09695)查看 PDF (https://arxiv.org/pdf/2610.09695)项目页面 (https://opendrivelab.com/ViRA/)GitHub (https://github.com/OpenDriveLab/ViRA)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.09695)

在你的智能体中获取这篇论文:

hf papers read 2610\.09695

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

暂无模型关联这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该模型。

引用这篇论文的数据集0

暂无数据集关联这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该数据集。

引用这篇论文的 Space0

暂无 Space 关联这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该 Space。

收录这篇论文的合集0

暂无合集收录这篇论文

将这篇论文添加到合集 (https://huggingface.co/new-collection)中,即可从本页面链接到该合集。

相似文章

Fast-dDrive: 用于自动驾驶的高效块扩散VLM

arXiv cs.CL

Fast-dDrive是一种用于端到端自动驾驶的块扩散VLA模型,实现了最先进的轨迹精度,同时相比自回归基线提供了超过12倍的吞吐量加速,解决了高保真规划与边缘部署高效推理之间的权衡。

AUGUstus:统一生成与理解的自动驾驶视觉-语言-动作模型

Hugging Face Daily Papers

AUGUstus 提出了一种统一生成与理解的自动驾驶视觉-语言-动作(VLA)模型,将基于扩散的动作生成与自回归思维链理解融合于单一模型,在 NAVSIM v1/v2 与 nuScenes 上达到 SOTA,并已在实车上以 12Hz 部署验证。

VITAL:从视觉运动到精准动作

Hugging Face Daily Papers

VITAL 提出一种以视觉运动作为主要预测目标的动作 tokenizer,通过视觉衍生的运动骨架配合紧凑残差编码,仅用单步去噪在 NAVSIM v1 上达到 90.8 PDMS,并在无需重训的情况下在 NAVSIM v2 上取得 91.1 EPDMS。