更好的视觉表征是否总能带来更好的端到端自动驾驶?
摘要
论文提出 ViRA 框架,研究视觉基础模型(VFM)表征何时能提升端到端自动驾驶性能,发现 VFM 目标选择与辅助感知监督显著影响规划增益,并推出 ViRA-Diffusion 在 NAVSIM v2 上达到 92.3 EPDMS。
查看缓存全文
缓存时间: 2026/10/16 03:01
论文页面 - 更好的视觉表征总能带来更好的端到端自动驾驶吗?
来源:https://huggingface.co/papers/2610.09695
摘要
ViRA 将视觉基础模型表征与端到端驾驶规划器对齐,以提升性能,并表明目标选择和辅助感知监督会显著影响规划性能的提升幅度。
视觉基础模型 (https://huggingface.co/papers?q=Visual%20foundation%20models)(VFM)凭借其强大的表征能力,正越来越多地被集成到端到端自动驾驶 (https://huggingface.co/papers?q=end-to-end%20autonomous%20driving)中,但这些表征何时能够改善驾驶性能仍不明确。为研究这一问题,我们提出了 ViRA,一种与规划器无关的视觉表征对齐 (https://huggingface.co/papers?q=planner-agnostic%20visual%20representation%20alignment)框架,保持规划器架构和推理成本不变。我们的研究揭示了三点发现:(1)VFM 引导的视觉表征能够持续提升各种端到端规划器的驾驶性能,其收益还可延伸至零样本闭环评估 (https://huggingface.co/papers?q=zero-shot%20closed-loop%20evaluation)。(2)VFM 对齐目标的选择会影响规划性能,而对于采用预训练 VFM 编码器的规划器,对齐到另一种 VFM 还能带来进一步收益。(3)辅助感知监督 (https://huggingface.co/papers?q=Auxiliary%20perception%20supervision)降低了对 VFM 对齐目标选择的敏感性,使五种目标之间的 EPDMS (https://huggingface.co/papers?q=EPDMS)分数差距从 2.7 分缩小至 0.5 分,并可能弥补效果较差的 VFM 对齐目标所带来的不足。基于这些发现,我们开发了 ViRA-Diffusion,这是一种基于扩散的规划器 (https://huggingface.co/papers?q=diffusion-based%20planner),在不使用辅助感知监督 (https://huggingface.co/papers?q=auxiliary%20perception%20supervision)的情况下进行训练,在 NAVSIM v2 navtest 上取得了 92.3 的 EPDMS (https://huggingface.co/papers?q=EPDMS)分数,比我们比较的近期方法至少高出 1.9 分。这些结果表明,在将 VFM 集成到端到端自动驾驶 (https://huggingface.co/papers?q=end-to-end%20autonomous%20driving)时,应综合考虑目标选择和规划器监督方式。结果和演示可在 https://github.com/OpenDriveLab/ViRA 获取。
查看 arXiv 页面 (https://arxiv.org/abs/2610.09695)查看 PDF (https://arxiv.org/pdf/2610.09695)项目页面 (https://opendrivelab.com/ViRA/)GitHub (https://github.com/OpenDriveLab/ViRA)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.09695)
在你的智能体中获取这篇论文:
hf papers read 2610\.09695
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用这篇论文的模型0
暂无模型关联这篇论文
在模型的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该模型。
引用这篇论文的数据集0
暂无数据集关联这篇论文
在数据集的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该数据集。
引用这篇论文的 Space0
暂无 Space 关联这篇论文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.09695,即可从本页面链接到该 Space。
收录这篇论文的合集0
暂无合集收录这篇论文
将这篇论文添加到合集 (https://huggingface.co/new-collection)中,即可从本页面链接到该合集。
相似文章
SafeDriveVLA:面向冲突感知端到端自动驾驶的导航条件化世界模型梦境推演
SafeDriveVLA 提出首个同时评估导航遵循与冲突感知的基准,并通过导航条件化世界模型的梦境模拟与三级导航合规模式预测,提升端到端自动驾驶视觉-语言-动作模型(VLA)在与安全要求冲突的指令下的鲁棒性,在 Bench2Drive 上达到 88.16 的驾驶分数。
SimVTA:面向驾驶世界动作模型的基于仿真的视频-轨迹对齐
SimVTA 是一个面向驾驶世界行动模型(WAM)的仿真落地后训练框架,通过 3D 高斯泼溅重建真实场景并渲染候选轨迹的视频监督,结合 GRPO 与流匹配损失优化规划能力,在 NAVSIM v1 上将 PDMS 从 86.2 提升至 91.3。
Fast-dDrive: 用于自动驾驶的高效块扩散VLM
Fast-dDrive是一种用于端到端自动驾驶的块扩散VLA模型,实现了最先进的轨迹精度,同时相比自回归基线提供了超过12倍的吞吐量加速,解决了高保真规划与边缘部署高效推理之间的权衡。
AUGUstus:统一生成与理解的自动驾驶视觉-语言-动作模型
AUGUstus 提出了一种统一生成与理解的自动驾驶视觉-语言-动作(VLA)模型,将基于扩散的动作生成与自回归思维链理解融合于单一模型,在 NAVSIM v1/v2 与 nuScenes 上达到 SOTA,并已在实车上以 12Hz 部署验证。
VITAL:从视觉运动到精准动作
VITAL 提出一种以视觉运动作为主要预测目标的动作 tokenizer,通过视觉衍生的运动骨架配合紧凑残差编码,仅用单步去噪在 NAVSIM v1 上达到 90.8 PDMS,并在无需重训的情况下在 NAVSIM v2 上取得 91.1 EPDMS。