Sensor2Sensor: 面向自动驾驶的跨形态传感器转换

Hugging Face Daily Papers 论文

摘要

Sensor2Sensor 利用扩散模型和 4D 高斯溅射,将自然场景下的行车记录仪视频转换为多模态自动驾驶车辆日志(多视角摄像头和 LiDAR),用于自动驾驶系统的训练与验证。

自动驾驶系统(ADS)的稳健训练与验证需要海量且多样化的数据集。由自动驾驶车辆(AV)车队采集的专有数据虽然保真度高,但在规模、传感器配置多样性以及地理和长尾行为覆盖上存在局限。相比之下,来自行车记录仪等来源的野外数据提供了巨大的规模和多样性,能够捕捉关键的长尾场景和新环境。然而,这种非结构化的野外视频数据与期望结构化、多模态传感器输入来进行验证和训练的ADS不兼容。为弥合这一数据鸿沟,我们提出Sensor2Sensor,一种新颖的生成建模范式,它将野外单目行车记录仪视频转换为高保真、多模态的传感器套件(AV日志),包含多视角摄像头图像和LiDAR点云。核心挑战在于缺乏配对训练数据。我们通过利用4D高斯溅射(4DGS)重建和新视角渲染将真实的AV日志转换为行车记录仪风格的视频来解决这一问题。Sensor2Sensor随后利用扩散架构执行生成转换。我们对生成的传感器数据的保真度和真实感进行了全面的定量评估。我们通过将具有挑战性的野外互联网和行车记录仪片段转换为逼真的多模态数据格式,展示了Sensor2Sensor的实际效用,进一步为AV开发解锁了庞大的外部数据源。
查看原文
查看缓存全文

缓存时间: 2026/05/22 02:20

论文页面 - Sensor2Sensor: 跨本体传感器转换用于自动驾驶

来源:https://huggingface.co/papers/2605.22809
作者:

摘要

Sensor2Sensor 利用扩散模型和 4D Gaussian Splatting,从野外行车记录仪视频生成高保真多模态传感器数据,用于自动驾驶系统的训练与验证。

自动驾驶系统(ADS)的稳健训练与验证需要大量多样化数据集。自动驾驶车辆(AV)车队收集的专有数据虽然保真度高,但在规模、传感器配置多样性、地理覆盖以及长尾行为场景的覆盖方面均存在局限。相比之下,来自行车记录仪等来源的野外数据规模庞大、多样性丰富,能够捕获关键的长尾场景和新环境。然而,这类非结构化的野外视频数据与期望结构化多模态传感器输入进行验证与训练的 ADS 不兼容。为弥合这一数据鸿沟,我们提出了 Sensor2Sensor,一种新颖的生成式建模范式,可将野外单目行车记录仪视频转换为高保真的多模态传感器套件(AV 日志),包括多视角相机图像LiDAR 点云。核心挑战在于缺乏成对的训练数据。我们通过 4D Gaussian Splatting(4DGS)重建和新视角渲染,将真实 AV 日志转换为行车记录仪风格的视频,从而解决这一问题。Sensor2Sensor 随后利用扩散架构执行生成式转换。我们对生成的传感器数据的保真度和真实感进行了全面的定量评估。通过将具有挑战性的野外互联网和行车记录仪片段转换为逼真的多模态数据格式,我们展示了 Sensor2Sensor 的实际效用,进一步为 AV 开发解锁了巨大的外部数据源。

查看 arXiv 页面 (https://arxiv.org/abs/2605.22809)
查看 PDF (https://arxiv.org/pdf/2605.22809)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.22809)

在你的智能体中获取此论文:

hf papers read 2605.22809

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2605.22809 以从此页面链接。

引用此论文的数据集0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.22809 以从此页面链接。

引用此论文的 Spaces0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2605.22809 以从此页面链接。

包含此论文的合集0

没有包含此论文的合集

请将此论文添加到合集中以从此页面链接。

相似文章

33种AI图像模型的成本分析

Reddit r/artificial

一项关于33种不同AI图像生成模型成本的比较分析,为开发者和企业提供定价与价值的洞察。

德国电信如何用AI重塑电信行业

OpenAI Blog

德国电信正在将生成式AI整合到客户服务、网络运营和语音通信中,目标是成为一家AI原生电信公司。文章重点介绍了每月5万+活跃AI用户等成果,并聚焦于重塑语音通话体验。

强化多模态掩码扩散模型的生成顺序

arXiv cs.LG

本文提出了一种可学习的控制模块,通过组相对策略优化(GRPO)进行训练,以优化多模态掩码扩散模型中的生成顺序,从而在文本到图像对齐和多模态理解方面取得了改进。