Lab2Sim:将真实世界实验视频转化为交互式虚拟实验
摘要
Lab2Sim 引入了一个包含 218 个科学实验视频的基准数据集,配有基于证据的规格说明,并提出 EduVideo2Code,将实验流程编码为状态机以引导可验证代码生成,从而构建交互式虚拟实验,将实验装置保真度提升 24.15 分。
查看缓存全文
缓存时间: 2026/11/03 11:37
论文页面 - Lab2Sim:将真实世界实验视频转化为交互式虚拟实验
来源:https://huggingface.co/papers/2611.02928
摘要
Lab2Sim 引入了一个将科学实验视频转化为交互式虚拟实验的基准,EduVideo2Code 通过将实验流程编码为状态机,实现可验证的代码生成,从而提升实验器材的还原保真度。
科学实验视频展示了实验的执行过程,但无法为学习者提供直接的交互体验。将其转化为虚拟实验,不仅需要复现观察到的实验器材和状态变化,还需要强制执行每个操作的前置条件。我们提出了 Lab2Sim,这是一个包含 218 个科学实验视频的基准,具有基于证据的规范说明和 11,881 条评分项。为解决这一任务,我们提出了 EduVideo2Code,它以层次化方式提取实验流程,将其编码为显式状态机(https://huggingface.co/papers?q=state%20machines)以指导代码生成,并通过基于执行的验证(https://huggingface.co/papers?q=execution-based%20verification)对生成的页面进行优化。实验表明,现有多模态模型可以轻松生成可运行的页面,但在忠实还原实验器材方面存在困难。EduVideo2Code 在两种骨干模型上均持续提升全部四项评估维度,其中器材保真度提升 24.15 分。
查看 arXiv 页面 (https://arxiv.org/abs/2611.02928) 查看 PDF (https://arxiv.org/pdf/2611.02928) 项目页面 (https://black1948.github.io/lab2sim) GitHub0 (https://github.com/black1948/lab2sim) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2611.02928)
在你的智能体中获取该论文:
hf papers read 2611.02928
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型 0
没有模型关联此论文。
在模型的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。
引用该论文的数据集 0
没有数据集关联此论文。
在数据集的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。
引用该论文的 Space 0
没有 Space 关联此论文。
在 Space 的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。
包含该论文的合集 0
没有合集包含该论文。
将该论文添加到合集即可从本页面链接该论文。
相似文章
LabInstruct:面向实验室操作流程的情境化教学视频生成基准评测
LabInstruct 提出了一个针对真实实验室场景的指令性视频生成基准,涵盖5个学科的204项任务,并评测了8个前沿图生视频模型,发现视觉上合理的生成结果往往在程序步骤上并不正确,揭示了视觉真实感与实验指导可靠性之间的显著差距。
Real2Gym: 从视频构建训练场,为机器人带来技能
Real2Gym是一个基于代理的Real2Sim2Real框架,它将人类和机器人的视频演示转化为交互式模拟训练场,使技能能够转移到物理机器人上,并且成功率优于基线。
SimFoundry:模块化与自动化场景生成用于策略学习与评估
SimFoundry 是一个模块化系统,可从视频自动化真实到仿真场景构建,生成数字孪生体并保留功能属性的变体,用于零样本机器人策略训练,实现了向真实世界任务的强迁移和高仿真到真实性能预测。
Sci-VBench:评估科学领域中知识与推理密集型视频生成
介绍了Sci-VBench,这是一个用于评估跨科学领域知识和推理密集型视频生成的基准,发现视觉真实性尚未转化为可靠的科学和因果正确性。
编码代理作为世界模拟器表现良好
本文提出了一种基于代理的框架,利用编码代理从自然语言提示生成物理上可信的世界模拟,在物理准确性和指令保真度方面优于基于视频的模型。