Lab2Sim:将真实世界实验视频转化为交互式虚拟实验

Hugging Face Daily Papers 论文

摘要

Lab2Sim 引入了一个包含 218 个科学实验视频的基准数据集,配有基于证据的规格说明,并提出 EduVideo2Code,将实验流程编码为状态机以引导可验证代码生成,从而构建交互式虚拟实验,将实验装置保真度提升 24.15 分。

科学实验视频展示了实验的操作过程,但学习者无法直接与之交互。将这些视频转化为虚拟实验,不仅需要复现所观察到的实验装置和状态变化,还必须强制执行约束每个操作的前置条件。我们提出 Lab2Sim,一个包含 218 个科学实验视频的基准数据集,配有基于证据的规格说明和 11,881 条评分细则。为应对这一任务,我们提出 EduVideo2Code:它以层级方式提取实验流程,将其编码为显式状态机以引导代码生成,并通过基于执行的验证对生成的页面进行优化。实验表明,现有的多模态模型能够较容易地生成可运行的页面,但在忠实重建实验装置方面存在困难。EduVideo2Code 在两个骨干模型上均一致地提升了全部四个评估维度,其中实验装置保真度提升达 24.15 分。
查看原文
查看缓存全文

缓存时间: 2026/11/03 11:37

论文页面 - Lab2Sim:将真实世界实验视频转化为交互式虚拟实验

来源:https://huggingface.co/papers/2611.02928

摘要

Lab2Sim 引入了一个将科学实验视频转化为交互式虚拟实验的基准,EduVideo2Code 通过将实验流程编码为状态机,实现可验证的代码生成,从而提升实验器材的还原保真度。

科学实验视频展示了实验的执行过程,但无法为学习者提供直接的交互体验。将其转化为虚拟实验,不仅需要复现观察到的实验器材和状态变化,还需要强制执行每个操作的前置条件。我们提出了 Lab2Sim,这是一个包含 218 个科学实验视频的基准,具有基于证据的规范说明和 11,881 条评分项。为解决这一任务,我们提出了 EduVideo2Code,它以层次化方式提取实验流程,将其编码为显式状态机(https://huggingface.co/papers?q=state%20machines)以指导代码生成,并通过基于执行的验证(https://huggingface.co/papers?q=execution-based%20verification)对生成的页面进行优化。实验表明,现有多模态模型可以轻松生成可运行的页面,但在忠实还原实验器材方面存在困难。EduVideo2Code 在两种骨干模型上均持续提升全部四项评估维度,其中器材保真度提升 24.15 分。

查看 arXiv 页面 (https://arxiv.org/abs/2611.02928) 查看 PDF (https://arxiv.org/pdf/2611.02928) 项目页面 (https://black1948.github.io/lab2sim) GitHub0 (https://github.com/black1948/lab2sim) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2611.02928)

在你的智能体中获取该论文:

hf papers read 2611.02928

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

没有模型关联此论文。

在模型的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。

引用该论文的数据集 0

没有数据集关联此论文。

在数据集的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。

引用该论文的 Space 0

没有 Space 关联此论文。

在 Space 的 README.md 中引用 arxiv.org/abs/2611.02928 即可从本页面链接该论文。

包含该论文的合集 0

没有合集包含该论文。

将该论文添加到合集即可从本页面链接该论文。

相似文章

LabInstruct:面向实验室操作流程的情境化教学视频生成基准评测

Hugging Face Daily Papers

LabInstruct 提出了一个针对真实实验室场景的指令性视频生成基准,涵盖5个学科的204项任务,并评测了8个前沿图生视频模型,发现视觉上合理的生成结果往往在程序步骤上并不正确,揭示了视觉真实感与实验指导可靠性之间的显著差距。

编码代理作为世界模拟器表现良好

arXiv cs.AI

本文提出了一种基于代理的框架,利用编码代理从自然语言提示生成物理上可信的世界模拟,在物理准确性和指令保真度方面优于基于视频的模型。