论文页面 - 三思而后行：将树搜索蒸馏为冻结VLA模型的行动评估框架

来源：https://huggingface.co/papers/2607.03751

摘要

本文提出了一种名为SVA的框架，通过将行动生成与后果评估解耦，增强视觉-语言-动作模型，从而在降低计算成本的同时提升泛化能力和任务成功率。

视觉-语言-动作（VLA）模型通过大规模预训练获得了广泛的具身能力，但其泛化能力远不如LLM和VLM那样稳健。当前常用的补救措施——通过监督微调或强化学习进行后训练——虽然提升了特定任务性能，但却削弱了预训练所带来的通用能力。我们识别出一个关键瓶颈：VLA的失败不仅源于行动生成，也源于行动评估。一项诊断性的pass@k研究证实，冻结的VLA在其输出分布中已经包含了胜任的行为，整体成功率从pass@1的33%提升到pass@32的92%。受此启发，我们提出了SVA（搜索、评估与行动），这是一个简单的框架，为冻结的VLA策略赋予了长期后果感知能力。SVA首先在仿真中使用蒙特卡洛树搜索充分探索VLA的输出分布，并收集带有经验回报注释的多样化轨迹；然后将这些知识蒸馏到一个轻量级的Q值模型中，用于预测候选行动的预期后果；在部署时，冻结的VLA提出多个候选行动，评估器选择不确定性正则化Q值最高的那个，无需访问仿真器。通过将行动提议与后果评估解耦，SVA保留了VLA主干网络的泛化能力，同时大幅提升了任务成功率。在多个具身基准上的实验表明，SVA在未见任务上持续提升泛化能力，并展现出强烈的测试时缩放行为。引人注目的是，SVA使得一个9B参数的VLA能够以27%更低的推理延迟，超越一个27B参数的VLA 7个百分点，这表明缩放测试时评估比缩放模型规模更具成本效益。

查看arXiv页面 (https://arxiv.org/abs/2607.03751) 查看PDF (https://arxiv.org/pdf/2607.03751) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.03751)

在您的agent中获取该论文：

hf papers read 2607.03751

没有最新的CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用该论文的模型 0

没有模型链接此论文

在模型的README.md中引用arxiv.org/abs/2607.03751即可从本页面链接该论文。

引用该论文的数据集 0

没有数据集链接此论文

在数据集的README.md中引用arxiv.org/abs/2607.03751即可从本页面链接该论文。

引用该论文的Spaces 0

没有Space链接此论文

在Space的README.md中引用arxiv.org/abs/2607.03751即可从本页面链接该论文。

包含该论文的收藏集 0

没有收藏集包含此论文

将该论文添加到收藏集 (https://huggingface.co/new-collection) 即可从本页面链接它。