论文页面 - 超越正确性：混合思维多模态大语言模型中的响应行为基准测试与对齐

来源：https://huggingface.co/papers/2608.12781 作者： ， ， ， ， ， ， ， ， ， ， ， ， ， ，

摘要

混合思维多模态语言模型在思考与非思考模式之间存在响应模式错位问题，本文通过一个诊断基准测试和针对模式的强化学习惩罚来解决该问题。

混合思维（https://huggingface.co/papers?q=Hybrid-thinking）多模态大语言模型（https://huggingface.co/papers?q=multimodal%20large%20language%20models）(MLLMs) 允许单个模型在深思熟虑的思考与低延迟的非思考推理之间交替。尽管这些模式在推理资源消耗上有所不同，但其提供的响应应满足相同的用户端标准。仅仅正确性可能不足以描述这种响应质量；因此，我们将任务准确性和响应模式故障作为互补的结果进行评估。我们通过响应模式对齐（https://huggingface.co/papers?q=response-pattern%20alignment）来研究这一差距：即思考和非思考接口是否保留了可接受的最终响应行为。我们引入了PatternEval（https://huggingface.co/papers?q=PatternEval），这是一个包含丰富故障的诊断基准测试，包含2,415个多模态提示，涵盖视觉感知与定位、结构化图像理解以及多模态知识推理。PatternEval（https://huggingface.co/papers?q=PatternEval）测试四种常见故障：思维链泄露（https://huggingface.co/papers?q=chain-of-thought%20leakage）、响应重复、逻辑矛盾（https://huggingface.co/papers?q=logical%20contradiction）和表演性推理（https://huggingface.co/papers?q=performative%20reasoning）。响应模式故障在不同供应商的模型中普遍存在，其中非思考推理表现出明显更高的故障率，从而在思考与非思考接口之间造成了系统性的错位。基于此诊断，我们开发了PatternRM（https://huggingface.co/papers?q=PatternRM），一个响应级别的奖励模型，以及PatternRL（https://huggingface.co/papers?q=PatternRL），它在强化学习（https://huggingface.co/papers?q=reinforcement%20learning）中引入了针对模式的惩罚。在Qwen3-VL-4B和Qwen3-VL-8B上的实验表明，在强化学习中纳入针对模式的惩罚可以减轻跨模式错位，同时仅带来边际的任务性能权衡。综上，PatternEval（https://huggingface.co/papers?q=PatternEval）与PatternRL（https://huggingface.co/papers?q=PatternRL）提供了一个评估与训练框架，用于对齐混合思维（https://huggingface.co/papers?q=hybrid-thinking）接口间用户可见的响应模式。

查看arXiv页面 (https://arxiv.org/abs/2608.12781)查看PDF (https://arxiv.org/pdf/2608.12781)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.12781)

在你的代理中获取此论文：

hf papers read 2608\.12781

没有最新版CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接到此论文

在模型README.md中引用arxiv.org/abs/2608.12781以从此页面链接到它。

引用此论文的数据集0

没有数据集链接到此论文

在数据集README.md中引用arxiv.org/abs/2608.12781以从此页面链接到它。

引用此论文的Space0

没有Space链接到此论文

在Space README.md中引用arxiv.org/abs/2608.12781以从此页面链接到它。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection)以从此页面链接到它。