标签
本文表明,在“指挥者任务”中,要求视觉语言模型在采取行动前回答指挥者能看到哪些积木,会显著改变模型的选择,使各款 GPT 模型选择隐藏积木的比例提高 12–88 个百分点,Qwen3.8-27B 则提高 17 个百分点。作者认为,视角采择基准需要设置仅在报告问题上有所不同的配对基线,以免误读模型未能运用他人视角的表现。
本文通过在合成语料库上进行受控实验,研究了格式、指令数量和上下文长度如何影响大型语言模型(LLM)的指令遵循与幻觉。研究发现,无论何种格式,当规则数量超过80条时,指令遵循会崩溃;而回忆准确率在64-128k token之后急剧下降,且受格式影响。本文还发布了VeyraBench工具包以支持复现。