标签
本文通过在合成语料库上进行受控实验，研究了格式、指令数量和上下文长度如何影响大型语言模型（LLM）的指令遵循与幻觉。研究发现，无论何种格式，当规则数量超过80条时，指令遵循会崩溃；而回忆准确率在64-128k token之后急剧下降，且受格式影响。本文还发布了VeyraBench工具包以支持复现。