over-inference

本文介绍了MirageBench，这是一个基准测试，表明具有持久记忆的LLM有35%至49%的时间通过过度推断虚构用户画像，并揭示模型自报的置信度与实际过度推断呈负相关，使得自我监控在比较模型时不可靠。