标签
作者基于个人基准测试和离线测试发现,Qwen3.8-27B 的知识回忆能力弱于 Qwen3.6,表明它可能不适合用于离线知识检索。
关于量化如何影响 Qwen3.6 27B 中事实知识的案例研究,表明知识损失呈非线性扩展,且与基准分数不同,在低比特宽度下,冷门事实的退化最为严重。
This paper introduces a decoupled evaluation paradigm to separate memory recall from actual utilization in LLM personalization, finding that agents often recall user preferences but fail to act on them in behavioral scenarios. Large-scale experiments across 16 systems and five memory architectures reveal a significant Know-Act gap, especially for health-related preferences.
研究者通过探测每个注意力头的贡献,追踪大语言模型如何回忆关系事实,发现这些贡献是强线性特征,其保真度与关系特异性及实体连接度相关。
本文质疑了大语言模型能够通过内部信号可靠区分幻觉输出和事实输出的假设,论证内部状态主要反映知识回忆而非真实性。作者提出了一套幻觉分类法(相关性幻觉与非相关性幻觉),并证明相关性幻觉的隐藏状态几何特性与事实输出重叠,使得标准检测方法失效。