标签
norregel 是一个预注册基准,用于测试语言模型能否给出挪威法律中带日期的数值(金额、百分比、年龄限制等)。第二轮预注册实验显示模型对训练截止后生效的数值更易给出过时答案,但该效应在敏感性分析下并不稳健,且部分模型(如 Haiku 4.5)答案大多不可解读。
介绍了Supersede,一个用于诊断和训练LLM代理中记忆更新差距的环境,表明标准模型无法在对话增长时维护当前事实,而GRPO微调可以提升性能。