标签
本文提出了一种两阶段的大语言模型流水线，用于从人道主义危机报告中提取和三角验证因果证据，在ReliefWeb数据集上取得了较高的F1分数，并提出了一种证据水平评分，用于衡量跨情境的一致性。
本文测试了注意力权重能揭示模型输出实际依赖内容的假设，发现注意力与因果依赖常不一致。作者提出将干预掩码获得的因果证据集作为稀疏注意力路由器的监督信号，在注意力蒸馏路由器失败的检索任务上实现了近乎完美的准确率。
本文提供了因果证据，表明大型语言模型通过微调操纵竞争形式频率，能够获得统计抢占（构式语法中的一种机制）所涉及的负面语言知识（即不该说什么），且行为变化符合预测方向。