标签
本文介绍了一个基准测试，用于研究大型语言模型如何仲裁来自文本和数字来源的冲突证据，发现模型使用启发式策略，并偏向于近期性和外部工具。
本文采用机制可解释性方法分析LLaMA 3.1 8B如何建模数值序列，揭示其内部计算并存储一阶差分以进行模式外推。
介绍了CreditCardQA，这是一个基于真实信用卡协议的金融素养数值推理基准。评估了在思维链（Chain-of-Thought）和程序思维（Program-of-Thought）提示下的LLM，发现程序思维带来持续提升，错误源于金融规则误用而非算术错误。
本文研究提示中无关数字如何导致语言模型中的锚定效应，并利用基于归因的电路方法在Qwen和Llama模型上定位携带该信号的内部路径。
本文介绍了 FinAgent-RAG，这是一个用于金融文档问答的代理式框架，它结合了迭代检索、程序化思维推理和自适应资源分配，以提高准确性并降低成本。
WildTableBench 提出了首个针对真实世界表格图像的问答应答基准，揭示了现有多模态基础模型在结构感知和数值推理方面存在显著困难，仅有1个模型准确率超过50%。
本文提出三元后缀分词（TST）方案，一种确定性分词方案，将数字划分为三位组，并附加显式的数量级标记，以改进大语言模型的数值推理能力。该方法通过在标记级别提供透明的数量级关系，解决了标准分词器中数字分割不一致的问题，并提供两种可扩展词汇量的实现变体。