标签
一项兰卡斯特大学的研究以预训练Transformer模型对超长英国金融年报(FNS 2020数据集)上的摘要方法进行基准测试,对比了多种评价指标,提出了新的BRUGEscore指标(ROUGE-2与BERTscore的调和平均值),并通过统计显著性检验与对抗性扰动分析验证了实验结果。
本文介绍了可回答工作记忆(AWM)和AWM-GRPO,以增强长文档VQA代理中终端工作记忆的质量,提高准确性并减少记忆问题。
本文提出Trident方法,通过结构化的多维度页面标注,增强长文档视觉问答中的重排与综合环节,从而提升证据选择与答案生成的准确性。
介绍了XL-DocBench,这是一个经过人工验证的超长文档理解基准,涵盖六个专业领域的1,519个问题,要求多页证据和结构化推理,表明当前大语言模型在处理长上下文专业文档时仍存在困难。
介绍 MultAttnAttrib,一种用于长文档问答中多模态归因的免训练方法,以及 MultAttrEval 基准测试。它优于基于提示的方法,并与 GPT-5.4 等前沿模型相当。
百度开源Unlimited OCR,一个3B参数模型(500M激活参数),使用Reference Sliding Window Attention(R-SWA)一次性读取长文档,在OmniDocBench上取得最先进的SOTA结果。
本文提出了一种注意力扩展机制,通过使用上下文外信息增强PLM token表示,提升长文档的关键词提取性能,在不需全文档注意力或昂贵LLM推理的情况下,持续优于最先进模型。
本文概述了预计在2026年具有相关性的20种高级RAG(检索增强生成)类型,涵盖长文档记忆、自适应检索、多模态接地、多语言问答、图推理以及安全导向的RAG方法。
一项对比测试,将具备视觉能力的LLM(原生PDF阅读模式)与基于OCR的流程在30份长且图片密集的PDF上进行比较,发现带有布局提取的OCR在图表/表格密集的页面上仍优于视觉模型,且失败率为0%,而原生PDF为7%,尽管样本量较小且许多差距在噪声范围内。
本文提出了一种用于检索增强生成的实时验证系统,可处理长达32K token的文档,通过自适应推理策略在延迟与验证覆盖之间取得平衡。其为构建可靠的RAG系统提供了实用指导。