标签
论文介绍了 Memorilla 记忆系统,该系统将整个文档集合压缩为 16 个与查询相关的记忆 token,并应用于冻结参数的大语言模型。在 FactKG 基准测试中,其准确率达到 84.33%,超过全上下文推理的 80.43%,同时使用的 token 数量减少 108 倍,在八个基准测试中的五个上超越了 Mem0 和 MemoRAG 等基线方法。
复旦大学等机构提出 AiO-Mem,将记忆智能体的搜索、写入和停止操作统一到共享证据状态与奖励空间中,通过过程奖励模型与 PA-DAPO 优化记忆策略,在长上下文记忆基准上持续提升答案准确性。
NVIDIA 发布 Nemotron-3.5-Embed-1B-BF16 多模态嵌入模型,支持文本、图像及图文混合输入的文档检索,文本检索覆盖 34 种语言,图像检索覆盖 18 种语言,可用于语义搜索和 RAG 工作流。模型采用 OpenMDW-1.1 许可,允许商用。
Tavily 推出与 Grok Bot 的集成插件,用户可在 Grok 中直接获得实时网络搜索、内容提取和深度研究能力,无需在工具间切换。
该论文提出一套区分「记忆依赖性、实用性和内容收益」的评估框架,指出仅通过置零记忆或与无文档模型比较,无法真正证明压缩记忆中的内容带来了性能提升,并在九个系统和 TriviaQA 等基准上进行了实证验证。
FinGREAT 评估开放权重 LLM 在金融图引导检索与关系分类任务上的表现,利用 11 节点 11 边的复式记账图谱分析 1300 份 SEC 10-K 文件,并引入包含 483 段人工标注的关系分类基准,最强开源与闭源模型准确率分别为 84.1% 和 92.8%。
Airbnb 研究人员提出了一项案例研究,表明一种可移植的智能体技能——由自然语言指令、轻量级工具,以及由大语言模型生成的、覆盖文档的维基百科式导航层组成——可以取代复杂的检索增强生成(RAG)流水线,在生成客户支持工作流程时,与经人工审核认可的标准答案达到 99.2% 的流程等价性,但延迟约为原来的 10 倍。
有人将谷歌的 EmbeddingGemma 2 改造为语音识别模型,通过在冻结参数的嵌入模型上训练轻量级 Reader,把语音转写从生成问题变成检索问题,在 M3 MacBook Air 上实现 288× 实时速度(1 小时音频约 13 秒转写),WER 约 5%,可能重塑端侧 STT 市场。
论文提出 Copy-Paste 语言模型(CPLMs),在传统语言建模头之外加入轻量 Copy-Paste 头以增强模型的上下文复制能力,在 135M 到 1.7B 参数规模的预训练中验证了训练效率、下游性能及长上下文检索的提升,且开销极小。
Maxime Rivest 推荐使用开放、免费且快速的科学检索方式来为 AI agent 的回答提供事实依据,认为这种做法明显更好且应更早普及。
作者介绍了 sift-light 的构建过程。这是一个面向编码智能体、以证据为先的本地搜索层,优先采用精确搜索和可验证的来源,而非看似合理的语义猜测,并新增了在 Apple Silicon 上对图像和扫描版 PDF 进行视觉检索的功能。
提出 T2Mem 框架,将记忆构建延迟到推理阶段,随推理过程渐进式构建面向查询的记忆,在 LoCoMo 和 LongMemEval 上超越强基线并显著降低记忆构建开销。
该论文提出了 T-Mem,一种面向长跨度多方对话中 LLM 智能体的、基于时序结构的记忆框架。它通过时序证据发现和时序记忆结构化,找回局部集中的证据,并以证据森林的形式重建事件演进过程,在两个基准测试中优于现有记忆框架。
本文提出 CQG-Single 与 CQG-AR 两种连续查询范式,消除基于语义 ID 的生成式推荐中有限宽度束搜索带来的可达性约束,并在多个数据集上超越 TIGER 风格基线。
论文提出了 NoteBank,一种免训练的稀疏情景记忆,通过归档选定文本并通过原生计算进行重放来增强线性注意力模型,在一百万 token 下将 Gated DeltaNet 在 RULER 上的长上下文检索准确率从 1.7% 提升至 70.3%,且 FLOPs 开销可忽略不计。
Meta 的 IdeaScientist 论文将科研构思拆解为缺口发现、创新与报告撰写三个角色并分别用强化学习训练,基于 Qwen3.6-27B 在 2.77M 理念语料库上检索,超越最强开源 autoresearch 基线 14.0%,并优于 Claude Code SDK 与 Codex SDK 方案最多 5.9%。
该论文在统一可控的基准框架下系统评估了多模态嵌入学习中的各类对比训练策略,发现大多数策略相比标准对齐基线仅有边际收益甚至带来负面影响,并提出结合难负样本挖掘、假负样本缓解与难批次构建的协同训练方案,在MMEB上以Qwen2-VL-2B平均提升6.0%。
UltraBERT 重新审视了双向编码器的预训练设计选择,揭示了在超过数万亿 token 后性能趋于饱和、分类与检索任务之间掩码比例的权衡,并提出了一种双 LM 头蒸馏方法,在 GLUE(91.0)和 BEIR(47.7)上均达到了最先进的性能。
作者批评把整站页面粗暴灌入向量库的做法,主张先爬取发现 URL、再用简单路径过滤大幅缩减索引规模,因为智能体有明确任务和 token 预算,无法容忍大量噪声内容。
Meta AI 推出 MetaEncoder,通过单向对比学习将预训练的 Muse-Glimmer 30B 解码器微调为能够遵循指令进行决策的编码器,并在涵盖多模态闭集与开集决策的 11 个基准、190 个任务上进行了评估。