adaptive-inference

标签

Cards List
#adaptive-inference

大语言模型何时进行推理?基于熵相变的动力系统视角

arXiv cs.LG · 2026-05-25 缓存

本文探讨了思维链推理在何时对大语言模型有益,表明早期熵动力学能够可靠地指示推理效用,并介绍了EDRM,这是一个轻量级、无需训练的框架,可自适应选择推理策略,在保持或提升准确率的同时显著节省token。

0 人收藏 0 人点赞
#adaptive-inference

学习自适应推理路径以实现高效视觉推理

Hugging Face Daily Papers · 2026-04-16 缓存

AVR是一种自适应视觉推理框架,能够动态选择最优推理格式,在视觉推理任务中减少50-90%的token使用量同时保持准确性。该方法通过将视觉推理分解为三种认知功能并使用FS-GRPO训练来鼓励高效格式选择,从而解决推理路径冗余问题。

0 人收藏 0 人点赞
#adaptive-inference

快速且忠实:长文档检索增强生成系统的实时验证

Papers with Code Trending · 2026-03-04 缓存

本文提出了一种用于检索增强生成的实时验证系统,可处理长达32K token的文档,通过自适应推理策略在延迟与验证覆盖之间取得平衡。其为构建可靠的RAG系统提供了实用指导。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈