service-level-objectives

标签

Cards List
#service-level-objectives

SAGE:面向生产级RAG系统的SLO感知自适应检索策略

arXiv cs.LG · 11小时前 缓存

SAGE是一种面向生产级RAG系统的基于学习的SLO感知自适应检索策略,能够根据每个查询动态选择检索段落数量,在几乎不损失质量的前提下提升SLO合规性并降低延迟与成本。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈