query-routing

一篇论文提出了一种延迟感知的LLM查询路由器，通过轻量级延迟估计器联合优化延迟、准确性和成本，在保持可比延迟的同时，准确率-成本效用提升高达40%。

本文解释了 Gnutella 如何通过从泛洪路由演进到查询路由协议 (QRP) 来扩展其查询流量，该协议使用紧凑摘要避免泛洪所有对等点。

一个帖子解释了构建生产级RAG超越简单分块-嵌入-检索-生成所需的四个关键层次：智能查询路由、高级索引、多类型检索和持续评估。