systems-study

标签

Cards List
#systems-study

ContinuityBench:多提供商大语言模型路由中有状态故障转移的基准测试与系统研究

arXiv cs.LG · 昨天 缓存

介绍了ContinuityBench,一个针对多提供商大语言模型路由中有状态故障转移的基准测试与系统研究,提出了新指标(CPR、CLO)和一种历史转发代理架构,实现了99.20%的上下文保留率。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈