标签
AgentRouter 是一个轻量级分类器,用于在代理工作流中将步骤路由到不同的模型层级,与仅使用前沿模型相比,实现了72%的成本降低且质量退化最小。
本文提出了DualMLC,一个双分支框架,结合了自回归和双向语言模型用于大规模多标签文本分类,在基准测试上取得了最先进的结果。
本文介绍了XKV,一种用于多智能体系统中异构语言模型间高效潜空间通信的方法,在准确性和速度上优于现有的基于文本和缓存的协议。
本文介绍了Mixture-of-Translators(MoT),一个跨异构大语言模型翻译KV缓存的框架,使得不同架构之间能够复用缓存。实验表明,在Qwen2.5、GPT-2和OPT模型上,问答性能和长上下文质量得以保持。
介绍Collate,一种面向协作神经网络学习的训练框架,可处理具有延迟约束的异构边缘设备,以最小开销实现精度提升。