标签
本文提出LDT-Coord,一种面向算力网络的异构大语言模型具身智能体轻量级数字孪生协同框架,实现了与传统方法相当的任务成功率,同时将通信开销降低了70倍以上。
KTransformers 是一个优化大型混合专家模型推理和微调的框架,它通过将活跃的专家动态放置在 GPU 上,其余专家保留在 CPU 内存中,使得像 DeepSeek-V3 这样的大型模型能够在有限的消费级 GPU 内存上运行。
OmniRetrieval 是一个框架,通过将原生查询分派到适当的执行引擎,统一了跨异构知识源(文本、表格、图)的检索,在包含13个数据集和309个知识库的基准测试中,优于单源基线。