heterogeneous

标签

Cards List
#heterogeneous

面向算力网络的异构大语言模型具身智能体通信高效数字孪生协同

arXiv cs.AI · 3天前 缓存

本文提出LDT-Coord,一种面向算力网络的异构大语言模型具身智能体轻量级数字孪生协同框架,实现了与传统方法相当的任务成功率,同时将通信开销降低了70倍以上。

0 人收藏 0 人点赞
#heterogeneous

@techNmak: 运行大型MoE模型最聪明的方式并不是增加更多GPU,而是不再把每个专家都视为值得占用GPU资源……

X AI KOLs Timeline · 4天前 缓存

KTransformers 是一个优化大型混合专家模型推理和微调的框架,它通过将活跃的专家动态放置在 GPU 上,其余专家保留在 CPU 内存中,使得像 DeepSeek-V3 这样的大型模型能够在有限的消费级 GPU 内存上运行。

0 人收藏 0 人点赞
#heterogeneous

OmniRetrieval: 跨异构知识源的统一检索

Hugging Face Daily Papers · 2026-05-28 缓存

OmniRetrieval 是一个框架,通过将原生查询分派到适当的执行引擎,统一了跨异构知识源(文本、表格、图)的检索,在包含13个数据集和309个知识库的基准测试中,优于单源基线。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈