communication-efficient

标签

Cards List
#communication-efficient

面向算力网络的异构大语言模型具身智能体通信高效数字孪生协同

arXiv cs.AI · 2026-07-13 缓存

本文提出LDT-Coord,一种面向算力网络的异构大语言模型具身智能体轻量级数字孪生协同框架,实现了与传统方法相当的任务成功率,同时将通信开销降低了70倍以上。

0 人收藏 0 人点赞
#communication-efficient

关于基于推送的异步联邦学习:一种偏差纠正聚合方法

arXiv cs.LG · 2026-05-27 缓存

本文提出了PushCen-ADFL,一种通信高效的异步去中心化联邦学习框架,它使用基于质心的消息传递和偏差纠正,在异构条件下提高准确性并降低通信开销。

0 人收藏 0 人点赞
#communication-efficient

SignMuon: 通信高效的分布式Muon优化

arXiv cs.LG · 2026-05-19 缓存

SignMuon是一种1位、感知矩阵的分布式训练优化器,它结合了signSGD的多数投票符号聚合与Muon的极坐标步骤框架,在float32基础上实现32倍带宽缩减,同时在CIFAR-10/ResNet-50和nanoGPT等基准测试上保持强大的收敛性和性能。

0 人收藏 0 人点赞
#communication-efficient

学习何时行动:通过运行时保证的通信高效强化学习

arXiv cs.LG · 2026-05-14 缓存

本文提出了一种框架(CARE),该框架在逐点李雅普诺夫安全护罩下联合学习控制输入和通信高效的定时决策,在倒立摆、小车-杆系统和平面四旋翼飞行器上实现了比经典方法更高的采样间隔。

0 人收藏 0 人点赞
#communication-efficient

通过有限专家库实现通信高效的专家路由

arXiv cs.LG · 2026-05-08 缓存

本文提出了一种针对稀疏混合专家(MoE)模型中通信高效专家路由的信息论框架,将门控机制视为随机信道,并推导实用的互信息估计器以分析有限专家库上的准确率-速率权衡。

0 人收藏 0 人点赞
#communication-efficient

专家联邦:面向大语言模型的高效通信分布式推理

Hugging Face Daily Papers · 2026-05-07 缓存

专家联邦(FoE)将混合专家模块重组为独立处理KV头的集群,消除了节点间通信瓶颈,在保持生成质量的同时,将推理吞吐量和延迟提升高达5.2倍。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈