标签
评论文章认为苹果将在AI领域占据主导地位,因为随着开放权重模型变得免费并在本地硬件上运行,赢家将是拥有最佳边缘设备的公司,也就是苹果。文章重点介绍了中国公司近期发布的开放权重模型,并对当前专注于训练基础设施的做法提出了批评。
提出RoSIP-Batt,一种物理引导的多任务变换器,用于联合估计电池健康状态和剩余使用寿命,在NASA、MIT-Stanford和HUST数据集上实现了最先进的精度。
Sheetz 正在将 11,000 台虚拟机从 VMware 迁移到 StorMagic 的 SvHCI,理由是 Broadcom 收购导致的不确定性和成本增加。此次迁移涉及 838 家门店,凸显了企业离开 VMware 的更广泛趋势。
@MaziyarPanahi在Mac Studio上使用llama.cpp本地运行GLM-5.2和Bonsai 27B处理一份三年的病历,发现了一个曾被标记但被忽略的危险药物相互作用。两个模型在Apache-2.0许可下完全在设备上运行,Bonsai在约2秒内回答查询,@PrismML声称一个1-bit构建可以装进iPhone。
Booster Robotics 宣布推出 Booster T2 双足人形机器人,具备 2070 TFLOPS 的机载计算能力,实现感知、决策和运动的边缘自主。
本文介绍了PFAdapter,一种用于多模态大语言模型(MLLMs)个性化联邦微调的通信高效框架。它采用分层LoRA分解,将适配器参数分离为全局共享和本地私有组件,通过正交正则化实现通信成本降低近50%,同时提升个性化性能。
提出FedKAD,一种面向物联网系统中多变量时间序列的联邦Koopman异常检测框架,采用轻量级滑动窗口Koopman表示和Stiefel-ADMM算法实现高效通信和推理。
介绍Collate,一种面向协作神经网络学习的训练框架,可处理具有延迟约束的异构边缘设备,以最小开销实现精度提升。
本文提出了一种面向延迟的神经网络学习方法,使用Zerorized Batch Normalization优化严格延迟约束下边缘系统的DNN架构。实验表明,在NVIDIA Jetson设备上,该方法在精度损失极小的情况下显著降低了延迟。
论文介绍了MESH-FL,一种用于边缘设备上多模态联邦学习的熵引导矩阵乘积态压缩框架。它自适应地分配每层和每种模态的压缩秩,在异构树莓派集群上实现了高达56.8倍的压缩,并在最终准确率上比未压缩的FedAvg提升了2.01%。
本文献综述分析了持续负载下移动设备、NPU和GPU上LLM推理的性能效率权衡,重点关注手机上LLM的基准测试。
STELLA是一个高效的传感器到LLM翻译框架,专为设备端人体活动识别设计。它将多通道惯性传感器数据压缩为紧凑的潜在令牌,在七个公开HAR数据集上达到了新的最先进性能,同时支持设备端个性化和实时推理。
本综述论文考察了Agentic IoT作为下一代认知物联网范式,将自主AI智能体与信息物理系统集成,回顾了其体系结构、应用、挑战和未来方向。
ProWAFT是一种主动式工作负载感知容错框架,用于基于FPGA的CNN加速器,通过部分重配置选择性应用三模冗余(TMR),以最小化延迟、能耗和可靠性风险的综合目标。
本文提出了一种基于可扩展反向传播的算法,用于训练在热力学Ising硬件上运行的深度卷积网络,在CIFAR-10上达到94.9%的准确率,在CIFAR-100上达到76.0%的准确率,同时分析了推理成本与准确率之间的权衡。
微软CEO萨提亚·纳德拉讨论了公司的AI战略,包括投资10亿美元给OpenAI的决定、新的开源权重模型、企业代理Scout,以及与NVIDIA合作的新PC硬件,强调了构建AI生态系统和利用边缘计算的重要性。
谷歌研究院推出了一种新架构,使用冻结的Multi-Token Prediction在Pixel设备上加速Gemini Nano模型,显著提升了设备端AI特性的速度和能效。
Fastly利用基尼系数(一种衡量不平等的宏观经济指标)来建模流量不平等并规划边缘容量,在罕见但关键事件上表现优于复杂的机器学习模型。