标签
一项系统性综述和实证研究,比较了深度学习模型的碳足迹,考察了绿色AI技术和测量工具,发现训练阶段是排放的主要来源,且更大的架构并不总能带来成比例的精度提升。
本文提出了一种碳感知的微调目标,可在任务准确性和推理CO2排放之间取得平衡,并在MMLU科目的Gemma-2 2B、Llama-3.1 8B和Qwen-2.5 14B上进行了测试,发现存在依赖模型和任务的盈亏平衡区域。
MIT Technology Review reports on a wave of startups pursuing post-transformer architectures for LLMs, as the dominant model family faces growing costs, energy use, and context-length limits. Companies like Subquadratic aim to build the next generation of AI.
Jeff Geerling的基准测试显示,戴尔XPS 13中的英特尔Core 5 320在每瓦性能上与苹果硅芯片持平或超越,这表明x86在能效上可以与ARM竞争。
The paper compares five parameter-efficient fine-tuning methods on four small language models for on-device personalization, finding LoRA+ best for energy efficiency and QLoRA best for memory-limited deployment.
本文通过实验研究提示词表述如何影响端侧大语言模型的能耗,表明关键词选择会显著影响解码长度和总能耗,并提示工程可作为轻量级能耗优化手段。
IonQ的研究表明,利用离子阱系统进行量子微调,相比经典计算可以显著降低能耗,在AI工作负载给电网带来压力的当下,提供了通往量子实用性的近期桥梁。
本文介绍了一个自定义的 Rust + CUDA 注意力变换器引擎,在H100上实现了0.63 J/token的能效,并具备位精确确定性,超越了典型模型。计划在专利授权后开源发布。
Wired 杂志推荐四款应对极端高温的最佳家用空调,包括美的U型窗式空调和Zafro Lullaby Duo便携式空调,突出静音运行、智能控制和节能等特点。
本文提出了一种多目标贝叶斯优化方法,用于自动化强化学习中的权重选择以实现节能控制,并在物理Quanser Aero 2测试平台上展示了优于网格搜索的样本效率。
中国正在多个城市的公共场所部署使用雾化喷嘴的蒸发冷却基础设施,这比空调更节能,而欧洲则依赖传统空调。
Johnson热电能量转换器(JTEC)是一种固态热机,通过电化学循环利用氢气将热能转化为电能,声称效率高达60%。
本文讨论了NSRAM,一种新型的硅芯片上的人工神经元,旨在通过模仿生物神经元,大幅提高AI的能效,解决数据中心GPU高能耗的问题。
介绍了EVLA,这是一个通过实时感知电动动力总成状态来增强视觉-语言驾驶助手,从而实现能量最优和物理基础决策的框架。
KernelPro是一个闭环多智能体系统,利用LLM和微剖析工具自动优化GPU内核代码,在KernelBench上实现了2.42×/4.69×/5.30×的几何平均加速,并在相同速度下实测能耗降低11.6%。
Unconventional AI 介绍了 Un-0,这是首个以物理学作为计算原语构建的大规模生成模型,使用耦合振荡器生成具有竞争品质的图像,同时承诺大幅提升能效。
本文讨论了大型语言模型的小缩放指数,认为它们在能源资源方面指示了一种不可持续的状态。还探讨了'pedestal effect',并类比流体湍流以评论数据的平滑性。
NVIDIA的Rubin代AI服务器实现了100%液冷,冷却液温度达45°C,大幅降低数据中心的能耗和水耗。