标签
本文探讨了提示属性（如认知负荷和措辞模式）如何影响设备上LLM推理的能耗，表明认知负荷影响每个令牌的能耗，而措辞模式通过令牌使用影响能耗，强调了为能效设计模型感知提示的必要性。
本文对大语言模型推理的能耗进行了系统性实证研究，分析了如多头注意力（Multi-Head Attention）、分组查询注意力（Grouped Query Attention）和滑动窗口注意力（Sliding Window Attention）等注意力架构如何影响不同上下文长度和工作负载下的能耗缩放。
共和党的参议院竞选部门已警告AI公司，俄亥俄州对数据中心的公众反对情绪日益高涨，这正在影响一场参议院选举。民调显示对能源成本和快速建设的高度担忧，促使人们呼吁就利益和影响进行更好的沟通。
内蒙古的乌兰察布已成为中国主要的AI数据中心枢纽，DeepSeek和ByteDance等公司对基础设施进行了大量投资，尽管水资源短缺带来了挑战。
本文介绍了MÖVE，一个针对德国公共部门LLMs的整体评估框架，考察了能源消耗、提供商透明度和德国政党立场知识等治理维度，揭示了需要根据具体上下文选择模型的权衡。
本文通过 IEA 的数据，审视并驳斥了关于 AI 环境影响的夸大说法，指出尽管 AI 消耗能源和水资源，但其影响往往被高估且取决于具体情境。
文章认为，大规模AI数据中心的建设是由补贴定价而非实际需求驱动的投机泡沫，AI的未来在于边缘侧更小的开源模型。文章强调了这对能源电网和气候目标的负面影响，并警告泡沫破裂可能导致经济衰退，但不会终结AI。
彭博新能源财经（BloombergNEF）的最新报告预测，受人工智能计算需求激增的推动，数据中心到2035年用电量将翻两番，消耗美国五分之一的电力，并对本已不堪重负的电网造成压力。
对AI行业的环境成本及聊天机器人能力的过度宣传的批判性反思，指出许多危害被忽视，并且不使用AI仍然是一个轻松的选择。
2025年，爱尔兰数据中心的用电量占全国电力的23%，较2024年增长了10%，尽管对新电网连接实施了暂停。新法规要求大型数据中心运营商提供备用发电，并将电力回馈至电网。
本文讨论了因环境和能源问题而对AI数据中心日益增长的本地反对声浪，重点介绍了爱尔兰的一个历史案例以及当前广泛的抵制情况。
谷歌的电力消耗从2024年到2025年激增了12 TWh，达到43 TWh，这由生成式AI基础设施驱动，导致排放呈指数级增长，并破坏了气候目标。
作者认为，尽管当前AI的扩展方法是工程的巅峰，但其效率极其低下，未来会被视为原始，就像我们现在看待1960年代的大型主机一样。
弗吉尼亚州亨里科县拥有37个数据中心，在数据中心电力需求导致电价上涨25%之后，要求学校和政府雇员节约用电，凸显了科技基础设施与当地社区之间日益加剧的矛盾。
联合国一份报告揭示，到2030年，AI数据中心消耗的水量可能相当于13亿人基本年需求量，其中80-90%的能源用于日常运营而非训练。生成一张AI图像所用的能源是执行一项基本文本任务的1000多倍。
本文系统性地研究了使用LoRA对Qwen2.5-3B进行参数高效微调用于电信客户支持，比较了16种LoRA配置的传统指标与能耗分析。发现定量与定性性能之间存在分歧。