AgentDecarbonizer: 面向AI代理的碳感知执行

arXiv cs.LG 论文

摘要

AgentDecarbonizer 是一个针对AI代理的碳优化器,通过将任务调度到低碳时段或电网,并利用截止日期灵活性来减少碳排放。

arXiv:2608.20566v1 公告类型:新 摘要:AI代理将大型语言模型从单一的提示-响应交互扩展到长期运行、目标导向的工作流程,这些工作流程发出多个模型调用、调用工具并与外部环境交互。这些工作流程能够执行软件修复、数据分析和实验管理等任务,但其重复的模型调用可能会产生大量的碳排放。本文使用WildClawBench对OpenClaw代理工作负载的碳排放进行了表征,表明排放取决于令牌消耗、上下文缓存重用和电网的碳强度。我们的表征发现截止日期灵活性为碳感知执行提供了机会:代理任务可以等待碳强度较低的时段或转移到碳强度较低的电网。然而,这样做需要处理时间转移中的不确定执行时间以及空间转移中的缓存上下文重计算。我们提出了AgentDecarbonizer,一个与OpenClaw一起运行的针对AI代理的碳优化器。给定任务提示和用户指定的截止日期,AgentDecarbonizer保守地估计任务持续时间,并选择截止日期可行的执行计划,同时考虑空间转移期间的缓存重计算开销。在WildClawBench工作负载上进行评估,涉及四个电网中的60个代理任务,AgentDecarbonizer与碳无关基线相比减少了高达57.9%的碳排放,与在任务开始时选择碳最优电网的基线相比减少了高达37.5%的碳排放。
查看原文
查看缓存全文

缓存时间: 2026/08/24 04:31

# AgentDecarbonizer:面向 AI 智能体的碳感知执行  
来源:https://arxiv.org/html/2608.20566  
作者:Shuangning Li(地址:芝加哥大学)与 Sihang Liu(地址:滑铁卢大学)  

###### 摘要  
AI 智能体将大语言模型从单次提示-响应交互扩展到长时间运行、目标导向的工作流程,这些流程会发起多次模型调用、调用工具并与外部环境交互。此类工作流能够实现软件修复、数据分析和实验管理等任务,但其重复的模型调用会产生大量碳排放。本文使用 WildClawBench 对 OpenClaw 智能体工作负载的碳排放进行表征,并表明排放量取决于 token 消耗量、上下文缓存重用以及电网的碳强度。我们的表征分析将截止日期灵活性视为实现碳感知执行的一个契机:智能体任务可以等待低碳强度时段或迁移至低碳电网。然而,实现这一点需要处理时间迁移中的不确定执行时间,以及空间迁移中的缓存上下文重算问题。我们提出了 AgentDecarbonizer,这是一个与 OpenClaw 协同运行的面向 AI 智能体的碳优化器。给定任务提示和用户指定的截止日期,AgentDecarbonizer 会保守估计任务时长,并选择满足截止日期的可行执行计划,同时考虑空间迁移期间的缓存重算开销。在包含 4 个电网、60 个智能体任务的 WildClawBench 工作负载上进行评估,AgentDecarbonizer 相比于碳感知无关的基线减少了高达 57.9% 的碳排放,相比于在任务启动时选择碳最优电网的基线减少了高达 37.5% 的碳排放。

## 1. 引言  
AI 智能体将大语言模型(LLMs)从单次的提示-响应交互扩展为自主的、目标导向的工作流程。给定一个高层任务,智能体会规划中间步骤,调用模型 API 和外部工具,并根据中间观察结果调整其执行过程[89,72,79]。这种执行模式使得软件修复、数据分析和机器学习实验等长时间运行的任务得以在用户有限干预下进行[87,35,34]。例如,OpenAI 最近推出了具有灵活截止日期的计划任务[61]。与传统的 LLM 查询不同,智能体任务可能扩展为多次模型调用、工具调用和环境交互。这些智能体工作负载已得到专用平台的支持[25,56,5],而 OpenClaw 是一个具有代表性的开源示例[63]。  
智能体执行还通过跨模型调用重复重用上下文,从而区别于传统 LLM 工作负载[92,98,40,75]。由于智能体在执行过程中维护任务目标、对话历史记录和工具输出等状态,现代 LLM 服务系统使用上下文缓存来避免重新计算共享上下文并减少推理开销[60,21,6,26,8]。尽管自主智能体能够处理复杂任务,但其多步骤执行带来了巨大的计算需求。为了表征这些工作负载,我们使用 WildClawBench[13](一个包含 6 类(如生产力和编码)60 个真实智能体任务的基准测试套件)分析了 OpenClaw。我们观察到智能体执行具有高度多样性,在执行时间、API 调用和 token 消耗方面存在显著差异。此外,这些工作负载是输入密集型的,输入 token 占所有处理 token 的 99.1%。这使得上下文缓存至关重要,因为缓存输入 token 为 94.6% 的输入 token 消除了重算。其计算密集型的工作负载特征也具有可持续性方面的影响。  
服务大规模 AI 模型会导致高碳排放[16,37,19]。自主智能体长时间的密集执行进一步放大了这一影响。我们基于先前研究[38,4,16]和供应商 API 定价[59,27],对 AI 智能体的能耗进行建模,将现有的逐提示能耗测量扩展为针对输入、输出和缓存输入 token 的逐 token 估算。然后,我们使用电网的碳强度(单位为 gCO2e/kWh)——一个随地点和能源结构随时间变化而变化的因素[76,51]——将估算的能耗转化为碳排放。例如,预计在 2026 年 2 月 24 日于 CISO 电网(美国加利福尼亚州)执行 WildClawBench 将排放 6.6 kgCO2e,相当于一辆乘用车行驶约 25 公里[18]。当智能体大规模部署时,这些排放可能变得相当可观,这推动了针对 AI 智能体的碳排放优化。  
由于碳强度随时间和地点变化,现有的碳感知优化技术通过将工作负载转移到低碳时段和区域来减少排放[69,31,78,84]。然而,这些技术并未直接解决 AI 智能体的独特执行特征。首先,智能体执行持续时间不确定,因为后续步骤可能依赖于前面的模型输出、工具结果以及与外部环境的交互。同时,必须满足用户指定的截止日期,而不是为了低碳时段而无限期推迟执行。其次,可重用的上下文缓存对智能体执行至关重要。在我们的表征中,上下文缓存减少了 80.7% 的碳排放。将智能体执行保持在同一位置可以保留这些缓存上下文,这通常是服务系统所假设的[67,29,8]。相反,将执行迁移到另一个电网可能会丢失缓存并需要重新计算之前缓存的输入,从而增加额外的排放。因此,空间迁移并不总是有益的:一旦考虑缓存重算开销,具有最低碳强度的电网可能不会产生最低的总排放。  
为了解决这些实际挑战,我们提出了 AgentDecarbonizer,一个用于 OpenClaw 上自主 AI 智能体的碳优化工具。给定任务提示和用户指定的截止日期,AgentDecarbonizer 与 OpenClaw 协同运行,以估计任务持续时间、预测碳强度,并跨时间和电网选择满足截止日期的可行执行计划。为了处理不确定的智能体执行时间,我们设计了一个基于轻量级 Gemma 4 4B 模型的执行时间估计器[42],该模型在本地设备上运行。它首先根据任务阶段及其复杂度给出一个保守的持续时间估计,然后在执行过程中使用 OpenClaw 智能体的进度、API 调用统计和观察到的工具使用情况来细化剩余持续时间的估计。这允许智能体任务在时间充足时等待低碳时段,并在截止日期紧张时回退到立即执行。  
为了考虑缓存对空间工作负载迁移的影响,AgentDecarbonizer 使用模型 token 统计信息来估计重算开销。仅当预期的碳减排量超过此缓存开销时,它才执行电网迁移。我们在截止日期约束下构建了这个缓存感知的优化问题,并基于未来缓存成本仅取决于之前执行位置的观察,推导出一种动态规划解决方案。我们在 OpenClaw[63](一个具有代表性的开源智能体系统)之上评估了 AgentDecarbonizer,使用轻量级的 Mac mini 运行本地 OpenClaw 客户端。该智能体将 GPT-5.4 作为远程模型 API 调用,我们运行了 60 个涵盖六个类别的 WildClawBench 任务。虽然这项工作以 OpenClaw 为目标,但优化策略可广泛应用于其他智能体系统。我们通过组合同一类别内的任务,构建了六个长时间运行的工作负载。评估使用了来自四个电网的碳强度轨迹,以及从 3 小时到 24 小时的工作负载截止日期。我们将 AgentDecarbonizer 与两个基线进行比较:一个碳感知无关基线(使用所有四个电网的平均排放)和一个当前最优基线(在工作负载启动时选择碳强度最低的电网)。评估显示,在灵活的 24 小时截止日期下,AgentDecarbonizer 相比平均基线减少了 57.9% 的碳排放,相比当前最优基线减少了 37.5%。即使在更紧迫的 3 小时截止日期下,AgentDecarbonizer 相比平均基线减少了 34.9% 的碳排放,相比当前最优基线减少了 3.3%。  
本文做出以下贡献:  
- 据我们所知,这是第一项系统研究 AI 智能体碳排放并使用针对其执行特征定制的方法优化碳排放的工作。  
- 我们系统地表征了 OpenClaw 上 AI 智能体工作负载的碳排放,并确定了影响其排放的关键因素。  
- 我们设计了 AgentDecarbonizer,一个用于 AI 智能体的碳优化器,它估计智能体持续时间和进度、预测区域碳强度,并选择满足截止日期的低碳执行计划,包含缓存感知的电网迁移决策。  
- 我们使用来自 WildClawBench 的 AI 智能体工作负载评估了 AgentDecarbonizer,并证明它在满足工作负载截止日期的同时,相比碳感知无关基线,在灵活的 24 小时截止日期下实现了高达 57.9% 的碳排放节省。

## 2. 背景与动机  
在本节中,我们介绍自主 AI 智能体、OpenClaw 和碳排放核算。  
### 2.1 大语言模型  
大语言模型(LLMs)在自然语言理解、逻辑推理和代码生成方面已展现出强大的能力。LLM 推理通常包含两个执行阶段:预填充(prefill)和解码(decode)。在预填充阶段,模型通过单次并行前向传播处理整个用户提示和上下文。随后,在解码阶段,模型自回归地生成输出 token。由于不同的执行模式,预填充阶段是计算密集型的(compute-bound),而解码阶段是内存密集型的(memory-bound)。已有多种系统级优化技术用于提高 AI 模型服务的效率[41,91,2,96,66]。值得注意的是,其中一类技术采用上下文缓存,它重用跨请求的共享提示的预计算键值(KV)状态,从而避免重复的预填充计算。这允许具有共享或相似上下文的后续提示或多轮查询重用缓存的计算[90,85,21]。随着 LLMs 能力增强和使用日益广泛,服务它们需要大量的计算资源。因此,部署这些先进的模型尤其计算密集,需要高端 GPU 或 AI 加速器。  
### 2.2 自主 AI 智能体  
LLMs 的进步催生了自主 AI 智能体,它们将传统的聊天机器人式提示-响应交互扩展为目标导向的工作流程。智能体不是要求用户反复发出指令并解读每个响应,而是从一个初始请求开始,该请求指定了目标、要求和预期结果。它可以规划动作、调用工具、与外部环境交互、验证中间结果,并在产生最终结果之前重试失败的步骤。因此,用户可以等待完成的结果,而无需监控中间步骤,这为执行调度提供了更大的灵活性[56,39,98,13]。例如,OpenAI 的计划任务功能允许智能体工作流以灵活的时间表和截止日期执行[61]。代表性任务包括代码仓库分析、大规模文档理解、数据分析和软件开发。这种从用户引导的、逐步提示的交互到在真实任务环境中目标导向工作流的转变,也反映在最近的 AI 智能体研究中[98,39,47,13,75,92]。  
图 1\. OpenClaw 平台上自主 AI 智能体工作流示例[63]。  
### 2.3 OpenClaw  
最近,自主智能体能力已被集成到主要 AI 服务提供商的系统中,例如 Codex[56]、Claude Code[5] 和 Antigravity[25]。虽然这些专有系统主要针对编码和软件开发,但 OpenClaw 已成为一个流行的开源自主智能体系统,设计用于更通用的任务[63]。OpenClaw 作为工作负载管理器,连接用户请求、智能体动作、外部工具和后端模型 API。通过特定于提供商的适配器,OpenClaw 可以调用不同的模型 API(如 GPT 和 Gemini),同时使智能体运行时在很大程度上独立于底层模型服务[62]。这些模型 API 也可以在生成的响应旁返回请求级别的元数据,例如输入、输出和缓存 token 计数。

相似文章

提升AI智能体的速度与能效

MIT News — Artificial Intelligence

麻省理工学院和微软的研究人员开发了一种智能系统,可自动优化智能体工作流,在保持性能的同时减少计算资源和能源消耗。

@akshay_pachaar: https://x.com/akshay_pachaar/status/2053166970166772052

X AI KOLs Timeline

The article discusses a shift in AI agent tool usage from the 'MCP vs CLI' debate to 'Code Mode,' where agents write code to dynamically import tools, significantly reducing context window usage. It highlights Anthropic's approach and Cloudflare's implementation, demonstrating a 98.7% reduction in token consumption for specific tasks.

CrbonFree

Product Hunt

CrbonFree是一款合规软件工具,用于计量每次AI调用的碳排放,生成审计就绪的报告。