AgentKernelArena:兼顾泛化能力的GPU内核优化代理基准测试
摘要
AgentKernelArena是一个开源基准测试,用于评估AI编码代理在GPU内核优化方面的表现,涵盖完整的代理工作流程以及跨196个任务对未见配置的泛化能力。
查看缓存全文
缓存时间: 2026/05/19 06:30
论文页面 - AgentKernelArena: 面向GPU内核优化的泛化感知基准测试
来源:https://huggingface.co/papers/2605.16819 作者:
,
,
,
,
,
,
,
,
,
,
,
,
摘要
AgentKernelArena被介绍为一个开源基准测试,用于评估AI编码智能体在GPU内核优化上的表现,它评估完整的智能体工作流,并测试在多个优化任务上针对未见配置的泛化能力。
GPU内核优化 (https://huggingface.co/papers?q=GPU%20kernel%20optimization) 对于高效的深度学习系统日益关键,但编写高性能内核仍然需要大量的底层专业经验。最近的AI编码智能体 (https://huggingface.co/papers?q=AI%20coding%20agents) 可以迭代地读取代码、调用编译器和性能分析器,并优化实现,然而现有的内核基准测试评估的是单个LLM调用而不是完整的智能体工作流 (https://huggingface.co/papers?q=agent%20workflows),并且没有一个同时包含内核到内核的优化和未见配置泛化 (https://huggingface.co/papers?q=unseen-configuration%20generalization) 测试。我们提出了AgentKernelArena,一个用于衡量AI编码智能体 (https://huggingface.co/papers?q=AI%20coding%20agents) 在GPU内核优化 (https://huggingface.co/papers?q=GPU%20kernel%20optimization) 上表现的开源基准测试。该基准测试包含196个任务,涵盖HIP到HIP优化 (https://huggingface.co/papers?q=HIP-to-HIP%20optimization)、Triton到Triton优化 (https://huggingface.co/papers?q=Triton-to-Triton%20optimization) 以及PyTorch到HIP转换 (https://huggingface.co/papers?q=PyTorch-to-HIP%20translation),并在隔离的工作空间中评估完整的智能体工作流 (https://huggingface.co/papers?q=agent%20workflows),使用门控编译 (https://huggingface.co/papers?q=compilation)、正确性 (https://huggingface.co/papers?q=correctness) 和性能检查 (https://huggingface.co/papers?q=performance%20checks),集中评分以及一个未见配置泛化 (https://huggingface.co/papers?q=unseen-configuration%20generalization) 协议,该协议测试优化是否能迁移到智能体从未观察到的输入配置。在包括Cursor Agent、Claude Code和Codex Agent在内的生产级智能体中,我们发现大多数任务类别上接近完美的编译 (https://huggingface.co/papers?q=compilation) 率和较高的正确性 (https://huggingface.co/papers?q=correctness) 率,最强配置在PyTorch到HIP任务上实现了高达6.89倍的平均加速,HIP到HIP任务上6.69倍,Triton到Triton任务上2.13倍。我们的未见配置评估显示,HIP到HIP和Triton到Triton优化 (https://huggingface.co/papers?q=Triton-to-Triton%20optimization) 在很大程度上可迁移到未见的输入形状,而PyTorch到HIP则表现出正确性 (https://huggingface.co/papers?q=correctness) 的显著下降,表明从头生成内核的智能体经常硬编码针对形状的假设。AgentKernelArena设计为一个模块化、可扩展的框架,用于跨智能体、任务和硬件目标对基于智能体的GPU内核优化 (https://huggingface.co/papers?q=GPU%20kernel%20optimization) 进行严格评估。
查看arXiv页面 (https://arxiv.org/abs/2605.16819) 查看PDF (https://arxiv.org/pdf/2605.16819) GitHub16 (https://github.com/AMD-AGI/AgentKernelArena) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2605.16819)
在您的智能体中获取此论文:
hf papers read 2605.16819
没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
暂无模型链接此论文
在模型的README.md中引用arxiv.org/abs/2605.16819以从本页面链接。
引用此论文的数据集0
暂无数据集链接此论文
在数据集的README.md中引用arxiv.org/abs/2605.16819以从本页面链接。
引用此论文的Space0
暂无Space链接此论文
在Space的README.md中引用arxiv.org/abs/2605.16819以从本页面链接。
包含此论文的收藏集0
暂无收藏集包含此论文
将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页面链接。
相似文章
KernelArc:一个用于GPU内核优化的多智能体框架
KernelArc是一个多智能体框架,使用策略专业化智能体来自主优化GPU内核以处理异构工作负载,并在NVIDIA GPU基准测试中取得顶级排名。
@PyTorch:优化内核可能非常耗时,并且需要深厚的专业知识。KernelAgent 是一个多智能体协作框架,能够 c…
Meta 的 Kaiming Cheng 将在 PyTorch Conference North America 2026 上展示 KernelAgent——一个由硬件指导的多智能体框架,用于优化 GPU Triton 内核。在 100 个 KernelBench L1 任务上,该框架相比先前版本实现了 2.02 倍的加速,相比默认的 `torch.compile` 实现了 1.56 倍的加速。
一个 AI 智能体在未查看源代码的情况下,在 B200 上的表现比 NVIDIA 的 FlashMLA 基准实现快了 9.8%。
OpenBMB 的 ForgeKernel 智能体历时 22 小时,以 NVIDIA 的 FlashMLA 黑盒基线为参照,自主优化了一个 GPU 内核,在 B200 上实现了 9.8% 的性能提升,并将开源 27 个优化后的算子及 ForgeKernel 框架。
AA-AgentPerf-Local:在笔记本和工作站上对本地 AI 智能体进行基准测试
Artificial Analysis 开源了 AA-AgentPerf-Local,这是一款推理基准测试工具,通过重放真实智能体轨迹来测量智能体式 AI 在笔记本和工作站上的运行速度,并给出了 NVIDIA DGX Spark、RTX 5090、AMD Ryzen AI Halo 和 MacBook Pro M5 Pro 的初步测试结果。
@levidiamode: GPU编程的第163/365天 - 今天看几个不同的agentic GPU内核优化系统。我最感兴趣的两个是…
一条推文讨论了两种agentic GPU内核优化系统:@dogacel0的Auto GPU Kernel和@songhan_mit实验室的Kernel Design Agents,两者均在MLSys Sparse Attention FlashInfer比赛中获胜。该帖子突出了使用子代理和Claude技能进行GPU编程的不同方法。