@jyangballin: 今天发布 SWE-bench Multimodal v2.0,包含480个任务,编码代理需要解释视觉资产如截图,…
摘要
SWE-bench Multimodal v2.0 已发布,提供480个任务,编码代理需要解释如截图和图表的视觉资产,以诊断和修复代码仓库中的错误。
今天发布 SWE-bench Multimodal v2.0
480个任务,编码代理需要解释视觉资产如截图、图表、录像,以诊断和修复代码仓库中的错误。 https://t.co/tEvvRFzwCr
查看缓存全文
缓存时间: 2026/09/03 18:11
今日发布 SWE-bench 多模态 v2.0 版本
包含480项任务,编程智能体需要解读截图、图表、录屏等视觉资源,诊断并修复代码仓库中的缺陷。https://t.co/tEvvRFzwCr
相似文章
SWE-Bench Pro V2(阅读时间9分钟)
SWE-Bench Pro V2是一个更新的基准测试,用于在软件工程中评估AI代理,包含来自11个代码库的642个任务,具有改进的评估协议和污染控制。
SWE-bench Science:编码代理能否解决科学工程任务?
SWE-bench Science 引入了一个仓库级基准,用于评估编码代理在科学软件修复任务中的表现,揭示了失败机制和科学指导的混合效应。
@joabaum:SWE-chat v2 来了!最大的来自真实用户的野外编码智能体交互数据集变得更大……
SWE-chat v2 已发布,扩展至涵盖 18K 会话的 230K 条提示词,成为最大的来自真实用户的野外编码智能体交互数据集。团队将在 COLM 上进行报告,并邀请社区探索 v2 所能带来的新可能。
WideSWE: 编码代理能否协调跨仓库的更改?
论文介绍了WideSWE,这是一个用于评估编码代理在跨仓库任务上的基准,基于120个真实世界任务,表明代理的成功率各异,联合执行可以提升性能。
@_akhaliq: SWE-Bench ProMax——大规模多语言代码重构的智能体基准测试 论文:https://huggingface.co/papers/…
介绍了SWE-Bench ProMax,一个包含7种编程语言、170个实例的多语言代码重构基准,用于评估AI编程智能体。前沿模型仅达到41.2%的解决率,证实这是一个具有挑战性且尚未饱和的基准。