DeepSWE-mini:DeepSWE的16实例子集,用于复现排行榜排名

Reddit r/LocalLLaMA 工具

摘要

已发布名为DeepSWE-mini的新数据集,这是DeepSWE的16实例子集,旨在通过复现排行榜排名来高效基准测试本地AI模型。

我刚刚发布了一个新数据集 https://huggingface.co/datasets/LocalLLaMA/deepswe-mini,旨在使在DeepSwe https://deepswe.datacurve.ai/ 上测试和基准测试本地模型更加高效。完整基准测试需要一些时间运行,因此我们分析了它,并选择了一个子集,可以忠实复现模型的相对排名(而非绝对分数)。你可以用它来快速在本地对新模型进行基准测试。
查看原文

相似文章

有人对新DeepSWE进行了审计,结果不太好看

Reddit r/singularity

DeepSWE是一个新的基准测试,用于评估AI编程代理在来自活跃开源仓库的真实软件工程任务上的表现,包含113个任务,涵盖TypeScript、Go、Python、JavaScript和Rust,提供隔离环境和基于程序的验证器。

DeepSWE for GPT-5.6

Reddit r/singularity

DeepSWE 是 GPT-5.6 的一个专用变体,专为软件工程任务优化。

Real-SWE 基准 (新)

Reddit r/LocalLLaMA

Real-SWE 是一个新的基准,用于评估前沿AI模型在私有、真实世界的企业代码库上的表现,专注于具有业务背景的复杂软件工程任务。