Last Secure Code Benchmark:你用 Vibe Coding 写的代码真的安全吗?

Hugging Face Daily Papers 论文

摘要

研究提出 LastSecureCode Benchmark,基于 150 个真实漏洞构建 450 个任务,评估编程智能体生成代码的安全性。结果显示前沿智能体功能通过率虽高(73.6%–91.3%),但功能与安全同时通过的任务仅 16.4%–25.1%,暴露出 vibe coding 产出代码的严重安全隐患。

AI 编程智能体现在已经编写了大量实际交付的代码,但这些代码是否安全仍然不得而知。我们提出 LastSecureCode Benchmark,对编程智能体的安全代码生成能力进行综合评估。该基准基于 150 个真实漏洞构建,包含 450 个任务,涵盖七种广泛使用的语言(Java、C、C++、JavaScript、Python、PHP 和 Go)、24 种 CWE 类型(包括 2025 年 CWE Top 25 中的 21 种和 KEV Top 10 中的 8 种漏洞类型,超过我们对比的所有基准),以及三种 vibe coding 场景:补全函数、编写单个文件以及从零构建一个仓库的源代码树。每个任务只要求实现功能,规格说明中从不提及安全,由隐藏的功能测试和安全测试对结果进行评分。在六个前沿智能体中,73.6% 到 91.3% 的任务能够通过功能测试,但即使是最强的 Claude Fable 5,也只有 25.1% 的任务能同时通过功能和安全测试,其余智能体的通过率仅为 16.4% 到 24.7%。最好的模型在所有 vibe coding 场景下也仅通过了 12% 的漏洞场景测试,这引发了对 vibe coding 所生成代码安全性的严重担忧。
查看原文
查看缓存全文

缓存时间: 2026/10/14 14:52

论文页面 - Last SecureCode Benchmark:你用 AI 写的代码安全吗?

来源:https://huggingface.co/papers/2610.14766

作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

AI 编码代理如今撰写了大量发布上线的代码,但这些代码是否安全仍然不得而知。我们提出了 Last SecureCode Benchmark,这是一个全面评估编码代理生成安全代码能力的基准测试。该基准基于 150 个真实漏洞构建,其 450 个任务涵盖七种广泛使用的语言(Java、C、C++、JavaScript、Python、PHP 和 Go)、24 个 CWE(其中包含 2025 年 CWE Top 25 中的 21 个以及 KEV 高危漏洞列表 Top 10 中的 8 个),覆盖的 CWE 数量超过我们对比的所有基准,并涉及三种 AI vibe coding 场景:补全函数、编写文件以及从零构建仓库源代码目录树。每个任务仅要求实现功能,规格说明中从不提及安全性,由隐藏的功能测试和安全测试对结果进行评分。在六个前沿编码代理中,73.6% 到 91.3% 的任务能够通过功能测试,但即使是最强的 Claude Fable 5,也只有 25.1% 的任务同时通过了功能和安全测试,其他模型仅为 16.4% 到 24.7%。最强模型在所有 vibe coding 场景下的漏洞场景通过率仅为 12%,这令人对 AI vibe coding 所编写代码的安全性深感担忧。

查看 arXiv 页面 (https://arxiv.org/abs/2610.14766) 查看 PDF (https://arxiv.org/pdf/2610.14766) 项目页面 (https://last-secure-code-benchmark.github.io/) GitHub 21 (https://github.com/alibaba/last-secure-code-benchmark) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.14766)

在你的代理中获取此论文:

hf papers read 2610.14766

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该模型。

引用此论文的数据集 0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该数据集。

引用此论文的 Spaces 0

没有 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该 Space。

包含此论文的合集 0

没有合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面关联。

相似文章

如何阻止 Vibe Coding?

Hacker News Top

本文讨论了使用 AI 代理进行 'vibe coding' 的兴起,其对代码质量和开发者理解的风险,并呼吁重新思考软件工程实践,以超越仅仅从意图生成代码。

@KengGuangLong: Vibe Coding 时代,为什么软件工程反而更重要了? AI 让代码跑起来的成本趋近于零了。写一个功能、出一个原型,速度快到离谱。但瓶颈也跟着变了:现在最难的地方,是这个东西以后还能不能改。 Vibe coding 最大的问题,就是让…

X AI KOLs Timeline

在 Vibe Coding 时代,AI 让代码生成变得容易,但软件工程的原则如代码可维护性和设计模式变得更加重要,以解决审查、调试和重构的挑战。