Last Secure Code Benchmark:你用 Vibe Coding 写的代码真的安全吗?
摘要
研究提出 LastSecureCode Benchmark,基于 150 个真实漏洞构建 450 个任务,评估编程智能体生成代码的安全性。结果显示前沿智能体功能通过率虽高(73.6%–91.3%),但功能与安全同时通过的任务仅 16.4%–25.1%,暴露出 vibe coding 产出代码的严重安全隐患。
查看缓存全文
缓存时间: 2026/10/14 14:52
论文页面 - Last SecureCode Benchmark:你用 AI 写的代码安全吗?
来源:https://huggingface.co/papers/2610.14766
作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
AI 编码代理如今撰写了大量发布上线的代码,但这些代码是否安全仍然不得而知。我们提出了 Last SecureCode Benchmark,这是一个全面评估编码代理生成安全代码能力的基准测试。该基准基于 150 个真实漏洞构建,其 450 个任务涵盖七种广泛使用的语言(Java、C、C++、JavaScript、Python、PHP 和 Go)、24 个 CWE(其中包含 2025 年 CWE Top 25 中的 21 个以及 KEV 高危漏洞列表 Top 10 中的 8 个),覆盖的 CWE 数量超过我们对比的所有基准,并涉及三种 AI vibe coding 场景:补全函数、编写文件以及从零构建仓库源代码目录树。每个任务仅要求实现功能,规格说明中从不提及安全性,由隐藏的功能测试和安全测试对结果进行评分。在六个前沿编码代理中,73.6% 到 91.3% 的任务能够通过功能测试,但即使是最强的 Claude Fable 5,也只有 25.1% 的任务同时通过了功能和安全测试,其他模型仅为 16.4% 到 24.7%。最强模型在所有 vibe coding 场景下的漏洞场景通过率仅为 12%,这令人对 AI vibe coding 所编写代码的安全性深感担忧。
查看 arXiv 页面 (https://arxiv.org/abs/2610.14766) 查看 PDF (https://arxiv.org/pdf/2610.14766) 项目页面 (https://last-secure-code-benchmark.github.io/) GitHub 21 (https://github.com/alibaba/last-secure-code-benchmark) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.14766)
在你的代理中获取此论文:
hf papers read 2610.14766
没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 0
没有模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该模型。
引用此论文的数据集 0
没有数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该数据集。
引用此论文的 Spaces 0
没有 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.14766,即可从此页面关联该 Space。
包含此论文的合集 0
没有合集包含此论文
将此论文添加到合集 (https://huggingface.co/new-collection) 即可从此页面关联。
相似文章
在您用 vibe 编码开发另一个应用之前,请先阅读本文
本文警告了AI辅助“vibe 编码”应用中的安全漏洞,引用了SQL注入和数据库泄露等真实案例,并建议在处理敏感数据时尤其要谨慎。
如何阻止 Vibe Coding?
本文讨论了使用 AI 代理进行 'vibe coding' 的兴起,其对代码质量和开发者理解的风险,并呼吁重新思考软件工程实践,以超越仅仅从意图生成代码。
@Zh_Crypto517: 这可能是对小白最友好的 vibe coding 教程 —— easy-vibe 目前已经在GitHub上斩获12.5k star 霸榜trend 很多编程教程一上来就讲环境、语法、框架、工程规范,新手还没看到结果就已经被劝退了。Easy-…
Easy-Vibe 是一个面向初学者的 AI 编码教程,让用户先从自然语言需求出发构建应用,再逐步理解底层原理,已在 GitHub 获得 12.5k star 并登上趋势榜。
@KengGuangLong: Vibe Coding 时代,为什么软件工程反而更重要了? AI 让代码跑起来的成本趋近于零了。写一个功能、出一个原型,速度快到离谱。但瓶颈也跟着变了:现在最难的地方,是这个东西以后还能不能改。 Vibe coding 最大的问题,就是让…
在 Vibe Coding 时代,AI 让代码生成变得容易,但软件工程的原则如代码可维护性和设计模式变得更加重要,以解决审查、调试和重构的挑战。
@leeoxiang: 对于 vibe coding ,写 demo 级别的产品门槛已经非常低,但想打造一个足够稳定的服务的挑战依旧很大,目前这个门槛并没有降低。
在AI辅助编程(vibe coding)中,制作demo级别产品的门槛已经很低,但构建稳定可靠的服务仍然面临巨大挑战,且这一门槛并未降低。