SpecFirst:将行为规范获取作为基于智能体的从头程序合成中的首要步骤

Hugging Face Daily Papers 论文

摘要

SpecFirst 提出将行为规范获取作为基于智能体的程序合成中的首要步骤,将其与探索和编码分离。在 200 个程序实例上进行评估,它在多个模型上显著提高了测试通过率和二进制探索覆盖率。

基于 LLM 的智能体在提供上下文的现有代码库软件工程任务中表现出色,但从头构建程序仍然本质上更加困难。最近的基准测试(如 ProgramBench)量化了这一差距:在仅有自然语言文档和仅可执行的二进制文件作为行为预言机的情况下,即使是前沿模型也解决不了不到 1% 的实例。现有框架将文档阅读、行为探索和代码合成混为一个单一过程,导致智能体探测不足,随着上下文漂移而丢失行为意图,并将早期的误解传播到最终实现中。受经典需求工程的启发,我们认为行为规范获取应是一个先于实现的首要阶段。我们提出了 SpecFirst,这是一个两阶段框架,强制在代码合成之前进行规范获取。一个专门的规范智能体首先探测二进制文件,并将观察结果与文档结合成结构化规范。然后,一个代码合成智能体使用该规范驱动实现。这种分解在编码开始之前就解决了文档歧义,并在整个合成过程中提供了稳定的行为参考。我们在所有 200 个 ProgramBench 实例上评估了 SpecFirst,覆盖了两个系列、能力相差一个数量级的四个模型。SpecFirst 持续优于单循环基线,将测试通过率提高 6.9% 到 21.3%,二进制探索覆盖率提高 9.4% 到 18.5%,均具有统计显著性。对代码合成的行为分析进一步表明,先验规范能够实现更早且更持久的代码构建。我们的结果表明,将明确的需求工程阶段作为从头程序构建的有效范式。
查看原文
查看缓存全文

缓存时间: 2026/07/30 21:50

论文页面 - SpecFirst:将行为规范提取作为基于智能体的从头程序综合中的首要步骤

来源:https://huggingface.co/papers/2607.27167 SpecFirst:将行为规范提取作为基于智能体的从头程序综合中的首要步骤

我们认为,行为规范提取应当成为从头程序综合中的首要步骤,而非隐含地混杂在探索与编码过程中。通过 SpecFirst,我们:

📋 将综合过程分为两个阶段:一个规范智能体首先探测仅可执行的二进制文件,并将其观察结果与文档相结合,形成结构化的行为规范 📋 将这一规范作为稳定参考提供给第二个智能体用于实现,而非要求其从不断增长的交互历史中持续恢复行为意图 📋 在编码开始前解决文档歧义,并将行为探索与代码构建解耦

我们在全部 200 个 ProgramBench 实例上评估了 SpecFirst,使用了跨两个模型家族的四个模型,其智能编码能力跨度近一个数量级。我们将其与采用相同模型、官方 mini-SWE-agent 框架以及其余匹配实验设置的单循环直接综合基线进行了对比。

结果是:📈 在全部四个评估模型上,测试通过率较直接综合提升了 6.9%–21.3% 📈 二进制文件探索覆盖率提升了 9.4%–18.5%,表明专门的规范阶段带来了更广泛的行为探测 📈 在每个评估模型上都产生了统计上显著的改进,表明该优势跨越了模型家族和能力水平

或许最有趣的是:规范改变了智能体的编码方式。行为分析表明,配备了预先规范的智能体更早开始代码构建,并持续更长时间,而非反复在行为探索与实现之间切换。我们的结果表明,在智能体循环中引入一个明确的需求工程阶段,是一种简单但有效的从头构建程序的范式。

相似文章

Agent Seer:从规范理解合成场景

arXiv cs.CL

Agent Seer 是一个管道,它从工具规范中合成真实的 AI 代理评估场景,无需手动整理,从而提高多轮对话中工具调用的正确性和对话连贯性。

超越回忆:行为规范作为AI个性化的解释层

arXiv cs.CL

本文介绍了表征准确性和一种行为规范作为AI个性化的解释层,表明与原始数据检索相比,它在大约25倍更少的上下文成本下提高了表征准确性,尤其是在需要解释的问题上。

FVSpec:真实世界基于属性测试的Lean挑战

Hugging Face Daily Papers

本文介绍了FVSpec,这是一个用于AI辅助形式验证的基准测试,它通过多智能体LLM管道将真实世界的基于属性测试从Python转换为Lean 4规范,旨在推动真实世界软件形式验证的进展。