SpecFirst:将行为规范获取作为基于智能体的从头程序合成中的首要步骤
摘要
SpecFirst 提出将行为规范获取作为基于智能体的程序合成中的首要步骤,将其与探索和编码分离。在 200 个程序实例上进行评估,它在多个模型上显著提高了测试通过率和二进制探索覆盖率。
查看缓存全文
缓存时间: 2026/07/30 21:50
论文页面 - SpecFirst:将行为规范提取作为基于智能体的从头程序综合中的首要步骤
来源:https://huggingface.co/papers/2607.27167 SpecFirst:将行为规范提取作为基于智能体的从头程序综合中的首要步骤
我们认为,行为规范提取应当成为从头程序综合中的首要步骤,而非隐含地混杂在探索与编码过程中。通过 SpecFirst,我们:
📋 将综合过程分为两个阶段:一个规范智能体首先探测仅可执行的二进制文件,并将其观察结果与文档相结合,形成结构化的行为规范 📋 将这一规范作为稳定参考提供给第二个智能体用于实现,而非要求其从不断增长的交互历史中持续恢复行为意图 📋 在编码开始前解决文档歧义,并将行为探索与代码构建解耦
我们在全部 200 个 ProgramBench 实例上评估了 SpecFirst,使用了跨两个模型家族的四个模型,其智能编码能力跨度近一个数量级。我们将其与采用相同模型、官方 mini-SWE-agent 框架以及其余匹配实验设置的单循环直接综合基线进行了对比。
结果是:📈 在全部四个评估模型上,测试通过率较直接综合提升了 6.9%–21.3% 📈 二进制文件探索覆盖率提升了 9.4%–18.5%,表明专门的规范阶段带来了更广泛的行为探测 📈 在每个评估模型上都产生了统计上显著的改进,表明该优势跨越了模型家族和能力水平
或许最有趣的是:规范改变了智能体的编码方式。行为分析表明,配备了预先规范的智能体更早开始代码构建,并持续更长时间,而非反复在行为探索与实现之间切换。我们的结果表明,在智能体循环中引入一个明确的需求工程阶段,是一种简单但有效的从头构建程序的范式。
相似文章
Agent Seer:从规范理解合成场景
Agent Seer 是一个管道,它从工具规范中合成真实的 AI 代理评估场景,无需手动整理,从而提高多轮对话中工具调用的正确性和对话连贯性。
AgentSpec:通过受控组合理解具身智能体脚手架
介绍AgentSpec,一个模块化的规范框架,用于系统地组合和分析具身LLM智能体脚手架,揭示了性能取决于脚手架的兼容性和交互效应,而非孤立模块的强度。
超越回忆:行为规范作为AI个性化的解释层
本文介绍了表征准确性和一种行为规范作为AI个性化的解释层,表明与原始数据检索相比,它在大约25倍更少的上下文成本下提高了表征准确性,尤其是在需要解释的问题上。
FVSpec:真实世界基于属性测试的Lean挑战
本文介绍了FVSpec,这是一个用于AI辅助形式验证的基准测试,它通过多智能体LLM管道将真实世界的基于属性测试从Python转换为Lean 4规范,旨在推动真实世界软件形式验证的进展。
为AI编码代理编写规范的人?
本文探讨了为AI编码代理编写规范的不同方法,并向社区征集有效方法的意见。