标签
一位开发者正在为一个面向编程智能体的开源框架征求反馈。该框架让第二个智能体自动审查每项更改并反馈发现的问题,从而在 AI 生成的“垃圾内容”进入代码仓库之前将其拦截,同时还配备了会话管理器、操作台账,以及防止模型反复犯同类错误的防护机制。
Greptile 正利用 GPT-6 Astra 的计算机操作能力,将自动化应用测试拓展到静态代码审查之外,并结合其 Daybreak 安全产品和与 Codex 集成的知识库,力求减少开发者遇到的缺陷和返工。
Hillel Wayne 的时事通讯介绍了他搬到纽约市的近况、Antithesis 即将举办的一场关于 Web 应用程序基于属性的测试的网络研讨会,以及对非确定性程序进行差分测试所面临挑战的技术探讨,包括超属性和分布层面的比较。
作者认为,追求 100% 的 AI 对齐就像追求 100% 测试覆盖的软件一样荒谬,因为验证永远只能覆盖你实际运行的评测。通过测试(或评测)只能证明没有发现错误,而不能证明不存在未经测试的失败模式。
本文引入'stale'基准,以研究并行LLM-Agent开发中的语义协调失败,表明在受控任务中干扰频繁,但在实际审查的拉取请求中罕见。
文章强调了AI代理在测试和质量保证软件时的无可比拟的彻底性,通过先进的模拟和部署来实现超越人类极限的质量。
这篇博客文章探讨了生成式测试与单元测试在发现缺陷方面的有效性,以Rust的regex crate为例。它展示了一个自定义模糊测试器如何发现了多个缺陷,并提供了改进测试方法的技术。
该文章讨论了在业务项目中如何编写测试以及代码审查的关键点,强调测试是基础并预告后续将讨论关键设计。
我们对GPT-5.6 Luna与GPT-6 Astra在50个真实PR上进行了基准测试,结果显示Astra发现92个漏洞,Luna发现69个,而Luna以仅3.6%的成本捕获了75%的漏洞。本次还包括详细的评估分解,以及即将与Fable 5.1的比较。
对GPT-6 Astra和GPT-5.6 Sol在50个真实PR上进行了基准测试,发现Sol检测到了更多错误,而Astra具有更高的精确度和更低的延迟。正在寻求对未来评估的反馈。
Antithesis 是一款漏洞检测工具,它封装系统并在敌对模拟环境中运行,以检测漏洞并提供完美的逐步复现步骤。
文章批判了软件开发中的 change-detector 测试,提倡基于行为的测试,同时承认面向服务系统中的实际挑战。
据软件问题报告,通过使用自定义模糊测试工具,在FFmpeg多媒体工具中发现了一个除零漏洞。
Gergely Orosz 批评开发者倾向于将困难的迁移轻描淡写,同时对类似的轻描淡写感到敏感,并引用了将 Enzyme 迁移到 React Testing Library 需要五年的估计。
本文提出了DNSSE,一种混合框架,结合了基于LLM的调度预测、符号约束求解和覆盖引导的随机变异,用于验证分布式并行AI程序。它在现实基准上检测到的并发缺陷数量是基线的2.9倍,并将分支覆盖率从68.6%提高到91.6%。
MetaSpace 是一个框架,应用蜕变测试来评估具身智能体的空间认知能力,从执行轨迹中生成测试用例,并将逻辑/物理约束编码为 Prolog 规则。基准测试表明,最先进的 MLLM 驱动的智能体在空间认知上的得分远低于人类水平,其中方向性任务尤为薄弱。