标签
一位从业者分享了其用于问答/编程智能体的确定性评估框架——固定语料库、注入的缺陷、隐藏测试,以及 pass^k/token 指标——并询问社区:其他人如何平衡冒烟测试与完整基准测试,使用大语言模型作为评判者是否能带来价值,以及 Promptfoo 或 DeepEval 等工具能否减轻维护负担。
Hugging Face 推出 transformers-mic,这是一套模型集成契约(Model Integration Contract,MIC)标准,将小型发布测试夹具、可运行的使用路径和人工审核的基线打包在一起,以便在廉价的 CPU 运行器上捕获模型回归问题,避免其进入 Transformers 主分支。
一位从业者反思了最棘手的 AI 智能体缺陷:这类故障会生成语气笃定、格式规范却存在隐蔽错误的输出,并分享了输出断言检查、独立数学验证和引用来源等缓解策略。
介绍了「Kluever Maneuver」这一 bug 修复实践:先提交一个能通过的失败行为测试来复现 bug,再在第二个提交中修复代码并同时修正该测试,从而证明修复真正有效且每个提交都能通过 CI。
Jepsen 的这份分析报告测试了面向 AI 工作负载的多模型数据库 ParticleDB(版本 1.1.4 至 1.1.18.11.rc-22),发现其宣称的"完全 ACID"并不成立,共报告 96 个问题,包括崩溃、死锁、数据丢失及各类一致性异常,最新的 1.1.19-rc.13 声称已修复全部问题。
SVPino 认为,在与 AI 智能体协作时,应使用确定性测试来取代书面指令:凡是能够自动检查的内容——格式、类型、API 契约、安全性——都应通过测试、代码检查工具和静态分析来强制落实,而不是通过提示向智能体灌输规则。
Capy 现已提供云端移动设备,可在云手机上构建和测试 iOS 与 Android 应用,由 Revyl 提供技术支持。
一位独立从业者介绍了一项服务:复现 AI 智能体的故障,并将其精简为最小可复现测试用例。在主动联系潜在客户却未收到任何回复后,他向社区询问去哪里寻找试用客户。
根据用户在 X 和 Reddit 上分享的截图,YouTube 似乎正在测试将点踩按钮移入三点子菜单中。此前 YouTube 已做出过一些调整,包括在 2021 年隐藏公开的点踩数,以及从 YouTube Shorts 中移除该按钮。
BazelCon 26 回顾,聚焦走廊交流中关于测试价值的讨论:批评前沿编码智能体过度生成单元测试,同时基于业务风险承受能力权衡单元测试与端到端测试之间的取舍。
Claude Code 的开发流程表明,为 AI 代理提供自动化验证机制(如 E2E 测试、属性测试和多代理对抗审查)可让 Claude 自行编写 90% 以上的代码,同时在 PR 合并量翻倍的情况下将回滚率降低 40% 以上。
作者分享了为 ActivityPub 机器人框架(ActivityBot,NLnet 资助项目)编写单元测试时遇到的四大难题:用户名与域名校验、消息验证、HTTP 签名的生成与重放,以及与外部服务器的真实互操作测试。
Lobsters 上的一场讨论:是否允许团队让 LLM 同时编写生产代码和测试,作者考虑在团队规范中加入一条限制,规定 AI 只能生成两者之一,以避免结果出现同义反复和过度工程化的问题。
一位从业者向社区询问,他们如何在部署前后测试能够调用工具的 AI 智能体,并比较了场景测试、以大语言模型作为评判者、工具调用轨迹检查和回归测试套件,同时对测试覆盖率、评判者的可靠性以及非确定性提出了疑问。
一位从业者称,两个 AI 语音智能体在演示中表现合格,却在真实的金融服务通话中出了问题——一个编造了一项费用,另一个在被打断时跳过了必须告知的事项。经受住考验的智能体采用了锁定且必须执行的工作流程步骤;这篇帖子询问其他人如何在上线前测试此类合规问题。
作者用“布料、支柱与地钉”比喻智能体生成的代码:AI 生成的代码柔软、易变形,需要架构约束(支柱)才能成型,测试只是地钉。文中还强调,数据模型是承重最多的支柱,并向读者征询看法。
一篇探讨发布AI生成软件之影响的博文,起因于 Robert C. Martin 的观点——他表示自己不再阅读AI智能体编写的代码,而是依赖测试和约束条件,文章由此展开了关于认识论、验证以及当大语言模型(LLM)生成代码时的责任归属等问题的讨论。
作者发布了 Covenant——一个 Elixir 开源测试库(Hex 上的 covenant 0.1.0,采用 MIT 许可证),它将用 Markdown/YAML 编写的契约与自动化测试绑定,支持决策记录、按义务计分的变异测试以及面向 AI 智能体的组件重建包。
DigitalOcean 推出 Agent Learning Services 与 Agent Data Services,用低成本规则监控线上 AI agent 会话、发现静默失败,并将真实故障自动重放为测试用例,在发布前验证修复效果。