AI现在能构建应用了，但谁来检查它构建的是否正确？
摘要
关于AI编码代理下一个瓶颈的讨论：验证AI生成的应用是否正确，以及谁应该负责检查输出。
我一直在思考AI编码代理的下一个瓶颈。如果你描述一个想法，AI代理创建了应用，那么显而易见的问题就变成了：你怎么知道输出实际上是好的？你会：
- 自己手动审查和测试一切？
- 相信用户反馈来发现问题？
- 使用另一个AI代理来审查所构建的内容？
- 其他方式？
好奇其他人是怎么看待这个问题的。
相似文章
没有人对AI编码代理进行足够测试
本文讨论了AI编码代理测试不足的问题，强调了在确保其在软件开发中的可靠性和安全性方面存在关键差距。
2026年AI编程代理输出验证：查看差异、氛围检查再合并
关于当前AI编程代理输出验证实践的一点反思，指出开发者通常只是粗略查看差异就合并，而没有全面审计代理的会话活动，引发了对AI时代代码审查文化的担忧。
AI编码代理是否遇到了瓶颈，还是我们衡量它们的方式出了问题？
本文探讨了AI编码代理的炒作与现实之间的差距，认为它们对于加速工作流程的某些部分有效，但在架构、调试和审查方面仍需人工监督，并质疑当前基准测试是否衡量了正确的东西。
AI代理的工具调用是否应在执行前进行检查？
讨论AI代理的工具调用是否应在执行前进行检查，探讨安全性和验证方面的考虑。
当AI代理提供错误建议时，谁应承担责任？
本文探讨了当AI代理提供错误建议时谁应该负责的问题，考虑了开发者、模型提供商、数据供应商、平台和用户的作用，并提出了构建可信代理生态系统的关键问题。