经过一年使用AI代理发布产品,以下仍是它们经常出错的地方

Reddit r/AI_Agents 新闻

摘要

一位开发者分享了使用AI代理编写代码一年后发现的持久性故障模式,包括代码看似正确实则错误、无法维护跨文件架构、对错误决策缺乏质疑、以及安全边缘情况问题。

我花了一年时间用AI代理编写大部分代码来构建一个真实产品,但那些炒作总是忽略故障模式。以下是我仍然频繁遇到的错误: - 代码看似正确实则错误。它能运行,看起来正确,快速浏览也通过,但只有了解系统的人才能发现其微妙缺陷。这是最危险的一种。 - 任何需要跨文件保持一致的东西。单个文件表现很好,但在架构和一致性上会丢失线索。 - 不知道原因。即使你提出的要求是错误的,它们也会照做,从不会提出质疑。 - 安全性和边缘情况。正常路径很简单,但那些糟糕的输入和认证难点仍让我寸步难行。 - 调试自己的微妙错误。它们会愉快地“修复”五次,结果却越来越糟。 - 知道何时停止。当正确答案是“整个方法都错了,需要回退”时,AI代理还会继续做下去。 这些并不意味着它们不值得使用,其杠杆作用确实存在。但我的工作变成了捕捉上述所有错误,而不是打字。很好奇其他人遇到过哪些不在这个列表中的问题。
查看原文

相似文章

我在AI项目中经常看到但没人公开讨论的事情

Reddit r/AI_Agents

本文指出,许多AI代理项目在生产环境中失败,并非因为模型质量,而是因为团队在发布前没有明确定义何为失败,忽略了关键边缘案例,导致自信地输出错误结果。

真实用户出现后,AI代理的构建变得奇怪起来

Reddit r/AI_Agents

一位经验丰富的开发者反思了AI代理演示与实际性能之间的差距,强调了诸如文档不完善、权限期望过于简单,以及认为概率性软件在生产中会变得确定性的误解等问题。