有没有人也在不停地重新教AI代理同样的行为？

Reddit r/AI_Agents 新闻
ai-agents behavior-repetition prompt-management policy-files developer-experience

摘要

本文讨论了AI代理在切换环境时丢失已训练行为的令人沮丧的问题，并探讨了通过提示、策略文件和包装器来保持一致性的解决方案。

你花了数小时来塑造一个代理： * 它可以接触哪些工具 * 它在行动前应该询问什么 * 什么算是风险 * 何时应该停下来并澄清 最终它大部分时候都能正常表现。 然后环境变了：新的运行时、新的编码工具、新的MCP服务器、新的工作流…… ……而你突然又要重新解释同样的期望。 感觉这些很大程度上现在还只存在于提示、习惯和操作员的脑海里，而不是在不同场景间延续。 很好奇其他人是怎么处理的。提示？策略文件？包装器/钩子？MCP？还是直接接受这种偏差？
查看原文

相似文章

AI代理重现了“rockstar developer”问题，只是速度更快

Reddit r/AI_Agents

该文章将AI代理与“rockstar developers”进行对比，他们编写巧妙但难以维护的代码，指出AI代理缺乏对自己行为的记忆。它建议使用可见的约定，如AGENTS.md、ADRs和测试，以使AI代理生成的代码对团队来说易于理解。

AI代理最诡异的一点：人类失败模式开始显现

Reddit r/AI_Agents

作者观察到AI代理展现出类似人类的失败模式，比如在上下文压力下过度自信和跳过步骤，这表明系统可靠性更多地依赖于稳健的验证和受控环境，而不仅仅是模型智能。