有没有人也在不停地重新教AI代理同样的行为?

Reddit r/AI_Agents 新闻

摘要

本文讨论了AI代理在切换环境时丢失已训练行为的令人沮丧的问题,并探讨了通过提示、策略文件和包装器来保持一致性的解决方案。

你花了数小时来塑造一个代理: * 它可以接触哪些工具 * 它在行动前应该询问什么 * 什么算是风险 * 何时应该停下来并澄清 最终它大部分时候都能正常表现。 然后环境变了:新的运行时、新的编码工具、新的MCP服务器、新的工作流…… ……而你突然又要重新解释同样的期望。 感觉这些很大程度上现在还只存在于提示、习惯和操作员的脑海里,而不是在不同场景间延续。 很好奇其他人是怎么处理的。提示?策略文件?包装器/钩子?MCP?还是直接接受这种偏差?
查看原文

相似文章

从构建AI代理中学到的教训

Reddit r/AI_Agents

作者反思了构建AI代理的过程,强调了诸如输出不一致、上下文管理以及在适当时候使用确定性方法的重要性等挑战。

AI 越来越聪明,可我们为何总在重复自己?

Reddit r/AI_Agents

这是一篇观点文章,作者认为 AI 模型虽然越来越聪明,但仍然无法在不同会话之间保留上下文,而“智能体直觉”——从过往对话中学习并适应用户不断变化的偏好——正是人机交互的下一个前沿领域。

AI代理重现了“rockstar developer”问题,只是速度更快

Reddit r/AI_Agents

该文章将AI代理与“rockstar developers”进行对比,他们编写巧妙但难以维护的代码,指出AI代理缺乏对自己行为的记忆。它建议使用可见的约定,如AGENTS.md、ADRs和测试,以使AI代理生成的代码对团队来说易于理解。