有没有人也在不停地重新教AI代理同样的行为?
摘要
本文讨论了AI代理在切换环境时丢失已训练行为的令人沮丧的问题,并探讨了通过提示、策略文件和包装器来保持一致性的解决方案。
你花了数小时来塑造一个代理:
* 它可以接触哪些工具
* 它在行动前应该询问什么
* 什么算是风险
* 何时应该停下来并澄清
最终它大部分时候都能正常表现。
然后环境变了:新的运行时、新的编码工具、新的MCP服务器、新的工作流……
……而你突然又要重新解释同样的期望。
感觉这些很大程度上现在还只存在于提示、习惯和操作员的脑海里,而不是在不同场景间延续。
很好奇其他人是怎么处理的。提示?策略文件?包装器/钩子?MCP?还是直接接受这种偏差?
相似文章
从构建AI代理中学到的教训
作者反思了构建AI代理的过程,强调了诸如输出不一致、上下文管理以及在适当时候使用确定性方法的重要性等挑战。
AI 越来越聪明,可我们为何总在重复自己?
这是一篇观点文章,作者认为 AI 模型虽然越来越聪明,但仍然无法在不同会话之间保留上下文,而“智能体直觉”——从过往对话中学习并适应用户不断变化的偏好——正是人机交互的下一个前沿领域。
AI代理重现了“rockstar developer”问题,只是速度更快
该文章将AI代理与“rockstar developers”进行对比,他们编写巧妙但难以维护的代码,指出AI代理缺乏对自己行为的记忆。它建议使用可见的约定,如AGENTS.md、ADRs和测试,以使AI代理生成的代码对团队来说易于理解。
还有人注意到,开发 AI 智能体的人正在忘记软件工程的基本原则吗?
一位从业者认为,AI 智能体开发者正在重新发现一些基础软件工程早已解决的问题,例如输入验证、数据建模、进程隔离和访问控制,而氛围编程却忽略了这些贯穿各个环节的共性问题。文章呼吁将成熟的设计与架构原则应用于智能体工作流。
我的AI代理在遇到未曾预料的问题之前工作得很好。是继续添加规则,还是重新思考整体方法?
一位开发者描述了构建多代理AI助手的挑战:这些助手无法优雅地处理意外情况,依赖显式规则导致打地鼠式问题,而非实现关于模糊性的自主推理。