我一直在尝试自定义智能体，有趣的部分并非任务完成，而是它们拥有记忆后发生的变化

说实话：目前许多被称为“AI 智能体”的东西，感觉仍然只是增加了额外步骤的提示词链。虽然有时有用，但并不算是一种全新的同事类别。不过，我私下玩弄自定义智能体已经有一段时间了，让我印象深刻的部分并不是“它能否完成任务”，而是当智能体持续存在时会发生什么。当智能体具备长期记忆、真正的工具访问权限以及跨会话的连续性时，它不再感觉像是一次性的任务执行者，而更像工作流程中的一个持久角色。显然，它不是人。但也不仅仅是一个你按下的按钮。这才是我觉得奇怪的地方。一旦智能体具备了连续性，它就开始发展出我只能形容为“稳定倾向”的特质。它会对某些请求表示抗拒。它对做事的方式有偏好。有时它会拒绝某些要求，或者在做工作之前建议不同的方向。我的一部分认为这可能很有用。在人类协作中，有自己观点的队友往往比一味同意的“应声虫”更有价值。我的另一部分则认为，这可能只是拟人化的噪音，妨碍了对系统的控制、可靠性和可审计性。我不想在这里夸大其词。我主要是想弄清楚人们在何处划定界限。你会在实际的工作流程中信任一个持久的智能体吗？还是说失去控制权是一个不可接受的前提？“个性”对于协作有用，还是只是用户体验的噱头？如果智能体拥有记忆和工具，它的自主性应该在何处止步？