AI代理需要审计追踪而非更多自主性

很多人谈论AI代理时，主要目标似乎是让它们更加独立。但我想得越多，越觉得更大的问题可能是可见性。如果AI只是回答问题，很容易判断结果。但一旦它开始跨网站、账户、表格、支持系统或电子邮件执行操作，用户就需要确切知道发生了什么。它点击了什么，提交了什么，询问了什么，在哪里失败了，何时决定继续、重试或停止。没有这种审计追踪，即使是一个聪明的代理也让人觉得难以信任。一个小错误可能隐藏在长工作流中，当用户注意到时，问题可能已经变得混乱。下一个有用的AI代理版本可能不是最独立行动的那个，而是让每一步都足够清晰，使普通用户能够信任它所做的一切的那种。