AI代理的下一个大挑战可能不是智能，而是信任

关于AI代理的许多讨论都集中在它们是否足够智能以完成现实世界的任务上。但我开始认为，更困难的问题是人们是否真的能够信任它们，让它们代表自己行动。AI起草电子邮件、总结文档或建议下一步是一回事。但当它开始联系公司、操作账户、提交表格、取消服务或在多个步骤中做出决策时，情况就大不相同了。即使技术大多数情况下有效，用户仍然需要确信代理理解目标、不会让事情变得更糟、能从错误中恢复，并且知道何时需要寻求人类批准。