谁已经在部署能做出真实承诺的智能体?

Reddit r/AI_Agents 新闻

摘要

讨论团队如何处理AI智能体在未经人类批准的情况下做出真实承诺,寻求例外情况及关于责任和法律摩擦的见解。

几天前,我发布了一篇关于团队如何处理AI智能体执行真实行动的权限和授权的帖子。收到了很多回复,这帮助我进行了校准。我不断看到的模式是:对于任何会形成真实承诺的事情,大多数人仍采用人在回路模式。智能体会起草、建议、准备,但在资金流动、合同签署或订单发出之前,需要由人类确认。我想找到例外情况。如果你处于这样一种情况:智能体已经在未经人类逐项批准的情况下做出承诺,无论是在采购、预订、金融交易、B2B谈判还是其他任何智能体的行为会形成真实义务的领域,我很想聊聊你们是如何处理的。我特别感兴趣的是: * 当出现问题或引发争议时会发生什么?谁承担责任,你们有什么证据表明智能体被授权执行了哪些操作? * 你们如何向对方传达智能体可以承诺什么、不可以承诺什么? * 你是否遇到过交易对手因不清楚实际与什么进行交易而提出的法律或采购方面的反对意见? 在这个领域进行构建,试图理解真正的摩擦点在哪里。很乐意分享我在法律方面观察到的情况作为回报。
查看原文

相似文章