银行刚刚画出了你的智能体框架所缺失的那条红线
摘要
JPMorgan、Citi、Bank of America 和 Schwab 近日采取行动,阻止外部 AI 智能体访问客户账户或进行资金转账,仅保留通过官方连接器的只读访问权限。作者认为,这在机构层面强制执行了智能体框架从一开始就应内置的审批闸门权限架构。
JPMorgan、Citi 和 Bank of America 本周均采取行动,阻止外部 AI 智能体登录客户账户或进行资金转账。通过官方连接器的只读访问仍然可用。Schwab 也在做同样的事情,并表示将推出只读 MCP 服务器。Bank of America 的 CEO 说得很直白:资金离开账户之前,必须有人在环路中。
我以构建智能体为职业,而这一部分恰恰是大多数演示跳过的。权限模型就是产品本身。智能体调用的每一个工具都需要一个作用域(scope),而作用域可以清晰地分为两类:只查看数据的只读工具,和改变世界状态的动作工具。第二类工具需要一个审批闸门,每次都需要,没有例外。这不是一个以后再添加的功能,它就是架构本身。
银行刚刚在机构层面强制执行的事情,正是你的框架应该在代码层面强制执行的事情。先构建审批闸门,其余一切都是细节。
相似文章
银行刚刚为AI代理划下了红线。四个问题,我认为接下来每个运营团队都会被问到。
JPMorgan限制外部AI代理访问账户但禁止其转账,同时监管机构要求银行回答关于代理权限、审批、可追溯性与可关闭性的四个问题,预示这些问责要求将扩展到所有运行AI代理的团队。
网站正在对 AI 智能体关上大门
Yelp、Delta、JPMorgan Chase、Amazon 和 Charles Schwab 等主要网站和服务出于安全、授权和商业方面的考虑,正在阻止或限制 AI 智能体访问其平台,这引发了关于自主智能体在网络上未来发展的法律和实际问题。
AI代理即将处理巨额资金,但责任问题无人解决
探讨AI代理在金融业务中的责任问题,强调记录操作与证明授权之间的差距,以及需要超越日志文件的更优解决方案。
AI代理开始接触资金。这将改变一切。
AI代理正从生成文本发展到处理真实金融交易和商业行动,这将风险从不良输出转变为有害行为,并引发有关问责制的关键问题。
OpenAI 和 Anthropic 严格限制了自家智能体的权限,而我们却在给自己的智能体开放生产环境访问权限
在发生安全事件后,OpenAI 和 Anthropic 加强了对内部 AI 智能体的管控;与此同时,英伟达的 OpenShell 沙箱平台正获得 Anthropic、Salesforce 和摩根大通的采用——这凸显了 AI 实验室的谨慎做法与社区智能体部署中普遍宽松的安全防护之间的差距。