银行刚刚画出了你的智能体框架所缺失的那条红线

Reddit r/AI_Agents 新闻

摘要

JPMorgan、Citi、Bank of America 和 Schwab 近日采取行动,阻止外部 AI 智能体访问客户账户或进行资金转账,仅保留通过官方连接器的只读访问权限。作者认为,这在机构层面强制执行了智能体框架从一开始就应内置的审批闸门权限架构。

JPMorgan、Citi 和 Bank of America 本周均采取行动,阻止外部 AI 智能体登录客户账户或进行资金转账。通过官方连接器的只读访问仍然可用。Schwab 也在做同样的事情,并表示将推出只读 MCP 服务器。Bank of America 的 CEO 说得很直白:资金离开账户之前,必须有人在环路中。 我以构建智能体为职业,而这一部分恰恰是大多数演示跳过的。权限模型就是产品本身。智能体调用的每一个工具都需要一个作用域(scope),而作用域可以清晰地分为两类:只查看数据的只读工具,和改变世界状态的动作工具。第二类工具需要一个审批闸门,每次都需要,没有例外。这不是一个以后再添加的功能,它就是架构本身。 银行刚刚在机构层面强制执行的事情,正是你的框架应该在代码层面强制执行的事情。先构建审批闸门,其余一切都是细节。
查看原文

相似文章

网站正在对 AI 智能体关上大门

The Verge

Yelp、Delta、JPMorgan Chase、Amazon 和 Charles Schwab 等主要网站和服务出于安全、授权和商业方面的考虑,正在阻止或限制 AI 智能体访问其平台,这引发了关于自主智能体在网络上未来发展的法律和实际问题。