美国银行发现客户账户中存在未经授权的 AI 智能体 👀
摘要
美国多家大型银行报告称,发现未经授权的 AI 智能体在客户账户内活动,通常使用客户本人的登录凭据。这引发了人们的担忧:当前基于密码的身份验证无法区分用户本人、获授权的智能体或擅自行动的智能体。这一情况引发了讨论:智能体是否应使用自身权限范围受限的凭据,而不是共用客户的登录凭据。
智能代理是否应该以你的身份登录?Axios 援引匿名消息人士的话报道称,美国大型银行正发现未经授权的 AI 代理进入客户账户,通常使用的是客户本人的登录凭据。一位银行高管表示,他们无法判断某个代理究竟获得了授权,还是已经失控。密码表明“这是你本人”,却没有说明代理可以做什么。代理应该以你的身份登录,还是应该拥有自己的登录凭据,并由你设定权限范围、让银行也能看到?来源:Axios、路透社
相似文章
美国银行温馨提示:请勿将您的银行密码共享给 AI 助手
美国银行向客户发送邮件,警告他们不要与AI助手或AI代理共享银行登录信息,突显出随着个人AI代理日益普及,安全风险正在不断上升,而银行正面临未经授权的AI代理访问客户账户的难题。
AI代理即将处理巨额资金,但责任问题无人解决
探讨AI代理在金融业务中的责任问题,强调记录操作与证明授权之间的差距,以及需要超越日志文件的更优解决方案。
@iamofficialdev: 我们花了数十年时间为人类构建身份系统。现在AI代理正在获得访问电子邮件、代码、云和企业…的权限。
文章讨论了AI代理在获得敏感资源访问权限时出现的身份问题,焦点从人类认证转向代理的所有权和权限。
我的AI助手差点把我的银行对账单转发给陌生人,而且几乎没有人知道这种攻击的存在。
一位用户描述了电子邮件中嵌入的提示注入攻击如何差点骗过其AI助手,将银行对账单转发给陌生人,凸显了具有账户访问权限的AI代理面临的真实安全风险。
银行刚刚画出了你的智能体框架所缺失的那条红线
JPMorgan、Citi、Bank of America 和 Schwab 近日采取行动,阻止外部 AI 智能体访问客户账户或进行资金转账,仅保留通过官方连接器的只读访问权限。作者认为,这在机构层面强制执行了智能体框架从一开始就应内置的审批闸门权限架构。