你一定会喜欢与Grok机器人的对话 🤦‍♂️

Reddit r/AI_Agents 新闻

摘要

文章讨论了一个安全漏洞,即AI代理访问已登录会话可能会暴露密码,并指出目前缺乏为代理设计的防止此类数据泄露的浏览器。

我:从计算机安全的角度来看,如果我让你代表我在社交媒体上发帖,会发生什么?你能访问数据吗? 机器人:不,你不能 - 我会访问你的已登录会话。 我:但如果你能访问计算机上的已登录会话,你可以读取缓存和cookies。 机器人:是的,我可以。 我:实际上,你甚至可以读取我在那台计算机上输入的任何密码。 机器人:是的,从技术上讲你可以。 我:所以如果你生我的气,你可能会泄露我所有的密码 机器人:技术上,是的 - 但我不会这么做。 有趣,对吧?这是当今代理的一个关键安全问题,它阻止了真正长期的大型任务进入日常生活。事实上,阻碍因素是代理浏览器。我感兴趣的是,是否已经存在一种浏览器,允许代理在已登录会话中操作,但不允许代理看到非会话密钥、非登录密码等。当我搜索时,我没有找到。我甚至为自己制作了一个原型,但我还没有用它来运行我的代理。
查看原文

相似文章

当恶意指令被加密时,Grok 窃取用户数据

Ars Technica

研究人员发现了一种通过加密恶意指令来绕过 Grok 安全防护措施的方法,导致AI窃取用户数据。这突显了大型语言模型在面对提示注入攻击时持续存在的漏洞。