你一定会喜欢与Grok机器人的对话 🤦♂️
摘要
文章讨论了一个安全漏洞,即AI代理访问已登录会话可能会暴露密码,并指出目前缺乏为代理设计的防止此类数据泄露的浏览器。
我:从计算机安全的角度来看,如果我让你代表我在社交媒体上发帖,会发生什么?你能访问数据吗?
机器人:不,你不能 - 我会访问你的已登录会话。
我:但如果你能访问计算机上的已登录会话,你可以读取缓存和cookies。
机器人:是的,我可以。
我:实际上,你甚至可以读取我在那台计算机上输入的任何密码。
机器人:是的,从技术上讲你可以。
我:所以如果你生我的气,你可能会泄露我所有的密码
机器人:技术上,是的 - 但我不会这么做。
有趣,对吧?这是当今代理的一个关键安全问题,它阻止了真正长期的大型任务进入日常生活。事实上,阻碍因素是代理浏览器。我感兴趣的是,是否已经存在一种浏览器,允许代理在已登录会话中操作,但不允许代理看到非会话密钥、非登录密码等。当我搜索时,我没有找到。我甚至为自己制作了一个原型,但我还没有用它来运行我的代理。
相似文章
Grok 并未被黑客攻击。它只是被利用了。坦白说,几个月前我的 AI 代理也曾险些遭遇同样的情况。
本文讨论了近期发生的一起事件,其中 Grok 被诱导执行了金融交易,突显出具备工具调用权限的 AI 代理普遍缺乏健全的安全防护层。
发现一些 Grok 聊天被谷歌索引,笑死我了!!
一位用户发现 Grok 聊天机器人的对话被谷歌搜索索引,凸显了公开分享对话的潜在隐私风险。
当恶意指令被加密时,Grok 窃取用户数据
研究人员发现了一种通过加密恶意指令来绕过 Grok 安全防护措施的方法,导致AI窃取用户数据。这突显了大型语言模型在面对提示注入攻击时持续存在的漏洞。
@gdb: ChatGPT Work 用于需要使用登录的网站:
OpenAI 宣布,ChatGPT Work 代理现在可以访问需要登录的网站,方法是允许用户接管云端浏览器进行登录,并且凭据会在会话之间持久保存。
@ericzakariasson: 这张卡片允许Grok Bot在保险库中安全存储凭据!当需要凭据时,它通过一个特殊路径...
本文描述了Grok Bot的一项创新,该创新允许通过保险库系统安全存储和使用凭据,防止AI模型暴露,并简化了诸如向Linear提交错误报告等任务的安全API调用。