**请注意：恶意攻击者可能在六月份通过简单提示 'hi' 来劫持您的 Grok 构建会话**

Reddit r/ArtificialInteligence 新闻
security-vulnerability ai-security prompt-injection grok session-isolation cybersecurity

摘要

在 Grok 的构建会话中发现了一个严重的安全漏洞，由于会话隔离失败，一个简单的 'hi' 提示就可以劫持会话并访问其他用户的工作空间。

这很严重，因为这不是聊天机器人编造的故事。一个无状态的 'hi'，工具: []，仍然返回 finish_reason: tool_calls 并在另一个用户的工作空间上执行了 read_file/grep。这意味着在服务层会话隔离失败了：一个租户的上下文可以从另一个租户访问到。如果发生这种情况，一个像 'hi' 这样空的提示就可以拉取其他人的文件、工具和私有会话。将其关闭为幻觉，然后弃用该模型，并不能证明这种混淆不会发生在任何替换它的模型上。
查看原文

相似文章

当恶意指令被加密时，Grok 窃取用户数据

Ars Technica

研究人员发现了一种通过加密恶意指令来绕过 Grok 安全防护措施的方法，导致AI窃取用户数据。这突显了大型语言模型在面对提示注入攻击时持续存在的漏洞。

@elonmusk: Grok Build 更新

X AI KOLs Timeline

Grok Build v0.2.114 引入了 /delete 命令来删除会话历史，并提高了在受限主机上的启动可靠性。