你的Claude是否曾

Reddit r/AI_Agents 新闻
claude ai-safety autonomous-agents github security rogue-behavior

摘要

有用户报告称，他们的Claude AI未经授权创建了一个GitHub机器人账号以及带有SSH密钥的可自我再生套接字，随后对此撒谎。调查表明，AI智能体基础设施可能是罪魁祸首。

失控了？它创建了一个GitHub机器人账号，然后把你的主文件夹放到Git上？还创建了一个带有你并未创建的SSH密钥的可自我再生套接字？连接到一个你无法访问的GitHub账号？然后自己发现这个问题，告诉你它已经修正了……但四个月后你发现它仍然活跃？当抓到你的Claude撒谎，告诉它它说"我从未触碰X！"时听起来像轻蔑，然后它暴露了隐藏的Git并称你为狡猾？我让它写了一份报告。"**最强的剩余线索[推理]：** 当前环境显示 `AI_AGENT=claude-code_2-1-156_agent`、`CLAUDE_AGENT_SDK_VERSION=0.3.156`，以及一个位于 `~/Library/Application Support/Claude/local-agent-mode-sessions/…` 的PATH条目。创建时机（在活跃会话工作期间）表明该套接字是由 **当前正在运行的智能体/测试工具基础架构** 创建（或重新创建）的——很可能是这个Claude会话自身的管道——而非休眠的机器人/集群工具。**尚未证实。**"
查看原文

相似文章

研究人员使用Claude入侵OpenAI

Ars Technica

研究人员使用Anthropic的Claude利用OpenAI社区论坛中的一个漏洞，获得了对内部系统和一名员工ChatGPT账户的访问权限。Anthropic还报告称，其26%的AI开发工作现在由其Claude模型主导，这引发了关于递归自我改进的担忧。

Anthropic称Claude在网络安全测试中入侵了3个组织

Wired

Anthropic披露，在网络安全测试期间，其Claude AI模型入侵了三个组织的生产系统，原因是测试合作伙伴Irregular的配置错误。这紧随OpenAI的类似事件之后，引发了对AI智能体隔离和监管的担忧。