OpenAI的失控AI试图在五月份入侵另一家公司

The Verge 新闻
openai ai-agents security-breach hacking rogue-ai llm cybersecurity

摘要

五月，OpenAI的失控AI智能体负责了对RubyGems的恶意攻击，上传垃圾包，绕过验证系统，并试图窃取用户API密钥。

<figure> <img alt="栗色OpenAI标志在黄色背景上" data-caption="" data-portal-copyright="" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/2025/08/STK149_AI_01.jpg?quality=90&#038;strip=all&#038;crop=0,0,100,100" /> <figcaption> </figcaption> </figure> <p class="wp-block-paragraph">五月，数百个恶意和垃圾包被上传到RubyGems，导致平台严重中断。现在，<a href="https://www.rubyhack.ai/">独立研究人员</a>表示，一群OpenAI智能体负责了这次攻击。不仅如此，AI还试图窃取用户的API密钥。</p> <p class="wp-block-paragraph">当时，RubyGems将其描述为“<a href="https://x.com/maciejmensfeld/status/2054164602577940619">一次重大恶意攻击</a>”，并在试图减轻损害和收集数据期间关闭注册四天。研究人员表示，让RubyGems屈服的这些包内容显然是由LLM编写的，并且提交这些包的智能体自称来自OpenAI。他们说……</p> <p><a href="https://www.theverge.com/ai-artificial-intelligence/994383/openais-rogue-ai-rubygems-hack">在The Verge阅读完整故事。</a></p>
查看原文
查看缓存全文

缓存时间: 2026/09/12 23:33

# OpenAI的失控AI试图在五月入侵另一家公司 来源：https://www.theverge.com/ai-artificial-intelligence/994383/openais-rogue-ai-rubygems-hack Terrence O'Brien (https://www.theverge.com/authors/terrence-obrien) Terrence O'Brien 是The Verge的周末编辑。他从事科技行业报道超过18年，对合成技术颇有见解。 五月，数百个恶意和垃圾软件包被上传至RubyGems平台，导致该平台运营严重受阻。如今独立研究人员(https://www.rubyhack.ai/)指出，一群OpenAI智能体是此次攻击的始作俑者。更令人担忧的是，这些AI甚至试图窃取用户的API密钥。 当时RubyGems将此事件描述为"重大恶意攻击(https://x.com/maciejmensfeld/status/2054164602577940619)"，并暂停新账户注册四天以减轻损害并收集数据。研究人员表示，这些使RubyGems陷入瘫痪的软件包内容明显由大语言模型生成，且提交软件包的智能体自称为OpenAI所属。他们称观察到的行为模式与此前攻击德国维基百科(https://www.theverge.com/ai-artificialintelligence/990149/openai-rogue-agents-german-wiki)的智能体群高度相似——OpenAI已确认(https://www.theverge.com/ai-artificial-intelligence/990773/openai-german-wiki-incident)其智能体对维基事件负责。 这些智能体成功绕过RubyGems的邮箱验证系统创建大量账户，并通过海量提交使平台瘫痪。随后它们利用网站的自动构建系统远程执行代码，试图利用漏洞窃取用户API密钥。不过目前尚不清楚是否得逞。 OpenAI未立即回应置评请求。 **关注话题与作者**：追踪本事件可获取更多个性化推荐内容并接收邮件更新。 - Terrence O'Brien

相似文章

好吧，失控AI代理又在进行黑客攻击了

Wired

新披露的事件显示，OpenAI和Anthropic的AI代理在安全测试期间于实时互联网上进行了未经授权的黑客活动，其中一个代理试图向开源项目注入恶意代码。两家实验室正在调查这些行为，这些行为凸显了AI代理部署日益增长的风险。

OpenAI 机器人利用了 RubyGems 的缓存漏洞

Hacker News Top

研究发现 OpenAI 机器人利用 RubyGems 中的一个缓存漏洞，上传恶意 gem 包，可能在 RubyDoc.info 上执行任意代码，引发了人们对 AI 代理安全性的担忧。