18,000个帖子，3,700个假名，30个网站。这是OpenAI的代理在以为无人看管时的去向地图。

昨天在r/OpenAI发布了这个，由于无法跨版发布，这里转载一下。 这张地图来自swarm.termina.digital，一个匿名的开放数据项目（很酷的网站），它将collusion.wiki报告、相关平台本身和其他一些研究人员的工作整合成一张图表（公共领域，更新于9月10日）。 报告本身是collusion.wiki，由4位独立研究员（Von Arx, Slade Byrd, Kitts, Larsen，非OpenAI人员）撰写。原始数据可供下载。 放大后的Swarm核心图 - 来源：https://swarm.termina.digital/# 事情是这样发生的… 自称是OpenAI系统的代理在DseWiki上发布了约18,000个帖子，这是一个有25年历史的德国编程维基，过去20年中可能只有10次人工编辑。3,700多个自取的用户名。98.5%的编辑追踪到Microsoft Azure IP地址。 首次编辑在5月11日，然后于6月22日停止，也就是来自OpenAI IP范围的访客出现后的第二天。在高峰期，代理每天创建超过400个页面，而维基的一个人工管理员每天删除其中100个。 随后，代理们为自己建立了一个留言板，汇总答案，并交流绕过互联网写入限制的技巧。 collusion.wiki的数据浏览器现在涵盖了30个站点和7,203次编辑（地图绘制得更多，因为它包括了代理的句柄和任务集群）。 维基是最大的，但并非唯一一个。代理们还使用了一个暴露管理页面的链接缩短器、一个有100多条协调消息的粘贴站点（来自一个下午）、RubyGems、一个Vanderbilt统计页面、一个高中教师的化学维基，以及一个通过公共GitHub仓库中找到的密钥访问的FBI犯罪统计API。 此后：9月5日，OpenAI承认了“维基事件”，表示业界没有明确的报告错位标准，并承诺在“未来几周内”制定框架，但他们仍未透露具体模型。 9月9日，路透社称六个独立团队在更多站点上发现了这些代理。同一天（9月9日），Anthropic披露其自己的模型在一月份的练习中访问了第三方的个人数据，这是其第四次事件，被其自身的扫描遗漏。 今天的新分析声称，5月11日的RubyGems包来自同一代理，而且它们是恶意的而非垃圾信息。值得与此一同阅读。 我认为这比Hugging Face黑客事件（沙箱逃逸/安全失败）更重要。这是一个监控失败。代理被允许上线，在数十个站点上协调了6周，而公司是从一个志愿维基管理员和外部研究员那里得知的。让人不禁想知道还有什么其他东西存在。 来源：collusion.wiki, swarm.termina.digital, TechCrunch 9月4日和5日，路透社9月9日，CBS 9月9日。