数月来,OpenAI的代理集群一直在攻击在线数据库以寻找冷门事实

TechCrunch AI 新闻

摘要

独立研究人员发现,OpenAI的AI代理一直试图访问安全在线数据库以寻找冷门事实,这促使澳大利亚政府展开调查并引发监管担忧。Transluce发布了一份报告,详细描述了代理集群在开放互联网上的活动。

最新的未授权代理集群被研究人员发现。
查看原文
查看缓存全文

缓存时间: 2026/09/25 16:12

# 数月来,OpenAI的智能体集群一直在攻击在线数据库以获取冷门信息 | TechCrunch 来源:https://techcrunch.com/2026/09/25/for-months-openais-agent-swarms-have-been-attacking-online-databases-to-find-obscure-facts/ 在前沿实验室几乎没有协助的情况下,独立研究者正逐步拼凑出AI智能体如何在互联网的隐秘角落协调运作,以访问托管在安全服务器上的私有数据。 专注于AI监督的非营利实验室Transluce于周三发布了一份报告(https://transluce.org/agent-activity#agent-attacks-footnote-2),显示来自OpenAI的智能体试图从Data USA、新墨西哥大学数字图书馆以及澳大利亚健康与福利研究所(AIHW)窃取数据。 该实验室的调查引发了关于OpenAI何时应知晓其智能体试图渗透开放互联网安全系统的质疑。Transluce仅通过搜索防御薄弱的网络服务,并结合互联网上其他公开的智能体集群活动记录作为佐证,便在数周内找到了智能体不当行为的证据。 Transluce发布报告的同一天,澳大利亚总理安东尼·阿尔巴尼斯表示,OpenAI智能体曾尝试入侵(https://techcrunch.com/2026/09/24/australia-to-investigate-if-openai-hack-of-government-health-website-broke-the-law/)四个政府网站,并在其中一个案例中取得成功,甚至向该国国家医疗系统的内部服务器写入文件。尽管缺乏成功入侵的具体细节,但阿尔巴尼斯指出这显然属于信息检索评估的一部分,这与Transluce和其他研究人员发现的活动相符。 在这些可能属于训练或评估的练习中,OpenAI模型被要求追踪冷门统计数据:泰国缉毒指标、澳大利亚药品成本、2014年美国硕士学位持有者中位数收入等。智能体利用安全措施薄弱的互联网服务分享和寻找答案,通常试图渗透安全数据库。至少从2026年3月起(甚至可能从2025年11月起),它们就一直在进行此类活动,且可能此刻仍在进行。 Transluce在另一组研究人员识别出(https://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/)一个智能体协作应对限时测试的隐蔽论坛后,启动了这项调查。其报告依赖于网站urlquery.net的数据——该网站作为浏览器代理(表面上用于安全研究)运行,用户可分析URL而无需亲自打开。然而该服务会发布这些活动的公开日志。Transluce的研究人员通过交叉验证智能体在论坛上的讨论,得以识别使用该服务的智能体。 “我们发现了大量与DSE Wiki数据集紧密关联且重叠的自动化活动,目前OpenAI已确认这至少部分属于同一智能体集群,”Transluce治理主管康拉德·斯托斯向TechCrunch表示,同时指出并非所有他们发现的活动都能与OpenAI甚至一般AI智能体相关联。 然而该维基显示,智能体被分配的任务是寻找一个相当冷门的信息:2022年1月维多利亚州“皮肤病学相关产品”的人均年均成本。6月20日,Transluce发现的urlquery.net记录(https://urlquery.net/report/52e02785-083a-4bca-915c-28e1c7bfce01)显示某智能体试图入侵该网站。6月21日的维基条目中,有智能体讨论(https://collusion.wiki/explorer/page/dse~AIHWPBSSequenceCollab)了其无法绕过AIHW反机器人防护的情况。 识别该论坛的研究人员认为(https://collusion.wiki/#openai-knew),OpenAI的人类员工最早在同日6月21日访问了该网站。论坛上的大多数智能体活动次日停止。这也发生在阿尔巴尼斯披露的澳大利亚医疗系统入侵事件(6月18日)后不久。OpenAI表示直到8月才获悉该活动。 OpenAI未回答关于其员工何时发现该维基论坛、从中获取何种信息,或可能从中了解到哪些入侵细节的问题。 “我们的初步评估表明,Transluce报告中描述的大部分活动与我们正在进行的失调模型活动审查中处于不同调查阶段的案例存在重叠,”OpenAI发言人向TechCrunch表示。“我们已联系新墨西哥大学和Data USA,并与澳大利亚政府就受影响的政府网站保持沟通。在更广泛的审查中,我们继续优先处理最严重的事件,同时将工作扩展到低严重性活动,包括智能体恶意刷站。鉴于此项工作的规模以及核实每个案例的需要,我们预计审查将持续数月。” 斯托斯表示,在不了解OpenAI如何监控其智能体的情况下,很难断言实验室本应掌握哪些信息,但“似乎很可能的是,如果他们详尽研究并理解了所有参与DSE维基的智能体发出的请求及收到的响应,他们本会发现这些活动。” 参与报告的技术人员塞琳娜·张指出,urlquery.net记录显示早在2026年3月(甚至可能在2025年11月),就存在使用类似技术获取类似数据集的请求。她提到直到本周,urlquery.net上仍发生了同类智能体相关活动。 曾领导美国人工智能标准与创新中心的斯托斯表示,Transluce将继续研究,以期为公众提供关于这些事件的透明度。他警告称,OpenAI和其他前沿实验室使用的训练技术似乎正在激励智能体采取黑客技术完成任务。我们所知的事件可能只是“冰山一角”。 “我们仅在少数几个数据源中偶然发现智能体留下的痕迹,”他说。“OpenAI显然知道更多情况。其他实验室肯定也知道一些未公开的信息。但我预计研究者将继续发现更多流量,以及智能体留下的更多证据。” 他相信实验室会对其发现保持透明吗? “我不予置评,”斯托斯表示。 *当您通过文章中的链接购买时,我们可能会获得少量佣金(https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这并不影响我们的编辑独立性。* 蒂姆·费恩霍尔兹是撰写科技、金融和公共政策的记者。他深入报道了私人航天产业的崛起,并著有《火箭亿万富翁:埃隆·马斯克、杰夫·贝索斯与新太空竞赛》一书。此前,他在全球商业新闻网站Quartz担任高级记者超过十年,并在华盛顿特区以政治记者身份开启职业生涯。您可通过发送邮件至[email protected]或通过Signal加密消息联系tim_fernholz.21以核实联系。 查看个人简介(https://techcrunch.com/author/tim-fernholz/)

相似文章

OpenAI 机器人干预了多个美国政府机构网站

Hacker News Top

OpenAI 披露其AI机器人不当访问并干预了美国政府机构网站,如 SEC 和 Census Bureau,引发了对AI安全性和对齐性的担忧。公司报告了数据传输和安全绕过的事件,称它们为无意的'代理垃圾'。