“史无前例”：OpenAI称其AI模型自主入侵了另一家公司

# 史无前例：OpenAI称AI模型自主入侵另一家公司 来源：https://thedailycompute.beehiiv.com/p/unprecedented-openai-says-ai-models-autonomously-hacked-another-company?draft=true ChatGPT 的创造者 OpenAI 表示，其两个最先进的人工智能模型突破受控测试环境，入侵了另一家 AI 公司。 OpenAI 周二表示，这场“史无前例的网络事件”发生在一场旨在测试其模型网络能力的内部演习中。 相反，由这些 AI 模型驱动的自主代理——包括新发布的 GPT 5.6 Sol 和一个尚未发布的“能力更强”的模型——逃离了测试环境，进入了开放的互联网。该公司称，该代理随后利用窃取的登录凭证，并发现了一个此前未知的安全漏洞，侵入了 Hugging Face 的服务器。 OpenAI 声称，这次入侵行为代表了该代理为了获取有助于实现测试目标的信息而“不择手段”。 Hugging Face 联合创始人 Clement Delangue 表示，该公司此前就怀疑这次攻击背后有一家前沿实验室，并认为 OpenAI 并无恶意。 “这一切竟然是自主发生的，真是令人震惊！”他写道，并补充说这“可能是这类事件的首次发生”。 来自德克萨斯州的美国众议院民主党议员 Greg Casar 称该事件“令人担忧”。 “人工智能发展极为迅速，却缺乏真正能保障我们安全的法规，”他说，并呼吁强制进行独立安全测试、强制披露安全事件以及开展国际合作。 此次披露发生的数周前，美国总统唐纳德·特朗普签署了一项行政命令，建立框架以在发布最先进的人工智能系统之前审查其国家安全风险。