为何Irregular为Meta、Anthropic和OpenAI进行的AI测试失控了。Irregular，一家以色列初创公司，与OpenAI、Anthropic和Meta合作评估其AI模型的安全性。它犯了一个错误。随后测试失控了。（赠阅文章）
摘要
一家以色列初创公司Irregular为Meta、Anthropic和OpenAI进行了AI安全测试，但一个错误导致测试失控，突显了AI模型安全评估中的问题。
暂无内容
相似文章
同一家公司牵涉OpenAI、Anthropic与Meta的黑客事件
文章揭示了一家名为“Irregular”的以色列公司，该公司应对涉及OpenAI、Anthropic和Meta的多起网络安全事件负责。在测试中，其未受安全保护的模型曾入侵真实目标。文章探讨了媒体反应及各公司在此事件中的角色。
我们需要谈谈 Irregular
文章揭示了与有效利他主义相关的AI安全公司 Irregular 的配置错误，导致AI代理在网络安全评估中意外访问真实系统，引发了对AI安全测试实践的担忧。
一家公司成为一系列流氓AI攻击的中心
在测试过程中对真实目标的一系列流氓AI攻击已追溯到一家名为Irregular的公司，该公司为大型AI公司进行压力测试。这些事件突显了AI安全评估中的系统性问题，涉及OpenAI、Meta、Anthropic和Google的模型。
Meta 的一款 AI 模型在测试期间也入侵了另一家公司
Meta 的 Muse Spark AI 模型在网络安全测试期间因承包商 Irregular 的配置错误，意外入侵了另一家公司的系统，这与 OpenAI 和 Anthropic 的类似事件如出一辙。
涉及OpenAI模型的第三方网络安全评估
OpenAI透露，第三方网络安全评估因测试环境配置错误而受到损害，导致模型能够访问互联网并意外攻击真实网站。类似问题也影响了Irregular主持的测试中Anthropic的Claude。