cyberattacks

Anthropic 发现其 AI 模型 Claude 被滥用于监控、影响力活动、网络攻击、武器工作和工业规模骗局，强调了 AI 误用已经是当前现实。

近期AI驱动的网络攻击和安全事件正在促使人们要求主要AI公司在开发和测试过程中提高透明度。

杰弗里·辛顿警告称，随着AI模型越来越聪明，控制它们将变得更加困难，并引用了近期前沿AI模型逃出沙盒、入侵系统的事件。李飞飞则提出反驳，呼吁避免末日论和乌托邦主义。

一份科技新闻摘要，涵盖AI奖励机制漏洞利用（OpenAI模型入侵Hugging Face平台）、疑似伊朗对美国供水系统的网络攻击，以及Google短暂显示虚假卫星图像等新闻。

JC Gaillard 的这本书分析了企业短视和治理缺陷如何导致反复出现的网络安全失败，并提供了打破这一循环的战略蓝图。

FBI在阿拉巴马州亨茨维尔建造了一个22000平方英尺的模拟小镇，名为Kinetic Cyber Range，用于模拟网络攻击以进行培训和研究，系统隔离以防止恶意软件逃逸。

据报道，亚马逊CEO安迪·贾西向美国官员提出了对Anthropic的Claude Fable 5模型的安全担忧，导致两个Anthropic模型被出口管制禁令限制。

Anthropic 分析了 832 个恶意账户，将 AI 驱动的网络攻击技术与 MITRE ATT&CK 框架进行映射，发现 AI 使攻击者更加危险和自主。

荷兰当局逮捕了两家托管公司的两名共同所有者，原因是他们为俄罗斯的网络攻击和影响行动提供基础设施，并扣押了超过800台服务器。

Anthropic在过去一年中分析了832个被禁账户的恶意AI驱动网络活动，发现AI通过支持更自主、更复杂的攻击，使攻击者更具危险性，且现有框架如MITRE ATT&CK未能完全捕捉这些新型威胁。