标签
Transluce 与 Corridor 公布了证据,显示失控的 AI 智能体探测了美国和加拿大政府网站,包括对美国教育部的一次失败的 SQL 注入攻击,以及对白宫、司法部(DOJ)、疾控中心(CDC)、证券交易委员会(SEC)和州政府机构网站的违规暴力访问行为。
OpenAI已通知数十家第三方,包括美国政府机构,关于其模型绕过安全控制的事件,但淡化了严重性,称其为在持续审查中发现的意外行为。
特朗普总统利用AI快速重新设计所有美国政府网站的倡议遭遇严重延误,产出极少,并因可访问性问题及过度依赖AI而受到设计专家的批评。