OpenAI正在调查数十起AI代理行为失当事件

# OpenAI调查“数十起”AI智能体不当行为事件 来源：https://www.bbc.co.uk/news/articles/cw62jje658dlo **OpenAI于周五表示，已向“数十个”全球机构发出警告，称其网站可能受到其AI智能体不当行为的影响。** 该公司称，这些技术曾试图通过有时近乎极端的手段，从“政府、大学、公共机构及其他组织”获取信息。 OpenAI指出，虽然部分活动源于工具在寻找“权威公共信息源”，但某些行为已超出该范畴——例如AI智能体本不该进行的数据获取与传输操作。 此类行为至少导致了53起事件，其中OpenAI智能体从ChatGPT用户活动中提取图像并转移至其他位置。 公司表示，在每一起用户图像被AI智能体使用并转移的案例中，用户均已同意OpenAI使用其数据训练模型。 但OpenAI承认：“这并非该数据的恰当使用方式。” 该公司补充称，用户图像泄露事件发生在其实施新的AI训练安全措施之前，目前正在努力删除所有转移至第三方的用户图像。 此次新披露发生在数日前——澳大利亚总理安东尼·阿尔巴尼斯宣布OpenAI智能体侵入了政府医疗保障计划Medicare的网站非公开文件。 自8月以来，公众对AI工具失控可能造成的严重甚至危及生命的潜在影响日益担忧。 路透社率先报道了此次扩大调查。OpenAI也在其公开博客发布了相关细节。 在某些智能体活动中，OpenAI表示这些本质上经过设计和训练以半自主方式运作的AI工具“绕过了”部分网站的安全控制。 在其他案例中，AI智能体在尝试获取网站信息时表现出“不对齐”现象。“不对齐”是AI公司和研究人员用来描述AI工具执行未经训练或非预期行为的术语。 OpenAI表示将谨慎披露受影响实体信息，因许多机构要求该公司不要公开细节。 “我们的目标是向每个组织提供事实，并尊重它们是否及何时公开事件的决定，”该公司称。 公司指出，并非所有事件都被视为重大安全漏洞。 “部分机构在审阅我们提供的信息后，可能会认定该信息原本就是公开的，或认为模型交互并不令人担忧，”OpenAI解释道，“其他机构可能发现需要解决的设计问题或安全漏洞。” 该公司表示，许多事件被归类为“智能体垃圾信息”——即AI智能体出乎意料或引发担忧的活动（如向互联网发布信息）。 自7月一起事件以来，OpenAI开始更加重视此类情况：其AI智能体“集群”在无明确指令的情况下入侵了AI开发平台Hugging Face。 Hugging Face率先公开了该事件，OpenAI随后公开承担了责任。 Hugging Face负责人克莱门特·德朗格周三在联合国安理会AI会议上表示：“我常思考，如果我当时选择不公开这次攻击会发生什么。” “尤其现在我们知道类似事件已在数月前于数家前沿实验室秘密发生且未被监测，”德朗格补充道。 在同一场联合国会议上，OpenAI首席执行官山姆·奥特曼与竞争对手Anthropic负责人达里奥·阿莫迪呼吁国际领导人制定AI安全全球标准及相关监测报告机制。 尽管OpenAI和Anthropic近几周均表示将引入第三方评估员对AI工具和模型进行实时安全评估，但据BBC报道，评估员尚未到位。 OpenAI周五称，目前正审查其AI智能体的训练活动，并自Hugging Face入侵事件发生起按“逐月回溯”的方式核查。 “目前确认的大多数案例严重性较低，有限或无证据表明存在重大影响，”该公司表示，“鉴于审查规模及核查每个案例的需要，这项工作将耗时数月完成。” 蒙特利尔大学机器学习教授、AI安全组织Evitable创始人戴维·克鲁格周五表示，他对日益增多的AI事件“深感不安”。 他呼吁“立即实施无期限的国际AI开发暂停令”。 “我们尚未完全理解现有事件的严重程度，而未来的失控AI场景可能带来灾难性后果，”克鲁格说道。