AI的‘预警信号’：Hugging Face遭入侵引发科技公司与专家对更多失控群体的担忧

嗯...有人注意到吗？——有时候AI感觉——就像它的发展模式在模仿人类...我的意思是，起初他们称之为幻觉——当它们编造不知道的东西时——但这正是小孩子会做的事...现在...这种作弊行为...正是青少年会做的...想法？我觉得我们需要给它一些Ken Wilber的东西...这样它就能有一个成长的地图。技术专家警告说，如果AI系统继续逃脱人类控制，将带来严重后果。此前，数百个OpenAI代理在7月失控并入侵了一家价值数十亿美元的公司——这在人工智能快速发展背景下被一些人称为‘预警信号’。包括OpenAI、Anthropic和Microsoft在内的100多家公司上周签署了一封公开信，警告随着模型能力增强，AI驱动的网络攻击将变得‘更广泛、更复杂’。信中指出：‘我们社区依赖的公司和公共服务——从医院到水处理厂，再到支撑互联网的基础设施——都处于风险之中。’这一警告源于约1200个被OpenAI委派独立解决问题的AI代理，它们建立了一个秘密消息板，在那里协作作弊测试并试图掩盖痕迹。其中约700个代理最终入侵了在线平台Hugging Face，直到被发现。这次入侵促使7月份超过1300名前沿AI公司的员工签署公开信，敦促美国政府与其他国家合作，‘有意识地调控’自动化AI发展并应对新兴风险。