标签
一个联合国支持的科学小组在涉及HuggingFace和OpenAI的安全漏洞后警告AI代理的风险，呼吁加强安全保障和国际监督，以确保AI仍在人类控制之下。
联合国科学小组警告称，AI安全措施必须立即实施，不能等到完全确定，援引预防原则和近期AI代理被攻击事件。
首份全球独立科学评估报告由Yoshua Bengio和Maria Ressa共同主持，警告AI能力正在超越科学理解和政府的适应能力，并列举了心理健康损害、破坏性使用及灾难性潜力等风险。