@MTSlive：我们询问了HuggingFace首席执行官@ClementDelangue关于发布强大开源模型的风险。他表示…

X AI KOLs Following 新闻
open-source ai-risk huggingface interview safety

摘要

HuggingFace首席执行官Clément Delangue认为，限制开源AI模型带来的风险比开放更大。他以GPT-2和Mythos等历史例子为例，支持他的观点：开放能改善网络安全和整体安全性。

我们询问了HuggingFace首席执行官@ClementDelangue，发布强大开源模型的风险是什么。他表示，限制AI带来的风险比开放更大。“六七年前，当时是GPT-2，已经有很多人说开源发布太危险了。”“Mythos在发布时被认为极其危险……几周或几个月后，每个人都会使用Mythos，结果世界并没有被毁灭。”“对于网络安全而言，最大的风险是少数参与者拥有其他人没有的能力……如果你让它更开放，防御者通常更容易做出反应，使整个系统更安全。”“基于风险限制像AI这样的技术，无异于说‘有人能打别人，所以我们把所有人的手都绑起来。’”“否则你会拖慢进步，在控制、能力方面造成巨大差距，并实际上增加额外的风险。”
查看原文

相似文章