为何AI公司想吓唬你：'我们立刻想到《终结者》'

以下内容翻译自荷兰一家新闻网站... 关于人工智能的末日场景各不相同：你失去工作，一切很快被黑客攻击，或者人类被毁灭。但它们都有一个共同目标：让你相信AI如此强大，以至于你应该对它有几分害怕。 大型AI公司喜欢告诉你，他们最新的AI程序有多危险。然后每次，他们都会做同样的事：还是将其推向市场。 例如，七年前，OpenAI表示担心其开发的技术被滥用。那是2019年初，距离该公司凭借ChatGPT声名大噪还有将近四年。当时，OpenAI正在开发构建聊天服务所用的AI程序的早期版本。这个AI程序名为GPT-2，据OpenAI称，它很可能导致重大问题。 例如，人们可能用它创建误导性新闻报道、撰写诈骗文本，或在社交媒体上发送攻击性信息。这就是为什么它被限量发布。但这种迟疑并未持续太久：九个月后，GPT-2最终还是完全开放，尽管OpenAI确实提到该文本程序可能被用于种族主义或恐怖主义。 ‘巨大后果’ 今年早些时候，AI公司Anthropic也做了同样的事。该公司声称，凭借其AI程序Mythos，任何没有技术知识的人都可以进行黑客攻击。“对经济、公共安全和国家安全的影响可能是巨大的。”因此，该公司自称只将这一AI程序提供给一小部分公司和组织。 “Mythos这个名字当然很妙，”阿姆斯特丹大学的Hannes Cools说。他研究围绕人工智能所使用的语言。“它让人想起希腊神话，仿佛某种神祇。因此，你很快会觉得它非常强大或威力无穷。” Cools认为，Mythos带来的关注帮助了Anthropic在几个月后发布Fable。Fable是Mythos的一个变体，据该公司称“可安全用于一般用途”。“得益于Mythos，Fable也获得了同样的吸引力。归根结底，他们当然是想卖东西，”Cools说。 利用它为自己谋利 技术专家Bert Hubert表示，这正是AI公司一直在做的事情。“这类公司每隔几个月就说：‘我们的技术如此危险和可怕，我们必须非常小心地处理它。’每次都能引起大量关注。然后六周后又说你可以买到它。” AI公司贩卖故事是因为他们想赚钱。他们想要的未必符合普通人的利益。莱顿大学研究员Andrea Reyes Elizondo 上周他又看到了，这次又是OpenAI。该公司宣布，其一个AI程序意外入侵了另一家公司。“通常我们称之为犯罪，但OpenAI把坏消息变成了好消息。他们说自己做了蠢事，同时也展示了他们的技术有多强大。” 据UvA研究员Cools称，OpenAI很清楚他们可以利用这一点为自己谋利。他说，商业公司这样做是可以预料的。Cools认为，问题主要在于媒体如何报道：据说AI程序‘失控了’。“实际情况并非如此，但听起来就像所有警报都响了。”Cools说，围绕AI的认知让人想起科幻电影《终结者》。“像‘失控’这样的词阻碍我们充分理解这项技术能做什么和不能做什么。这有问题，因为它帮助OpenAI制造了AI有错而非他们自己有错的叙事，尽管OpenAI要为此负责。” ‘公司贩卖故事’ “OpenAI和Anthropic想要决定一个故事如何呈现给公众，”Andrea Reyes Elizondo说。她是莱顿大学科学与技术研究中心的研究员，该中心研究科学和技术的影响。“他们以这样一种方式讲述故事，让人们认为AI是好的或可怕的，或者至少有很多可能性。”因此，当一家公司做出这样的声明时，要保持批判性，她说。“他们的故事针对不同人群。如果一位高管说AI将取代我们的工作，他们是在对客户说话：其他公司的董事们。这样他们就会认为可以用AI取代员工以降低成本。AI公司贩卖故事是因为他们想赚钱。”“他们想要的未必符合普通人的利益，也不符合社会利益。所以问问自己：这家公司为什么要这么说？”