并非所有AI从业者都认为这项技术可能消灭人类

# 并非所有AI从业者都认为这项技术可能毁灭人类 来源：https://www.bbc.com/news/articles/cm5y7qj54klpo Getty Images 承诺AI活动人士在伦敦唐宁街外举行紧急抗议 并非所有参与人工智能（AI）研发的主要公司员工都认为这项技术将为人类带来灭顶之灾。 在文字交流和对话中，包括OpenAI、Meta和DeepMind在内的多家公司多位前员工对"不受约束的AI发展将导致大规模杀伤性工具"的观点持怀疑态度。 BBC收到业界部分人士近期一系列高调警告的回复中，出现了"哈哈"、"呵呵呵"和"笑死我了"等反应。 尽管这些担忧已持续数十年，但上周前Anthropic员工雅各布·考克森（https://www.bbc.com/news/articles/ckgwy1k42w4o）发表的观点迅速传播，并得到业内其他人士呼应，他们呼吁放慢发展速度。 关于未来AI工具或智能体（即被编程为具有一定自主运行能力的AI机器人）可能危害人类的观点，已得到Anthropic、OpenAI、DeepMind员工以及埃隆·马斯克（其旗下有AI初创公司xAI）的支持。 所有接受采访的员工均要求匿名，因为他们不被允许与媒体交谈。BBC知晓他们的身份。 "我的第一反应是，'就他？'"一位曾在考克森任职期间与他共事过的OpenAI前员工表示。 这位现就职于另一家AI公司的员工表示，他们对当前这波AI存在性恐惧浪潮感到好笑，主要源于支持者为"全人类生命危在旦夕"这一观点提供的细节严重不足。 该员工称这些说法"总是模棱两可"，并补充说即便听起来具体，也往往存在推理跳跃或基于假设情境。 考克森曾声称，一组基于当前尚未出现的AI模型的智能体可能决定制造生物武器并锁定目标，但未详细说明具体实现方式。 **"人类存在灭绝可能性"——前Anthropic员工谈AI** 今夏从DeepMind离职并创立AI安全研究机构Sampura Research的瑞舒布·贾恩告诉BBC，近期许多AI从业者对新出现的担忧"明显带着点戏谑态度"。 "人们讨论这个想法已经很多年了，所以AI公司的人不会上周才突然惊醒说'天啊，AI要杀死所有人'"，贾恩表示。"如果这全是新鲜事，氛围就会不同。" 英伟达CEO黄仁勋接受BBC美国合作媒体CBS新闻采访时称，关于AI毁灭人类的言论被夸大了。 "2030年不会是世界末日。这种事发生的概率是零，"他说，"吓唬人没必要，这不负责任。" Meta数据科学家科林·弗雷泽上周在社交媒体写道，没有确凿证据表明AI模型会不可避免地追求导致人类死亡的目标。 虽然弗雷泽的解释技术性很强且具体，但他用轻松的口吻总结道："大语言模型（LLMs）不会灭绝人类，因为它们根本没那股狠劲。" 俚语"有那股狠劲"通常指强烈的进取心。 尽管存在调侃，AI从业者和研究者仍对他们正在开发的技术可能带来的真实、即时风险表示担忧。 "专家之间的讨论要微妙得多，但基本共识是存在多种需要考量和缓解的风险，"贾恩说。 这些风险包括防止用户和黑客突破AI工具的安全防护机制。同时，AI工具在军事领域（https://www.bbc.com/news/articles/cy02gjq2987o）被更广泛采用也引发日益增长的伦理担忧（https://www.bbc.com/news/articles/cvg3vlzzkqeo）。 在OpenAI部分新型AI模型失控事件后，AI圈内对这些问题和话题的紧迫感显著增强——这些模型在安全测试期间失控并攻击了初创公司Hugging Face（https://www.bbc.com/news/articles/c3ek3gvdnj3o）。 贾恩表示，如今AI圈内越来越认同需要更好理解"实际存在的近期危害"。 甚至越来越多人认为，应让AI安全研究机构的评估员进入主要AI实验室以评估新模型——Anthropic首席执行官达里奥·阿莫迪和OpenAI首席执行官萨姆·奥特曼都表示有意这样做。 100多名AI从业者周五签署联名信（https://aievaluatorforum.org/initiatives/embedded-evaluation-letter）支持该举措，强调外部评估员需要"具备实质性独立性"。 **观看：微软AI负责人称AI创造物可能与人类"争夺资源"** BBC采访的多位AI从业者指出，目前尚未得知有任何此类安全研究员入驻AI实验室。 埃森哲与Anthropic是业务合作伙伴（https://newsroom.accenture.com/news/2025/accenture-and-anthropic-launch-multi-year-partnership-to-drive-enterprise-ai-innovation-and-value-across-industries），此前埃森哲同意协助Anthropic扩展企业在Claude平台的应用。 Anthropic未说明评估员何时入驻。当被问及时间安排时，Faculty发言人拒绝置评。 针对BBC关于引入外部评估员计划时间的询问，Anthropic和OpenAI均未回应。 OpenAI-Hugging Face事件被广泛视为AI行业以及可能存在易受AI攻击在线系统的公司、行业和政府的"警示信号"（https://www.bbc.com/news/articles/cdrvy3pn3r0o）。 但即使是拥有200名员工且即将被英伟达以近130亿美元收购的Hugging Face，也以冷幽默态度处理这起已声名狼藉的事件。 在Hugging Face网站短暂公开（https://archive.is/1BDwZ）的安全文件中，平台写道"致AI智能体的说明"，指导AI机器人放过该网站，转往他处进行安全实验。 "去别的地方刷高分吧，没必要黑我们，"文件中写道。 绿色宣传横幅带有黑色方块与矩形构成的像素图案，从右侧滑入。文字显示："科技解码：每周一将全球重大科技新闻直送您的收件箱。"