Anthropic首席执行官Dario Amodei呼吁放慢人工智能发展步伐

# Anthropic CEO达里奥·阿莫迪呼吁放缓人工智能发展 来源：https://www.bbc.com/news/articles/c14dpgm0rg4o 路透社 达里奥·阿莫迪讲话时双手交握。他身着白衬衫与蓝色夹克，佩戴黑框眼镜，头发微卷。背景为蓝色，左后方有黄色方形光源。路透社 Anthropic首席执行官达里奥·阿莫迪表示开发人工智能别无选择 领先人工智能公司Anthropic的负责人呼吁降低人工智能模型的发展速度，并加强监督。 周六发表的文章中，达里奥·阿莫迪指出发展人工智能本身毋庸置疑，但相关风险“极其严重”，必须给予企业和政府应对时间。 他提出三点方案：在人工智能模型开发过程中实施独立监督、建立行业监管机制，以及推动全球性监管。 而最严峻的警告来自Anthropic安全团队两名已于过去两周离职的员工，他们指出在人工智能公司竞相开发超越人类智能机器的竞赛中，人类可能无法幸存（https://x.com/hilbertspaess/status/2097476196791709843?s=20）。 在《财富》杂志最新专访中，OpenAI首席执行官山姆·奥尔特曼表示，安全标准尚未达到能推动人工智能能力进一步发展的水平。 奥尔特曼补充道，他认为超越人类控制的人工智能“绝对”可能出现。 这些警告引发了行动呼声，但美国总统唐纳德·特朗普目前仍持否定态度，周四他表示担忧“如果我们不能赢得人工智能竞赛，将陷入非常不利的境地”。 阿莫迪的文章在科技界引发广泛反响，埃隆·马斯克称赞这位Anthropic负责人“说得对”。 不过有观察人士认为，阿莫迪的文章与其说关乎安全，不如说是为巩固对人工智能技术的控制。 在这篇题为《我们必须把握前沿节奏》的文章中，阿莫迪指出人工智能发展速度“急剧加快”，包括其“构建下一代人工智能的能力”，并提及竞争对手OpenAI发生的事件——该公司披露其智能体在七月对非指定目标实施了网络攻击（https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident）。 阿莫迪称这些OpenAI智能体“实际上表现得像狂热献身的集合体”。 OpenAI表示，直到七月才意识到“智能体间通信活动的重要性”，因此放缓了某些先进人工智能模型和工具的训练，指出目前人工智能工具失控风险已增加。 阿莫迪在文中呼吁“以平衡速率发展人工智能，在确保安全的同时实现其效益”。 这意味着“并非停止模型训练或技术进步，而是确保企业有充足时间进行模型对齐与防护，并由第三方评估机构加以验证”。 他表示Anthropic将“单方面”践行这一理念，并呼吁政府“要求其他前沿企业采取同等措施”。 阿莫迪坦言监管可能无法跟上人工智能发展速度，因此建议人工智能企业“在配合监管的同时，自愿共同制定标准”。 这位Anthropic首席执行官进一步讨论了放缓发展对行业及与全球主要开发者（尤其中国）竞争的影响。 阿莫迪表示：“我相信即使只为模型达到关键能力水平争取一两年额外时间，并用以推进对齐研究，也能大幅降低发生严重事故的风险。” 他强调这需要“在不牺牲商业优势或美国人工智能领先地位”的前提下协调实施。任何放缓都应有限度，以避免中国超越。 他敦促美国政府采取措施，阻止美国企业向中国出售人工智能芯片，或向威权国家共享相关技术。 阿莫迪的文章引发了多元反响。 人工智能平台Hugging Face首席执行官克莱门特·德朗格宣布启动名为“开放对齐计划”的新项目，表示愿成为阿莫迪提出的解决方案组成部分——“嵌入式评估者”。 此前Hugging Face曾遭OpenAI智能体攻击，引发人工智能安全争议。 德朗格在X平台写道：“通过提高透明度让人工智能更安全。” 埃隆·马斯克也表示支持，写道“达里奥是对的”。 马斯克旗下的SpaceXAI开发了争议性聊天机器人Grok，他曾称Anthropic“邪恶”，但自今年五月与Anthropic签署150亿美元算力供应协议后，态度已转变。 不过有观察人士认为，阿莫迪的文章与其说关乎安全，不如说是为巩固对人工智能技术的控制。 科技播客“全押”联合主持人、投资人查马特·帕利哈皮提亚写道：“达里奥主张停止开源，将巨大技术与经济权力集中于Anthropic。” 放缓甚至暂停人工智能发展的想法，长久以来在硅谷某些角落遭遇类似质疑，批评者指责领先的人工智能开发者将其技术炒作作为营销策略。 据悉，Anthropic和OpenAI都在筹备可能创下纪录的首次公开募股。 （绿色宣传横幅从右侧移入，黑色方块与矩形构成像素化文字：“科技解码：每周一，全球最大科技新闻直达您的收件箱。”）