大科技公司的AI放缓是安全协议还是卡特尔？

# 科技巨头的AI发展放缓是安全协议还是卡特尔？ 来源：https://www.theverge.com/ai-artificial-intelligence/995186/is-big-techs-ai-slowdown-a-safety-pact-or-a-cartel 当OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫迪、谷歌DeepMind联合创始人德米斯·哈萨比斯以及SpaceX负责人埃隆·马斯克上周末非正式同意放缓AI发展时，质疑者立刻察觉到了别有用心。这些AI巨头宣称其目标是“把握前沿发展节奏”，至少部分加入了一项旨在引入第三方审计、监管国内实验室并达成全球放缓协议的提案。然而批评者认为，他们不过是想阻止潜在的竞争对手、扼杀开源运动，并规避真正的法律保障——一些人（https://www.tiktok.com/t/ZTUCseghH/）甚至直呼其为“卡特尔”。 据业内多位消息人士透露，真相更为复杂。阿莫迪在一篇博文（https://darioamodei.com/post/we-must-pace-the-frontier）中提出的三步方案，呼吁采纳AI安全倡导者长期倡导的变革。尽管该方案可能成为监管的替代品，但在特朗普政府时期，实质性监管本就难以实现。专家指出，面对这个重要性与日俱增的议题，AI领导者并非最理想的引领者。 “整个行业需要新的旗手，”纽约大学兼职教授、美国国土安全部前新兴技术政策主管尼克·里斯表示，“我们曾将达里奥·阿莫迪、萨姆·奥特曼和埃隆·马斯克这类人士视为最贴近问题且每日投身其中的专家，认为他们最懂行。但现实是，对于我们的建设目标，从未有过切实可行的愿景。” “整个行业需要新的旗手。” 数月来，对AI发展的担忧不断加剧，主要源于揭露AI代理集群在前沿实验室Anthropic和OpenAI眼皮底下实施恶意攻击的报道。两家公司的报告助长了这种担忧，Anthropic研究员雅各布·考克森的辞职尤为引人注目，他公开发布了一封解释决定的信函（https://x.com/hilbertspaess/status/2097476196791709843）。“构建AI的人真诚地相信它可能在十年内消灭我们所有人，”他写道，并指出OpenAI和Anthropic都未“负责任地行动”，而是在“直接冲向自我改进的超级智能，并拿我们的生命做赌注”。 AI行业的末日警告并非新鲜事，但考克森的信似乎突破了传播壁垒。仅在X平台上其浏览量就已超过1.7亿次，考克森及其事迹更成为报纸电视的热门话题。 然而，对众多AI安全研究员和非营利机构从业者而言，这不过是为已备受关注的议题增添热度。“许多人认为这是达里奥或CEO们的想法，但这种看法有误，”前OpenAI员工、现AI未来项目负责人丹尼尔·科科塔伊洛表示，“公司外人士多年前就已呼吁此事……越来越多人发出共同呼声：‘请勿急于构建超级智能。我们尚未准备好。你们需要放缓脚步。’” 科科塔伊洛指出，在“人们多年来高声疾呼要求行动”——包括7月超过1000名AI实验室员工签署公开信（https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta），呼吁在OpenAI-Hugging Face事件后放缓AI发展——之后，如今这些CEO“正屈服于这种压力并抢占功劳，尽管[这]名不副实”。 多位消息人士向《The Verge》表示，他们相信AI领导者达成的口头协议是朝正确方向迈出的一步。纽约大学的里斯认为“这并非全是空谈”。Apollo Research首席执行官马吕斯·霍布汉称之为“好主意”，表示“若能落实，这将是长期以来最有利于安全的举措之一”。Midas Project的泰勒·约翰斯顿认为这是“积极信号”。Redwood Research首席执行官巴克·施莱格里斯表示这是“好消息——显然很难判断这是否会转化为实际行动，但我持谨慎乐观态度”。不过所有人都认同，要将此口头承诺变为现实，尤其达成铁板钉钉的协议，仍需付出巨大努力。 “若能落实，这将是长期以来最有利于安全的举措之一。” 许多人仍质疑AI领导者的动机。科技行业多年来通过游说自身偏好的规则或承诺自律来规避监管。大型平台提出可能更严苛打击小竞争者的政策，常以利他语言包装自利目标。他们被指责进行“安全洗白”，即通过无效改动制造已建立安全机制的假象。人们担忧AI行业重蹈覆辙并不奇怪，尤其考虑到AI实验室的自愿安全框架长期受人诟病。 多位消息人士认为安全洗白的担忧确有根据。“严重担忧在于他们未必真正放缓脚步，”科科塔伊洛表示，并指出人们恐惧“他们仅引入些外部审计员，完成大量安全文书工作——部分确实有益——但归根结底，实际进展根本不会真正减缓”。 纽约大学的里斯将此策略比作十年前社交媒体平台的做法，当时企业通过呼吁监管来抢占先机，规避即将到来的不利法规。里斯认为，对AI行业而言“本届政府可能不会采取铁腕，但若下届选举后出现民主党政府，监管可能性将极大”。 Tech Oversight Project执行董事萨查·霍沃思强调此类监管至关重要。她表示任何自愿框架本质上都是监管俘获，“我们不应让狐狸管理鸡舍。国会不可再次将责任外包给行业”。Political Integrity Project联合创始人丹尼尔·洛博-刘易斯指出，自愿监管很可能步Meta名存实亡的监督委员会后尘。 不过多数人也认为，除AI实验室同意在特朗普政府时期进行模型发布前审查外，企业尚未面临迫切监管威胁。特朗普总统周一发文（https://truthsocial.com/@realDonaldTrump/posts/117269745153543631）称“AI所需唯一管控或‘护栏’是一位强势睿智（高智商！）的总统，而美国完美具备此条件！”他还在英伟达首席执行官黄仁勋参会演讲时致电，通过免提（https://www.theverge.com/tech/995079/president-donald-trump-calls-nvidia-ceo-jensen-huang-all-in-summit）告诉观众近期AI担忧纯属“骗局”，并断言“机器人不会接管”。 至于监管可能阻碍其他企业或开源开发者发展的担忧，多位行业专家告诉《The Verge》，放缓呼吁几乎完全针对由具体规模指标定义的大型前沿AI实验室。 在缺乏政府AI监管的情况下，最佳选择或许是推动企业达成即时、可量化、可执行的协议。例如科科塔伊洛的AI未来项目提议（https://blog.aifutures.org/p/how-to-pace-the-us-frontier），AI实验室应向审计员开放其算力预算，并承诺显著削减用于*研究*的算力预算，这将减缓AI发展进程，使其他AI实验室得以追赶。（阿莫迪的博文已呼吁AI实验室允许METR、Apollo和Redwood Research等外部第三方审计员在一定程度上入驻机构，以便标记并揭露问题发现。） “若我终将死于杀戮AI之手，我愿其为美国制造，而非中国制造。” 可以说，AI放缓面临的最大挑战可归结为一个词：中国。 AI领导者与政客长期将中国定位为美国AI发展不可放缓的理由——无论技术可能变得多危险，他们宁愿掌握在美国而非中国手中，且中国不会踩刹车。洛博-刘易斯将中国威胁比作冷战时期的导弹差距。一位X用户（https://x.com/ilyasu/status/2098810162245202296?s=20）写道：“若我终将死于杀戮AI之手，我愿其为美国制造，而非中国制造。” Redwood Research的施莱格里斯表示，美中政府均不应以“鲁莽”方式推进AI发展，并补充称“这并非前所未有的国际合作水平”。 “人们[理所当然]认为中国不会合作，”约翰斯顿表示，并补充道，“这是如此严肃且广泛的问题，似乎符合所有人的协作利益，就像美俄在核不扩散问题上存在共同利益一样。” 周一，中国外交部发言人郭嘉昆（https://www.nbcnews.com/world/china/china-ai-slowdown-trump-amodei-altman-threat-cold-war-rcna597631）驳斥了放缓呼吁，称其为“恐吓言论”。 Midas Project的约翰斯顿与Redwood Research的施莱格里斯均表示，即使缺乏中国合作，推动美国内部协调仍至关重要。Tech Oversight Project的霍沃思认为，放缓契机使我们能够“将自身定位为引导AI技术开发与应用的指南针”。她将反对观点视为熟悉剧本的一部分：“每次行业企图逃避监管，中国就被当作稻草人搬出来。” 科科塔伊洛仅将此情形容为一幅卡通：人们驾车冲向悬崖，对白写着：“太棒了，我们领先中国了！” “我们真诚地相信AI可能消灭全人类！” 近期所有恐慌的核心在于一个名为“递归自我改进”的里程碑，而基于行业当前轨迹，我们仅听到警报的序曲。 RSI指AI模型无需人类介入即可自我训练、升级并创造新版本的假设节点。Anthropic曾表示（https://www.anthropic.com/responsible-scaling-policy/roadmap）此节点可能在2027年初出现，OpenAI首席科学家本月早些时候（https://openai.com/index/an-alien-mind/）撰文称，OpenAI正集中大量资源攻克该里程碑。AI行业工程师与研究员日益担忧RSI将引发一系列新且更严峻的AI风险，包括更深刻影响社会的网络安全事件。 阿莫迪将RSI列为呼吁放缓的重要因素：“自今夏以来，AI发展速度急剧加快”，且RSI“正开始在行业内蔓延，包括Anthropic……若不加控制，其发展可能超越我们理解与掌控这些系统的能力，因此必须极度谨慎地推进，甚至可考虑暂停。”他在博文中提出对RSI速率实施“某种‘限速’”，并类比导弹数量上限。 在Anthropic辞职帖中，雅各布·考克森警告“超人系统能破解任何事物、一夜之间革新任何领域，并获取真实权力与资源”。多家前沿AI实验室的研究员呼应其担忧。OpenAI研究员贾斯敏·王（https://x.com/j_asminewang/status/2097840245786157432?s=46&t=fRkDIqgNCkTkvg8ZBiLA9A）写道：“冲刺RSI的危险性”怎么高估都不为过。前谷歌DeepMind员工维沙尔·迈尼表示，RSI“现已迫在眉睫，别无他选”。 对RSI的恐惧易演变为末日论。“AI开发者相信其技术可能导致人类灭绝（或同等灾难），”Anthropic研究员塞缪尔·马克斯（https://x.com/saprmarks/status/2097570226804011302?s=20）在X上写道，“这可能在未来数年内发生。通常，员工资历越深，担忧越甚。”Anthropic研究员兼团队负责人埃文·休宾格（https://x.com/evanhub/status/2097497037956891126?s=46&t=fRkDIqgNCkTkvg8ZBiLA9A）在X上表示：“雅各布所言极是——我们真诚地相信AI可能消灭全人类！”（他评估未来十年内发生概率超过10%）。前谷歌DeepMind员工亚历克斯·特纳（https://x.com/turn_trout/status/2097557335732359491?s=46&t=fRkDIqgNCkTkvg8ZBiLA9A）写道：“许多研究者认为他们正在构建可能消灭地球所有生命的事物。这确实是我日常工作的核心思考命题。” OpenAI研究员米卡·卡罗尔（https://x.com/micahcarroll/status/2097865929959072069?s=46&t=fRkDIqgNCkTkvg8ZBiLA9A）指出，考克森的信念是“所有前沿AI公司”研究团队的“跨党派共识”，他们一致认为“常规AI发展构成不可接受的灾难性风险”。 “但我们也不应让灾难性风险通过超验信念成为现实——通过有力安全要求、国际协调及达成‘除非安全进展足以建立集体信心，否则不构建[人工超级智能]’的共识，可大幅降低风险。” 正是这种“国际协调”，AI领导者与公众目前共同呼吁。 “我们从未真正理解AI发展的终极目标，”纽约大学的里斯表示，“我们始终面对模糊未定的终点，既不真切理解却必须赶超中国。当我们连路径甚至终点是否存在都不明确时，这场竞赛实在艰难。”