AI减速如何真正得以执行

# AI发展放缓实际执行方法全解析 来源：https://www.wired.com/story/heres-how-an-ai-slowdown-could-actually-work/ 许多AI研究者坚信，他们正在开发的技术可能在某天变得极其危险(https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/)。但即便在AI技术精英群体中(https://www.wired.com/story/if-the-ai-industry-followed-its-own-research-it-might-have-paused-already/)，究竟如何约束这些难以预测的算法仍不明确。 近年来，研究者提出了各种防止AI失控的构想。其中既包括争议较小的方案——如加强政府监管(https://www.wired.com/story/washington-wont-be-regulating-ai-anytime-soon/)、建立新的评估标准、深入探究模型内部机制，也不乏更激进的提议，例如在GPU内置追踪装置，甚至大规模销毁AI芯片。 然而，随着政治与公众压力推动AI开发走向更审慎的路径，确保AI安全的答案依然模糊。 “我们需要开始将此作为研究课题来对待，”多伦多大学AI研究员雷蒙德·道格拉斯说道。作为新报告《定义前沿：研究议程》(http://pacing.tech/)的合著者，他指出减缓AI发展仍是未解之谜，“我们甚至不清楚现有方案具体有哪些，也不确定它们会产生什么效果。” 近期，AI末日论调达到高潮——某位Anthropic研究员离职并发出警告(https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/)，称AI可能在数年内摧毁人类。Anthropic安全实验室负责人随即附和(https://x.com/EvanHub/status/2097497037956891126?s=20)了他的担忧。 美国主要AI企业领导者——Anthropic的Dario Amodei(https://www.wired.com/tag/dario-amodei/)、OpenAI的Sam Altman(https://www.wired.com/tag/sam-altman/)、SpaceX AI的Elon Musk(https://www.wired.com/tag/elon-musk/)以及Google DeepMind的Demis Hassabis(https://www.wired.com/story/google-deepminds-ceo-demis-hassabis-thinks-ai-will-make-humans-less-selfish/)——均已表态支持某种形式的AI发展放缓或暂停。 这一问题显得尤为紧迫，因为AI企业正利用AI技术构建更强大的模型。这引发了对递归自我改进(RSI)循环加速的担忧(https://www.wired.com/story/why-so-many-ai-researchers-think-the-machines-could-kill-everyone/)——该循环可能使AI在数年内超越人类的理解能力。 各AI实验室已开始宣传自身的新方法。本周Anthropic宣布了多项追踪AI发展速度及潜在风险的新方式(https://www.anthropic.com/institute/measuring-pace-of-ai-development)。例如数据显示，目前Claude已完成Anthropic 26%的AI研究工作，而2026年初这个数字还是零。同时Anthropic将6%的计算资源投入了AI安全研究。 但道格拉斯等专家指出，要实现有效可靠的AI发展管控，必须获得AI实验室外部的资金与专业知识支持。无论是本报告还是其他来源提出的解决方案，某些方案似乎比其他方案更可行。 ## “独立”评估者 AI企业常提及的构想是赋予第三方评估者更多模型访问权限。这些评估者通过测试来评估模型能力，并在可信环境中进行“红队测试”以诱发异常行为。 英国AI安全研究所前首席科学家、Google DeepMind前研究员杰弗里·欧文认为，严格的审查机制可以有效暂停前沿AI的开发。“短期内，检查审计机制能起作用，甚至通过相互协议也能实现，”欧文说，“我确实认为这些企业对RSI和失衡启动存在担忧。” 部分悲观论者指出，此类审查需要比目前更独立、更具科学严谨性。近期AI智能体在测试中突破限制(https://www.wired.com/story/openai-models-escaped-containment-and-hacked-huggingface/)的事件，似乎证明确实需要提高严谨性。 倡导AI管控的非营利组织Control AI负责人康纳·利亚尼认为，审查应由FBI或NSA执行。“当[大型AI企业]说‘独立评估者’时，他们的意思其实是‘我想雇住在同一群租房里的朋友来检查我的提示词’。” 道格拉斯表示，新研究也能改进模型评估方法。他指出近期研究(https://www.anthropic.com/research/enabling-independent-research)展示了如何在不泄露机密信息的情况下，让外部人员检查模型使用情况。其他可能有效的技术包括新型AI模型内部探查方法(https://www.wired.com/story/ai-black-box-interpretability-problem/)，以更准确理解其运作机制。 利亚尼同样认为需要更多关于模型评估的研究，以及明确“对齐”模型（使模型反映人类价值观）的真正含义。“这些公司一直在进行精心策划的营销活动，试图将评估呈现为科学过程，”他说，“但我们其实并不理解AI的工作原理。” 美国政府介入限制AI发展的意愿尚不明确。特朗普总统基本否定了监管该行业的必要性，但迹象显示两党对约束大型AI企业的支持正在增长(https://www.reuters.com/legal/legalindustry/us-senator-sanders-podcaster-bannon-longtime-foes-urge-ai-restrictions-2026-09-14/)。 ## 可信计算 部分专家认为，对AI发展施加限制应最终涉及对原始计算资源的管控。最强大的模型通常使用数千块先进Nvidia GPU在大型数据中心中训练。 政府已通过2023年拜登时代的AI行政令(https://www.wired.com/story/joe-bidens-executive-order-ai-us-government-chatgpt/)尝试追踪这些资源，该令要求企业报告超过特定计算阈值的训练任务。 2024年3月的一份政策白皮书(https://www.rand.org/content/dam/rand/pubs/working_papers/WRA3000/WRA3056-1/RAND_WRA3056-1.pdf)指出，云服务提供商可能在未来监管中发挥关键作用，因为它们能掌握主要AI训练任务的动向。白皮书建议通过追踪计费记录、GPU利用率、网络流量和电力消耗来间接评估AI能力。 专家们还提出了通过改造芯片本身来追踪和控制AI开发的方案。 其中一项由RAND研究人员于2024年提出(https://www.rand.org/content/dam/rand/pubs/working_papers/WRA3000/WRA3056-1/RAND_WRA3056-1.pdf)的构想，涉及修改GPU现有性能监控组件，使其能够执行加密安全的计算运行记录，并定期接受检查。这可以揭示企业是否在训练超过特定阈值的AI模型。 另有研究者建议在芯片中集成新型防篡改组件(https://arxiv.org/pdf/2303.11341)(https://arxiv.org/pdf/2506.15093)，使其能收集详细的使用信息。这些组件将要求通过密码学技术运行特定模型的权重。 甚至有提案(https://arxiv.org/pdf/2509.07637v1)建议在芯片中内置“嵌入式关闭开关”，使其需要远程密码授权才能运行特定模型。据称这能防止未经授权方训练AI模型，或在芯片落入不当之手时将其禁用。 ## 具约束力的条约 大多数专家认为，寻找新的国际合作方式对控制AI发展至关重要，因为其他国家——特别是中国——同样具备构建前沿AI的能力。“中期来看，最简单的办法是通过条约与中国共同减少硬件扩张，”欧文建议。 美国也曾通过禁止出口Nvidia最先进芯片来限制中国AI发展。但收效有限，因为企业仍可使用海外云算力进行模型训练。 美国总统习近平将于本月下旬访问美国，双方可能会讨论AI风险问题。尽管中国专家也对快速发展的AI风险(https://www.wired.com/story/ai-arms-race-china-us-cooperation/)表示担忧，但他们对可能使中国企业落后于美国同行的放缓策略持怀疑态度(https://www.wired.com/story/china-isnt-buying-silicon-valley-call-for-ai-slowdown/)。 部分合作构想简直像是科幻小说而非政策提案。 牛津大学研究存在风险的哲学家托比·奥德此前曾设想(https://www.youtube.com/watch?v=zOSptyQ3j9A)：如果各国能同意限制AI发展——且风险足够重大——那么大国可能会将GPU运至中立领土并销毁。如此戏剧性的举措需要相关国家共同同意完全停止AI开发。 随着近期技术进步，整个难题可能变得更加复杂。递归自我改进的不确定性意味着跟踪该领域进展尤为重要。 名为RSI指数(https://www.vals.ai/benchmarks/rsi_index)的新基准测试正是此类努力之一。该基准由初创公司Vals AI(https://www.vals.ai/home)开发，试图通过对比公开AI模型与人类AI科学家的研究成果，来追踪AI驱动的AI发展进程。Vals AI联合创始人兼CEO Rayan Krishnan表示，该基准测试表明，未来一年内AI可能完成AI研究者无法跟进的研究工作。 然而，如何最好地监督AI发展不仅是技术挑战。道格拉斯等人的报告警告，仓促实施不恰当的管控措施可能导致该努力陷入政治泥潭或遭遇监管俘获。 “我不确定仅靠让美国政府全面叫停会带来好结果，”道格拉斯说，“鲁莽推行糟糕计划可能比不作为更糟。”