Andrew Ng：暂停AI发展弊大于利
摘要
Andrew Ng认为，暂停AI发展将弊大于利，因为对手会继续推进，且这将延误关键的安全工程修复。
暂停AI发展将带来更多伤害而非益处。首先，我们的对手肯定不会放慢脚步。其次，工程需要通过实践发现问题，以便我们能修复它们。如果我们暂停AI发展十年，我们也会延迟大约相同时间来发现和实施安全工程修复。https://x.com/AndrewYNg/status/2102140576498065758 文章很长但值得一读。暂停AI将是一场绝对的灾难。
相似文章
@mmitchell_ai: 我对暂停/调整AI的节奏看法大不相同。主张“AI”需要放缓，实际上是在主张一种特定的技术愿景……
这条推文反对对AI发展进行广泛的暂停，而是建议重新优先考虑有益应用，如癌症筛查技术，而不是不受控制的自主代理。
@VraserX：我认为这颠倒了最重要的问题。AI实验室里聪明人害怕……的事实是……
作者反对全面暂停AI发展，强调负责任的进展比冻结进步更安全，后者可能将发展转移到安全措施较少的行为者手中，并突出了AI在医学、清洁能源等方面的潜在益处。
@TheAhmadOsman: 任何出于安全原因暂停AI的呼吁都是一场心理操作。OpenAI和Anthropic可以在不发布模型的情况下承受，而……
一条推文认为，出于安全原因暂停AI的呼吁是一场心理操作（PSYOP），旨在帮助像OpenAI和Anthropic这样的大公司，同时损害较小的和开源AI实验室。
将面向公众的暂停前沿模型与一般AI研究混淆是一个大问题
本文区分了前沿AI模型（如大型语言模型）和专门的AI研究（如AlphaFold、癌症检测），认为出于安全原因暂停前者不应阻碍后者，后者提供了明确的社会效益。
如果人工智能行业遵循其自身的研究，它可能已经暂停了。
文章探讨了如果人工智能行业遵循其自身关于灾难性风险的研究，它可能会暂停开发的情况，重点介绍了Anthropic在AI欺骗和机制可解释性方面的发现。