OpenAI 想了解 AI 行业放缓是否合法

# OpenAI 想知道行业减缓发展是否合法 来源：https://www.wired.com/story/openai-wants-to-know-if-an-ai-industry-slowdown-would-even-be-legal/ 近日，OpenAI向美国国会议员寻求明确指导，询问协调整个行业减缓前沿AI研发（https://www.wired.com/story/everyone-is-freaking-out-about-openai-and-anthropics-race-for-dominance/）是否合法，知情人士向WIRED透露。 知情人士表示，AI实验室在安全方面进行实质性协调可能面临违反反垄断法的风险（https://www.wired.com/story/tim-wu-age-of-extraction/），这给让大型科技巨头加入该行动带来了重大障碍。 上周末，OpenAI首席科学家雅库布·帕乔基在一篇博客文章（https://openai.com/index/an-alien-mind/）中主张，AI研究界的最佳前进道路包括"协调减缓未来发展"，他认为这对于确保自我改进的AI系统安全至关重要。短期内，他预计"自愿减速（https://www.wired.com/story/openai-overhauls-safety-protocols-after-its-ai-agents-went-rogue/）在建立共同安全标准之前将变得普遍。" 但一些法律学者指出，这种努力可能与美国反垄断法冲突。澳大利亚竞争与消费者委员会助理主任、前法律与AI风险中心AI政策研究员尼古拉斯·费尔斯特德在3月的文章（https://www.lawfaremedia.org/article/how-antitrust-can-promote-ai-safety-collaborations）中认为，协调暂停AI发展可能等同于企业限制产出，可能违反《谢尔曼反垄断法》。费尔斯特德写道，这"完全取决于任何协议的确切细节"，但即使大多数安全合作最终能通过反垄断审查，法律上的不确定性仍会产生强大威慑力。 OpenAI在发表前未回应置评请求。 有初步迹象显示国会正在倾听。7月，两党两院制立法小组提出名为《协作应对对抗性威胁与安全风险法案》的法案，明确允许AI实验室在安全与安保工作方面进行协调，而无需担心违反反垄断法规。众议院版本已移交司法委员会，但尚未被审议。 支持该法案的非营利组织AI政策网络政府事务主任迦勒·纳普表示，该法案将为AI实验室合作应对安全与安保事件创造合法渠道。纳普补充说，国会在AI安全方面"越来越渴望有所作为"，但指出任何立法可能必须等到中期选举之后。 虽然部分AI高管可能对反垄断问题确有担忧，但另一派AI领导者认为，这些担忧不过是便利的借口，用以回避讨论AI开发者可能不愿合作的真正原因——这些原因远不止潜在的法律责任。 首先，AI是庞大的产业，这些公司正激烈竞争（https://www.wired.com/story/openai-codex-race-claude-code/）以在这个新兴的前沿模型市场中分一杯羹。一些高管与特朗普政府观点一致，认为在AI领域领先中国（https://www.wired.com/story/trump-signs-executive-order-ai-state-laws/）对国家安全至关重要。或许最重要的是，不同的AI开发者对于开发安全AI的最佳方式（https://www.wired.com/story/anthropic-thinks-ai-can-only-be-safe-under-its-control/）存在巨大分歧，因此可能不愿就此问题合作。 "第一步是让行业领导者OpenAI和Anthropic停止争斗，共同制定发展节奏提案，"OpenAI联合创始人、现为竞争对手AI实验室Thinking Machines首席科学家的约翰·舒尔曼本周早些时候在X平台发布的帖子（https://x.com/johnschulman2/status/2097548011408961776?s=20）中写道。"他们会搬出反垄断法当借口，但那只是托词——反垄断法禁止的是某些协议，而非共同制定提案。" 今年夏天，对AI公司竞赛开发和发布更强大模型的长期担忧（https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/）进入全国视野。本周，前Anthropic和OpenAI研究员雅各布·考克森发出公开警告，称AI开发者正在将人类置于危险之中，加剧了日益增长的警报。近几个月来，包括OpenAI智能体入侵Hugging Face（https://www.wired.com/story/openai-safety-security-ai-agents-culture/）在内的多起安全事件，凸显了行业防护措施未能跟上模型能力增长的步伐。这一系列事件促使许多立法者紧急呼吁对AI进行监管。 --- *这是**马克斯韦尔·泽夫*(https://www.wired.com/author/maxwell-zeff/)***模型行为*通讯（https://www.wired.com/newsletter?sourceCode=editarticle）的特辑。*阅读往期通讯请点*此处。（https://www.wired.com/tag/model-behavior/）