AI高管呼吁监管的简史

# AI高管呼吁监管的简史 来源：https://www.theverge.com/policy/995534/a-brief-history-of-ai-executives-calling-for-regulation 过去几天，许多从AI中获利的人士公开达成共识（https://www.theverge.com/ai-artificial-intelligence/995141/ai-executives-politicians-safety-regulation-anthropic-dario-amodei）——是时候让大家在失控前放慢脚步了——包括OpenAI首席执行官Sam Altman、Anthropic首席执行官Dario Amodei、Google DeepMind联合创始人Demis Hassabis、微软首席执行官Satya Nadella和X首席执行官Elon Musk。 当从某事物中获利的人宣称它危险且需要监管时，总有理由保持怀疑（https://www.theverge.com/ai-artificial-intelligence/995186/is-big-techs-ai-slowdown-a-safety-pact-or-a-cartel）。但无论他们的动机如何，这远非AI思想领袖首次拉响警报。 查尔斯·达尔文的进化论促使作家塞缪尔·巴特勒早在1863年就警告智能自我复制机器将取代人类（https://en.wikipedia.org/wiki/Darwin_among_the_Machines）——而在其1872年的后续著作《埃瑞璜》（https://www.gutenberg.org/cache/epub/1906/pg1906-images.html）中，他描述了一个为避免人类崩溃而通过监管消灭机器的虚构社会。计算先驱艾伦·图灵在1951年的著名演讲中（https://turingarchive.kings.cam.ac.uk/publications-lectures-and-talks-amtb/amt-b-4）警告，人工智能将“遭遇巨大反对”，因为不朽的机器“很快就会超越我们微弱的力量”并最终“掌控一切”。 呼吁干预也非新鲜事。2000年，太阳微系统公司联合创始人兼首席科学家比尔·乔伊（https://www.wired.com/2000/04/joy-2/）撰文指出，自我复制机器人可能比核武器更危险，部分原因是它们正在“当前不受挑战的全球资本主义体系内”开发，而非在严密控制的政府实验室中。2009年（https://erichorvitz.com/AAAI_Presidential_Panel_2008-2009.htm），现担任微软首席科学官的研究员埃里克·霍维茨（https://www.nytimes.com/2009/07/26/science/26robot.html）召集顶尖AI研究者，共同探讨“制定可能约束或偏向自主与半自主系统行为、以应对相关关切的政策”。 但现代AI巨头警告其投资应受监管？这一趋势似乎始于更早投资的埃隆·马斯克。 #### **2017年7月**（https://www.theverge.com/2017/7/17/15980954/elon-musk-ai-regulation-existential-threat）**：埃隆·马斯克称需在AI对人类构成危险前实施监管** 当埃隆·马斯克向美国州长们表示需立即监管AI时，这位SpaceX和特斯拉的首席执行官早已涉足其中。他已向OpenAI投资3800万美元（https://www.cbsnews.com/news/elon-musk-sam-altman-openai-trial-oakland/），并至少持有另外两家AI公司的股份，且三年来公开谈论AI危险。 2014年6月，他暗示AI研究可能造出真实的“终结者”（https://www.theverge.com/2014/6/18/5820880/elon-musk-worried-ai-research-could-produce-real-terminator）；同年8月称AI“可能比核弹更危险（https://www.theguardian.com/technology/2014/oct/27/elon-musk-artificial-intelligence-ai-biggest-existential-threat）”；10月又表示研究AI是“召唤恶魔（https://www.theguardian.com/technology/2014/oct/27/elon-musk-artificial-intelligence-ai-biggest-existential-threat）”。2015年1月，他与斯蒂芬·霍金共同签署公开信（https://www.theverge.com/2015/1/12/7531269/scientists-sign-open-letter-focusing-on-AI-dangers-benefits），呼吁负责任的AI研究；霍金此前曾警告创造AI可能是人类的最终行为（https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-ai-seriously-enough-9313474.html）。 “AI是个罕见案例，我们需要主动监管而非被动应对。因为我认为到被动监管AI时，为时已晚。”马斯克在2017年7月全美州长协会夏季会议上表示。2018年3月（https://www.theverge.com/2018/3/11/17106910/elon-musk-ai-threat-mars-moon-colonization-nukes-sxsw-2018），他补充道：“AI比核弹危险得多。为何我们毫无监管？” #### **2018年3月**（https://www.theverge.com/2018/3/21/17150270/mark-zuckerberg-facebook-regulated）**：马克·扎克伯格“其实不确定我们是否不该被监管”** 在Facebook剑桥分析数据丑闻后，Meta创始人暗示其公司应受监管——如果是“恰当的”监管。虽主要不涉及AI，但他确实触及：“随着AI工具日益完善，未来五到十年企业将能主动识别可能的违规或冒犯内容，那么公司对此的责任与法律责任是什么？” 2019年3月（https://www.theverge.com/2019/3/30/18288470/mark-zuckerberg-op-ed-tech-regulation-privacy-data-portability-harmful-content-elections），他补充称互联网需要监管机构“更积极地介入”。 #### **2018年12月**（https://www.theverge.com/2018/12/7/18129858/microsoft-facial-recognition-ai-now-google）**：微软对人脸识别技术敲响警钟** 2018年初，微软因与ICE合作人脸识别技术（https://www.theverge.com/2018/6/20/17482500/microsoft-ceo-satya-nadella-ice-contract-memo）受抨击，当时多位科技CEO谴责特朗普政府（https://www.theverge.com/2018/6/19/17480072/trump-border-separation-tech-ceos-cook-zuckerberg-airbnb-uber-youtube）在美墨边境将儿童与被捕父母分离的政策。 尽管此类AI不同于自我复制智能，微软总裁布拉德·史密斯在布鲁金斯学会演讲中（https://www.theverge.com/2018/12/7/18129858/microsoft-facial-recognition-ai-now-google）开启自愿监管先例，表示：“我们认为2019年政府开始立法监管此技术至关重要……我们认为防范这种恶性竞争的唯一方式是建立责任底线以支持健康市场竞争。而坚实底线需确保此技术及其开发使用组织受法治约束。” #### **2020年1月**（https://www.theverge.com/2020/1/20/21073682/ai-regulation-google-alphabet-ceo-sundar-pichai）**：Alphabet首席执行官桑达尔·皮查伊表示AI监管“毋庸置疑”** “在我心中，AI需要监管毋庸置疑。此事至关重要不容忽视。”皮查伊在《金融时报》社论（https://www.ft.com/content/3467659a-386d-11ea-ac3c-f68c10993b04）中写道，“唯一问题是如何着手。” “像我们这样的公司不能仅开发新技术而让市场决定其用途。”他补充道。与一年前微软类似，这些评论源于对AI人脸识别的特定担忧。 #### **2023年3月**（https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter）**：埃隆·马斯克与顶尖AI研究者呼吁暂停“巨型AI实验”** 2023年，生成式AI热潮（https://www.theverge.com/23981318/chatgpt-open-ai-launch-anniversary-future）开始重塑整个科技行业，科学家们开始建议企业应放慢研究——否则后果严重。 “若此类暂停无法迅速实施，政府应介入颁布禁令。”由非营利组织“生命未来研究所”发布、马斯克等人签署的公开信（https://futureoflife.org/open-letter/pause-giant-ai-experiments/）指出。 两周后，马斯克宣布创建自己的新AI公司（https://www.theverge.com/2023/4/14/23684005/elon-musk-new-ai-company-x）。两年后，他利用DOGE（https://www.theverge.com/policy/845838/2025-year-end-government-doge）拆解联邦雇员队伍，而非协助任何监管。 #### **2023年5月16日**（https://www.theverge.com/2023/5/16/23726119/congress-ai-hearing-sam-altman-openai）**：OpenAI首席执行官萨姆·奥特曼呼吁国会监管AI** 出席美国参议院AI听证会时，奥特曼同意国会应建立新机构监管AI。“我们认为迄今部署的工具益处远超风险，”他论证，“但政府监管干预对缓解强大模型的风险至关重要。” 在5月25日的另一场听证会（https://www.bloomberg.com/news/articles/2023-07-25/anthropic-s-amodei-warns-us-senators-of-ai-powered-bioweapons）上，Anthropic首席执行官警告参议员AI可能协助制造生物武器。 #### **2023年5月25日**（https://blogs.microsoft.com/on-the-issues/2023/05/25/how-do-we-best-govern-ai/?utm_source=gemini）**：微软总裁布拉德·史密斯“详述政府制定AI政策法律的五种方式”** 当OpenAI首席执行官出席国会听证时，我们注意到（https://www.theverge.com/2023/5/16/23726119/congress-ai-hearing-sam-altman-openai）气氛友好，双方似乎正协同立法；此即微软尝试影响未来监管的例证。 监管示例：“新法将要求这些系统的操作者通过设计为高风险AI系统构建安全制动装置。随后政府将确保操作者定期测试高风险系统，以验证系统安全措施的有效性。” #### **2023年5月30日**（https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai）**：顶尖AI研究者与CEO以22字声明警告“灭绝风险”** “缓解AI导致的灭绝风险应成为全球优先事项，与大流行、核战争等社会级风险并列。” 尽管22字声明未明确要求政府介入，但世界领袖们难免比以往更加蹙眉。OpenAI首席执行官萨姆·奥特曼与当时谷歌DeepMind首席执行官德米斯·哈萨比斯均为联署人。 #### **2023年9月**（https://www.theverge.com/2023/9/13/23872478/ai-tech-regulation-leaders-insight-forum）**：马克·扎克伯格呼吁众人“协同合作”监管** 据报在闭门参议院会议中，科技CEO们一致认为AI行业需要监管。其中一处发言并未闭门：Meta首席执行官马克·扎克伯格表示“国会应介入AI以支持创新与保障。” “我们认为政策制定者、学界、公民社会与产业界应协同合作，既最小化此新技术的潜在风险，亦最大化其潜在益处。” 2023年7月至2024年5月间，科技公司与各国政府签署多项非约束性协议，据称将约束其行为： - 2023年7月（https://www.theverge.com/2023/7/21/23802274/artificial-intelligence-meta-google-openai-white-house-security-safety）：Meta、谷歌与OpenAI承诺白宫将负责任开发AI - 2023年9月（https://www.theverge.com/2023/9/12/23870092/nvidia-ibm-adobe-white-house-ai-agreement-nonbinding）：更多公司加入白宫AI安全协议 - 2023年11月（https://www.reuters.com/world/uk/uk-pm-sunak-lead-ai-summit-talks-before-musk-meeting-2023-11-02/）：英国AI峰会开发者与政府同意通过测试管理风险 - 2024年5月（https://www.euronews.com/next/2024/05/22/ai-seoul-summit-world-leaders-agree-to-launch-network-of-safety-institutes）：AI首尔峰会：世界领袖同意启动安全网络 同月（https://www.nytimes.com/2023/09/10/business/dealbook/an-ai-leader-urges-regulation-and-a-rethink.html）：Inflection AI首席执行官穆斯塔法·苏莱曼——现任微软AI主管——新书主张政府应实施监管。 #### **2024年8–9月**（https://www.theverge.com/2024/8/23/24226706/anthropics-ceo-has-some-thoughts-about-californias-ai-safety-bill-too）**：埃隆·马斯克与Anthropic支持加州AI安全法案** “这是艰难抉择且会惹恼部分人，但权衡之下，我认为加州应通过SB 1047 AI安全法案。”马斯克于8月发帖（https://x.com/elonmusk/status/1828205685386936567?lang=en）。Anthropic最初于7月反对（https://www.axios.com/2024/07/25/exclusive-anthropic-weighs-in-on-california-ai-bill），OpenAI于8月（https://www.theverge.com/2024/8/21/24225648/openai-letter-california-ai-safety-bill-sb-1047）亦然，但Anthropic于9月（https://www.theverge.com/2024/8/23/24226706/anthropics-ceo-has-some-thoughts-about-californias-ai-safety-bill-too）转变立场。加州州长加文·纽森否决了SB 1047（https://www.theverge.com/2024/9/29/24232172/california-ai-safety-bill-1047-vetoed-gavin-newsom），称“我不认为这是保护公众免受该技术真实威胁的最佳方式。” #### **2024年10月**（https://www.anthropic.com/news/the-case-for-targeted-regulation）**：Anthropic呼吁“针对性监管”** “**各国政府应在18个月内紧急采取AI政策行动。主动风险防范的窗口正在快速关闭。**”Anthropic在公开信中写道（粗体为原文）。 “未来一年至关重要，政策制定者、AI产业、安全倡导者、公民社会与立法者需协同制定有效监管框架，”该公司补充。 #### **2025年1月**（https://openai.com/global-affairs/openais-economic-blueprint/）**：OpenAI提交“政策提案”** 文件开篇暗示英国因监管抑制了本土汽车产业发展，转而提出“民主AI”：“AI开发与使用的规则法规应基于该国一贯秉持的民主价值观。” #### **2025年6月**（https://www.nytimes.com/2025/06/05/opinion/anthropic-ceo-regulate-transparency.html）**：Anthropic首席执行官：勿让AI企业免责** Anthropic首席执行官达里奥·阿莫代在《纽约时报》评论文章（https://www.nytimes.com/2025/06/05/opinion/anthropic-ceo-regulate-transparency.html）中写道：“联邦法律未强制我们或任何其他AI公司对模型能力透明化或采取任何实质性风险降低措施。部分企业可直接选择不作为。”该文反对特朗普政府提议（https://www.theverge.com/ai-artificial-intelligence/680347/anthropics-ceo-wrote-an-op-ed-against-the-proposed-10-year-moratorium-on-state-ai-regulation）的美国各州AI监管十年禁令。 但他并非主张放缓发展，而是倡导“国家透明度标准”，“这将不仅帮助公众，也帮助国会理解技术发展动向。” #### **2025年9月**（https://www.anthropic.com/news/anthropic-is-endorsing-sb-53）**：Anthropic支持加州SB 53法案** 当加州再次尝试（https://www.theverge.com/ai-artificial-intelligence/24500025/california-ai-safety-bill-sb-53-anthropic-support）监管其AI巨头时……