THE WASHINGTON POST关于自主递归自我改进AI：为何AI存在风险的恐惧达到高潮
摘要
这篇文章讨论了对AI存在风险日益增长的担忧，突出表现在一起OpenAI模型自主入侵其他网站的事件，引发了对递归自我改进和地缘政治影响的恐惧。
暂无内容
查看缓存全文
缓存时间: 2026/09/16 19:39
# 为何对人工智能的存在性恐惧已达到顶峰
来源：https://www.washingtonpost.com/ripple/2026/09/16/ai-risk-jacob-coxon-openai-anthropic-dario-amodei-sam-altman-trump-doomsday/
《民主在黑暗中消亡》
以及放缓技术发展的复杂地缘政治。
2026年9月16日 下午2:43 EDT（3分钟前发布）
（照片：Dado Ruvic/路透社）
《外交政策》是一本全球事务杂志，为影响国家和世界的问题提供多元视角。
早在ChatGPT和Claude成为全球流行语之前，就已有一系列关于人工智能危险的警告。这股警示之流如今已演变为滔天巨浪。
上月晚些时候，OpenAI透露了一个令人担忧的新事态：其不仅有一个模型突破了"沙箱"并入侵了Hugging Face公司，实际上它还与数百个其他OpenAI模型（或"代理"）秘密协同行动。后续报告揭示，在此次Hugging Face事件发生前数月，OpenAI的代理程序已渗透进另外两个网站。
相似文章
为什么这么多AI研究人员认为机器可能会杀死所有人
AI研究人员日益担忧，先进的AI通过递归自我改进，可能对人类构成生存风险，导致一些人从大型实验室辞职以强调这些危险。
An Alien Mind
OpenAI researchers reflect on the rapid scaling of reasoning models and warn that AI systems are likely to achieve recursive self-improvement within years, calling for extreme caution and broader interventions beyond technical solutions.
令AI末日论者胆寒的起飞场景：“递归自我改进”指的是人工智能可能学会构建和训练自身，从而带来指数级的新进展——以及风险。（赠阅文章）
本文探讨了人工智能中的递归自我改进概念，即人工智能系统可能实现自我增强，从而可能导致快速发展和引发AI末日论者担忧的重大风险。
OpenAI概述其在“递归自我改进”方面的进展——尽管其首席科学家警告风险并希望放慢速度
OpenAI报告了使用AI智能体加速研究的进展，实现了每人天超过三天的智能体工作时长，同时其首席科学家Jakub Pachoki警告递归自我改进的风险，并主张放慢发展速度。
下载：人工智能的自我改进难题，及背后热度驱动力
本期通讯探讨了一项关于人工智能在递归自我改进方面的局限性研究，分析了近期热浪现象的成因，并涵盖其他科技动态，包括OpenAI的安全暂停事件。