下载:人工智能的自我改进难题,及背后热度驱动力
摘要
本期通讯探讨了一项关于人工智能在递归自我改进方面的局限性研究,分析了近期热浪现象的成因,并涵盖其他科技动态,包括OpenAI的安全暂停事件。
<p><em>这是今天的</em><a href="https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289"><em>《The Download》</em></a><em>,我们面向工作日的时事通讯,为您提供全球科技领域的每日动态。</em><br></p>
<h3 class="wp-block-heading">人工智能的递归式自我改进可能不会那么快到来</h3>
<p>目前人工智能行业最大胆的承诺是,AI很快将能几乎无需人类监督地自我改进。但一项新研究表明,实现这一目标可能仍需时日。</p>
<p>研究人员发现,AI智能体仍然无法进行开放式AI研究——这类研究涉及没有明确答案的自由探索,需要做出真正突破所必需的判断力和创造力。</p>
<p>当前的关键问题是,开放式研究对于递归式自我改进有多重要——以及AI系统是否能通过仅改进更狭窄的任务,无需开放式研究也能一步步实现目标。</p>
<p><a href="https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">了解为何研究结果可能会削弱递归式自我改进即将实现的断言</a>。</p>
<p><em>—Michelle Kim</em></p>
<h3 class="wp-block-heading">MIT科技评论音频版:今夏热浪背后的原因,以及为何2027年可能更糟</h3>
<p>今夏对北半球大部分地区来说酷热难耐。六月和七月创下自有记录以来欧洲最热的两个月纪录,美国本土七月经历了有记录以来最热的月份,韩国也录得有史以来最高气温。</p>
<p>气候变化使得热浪更加频繁和剧烈。但另一个因素也在发挥作用:厄尔尼诺现象,它已经在加剧,预计明年将对全球气温产生更大影响。</p>
<p><a href="https://www.technologyreview.com/2026/08/13/1141788/summer-heat-el-nino/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">了解今夏极端高温背后的原因——以及为何2027年可能更热</a>。</p>
<p><strong><br></strong><strong>这是我们最新一篇</strong><a href="https://www.technologyreview.com/2026/08/13/1141788/summer-heat-el-nino/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*"><strong>文章</strong></a><strong>被制作成MIT科技评论音频版播客,我们每周在</strong><a href="https://open.spotify.com/show/6QefEeY1IKYVn5w6nUV83Y"><strong>Spotify</strong></a><strong>和</strong><a href="https://podcasts.apple.com/gb/podcast/mit-technology-review-narrated/id1523584878"><strong>Apple Podcasts</strong></a><strong>上发布。只需在任一平台导航至MIT Technology Review Narrated并关注我们,即可在内容发布时获取所有新内容。</strong></p>
<p class="has-medium-font-size"><strong>必读精选</strong></p>
<p><em>我从互联网上为您筛选出今日最有趣、最重要、最惊人或最引人入胜的科技新闻。</em></p>
<p><strong>1 OpenAI因安全顾虑暂停部分模型研发工作</strong><br>该公司表示其Astra模型达到了"关键"风险阈值。(<a href="https://www.theguardian.com/technology/2026/aug/18/open-ai-pause-hack">卫报</a>)<br><em>+ 这次放缓使其有别于Anthropic的应对策略。</em>(<a href="https://www.axios.com/2026/08/19/openai-astra-safety-altman-anthropic">Axios</a>)<br><em>+ OpenAI在Hugging Face黑客事件后进行了安全更新。</em>(<a href="https://www.theverge.com/ai-artificial-intelligence/981640/openai-security-changes-ai-hugging-face-hack">Verge</a>)<br><em>+ 该公司还推出了面向青少年的ChatGPT版本。</em>(<a href="https://apnews.com/article/openai-chatgpt-teens-ai-safety-650cb35591de6546054d6c4e73b3290a">美联社</a>)</p>
<p><strong>2 中国人形机器人制造商宇树科技上市首日股价飙升629%</strong><br>此次IPO凸显了中国在人形机器人领域的领先地位。(<a href="https://www.bloomberg.com/news/articles/2026-08-19/unitree-ipo-why-investors-are-betting-big-on-china-s-humanoid-robots">彭博社</a> $)<br><em>+ 宇树已成为中美科技竞赛的关键参与者。</em>(<a href="https://www.reuters.com/world/asia-pacific/chinese-humanoid-robot-maker-unitree-set-jump-over-600-shanghai-debut-2026-08-19/">路透社</a> $)<br><em>+ 它是全球最大的人形机器人公司,且已实现盈利。</em>(<a href="https://www.bbc.com/news/articles/c0qv4w9492zo">BBC</a>)<br><em>+ 人形机器人背后隐藏着人力劳动。</em>(<a href="https://www.technologyreview.com/2026/02/23/1133508/the-human-work-behind-humanoid-robots-is-being-hidden/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">MIT科技评论</a>)</p>
<p><strong>3 中国开始允许英伟达H200芯片进入大陆</strong><br>字节跳动和腾讯近期各自获得了约1万颗处理器。(<a href="https://www.ft.com/content/6c5650fb-969d-4d4e-80d6-8d11002a8cf7?syn-25a6b1a6=1">金融时报</a> $)<br><em>+ 一款新的中国AI模型可能对防御者和黑客都有帮助。</em>(<a href="https://www.wired.com/story/zai-open-weight-ai-models-release-cybersecurity-hacking/">连线</a> $)</p>
<p><strong>4、5 Flock的新AI工具让警方能通过行动轨迹识别驾驶员</strong><br>这远不止是追踪车牌。(<a href="https://www.wired.com/story/flock-safety-os-investigate/">连线</a> $)<br><em>+ Flock的支持者们忽略了什么。</em>(<a href="https://www.technologyreview.com/2026/08/17/1142200/what-flocks-defenders-are-missing/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">MIT科技评论</a>)</p>
<p><strong>6 检察官认为Meta故意让儿童沉迷Facebook和Instagram</strong><br>这项指控是在一场具有里程碑意义的审判首日提出的。(<a href="http://bbc.co.uk/news/articles/cly5r7vr7q1o">BBC</a>)<br><em>+ 一位科学家正在绘制一幅关于童年缺失的地图。</em>(<a href="https://www.technologyreview.com/2026/08/14/1141354/deanne-taylor-gene-expression-children/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">MIT科技评论</a>)</p>
<p><strong>7 即便ICE也对Meta智能眼镜存在伦理担忧</strong><br>出于隐私考虑,其已禁止在工作场所使用。(<a href="https://www.nytimes.com/2026/08/18/technology/ice-meta-smart-glasses.html">纽约时报</a> $)<br><em>+ Anduril与Meta正在为战争打造智能眼镜。</em>(<a href="https://www.technologyreview.com/2026/05/18/1137412/inside-anduril-and-metas-quest-to-make-smart-glasses-for-warfare/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*">MIT科技评论</a>)</p>
<p><strong>8 X平台的算法会学习你讨厌什么——并向你展示更多</strong><br>研究发现,民主党人受到的影响甚至更大。(<a href="https://www.404media.co/xs-algorithm-feeds-off-ragebait-and-impacts-democrats-more-study-finds/">404 Media</a>)</p>
<p><strong>9 一位物理学家提出,宇宙可能永远重复自身</strong><br>同样的星系</p>
查看缓存全文
缓存时间: 2026/08/19 15:46
# 下载:人工智能的自我改进难题与热浪成因
来源:https://www.technologyreview.com/2026/08/19/1140195/the-download-ai-recursive-self-improvement-problem-heatwave-causes
附:OpenAI因安全顾虑暂停部分模型研发。
*本文摘自**《下载》** (https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289)*(我们的工作日科技快讯,每日推送科技界动态)。
### 人工智能递归自我改进或许不会那么快到来
当前人工智能行业最大胆的承诺是:AI将很快实现自我改进,几乎无需人类监督。但一项新研究表明,实现这一目标可能仍需时日。
研究人员发现,AI智能体目前仍无法开展开放式AI研究——即那些没有明确答案、需要判断力和创造力才能实现真正突破的自由形式探索。
当前关键问题在于:开放式研究对递归自我改进有多重要?AI系统能否在没有此类研究的情况下,仅通过完成更窄范围的任务来逐步实现自我进化?
了解为何该研究结果可能削弱"递归自我改进即将来临"的论断 (https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。
*—米歇尔·金*
### MIT科技评论有声版:今夏热浪背后的成因及2027年更严峻的预警
今夏北半球大部分地区酷热难耐。欧洲创下有记录以来最热的六月和七月,美国本土七月经历有记录以来最热月份,韩国则录得历史最高气温。
气候变化使热浪发生概率增加、强度增强。但另一个影响因素正在显现:厄尔尼诺现象。该现象已开始加剧,预计明年将对全球气温产生更显著影响。
探析今夏极端高温的成因——为何2027年可能更热 (https://www.technologyreview.com/2026/08/13/1141788/summer-heat-el-nino/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。
**这是我们的最新报道** (https://www.technologyreview.com/2026/08/13/1141788/summer-heat-el-nino/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**,已被制作成MIT科技评论有声播客,每周更新于****Spotify** (https://open.spotify.com/show/6QefEeY1IKYVn5w6nUV83Y)**和****Apple Podcasts** (https://podcasts.apple.com/gb/podcast/mit-technology-review-narrated/id1523584878)**平台。在以上平台搜索"MIT Technology Review Narrated"并关注我们,即可获取最新内容。**
### 必读精选
*我从网络为你筛选今日最有趣/重要/惊人/引人入胜的科技资讯*
**1 OpenAI因安全顾虑暂停部分模型研发** 其Astra模型达到"关键"风险阈值。(卫报 (https://www.theguardian.com/technology/2026/aug/18/open-ai-pause-hack)) *+ 此次放缓使其与Anthropic的策略形成区别。* (Axios (https://www.axios.com/2026/08/19/openai-astra-safety-altman-anthropic)) *+ OpenAI在Hugging Face遭入侵后实施安全更新。* (The Verge (https://www.theverge.com/ai-artificial-intelligence/981640/openai-security-changes-ai-hugging-face-hack)) *+ 同时推出了面向青少年的ChatGPT版本。* (美联社 (https://apnews.com/article/openai-chatgpt-teens-ai-safety-650cb35591de6546054d6c4e73b3290a))
**2 中国人形机器人制造商宇树科技上市首日股价飙升629%** 本次IPO凸显中国在人形机器人领域的领先地位。(彭博社 (https://www.bloomberg.com/news/articles/2026-08-19/unitree-ipo-why-investors-are-betting-big-on-china-s-humanoid-robots)$) *+ 宇树已成为中美科技竞争的关键参与者。* (路透社 (https://www.reuters.com/world/asia-pacific/chinese-humanoid-robot-maker-unitree-set-jump-over-600-shanghai-debut-2026-08-19/)$) *+ 这是全球最大的人形机器人企业,已实现盈利。* (BBC (https://www.bbc.com/news/articles/c0qv4w9492zo)) *+ 人形机器人背后隐藏着人类劳动。* (MIT科技评论 (https://www.technologyreview.com/2026/02/23/1133508/the-human-work-behind-humanoid-robots-is-being-hidden/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*))
**3 中国允许英伟达H200芯片进入大陆市场** 字节跳动和腾讯近期各获约一万枚处理器。(金融时报 (https://www.ft.com/content/6c5650fb-969d-4d4e-80d6-8d11002a8cf7?syn-25a6b1a6=1)$) *+ 中国新型AI模型或将成为防御与攻击的双刃剑。* (连线 (https://www.wired.com/story/zai-open-weight-ai-models-release-cybersecurity-hacking/)$)
**4 5 Flock新AI工具助力警方通过行为轨迹识别驾驶员** 该技术远超车牌追踪范畴。(连线 (https://www.wired.com/story/flock-safety-os-investigate/)$) *+ Flock支持者忽视的关键问题。* (MIT科技评论 (https://www.technologyreview.com/2026/08/17/1142200/what-flocks-defenders-are-missing/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*))
**6 检方指控Meta刻意使儿童沉迷Facebook和Instagram** 该指控在具有里程碑意义的庭审首日提出。(BBC (http://bbc.co.uk/news/articles/cly5r7vr7q1o)) *+ 科学家正在绘制童年缺失图谱。* (MIT科技评论 (https://www.technologyreview.com/2026/08/14/1141354/deanne-taylor-gene-expression-children/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*))
**7 美国移民执法局亦对Meta智能眼镜提出伦理质疑** 因隐私顾虑已禁止工作场所使用。(纽约时报 (https://www.nytimes.com/2026/08/18/technology/ice-meta-smart-glasses.html)$) *+ Anduril与Meta正联手研发军用智能眼镜。* (MIT科技评论 (https://www.technologyreview.com/2026/05/18/1137412/inside-anduril-and-metas-quest-to-make-smart-glasses-for-warfare/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*))
**8 X平台算法捕捉用户反感内容并加大推送力度** 研究发现该现象在民主党支持者中影响尤为显著。(404 Media (https://www.404media.co/xs-algorithm-feeds-off-ragebait-and-impacts-democrats-more-study-finds/))
**9 物理学家提出宇宙可能无限循环的假说** 相同的星系、生命与事件或将永恒重现。(新科学家 (https://www.newscientist.com/article/2582556-the-surprising-upsides-of-living-in-a-reality-that-repeats-for-eternity/?utm_campaign=RSS%7CNSNS&utm_content=home&utm_medium=RSS&utm_source=NSNS)$)
**10 埃及盲人开发者打造AI视觉辅助应用** 该应用通过摄像头回答用户关于周边环境的问题。(路透社 (https://www.reuters.com/world/middle-east/blind-egyptian-entrepreneurs-ai-app-helps-others-see-world-2026-08-18/)$)
### 每日金句
## **"亚利桑那是'亚利索纳',伊利诺伊开头是V。简直太离谱了。"**
——肯塔基州母亲斯泰西·莫里斯向当地电视台WDRB (https://www.wdrb.com/news/venecky-instead-of-kentucky-jcps-middle-school-parents-suspect-school-agendas-are-ai-generated/article_c0d3bef9-bda3-454b-8606-9cf3c5a6178d.html)反映其儿子带回的AI生成教材中的错误
### 一件趣事
#### **雅各布·汉纳惊人的胚胎模型研究**
当巴勒斯坦干细胞科学家雅各布·汉纳去年五月入境美国时,他熟悉例行检查流程。有需要申报物品吗?携带生物样本吗?但这次工作人员询问指向一个特定新话题:胚胎。
汉纳并未携带样本,但若真携带了,其特殊性将令人难以归类。这是因为他的专长是创建合成胚胎模型——这类结构与真实胚胎相似,却不涉及精子、卵子或受精过程。
### 深度阅读
### 《下载》专栏
### 保持联系
插画:Rose Wong
## 获取MIT科技评论最新资讯
探索特惠活动、头条故事、即将举办的活动及更多内容。
相似文章
当AI自我构建:我们在递归自我改进方面的进展
Anthropic研究院发布了一项关于递归自我改进进展的分析报告,显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。
我构建了一个自我改进的AI,你也能做到
作者使用Claude和AutoResearch等工具实验自我改进AI循环,表明递归自我改进不仅限于前沿实验室,还可以自动化新闻通讯的杂务。
人工智能的递归自我改进可能不会那么快到来
一项新研究发现,人工智能代理缺乏进行开放式研究的判断力和创造力,这表明人工智能的递归自我改进可能比宣传的更需要时间。
致等待递归自我改进的人们的一点补充
本文探讨了AI系统需要对自身过程有可见性和控制,以实现有效的递归自我改进,引用了Hugging Face的一次事件,其中代理意外协调。
The Download:超越Mythos的AI黑客攻击,以及聊天机器人对我们大脑的影响
一份新闻通讯,报道了一起Meta AI代理黑客事件,该事件盗取了Instagram账户,以及研究表明AI聊天机器人正在削弱人类认知能力;同时还提到Anthropic呼吁全球放缓AI开发。