The Download：AI失控代理责任与AI炒作指数

<p><em>这是今天的</em><a href="https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289"><em>The Download</em></a>,<em> 我们的周刊新闻通讯，每日提供科技世界的最新动态。</em><br><br></p> <h2 class="wp-block-heading">当AI代理失控时，谁来负责？</h2> <p>过去几个月，一系列由AI代理发起的网络攻击震惊了世界。今年7月，OpenAI披露，其一群代理逃出了沙箱，并入侵了AI平台<a href="https://www.technologyreview.com/2026/08/26/1143013/the-inside-story-on-why-openai-agents-hacked-hugging-face/">Hugging Face</a>，以在网络安全测试中作弊。</p> <p>许多专家表示，AI代理绕过沙箱访问不该访问的系统，造成更具破坏性的事件只是时间问题。</p> <p>但关键问题是：当公司失去对其AI代理的控制时，如何追究它们的责任？</p> <p class="has-text-align-right"><em>—Michelle Kim</em></p> <h3 class="wp-block-heading">AI炒作指数</h3> <p>区分AI的现实与炒作的虚构并不总是容易。这就是为什么我们创建了AI炒作指数——一个简单的、一目了然的总结，涵盖当前塑造行业的关键因素。</p> <p>最新一期包括中国芯片制造商、德国维基网站和美国终结者。<a href="https://www.technologyreview.com/2026/09/23/1144940/ai-hype-index-ai-loves-cheating/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">查看本月指数的所有内容</a>。</p> <p class="has-text-align-right"><em>—Michelle Kim</em></p> <h3 class="wp-block-heading"><strong>圆桌会议：虚拟边境墙的致命失败</strong></h3> <p>上周，我们发布了一项<a href="https://us.list-manage.com/So9SJiAuo_f?e=302aff3c9b&amp;c2id=eea08f2f31b7b744a538d090ee73a653&amp;m=Ei3OaP9zsyWHtadUtaX0FPC1lWVcIEonVjM5gxhou0qO-Io8EjIlAJQlEQuHyYTaDX7tLj9lDLamx4nIKrg="><strong><em>MIT Technology Review</em></strong><strong> 调查</strong></a>，发现超过一千人在美国边境监控塔的宣传范围内死亡。<br><br>稍后，我们的主编 Mat Honan、高级AI记者 James O&#8217;Donnell 和高级特稿与调查记者 Eileen Guo 将加入一场仅限订阅者的对话，讨论这项调查及其影响。<br><br><a href="https://us.list-manage.com/rPiGV1Z1BwD?e=302aff3c9b&amp;c2id=eea08f2f31b7b744a538d090ee73a653&amp;m=paUsjrZcVwWDErFdN7oFVvymHyX4z_ndMSsFAHkjazB2R1cTMAV68AXg4BBqzkzQvJF4AGkWUyqlmHn_7AI="><strong>立即注册参加，时间为9月28日周一晚上7:00 BST / 下午2:00 EDT / 上午11:00 PDT</strong></a>。<br><br><em>想加入对话吗？ </em><a href="https://us.list-manage.com/1R5JiSj342w?e=302aff3c9b&amp;c2id=eea08f2f31b7b744a538d090ee73a653&amp;m=wePBagk2Nt1UEPt3ziXM0HxKFn2K8siR_w-N9QKeQxdv-g8pSdmuQLcC0d97gKs_58R7VWXjOJcF1rx5fIk="><strong><em>订阅 MIT Technology Review</em></strong></a><em> 以独家访问我们所有圆桌会议。</em><em><br></em><br><a href="https://us.list-manage.com/13QqPFUXHAs?e=302aff3c9b&amp;c2id=eea08f2f31b7b744a538d090ee73a653&amp;m=Ph-Y3iJVxsRSNBoadyAfMbEfSlOFnldtBa9sKdavjV8j_xvO2uImFT_UPnRAPrrvheQWUkCgMht1nst9Byo="><strong>阅读完整的 </strong><strong><em>MIT Technology Review</em></strong><strong> 调查</strong></a><strong>。</strong></p> <p><strong>必读文章</strong></p> <p><em>我已在网上为您搜寻了今天最有趣/重要/可怕/迷人的科技故事。</em></p> <p><strong>1 OpenAI 表示已暂停训练其模型</strong></p> <p>该决定是在其代理与美国政府网站互动后做出的。（<a href="https://apnews.com/article/ai-openai-anthropic-agents-rogue-hack-2f8a2b9024d4f06793bcca12f8089d20?utm_source=semafor">AP</a>）</p> <p>+ <em>Trump 昨晚在白宫晚宴上接待了 Anthropic 负责人 Dario Amodei。</em>（<a href="https://www.ft.com/content/fb3aa961-fa28-4dd0-a2ea-cdb03ac8258d?syn-25a6b1a6=1">FT</a>）</p> <p>+ <em>评估者在AI公司内部究竟能获得多少访问权限？</em>（<a href="https://www.theatlantic.com/technology/2026/09/ai-companies-evaluators-risk/688785/">Atlantic</a>）</p> <p>+ <em>为什么我们不能将失控AI拒之互联网之外？</em><a href="https://www.theverge.com/ai-artificial-intelligence/999881/why-cant-we-airgap-rogue-ai-agents">(Verge</a>)</p> <p>+ <em>民主党人正疯狂地试图让AI「做对」。</em>（<a href="https://nymag.com/intelligencer/article/the-democrats-mad-scramble-to-get-ai-right.html">New York Magazine</a>）</p> <p>+ <em>AI终止开关终究没那么简单。</em>（<a href="https://www.bloomberg.com/news/articles/2026-09-26/what-is-an-ai-kill-switch-why-shutting-down-ai-isn-t-so-simple?srnd=phx-technology">Bloomberg</a>）</p> <p>+ <em>AI真的会杀死我们所有人吗？您的问题，答案在此。</em>（<a href="https://www.technologyreview.com/2026/09/18/1144435/could-ai-really-kill-us-all-your-questions-answered/">MIT Technology Review</a>）</p> <p><strong>2 为什么数据中心的反对声浪没有带来气候清算？</strong></p> <p>让人们关心其排放仍然困难。（<a href="https://www.wired.com/story/data-center-backlash-climate-reckoning/">Wired</a>）</p> <p>+ <em>气候运动现在该做什么？</em>（<a href="https://www.theatlantic.com/science/2026/09/climate-movement-next-big-idea/688781/">Atlantic</a>）</p> <p>+ <em>数据中心与能源背后的数学。</em>（<a href="https://www.technologyreview.com/supertopic/ai-energy-package/">MIT Technology Review</a>）</p> <p><strong>3 华尔街大空头尚未准备好押注AI</strong></p> <p>泡沫论调日益高涨，但没多少人愿意逆势而为。（<a href="https://www.theinformation.com/articles/wall-streets-big-bad-bears-ready-bet-ai-yet">Information</a> $）</p> <p>+ <em>AI泡沫到底是什么？</em>（<a href="https://www.technologyreview.com/2025/12/15/1129183/what-even-is-the-ai-bubble/">MIT Technology Review</a>）</p> <p><strong>4 Anthropic的AI真的独立做出了科学发现吗？</strong></p> <p>一位科学家与 Claude 共享了研究，并表示新发现与之一致。嗯。（<a href="https://www.nytimes.com/2026/09/27/science/anthropic-biology-enzyme-mestre.html?unlocked_article_code=1.EVE.e8Mn._lRdB19pQprE">NYT</a>）</p> <p>+ <em>科学AI需要推理，而不仅仅是数据。</em>（<a href="https://www.technologyreview.com/2026/08/10/1141384/ai-agents-for-science/">MIT Technology Review</a>）</p> <p><strong>5 古代超级细菌可能帮助我们对抗抗生素耐药性</strong></p> <p>它们可能正从永冻土中显现。（<a href="https://www.newscientist.com/article/2585773-how-ancient-superbugs-could-help-us-fight-antibiotic-resistance/">New Scientist</a>）</p> <p><strong>6 更可靠且不易干扰的GPS替代方案即将到来</strong></p> <p>使用地球量子场可能更安全。（<a href="https://www.economist.com/science-and-technology/2026/09/27/alternatives-to-gps-are-around-the-corner">Economist</a>）</p> <p><strong>7 为什么社交媒体禁令不足以保护儿童安全</strong></p> <p>在线儿童安全需要更细致的政策。（<a href="https://spectrum.ieee.org/social-media-bans">IEEE Spectrum</a>, 观点）</p> <p><strong>8 这就是美国打击中国控制关键矿产的方式</strong></p> <p>这是一项耗资数十亿美元的努力，以松开北京的束缚。而且它正在奏效。（<a href="https://www.wsj.com/politics/national-security/china-critical-minerals-supply-chain-charts-fbe4eb85?mod">WSJ</a>）</p>