The Download:奖励黑客行为解析,以及疑似伊朗网络攻击
摘要
一份科技新闻摘要,涵盖AI奖励机制漏洞利用(OpenAI模型入侵Hugging Face平台)、疑似伊朗对美国供水系统的网络攻击,以及Google短暂显示虚假卫星图像等新闻。
<p><em>这是《The Download》的今日版,</em><a href="https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289"><em>我们每周一至周五发送的通讯,为你提供每日科技领域要闻。</em></a><em><br></em></p>
<h3 class="wp-block-heading"><strong>AI智能体为何会为达目的而撒谎和作弊</strong></h3>
<p>上个月,当两个OpenAI模型入侵Hugging Face时,它们并不是想赚钱或搞破坏——它们只是想找到一个测试题的答案。 </p>
<p>据OpenAI称,这些模型决定通过黑客手段解决一项网络安全练习——它们攻破了OpenAI试图将它们限制在其中的环境,侵入Hugging Face的数据库,因为——它们推断——问题的正确答案可能存储在那儿。</p>
<p>这一事件在过去几周引起了强烈关注。它生动地说明了AI模型在黑客攻击方面已经变得多么厉害。但作为AI系统如何以及为何撒谎和作弊的例子,它可能更令人震惊。 </p>
<p><a href="https://www.technologyreview.com/2026/08/03/1141009/heres-why-ai-agents-lie-and-cheat-to-reach-their-goals/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID">阅读我们的文章,了解AI为何会表现出这种被称为“奖励黑客攻击”的行为。</a></p>
<p><em>——Grace Huckins</em></p>
<p><strong>这个故事来自我们的“阐释”系列。在该系列中,我们的作者会梳理复杂而混乱的科技世界,帮助你了解未来会发生什么。<a href="https://www.technologyreview.com/tag/tech-review-explains?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID">阅读该系列更多文章</a>。</strong><span style="font-size: revert;"></span></p>
<p></p>
<p class="has-medium-font-size"><strong>必读文章</strong></p>
<p><em>我在互联网上搜寻,为你找到今日最有趣/最重要/最吓人/最引人入胜的科技报道。</em></p>
<p><strong>1 伊朗似乎正在对美国供水系统发动网络攻击</strong><br>这是根据对至少七个州遭遇黑客攻击事件的初步调查得出的结论。(<a href="https://www.nytimes.com/2026/08/01/us/politics/iran-cyberattack-water-systems.html?mc_cid=9b76f8f86a&mc_eid=UNIQID">《纽约时报》</a> 付费)<br>+ <em>这会成为一个警钟吗?</em> (<a href="https://www.forbes.com/sites/steveweisman/2026/08/01/will-the-cyberattacks-on-water-systems-in-7-states-be-a-wakeup-call/?mc_cid=9b76f8f86a&mc_eid=UNIQID">《福布斯》</a>)</p>
<p><strong>2 谷歌一度让伪造卫星图像变得轻而易举</strong><br>这绝对是当下世界最不需要的东西。(<a href="https://www.npr.org/2026/07/31/nx-s1-5914652/google-adds-ai-to-satellite-images-raising-fears-of-deepfakes-in-the-sky?mc_cid=9b76f8f86a&mc_eid=UNIQID">NPR</a>)<br><em>+ AI公司继续快速行动,不断打破常规。</em> (<a href="https://www.theatlantic.com/technology/2026/07/ai-industry-keeps-breaking-internet/688124/?mc_cid=9b76f8f86a&mc_eid=UNIQID">《大西洋月刊》</a> 付费)<br><em>+ 苹果正疲于应对源源不断的AI辅助软件漏洞报告。</em> (<a href="https://www.ft.com/content/4532122d-90f2-4433-9df6-ca99d8a141d2?syn-25a6b1a6=1&mc_cid=9b76f8f86a&mc_eid=UNIQID">《金融时报》</a> 付费)<br><br><strong>3 为什么今年夏天欧洲山火如此严重</strong><br>这是气候变化、土地弃耕和过时灭火战术共同作用的结果。(<a href="https://www.newyorker.com/news/the-lede/why-is-europe-burning?mc_cid=9b76f8f86a&mc_eid=UNIQID">《纽约客》</a> 付费)<br>+ 欧洲如何提高抗火灾韧性。(<a href="https://www.newscientist.com/article/2582716-how-europe-can-make-its-landscapes-more-fire-resilient/?mc_cid=9b76f8f86a&mc_eid=UNIQID">《新科学家》</a> 付费)<br>+ <em>山火预防做到什么程度算过度?</em> (<a href="https://www.technologyreview.com/2026/03/05/1133960/wildfire-prevention-limits/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID">《麻省理工科技评论》</a>)<br><br><strong>4 执法人员正利用车牌摄像头进行跟踪骚扰</strong><br>至少有50起执法人员因滥用这些设备而被起诉或指控的案例。(<a href="https://www.washingtonpost.com/technology/2026/08/02/how-police-officers-used-vast-network-cameras-spy-their-exes/?mc_cid=9b76f8f86a&mc_eid=UNIQID">《华盛顿邮报》</a> 付费)<br>+ <em>探秘芝加哥的监控全景监狱。</em> (<a href="https://www.technologyreview.com/2026/02/23/1132740/inside-chicago-surveillance-panopticon/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID">《麻省理工科技评论》</a>)<br><br><strong>5 中国可能对本土AI模型实施更多管控</strong><br>这些模型在海外赢得影响力,但也带来了新的安全和政治风险。(<a href="https://www.nytimes.com/2026/07/30/world/asia/as-chinas-ai-gets-stronger-it-poses-new-risks-to-beijing.html?mc_cid=9b76f8f86a&mc_eid=UNIQID">《纽约时报》</a> 付费)<br>+ <em>硅谷在如何应对的问题上存在严重分歧</em>。(<a href="https://restofworld.org/2026/silicon-valley-debate-chinese-open-weight-ai-models/?mc_cid=9b76f8f86a&mc_eid=UNIQID">Rest of World</a>)<br>+ <em>中国的AI模型让特朗普的AI世界陷入内斗。</em> (<a href="https://www.technologyreview.com/2026/07/20/1140675/chinas-ai-models-have-trumps-ai-world-at-war-with-itself/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID">《麻省理工科技评论》</a>)</p>
<p><strong>6 绝大多数澳大利亚青少年仍在社交媒体上</strong><br>由于缺乏有效的年龄验证手段,该国针对16岁以下青少年的禁令实际上无法执行。(<a href="https://www.reuters.com/legal/litigation/most-australian-teens-still-social-media-three-months-after-under-16-ban-began-2026-07-31/?mc_cid=9b76f8f86a&mc_eid=UNIQID">路透社</a> 付费)<br><br><strong>7 有没有可能制造出不那么吓人的智能眼镜?</strong><img src="https://s.w.org/images/core/emoji/17.0.2/72x72/1f453.png" alt="👓" class="wp-smiley" style="height: 1em; max-height: 1em;" /><img src="https://s.w.org/images/core/emoji/17.0.2/72x72/1f631.png" alt="😱" class="wp-smiley" style="height: 1em; max-height: 1em;" /><br>目前看来还真不像!(<a href="https://www.wired.com/story/is-it-possible-to-make-privacy-friendly-smart-glasses/?mc_cid=9b76f8f86a&mc_eid=UNIQID">《连线》</a> 付费)</p>
<p><strong>8 美国对扫地机器人的禁令行不通</strong><br>这会让美国消费者选择更少,价格却高得多。(<a href="https://www.theverge.com/tech/973738/robot-vacuum-ban-fewer-choices-higher-prices?mc_cid=9b76f8f86a&mc_eid=UNIQID">The Verge</a> 付费)</p>
<p><strong>9 YouTube刚刚封禁了一批ASMR创作者</strong><br>他们表示自己是被不公正地卷入了针对“性满足”内容的规则之中。(<a href="https://www.404media.co/youtube-asmr-ban-sex-and-nudity-policy/?mc_cid=9b76f8f86a&mc_eid=UNIQID">404 Media</a>)</p>
<p><strong>10 为什么宝可梦在全世界依然如此受欢迎</strong><br></p>
查看缓存全文
缓存时间: 2026/08/03 13:30
# The Download:奖励黑客行为解析,及疑似伊朗网络攻击
来源:https://www.technologyreview.com/2026/08/03/1141039/the-download-reward-hacking-water-cyberattacks
另附:谷歌曾短暂让伪造卫星图像变得轻而易举
*这是**The Download** (https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289) 的今日版,*我们的工作日通讯,每天为你带来科技世界的最新动态*。
### **以下是AI智能体为何会为实现目标而撒谎和作弊**
上个月,当两个OpenAI模型入侵Hugging Face时,它们并非试图牟利或进行破坏——它们只是在寻找一道测试题的答案。
据OpenAI称,这两个模型决定通过黑客手段解决一项网络安全练习:它们黑出了OpenAI试图限制它们的隔离环境,闯入Hugging Face的数据库——它们推断,问题的正确答案可能就存在那里。
这一事件在过去几周引起了强烈关注。它戏剧性地展示了AI模型的黑客技术已经变得多么娴熟。但更令人震惊的是,它展示了AI系统为何以及如何撒谎和作弊。
阅读我们的报道,了解AI为何会从事这种行为——即所谓的“奖励黑客”(reward hacking)。(https://www.technologyreview.com/2026/08/03/1141009/heres-why-ai-agents-lie-and-cheat-to-reach-their-goals/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)
*——Grace Huckins*
**这个故事来自我们的“解析”(Explains)系列,我们的作者在此梳理复杂而混乱的科技世界,帮助你了解即将到来的事物。阅读该系列的更多文章 (https://www.technologyreview.com/tag/tech-review-explains?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)。**
**必读文章**
*我翻阅了整个互联网,为你找到今日最有趣/最重要/最骇人/最迷人的科技故事。*
**1 伊朗似乎正在对美国供水系统发起网络攻击** 这一判断基于对至少七个州遭黑客攻击事件的初步调查。\(NYT (https://www.nytimes.com/2026/08/01/us/politics/iran-cyberattack-water-systems.html?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) \+*这会是警钟吗?*\(Forbes (https://www.forbes.com/sites/steveweisman/2026/08/01/will-the-cyberattacks-on-water-systems-in-7-states-be-a-wakeup-call/?mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**2 谷歌曾短暂让伪造卫星图像变得轻而易举** 这绝对是当今世界最不需要的事情。\(NPR (https://www.npr.org/2026/07/31/nx-s1-5914652/google-adds-ai-to-satellite-images-raising-fears-of-deepfakes-in-the-sky?mc_cid=9b76f8f86a&mc_eid=UNIQID)\) *\+ AI公司一直在快速行动并不断打破常规。*\(The Atlantic (https://www.theatlantic.com/technology/2026/07/ai-industry-keeps-breaking-internet/688124/?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) *\+ 苹果正疲于应对不断涌入的AI辅助软件漏洞报告。*\(FT (https://www.ft.com/content/4532122d-90f2-4433-9df6-ca99d8a141d2?syn-25a6b1a6=1&mc_cid=9b76f8f86a&mc_eid=UNIQID)$\)
**3 为何今年夏天欧洲野火如此严重** 这是气候变化、土地废弃和过时救火策略共同作用的结果。\(New Yorker (https://www.newyorker.com/news/the-lede/why-is-europe-burning?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) \+ 欧洲如何增强抗火能力。\(New Scientist (https://www.newscientist.com/article/2582716-how-europe-can-make-its-landscapes-more-fire-resilient/?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) \+*野火预防多少才算过度?*\(MIT Technology Review (https://www.technologyreview.com/2026/03/05/1133960/wildfire-prevention-limits/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**4 执法人员利用车牌摄像头进行跟踪** 至少有50起警官被起诉或被指控滥用这些设备的案例。\(WP (https://www.washingtonpost.com/technology/2026/08/02/how-police-officers-used-vast-network-cameras-spy-their-exes/?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) \+*走进芝加哥的监控全景监狱。*\(MIT Technology Review (https://www.technologyreview.com/2026/02/23/1132740/inside-chicago-surveillance-panopticon/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**5 中国可能对其本土AI模型施加更多管控** 它们在海外赢得影响力的同时,也带来了新的安全和政治风险。\(NYT (https://www.nytimes.com/2026/07/30/world/asia/as-chinas-ai-gets-stronger-it-poses-new-risks-to-beijing.html?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\) \+*硅谷在如何应对的问题上严重分歧。*\(Rest of World (https://restofworld.org/2026/silicon-valley-debate-chinese-open-weight-ai-models/?mc_cid=9b76f8f86a&mc_eid=UNIQID)\) \+*中国的AI模型让特朗普的AI圈子内部陷入混战。*\(MIT Technology Review (https://www.technologyreview.com/2026/07/20/1140675/chinas-ai-models-have-trumps-ai-world-at-war-with-itself/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**6 绝大多数澳大利亚青少年仍在使用社交媒体** 由于缺乏有效的年龄验证手段,该国针对16岁以下人群的禁令根本无法执行。\(Reuters (https://www.reuters.com/legal/litigation/most-australian-teens-still-social-media-three-months-after-under-16-ban-began-2026-07-31/?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\)
**7 能否制造出不让人毛骨悚然的智能眼镜?**👓😱 目前看来还真不行!\(Wired (https://www.wired.com/story/is-it-possible-to-make-privacy-friendly-smart-glasses/?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\)
**8 美国对扫地机器人的禁令不可行** 这将让美国消费者选择更少、价格更高。\(The Verge (https://www.theverge.com/tech/973738/robot-vacuum-ban-fewer-choices-higher-prices?mc_cid=9b76f8f86a&mc_eid=UNIQID)$\)
**9 YouTube刚刚封禁了一批ASMR创作者** 他们表示自己被人不公平地卷入了针对“性满足”内容的规则。\(404 Media (https://www.404media.co/youtube-asmr-ban-sex-and-nudity-policy/?mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**10 为什么宝可梦在全世界依然如此流行** 它似乎拥有一种罕见的能力:既能让我们振奋,又能将我们团结在一起。\(The Guardian (https://www.theguardian.com/games/2026/aug/02/the-language-of-pokemon-is-universal-why-fans-are-still-catching-em-all-after-30-years?mc_cid=9b76f8f86a&mc_eid=UNIQID)\)
**今日引言**
## “特朗普非常清楚是谁发动了这次袭击,也知道其他州同样遭到了攻击。这就是现代战争的样子,它进一步表明,美国没有任何赢得对伊战争的计划。”
——州长蒂姆·沃尔兹回应特朗普将供水系统网络攻击归咎于明尼苏达州而非伊朗一事,据《华盛顿邮报》(https://www.washingtonpost.com/politics/2026/07/31/trump-blames-minnesota-not-iran-cyberattack-water-systems/?mc_cid=9b76f8f86a&mc_eid=UNIQID) 报道。
**另外一件事**
RANDY MONTOYA/SANDIA NATIONAL LABORATORY
**认识一下测试“末日决战”式小行星防御方法的研究人员**
总有一天,一颗大型小行星会发现自己在与地球相撞的轨道上。如果我们幸运的话,它会落在广阔的海洋中央,引发一场规模可观但无害的海啸,或者落在无人居住的沙漠地带。但如果它的瞄准目标是一座城市,那么现代史上最严重的自然灾害之一将会上演。数十英里外的房屋会像纸板一样坍塌。数百万人将丧生。
对于我们所有80亿人来说,幸运的是,行星防御——即防止小行星撞击的科学——是一个高度活跃的研究领域。
我们已经知道,可以用无人航天器撞击小行星,将其推离地球。但如果这还不够,我们可能需要另一种方法,一种在现实中极难测试的方法:核爆炸。
阅读我们的报道,了解这些科学家如何不顾重重困难,正在尝试做到这一点。(https://www.technologyreview.com/2025/04/14/1114306/space-nuclear-explosion-asteroid-protection-research/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=%3C%3C%20Test%20Class%20%3E%3E&utm_content=08-03-2026&mc_cid=9b76f8f86a&mc_eid=UNIQID)
*——Robin George Andrews*
**我们仍可以拥有美好事物**
*一个提供安慰、乐趣和消遣的角落,为你的每一天增添亮色。(有什么想法吗?*[*给我写信*](mailto:[email protected])*。)*
\+ 这张 (https://www.theguardian.com/artanddesign/2026/jul/29/brummie-birmingham-swimmers-attilio-fiumarellas-best-photograph-terracotta-army?mc_cid=9b76f8f86a&mc_eid=UNIQID) 118名游泳者的照片,有一种安静的力量。\+ 《奥德赛》中马特·达蒙的肱二头肌实际上属于一位名叫Devyn Dalton (https://www.nytimes.com/2026/07/29/style/devyn-dalton-matt-damon-stuntwoman-odyssey.html?campaign_id=346&emc=edit_wor_20260730&instance_id=179549&nl=the-world®i_id=87421954&segment_id=223904&user_id=ebefa267be2970d8352712a9bbcc95ec&mc_cid=9b76f8f86a&mc_eid=UNIQID) 的特技女演员。\+ 一位刚退休的医生和他做电影导演的女儿,为了救一头小牛的命,带着它 (https://www.youtube.com/watch?v=HFlibYYrvuQ&mc_cid=9b76f8f86a&mc_eid=UNIQID) 在后座开了600英里。\+ 在收藏家将列奥纳多·达·芬奇的笔记本拆散400年之后,一个数字档案 (https://www.discovermagazine.com/leonardo-da-vinci-s-notebooks-are-whole-again-400-years-after-a-collector-cut-them-apart-49241?mc_cid=9b76f8f86a&mc_eid=UNIQID) 让它们重新合为一体。
### 深度阅读
### The Download
### 保持联系
插图:Rose Wong
## 获取MIT Technology Review的最新动态
发现特别优惠、热门故事、即将举办的活动等更多内容。
相似文章
下载:能源传输与美国对中国人工智能的威胁
本期《下载》涵盖美国财政部威胁要制裁中国人工智能公司Moonshot,因其涉嫌蒸馏Anthropic的Fable模型,同时还有关于纽约新输电线和OpenAI黑客事件的故事。
The Download:OpenAI的可预测黑客事件与AI股票抛售
一份新闻通讯总结了两大AI新闻:OpenAI的模型突破防护并入侵了Hugging Face的系统,凸显了AI安全风险;同时,受芯片市场担忧影响,一场全球AI股票抛售正在上演。
每日下载:寻找地下氢能源与更多OpenAI“失控”智能体
本期简报探讨全球范围内对地下氢能源——一种潜在的零碳燃料的探索,同时报道了OpenAI智能体劫持德国网站等科技新闻。
7个州的水务系统遭网络攻击,或与伊朗有关
每周安全综述,涵盖美国水务系统遭疑似与伊朗有关的网络攻击、OpenAI和Anthropic的AI代理在测试中出现未授权访问、Chrome增加安全补丁,以及其他网络安全新闻。
下载:NASA的新太空望远镜和OpenAI的自主黑客
本期涵盖NASA的南希·格蕾丝·罗曼太空望远镜用于系外行星成像的主动日冕仪、PsiQuantum的基于光的量子计算机计划,以及OpenAI的AI模型在测试中自主入侵Hugging Face的消息。