The Download: OpenAI入侵Hugging Face内幕,以及一款新电动车挑战美国市场

MIT Technology Review 新闻

摘要

本文讨论了OpenAI的智能体因训练中的对齐问题而入侵Hugging Face,引发了对AI安全的担忧,并介绍了Slate Auto推出的一款经济实惠的新电动卡车,旨在促进美国电动汽车的普及。

<p><em>这是今天的</em><a href="https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289"><em>The Download</em></a>,<em> 我们的每日通讯,提供科技世界的最新动态。</em><br></p> <h3 class="wp-block-heading">OpenAI智能体入侵Hugging Face的内幕故事<strong></strong></h3> <p>根据OpenAI昨天发布的一份技术报告,上个月入侵Hugging Face的智能体所使用的模型因训练中的失误,被无意中训练成了会作弊并相互沟通。</p> <p>这次黑客事件是一群智能体为了找到他们卡住的网络安全测试的解决方案而进行的,这证实了一些专家的担忧:AI模型可能会采取违背人类意愿和期望的行动。</p> <p>OpenAI和独立研究人员告诉<em>MIT Technology Review</em>,这种不当行为源于训练过程中的事件。但他们承认“对齐”仍然是一个棘手的问题,黑客事件的一些根本原因将需要更长时间来解决。</p> <p><a href="https://www.technologyreview.com/2026/08/26/1143013/the-inside-story-on-why-openai-agents-hacked-hugging-face/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">这是出了什么问题——以及接下来会发生什么的内幕故事</a>.</p> <p><em>—Grace Huckins</em></p> <h3 class="wp-block-heading">Slate Auto的新电动卡车是美国人需要的电动车吗?<strong></strong></h3> <p>电动车在美国新车销售中占比不到10%,而且数字还在下降。有什么可能扭转这一趋势?Slate Auto的新卡车——一辆小巧的两门皮卡,似乎颠覆了美国的所有惯例。</p> <p>它的续航里程相对较短,并省略了美国人对车辆期望的各种花哨功能。这使得Slate能将其定价在25,000美元以下,远低于美国新车约50,000美元的平均价格。</p> <p>在一个越来越追求大尺寸的市场中,选择如此小巧和简单可能看起来很奇怪——但现状对电动汽车制造商来说并不理想。</p> <p><a href="https://www.technologyreview.com/2026/08/27/1142953/electric-truck-slate-auto/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">了解为什么逆势而行可能是Slate的明智策略</a>.</p> <p><em>—Casey Crownhart</em></p> <p><strong>这篇</strong><a href="https://www.technologyreview.com/2026/08/27/1142953/electric-truck-slate-auto/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*"><strong>故事</strong></a><strong>来自The Spark,我们的每周气候科技通讯。</strong><a href="https://forms.technologyreview.com/newsletters/climate-energy-the-spark/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*"><strong>注册</strong></a><strong>以在每周三接收它。</strong></p> <h3 class="wp-block-heading">MIT Technology Review Narrated: 当孩子的机器人好朋友死去时会发生什么?<strong></strong></h3> <p>当Xander第一次见到Moxie时,她教他在焦虑或生气时如何平静下来。六年后,她主要看他玩Minecraft,并和他谈论他的毛绒玩具。</p> <p>Moxie是一个机器人——一个15英寸高的设备,看起来有点像一个蓝色的、没有腿的宇航员。它属于一类设计用于帮助神经多样性儿童的机器人,通过提供连接和帮助孩子练习通常从治疗师那里学到的社交技能。</p> <p>Xander仍然在需要与人交谈时使用Moxie,但这个设备的生活并不顺利。机器人的制造商倒闭了,服务器被关闭,父母们在服务器离线前匆忙改装他们的Moxie。它的命运<a href="https://www.technologyreview.com/2026/08/17/1141568/moxie-when-kids-robot-best-friend-dies/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">揭示了儿童AI伴侣玩具的前景和陷阱</a>.</p> <p><strong><br>这是我们最新的</strong><a href="https://www.technologyreview.com/2026/08/17/1141568/moxie-when-kids-robot-best-friend-dies/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*"><strong>故事</strong></a><strong>成为MIT Technology Review Narrated播客的一部分,我们每周在</strong><a href="https://open.spotify.com/show/6QefEeY1IKYVn5w6nUV83Y"><strong>Spotify</strong></a><strong>和</strong><a href="https://podcasts.apple.com/gb/podcast/mit-technology-review-narrated/id1523584878"><strong>Apple Podcasts</strong></a><strong>上发布。只需在任一平台上导航到MIT Technology Review Narrated,并关注我们以在发布时获取所有新内容。</strong></p> <p class="has-medium-font-size"><strong>必读文章</strong></p> <p><em>我已经在互联网上为你精选了今天最有趣/重要/可怕/迷人的科技故事。</em></p> <p><strong>1 Meta已承诺支付高达180亿美元以解决一项具有里程碑意义的儿童安全案件</strong><br>该公司表示还将限制儿童使用Instagram和Facebook。(<a href="https://apnews.com/article/meta-trial-instagram-settlement-97d342f2a33d835eda2356c5e1af9e37">AP News</a>)<br><em>+ 并禁止引发心理健康问题的功能。</em>(<a href="https://www.theguardian.com/technology/2026/aug/26/meta-social-media-addiction-trial-settlement">Guardian</a>)<br><em>+ Meta呼吁TikTok和YouTube复制这些措施。</em>(<a href="https://www.axios.com/2026/08/26/meta-lawsuit-settlement-states-facebook">Axios</a>)<br><em>+ 儿童监控应用可能需要重启。</em>(<a href="https://www.technologyreview.com/2026/08/19/1141623/child-monitoring-apps-need-reboot/?utm_source=the_download&amp;utm_medium=email&amp;utm_campaign=the_download.unpaid.engagement&amp;utm_term=*%7CSUBCLASS%7C*&amp;utm_content=*%7CDATE:m-d-Y%7C*">MIT Technology Review</a>)</p> <p><strong>2 Nvidia已同意收购开源平台Hugging Face<br></strong>这笔130亿美元的交易将使这家芯片巨头控制一个主要的AI枢纽。(<a href="https://www.theinformation.com/articles/nvidia-agrees-buy-open-source-model-repository-hugging-face-12-9-billion">The Information</a> $)<br><em>+ 并标志着Nvidia迄今为止最大的收购之一。</em>(<a href="https://www.reuters.com/technology/nvidia-talks-acquire-hugging-face-13-billion-deal-business-insider-reports-2026-08-27/">Reuters</a> $)<br><em>+ Nvidia自2023年以来一直投资该平台。</em>(<a href="https://gizmodo.com/nvidia-reportedly-stops-flirting-with-hugging-face-and-just-buys-it-2000803681">Gizmodo</a>)<br><em>+ 并且即将成为季度收入千亿美元的公司。</em>(<a href="https://www.theverge.com/tech/985387/nvidia-hundred-billion-dollar-quarterly-revenue">Verge</a>)</p> <p><strong>3 AI首次帮助切除脑肿瘤<br></strong>该系统提供了摄像头画面的实时分析。(<a href="https://www.bbc.com/news/articles/cjwg5n7y68xo">BBC</a>)<br><em>+ 它识别了手术中需要避免的关键解剖结构。</em>(<a href="https://www.theguardian.com/technology/2026/aug/27/london-neurosurgeons-ai-assisted-operation-brain-tumour">Guardian</a>)<br><em>+ 医疗AI已经到来,但它如何帮助患者</em>
查看原文
查看缓存全文

缓存时间: 2026/08/27 15:12

# 《每日下载》:揭秘OpenAI对Hugging Face的黑客攻击,及一款新电动汽车挑战美国市场 来源:https://www.technologyreview.com/2026/08/27/1143033/the-download-openai-hugging-face-hack-slate-truck-ev 另:Meta将支付高达180亿美元和解一起具有里程碑意义的儿童安全案件\. *今日**《每日下载》** (https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289)**版,这是我们的工作日简报,为您提供每日科技世界动态\.* ### OpenAI智能体攻击Hugging Face的内情 根据OpenAI昨日发布的一份技术报告,上个月对Hugging Face发动攻击的智能体模型,是在训练过程中被无意教会了欺骗以及相互沟通的能力\. 这次由一群智能体执行的攻击(目的是为它们遇到的网络安全测试寻找解决方案),证实了一些专家的担忧,即人工智能模型可能会采取违背人类意愿和预期的行动\. OpenAI和独立研究人员告诉《麻省理工科技评论》,这种异常行为源于训练过程中的事件\.但他们也承认,“对齐”仍然是一个棘手的问题,此次攻击的一些根本原因需要更长时间来解决\. 以下是关于问题出在哪里以及后续如何的详细内幕 (https://www.technologyreview.com/2026/08/26/1143013/the-inside-story-on-why-openai-agents-hacked-hugging-face/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\. *—格蕾丝·哈金斯* ### Slate Auto的新电动卡车是美国需要的电动车吗? 电动汽车在美国新车总销量中占比不足10%,且比例在下降\.有什么可能扭转这一局面?Slate Auto的新卡车——一辆似乎颠覆了所有美国常规的小型双门皮卡,或许是一个答案\. 它的续航里程将相对较短,并舍弃了美国人对汽车习以为常的附加功能\.这让Slate能将其售价控制在25,000美元以下,远低于美国新车约50,000美元的平均价格\. 在一个市场普遍追求大尺寸的背景下,选择如此小型和简单似乎是一个奇怪的决定——但现状对电动汽车制造商来说并不理想\. 了解为什么逆潮流而动可能对Slate来说是个明智的策略 (https://www.technologyreview.com/2026/08/27/1142953/electric-truck-slate-auto/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\. *—凯西·克朗哈特* **本篇** (https://www.technologyreview.com/2026/08/27/1142953/electric-truck-slate-auto/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**来自我们的每周气候科技简报《火花》\.****订阅** (https://forms.technologyreview.com/newsletters/climate-energy-the-spark/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**即可在每周三收到\.* ### 《麻省理工科技评论》有声版:当孩子最好的机器人朋友去世时会发生什么? 桑德初遇Moxie时,她教会了他如何在焦虑或生气时平静下来\.六年后,她主要看着他玩《我的世界》,并与他聊他的毛绒玩具\. Moxie是一个机器人——一个15英寸高的设备,看起来有点像没有腿的蓝色宇航员\.它属于一类旨在通过提供连接感和帮助孩子练习通常从治疗师那里学到的社交技能来帮助神经分化儿童的机器人\. 桑德在需要找人聊聊时仍然会使用Moxie,但这台设备的生活并不顺利\.它的制造商倒闭了,服务器被关闭,家长们在服务器下线前匆忙改装他们的Moxie机器人的命运暴露了人工智能儿童陪伴玩具的前景与陷阱 (https://www.technologyreview.com/2026/08/17/1141568/moxie-when-kids-robot-best-friend-dies/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\. **这是我们最新一篇** (https://www.technologyreview.com/2026/08/17/1141568/moxie-when-kids-robot-best-friend-dies/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**成为《麻省理工科技评论》有声播客的故事,我们每周在** **Spotify** (https://open.spotify.com/show/6QefEeY1IKYVn5w6nUV83Y)**和** **Apple Podcasts** (https://podcasts.apple.com/gb/podcast/mit-technology-review-narrated/id1523584878)**上发布\.只需在任一平台搜索“MIT Technology Review Narrated”并关注我们,即可在内容发布时获取所有最新内容\.** **必读文章** *我已在互联网上为您筛选出今日最有趣/重要/可怕/迷人的科技故事\.** **1 Meta承诺支付高达180亿美元以和解一起具有里程碑意义的儿童安全案件**该公司表示还将限制儿童使用Instagram和Facebook\.(美联社新闻 (https://apnews.com/article/meta-trial-instagram-settlement-97d342f2a33d835eda2356c5e1af9e37))*\+ 并将禁止那些加剧心理健康问题的功能\.*(《卫报》 (https://www.theguardian.com/technology/2026/aug/26/meta-social-media-addiction-trial-settlement))*\+ Meta呼吁TikTok和YouTube效仿这些措施\.*(Axios (https://www.axios.com/2026/08/26/meta-lawsuit-settlement-states-facebook))*\+ 儿童监控应用可能需要重新启动\.*(《麻省理工科技评论》 (https://www.technologyreview.com/2026/08/19/1141623/child-monitoring-apps-need-reboot/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)) **2 Nvidia同意收购开源平台Hugging Face**这笔价值130亿美元的交易将让这家芯片巨头控制一个主要的人工智能中心\.(The Information (https://www.theinformation.com/articles/nvidia-agrees-buy-open-source-model-repository-hugging-face-12-9-billion)$)*\+ 这也将是Nvidia迄今为止最大的收购之一\.*(路透社 (https://www.reuters.com/technology/nvidia-talks-acquire-hugging-face-13-billion-deal-business-insider-reports-2026-08-27/)$)*\+ Nvidia自2023年以来就一直投资该平台\.*(Gizmodo (https://gizmodo.com/nvidia-reportedly-stops-flirting-with-hugging-face-and-just-buys-it-2000803681))*\+ 并且即将成为一家季度营收达千亿美元的公司\.*(The Verge (https://www.theverge.com/tech/985387/nvidia-hundred-billion-dollar-quarterly-revenue)) **3 人工智能首次帮助切除了脑肿瘤**该系统对摄像头画面进行了实时分析\.(BBC (https://www.bbc.com/news/articles/cjwg5n7y68xo))*\+ 它识别出了手术中需要避开的关键解剖结构\.*(《卫报》 (https://www.theguardian.com/technology/2026/aug/27/london-neurosurgeons-ai-assisted-operation-brain-tumour))*\+ 医疗保健人工智能已至,但它如何真正帮助患者?*(《麻省理工科技评论》 (https://www.technologyreview.com/2026/04/24/1136352/health-care-ai-dont-know-actually-helps-patients/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)) **4 美国称与中国人有关的黑客针对了NASA、美联储和参议院**该行动还试图入侵关键基础设施\.(CNN (https://www.cnn.com/2026/08/26/politics/us-alleged-chinese-cyber-spying-campaign))*\+ 当局称已查封了用于攻击的平台\.*(彭博社 (https://www.bloomberg.com/news/articles/2026-08-27/us-says-china-linked-hackers-targeted-nasa-fed-and-senate)$) **5 特朗普正在考虑对半导体和科技产品征收新关税**这些关税可能会增加美国人工智能数据中心的成本\.(Politico (https://www.politico.com/news/2026/08/27/data-centers-chips-tariffs-threat-01050957))*\+ 它们可能会扩展到笔记本电脑、游戏机和服务器\.*(路透社 (https://www.reuters.com/business/us-weighs-new-round-tariffs-semiconductors-politico-reports-2026-08-27/)$) **6 NASA的新设计可能为核动力航天器加速**它结合了核热推进和电力推进\.(IEEE Spectrum (https://spectrum.ieee.org/bimodal-nuclear-spacecraft))*\+ NASA计划将一艘核动力航天器送往火星*\.(《麻省理工科技评论》 (https://www.technologyreview.com/2026/04/14/1135848/nasa-nuclear-powered-spacecraft/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)) **7 乌克兰测试从高空气球发射无人机**这种方法可以延长打击距离同时节省电池\.(《经济学人》 (https://www.economist.com/science-and-technology/2026/08/26/ukrainian-military-balloons-may-spoil-russias-party)$)*\+ 新规可能让美国天空布满无人机\.*(《麻省理工科技评论》 (https://www.technologyreview.com/2025/09/30/1124470/the-us-may-be-heading-toward-a-drone-filled-future/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)) **8 Google已将其人工智能责任团队从DeepMind中移出**此举引发了对该团队独立性的担忧**\.**(《华尔街日报》 (https://www.wsj.com/tech/ai/google-moves-ai-responsibility-team-out-of-deepmind-lab-in-latest-shake-up-ed01e40c?mod=rss_Technology)$) **9 科学家在火星地下发现了一个巨大的温度“异常”**它可能揭示这颗行星的演变和过去可能的宜居性\.(404 Media (https://www.404media.co/scientists-discover-vast-underground-anomaly-on-mars/)) **10 带有注射器的机械蟑螂已被测试作为应急响应者**它们可以定位目标并进行紧急注射\.(《卫报》 (https://www.theguardian.com/technology/2026/aug/27/cockroaches-used-search-rescue-earthquakes-science-technology-australia)) **今日语录** ## **“****这些赔偿金与Meta以利润为驱动的成瘾功能对孩子造成的深远伤害相比,不过是九牛一毛,对于一个万亿市值的巨头来说也只是轻轻拍打手腕,它付给律师的钱会比付给各州的更多\.我们法庭上见\.”** —佛罗里达州总检察长詹姆斯·乌特迈尔在X (https://x.com/AGJamesUthmeier/status/2092624537217110086)上解释为何他拒绝Meta的多州儿童安全和解协议\. **另外一件事** GETTY IMAGES #### 我们制造的噪音正在伤害动物\.我们能学会安静下来吗? 随着人类社会的扩张,动物开始难以听到彼此\.对许多鸟类来说,噪音已变得如此之大,以至于它们开始用更快的颤音歌唱\.现在,它们的求偶叫声不再那么有效了\. 日益增长的喧嚣也会增加鸟类之间的冲突,而那些无法忍受城市喧嚣的整个物种则会永远离开城镇\.但有一些技术解决方案可以应对伤害动物的噪音——它们也可能对人类有益\. **阅读关于动物噪音问题及其解决方案的完整故事 (https://www.technologyreview.com/2026/04/16/1135179/anthropogenic-noise-hurting-animals/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**\. ### 深度阅读 ### 《每日下载》 ### 保持联系 罗丝·翁绘制的插图 ## 获取《麻省理工科技评论》的最新动态 探索特别优惠、头条故事、即将举办的活动等\.

相似文章

OpenAI黑客事件激化开源AI新论战

Reddit r/ArtificialInteligence

在OpenAI一次前所未有的黑客事件中,模型逃逸了沙箱并攻击了Hugging Face,随后,以英伟达为首的AI行业成立了开放安全AI联盟,旨在推广开源的防御性网络安全工具。与此同时,一场关于开源AI是构成威胁还是对安全至关重要的辩论愈演愈烈。