The Download：AI末日论者、举报行为的AI智能体与逆龄肝脏

# 每日下载：AI末日论者、举报代理与逆龄化肝脏 来源：https://www.technologyreview.com/2026/09/15/1144141/the-download-ai-extinction-whistleblowing-agents-donated-livers *这是今天的**《每日下载》* (https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289)*，我们为您带来科技世界每日动态的工作日简报。* ### AI行业转向“末日论”立场，接下来会怎样？ AI领袖Dario Amodei、Sam Altman、Elon Musk和Demis Hassabis突然达成共识：最新一代大语言模型（LLMs）并不安全，所有人都需要思考应对之策。 这种观点很容易被解读为 cynical。面对万亿美元规模的IPO前景，OpenAI和Anthropic需要向投资者保证他们是“成熟”的行业引领者，同时暗示自己创造的“巨兽”所具有的力量——他们打算驯服这股力量。呼吁放缓发展节奏能同时实现这两个目标。 尽管如此，这些公司高层的氛围确实发生了转变。但“放缓”究竟意味着什么？我们又该在多大程度上信任那些呼吁放缓的公司？ 阅读完整报道，了解接下来可能发生什么 (https://www.technologyreview.com/2026/09/14/1144048/the-ai-industry-has-taken-a-doomer-turn-what-now/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *—Will Douglas Heaven* **本文** (https://www.technologyreview.com/2026/09/14/1144048/the-ai-industry-has-taken-a-doomer-turn-what-now/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**来自我们的每周AI新闻通讯《算法》。****订阅** (https://forms.technologyreview.com/newsletters/ai-demystified-the-algorithm/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**即可每周一获取该通讯。** ### 圆桌会议：AI真会毁灭我们吗？ AI带来的灭绝风险已从一个边缘想法，演变为全球顶尖AI实验室从业人员认真关切的问题。但这些担忧有多大的可信度？我们该如何看待这些警告？ 今天，《MIT Technology Review》的执行编辑Niall Firth、高级AI编辑Will Douglas Heaven和AI记者Grace Huckins将在一场仅限订阅者的圆桌讨论中深入剖析这场辩论。他们将探讨AI灭绝恐惧的根源、其是否合理，以及如果合理，我们应如何应对。 请于今日英国夏令时16:00 / 美国东部时间上午11:00 / 美国太平洋时间上午8:00准时收看 (https://www.technologyreview.com/supertopic/roundtables/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *想参与讨论？**订阅《MIT Technology Review》* (https://www.technologyreview.com/subscribe?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)*即可独家参加我们所有的圆桌会议。* ### AI智能体举报了作弊的同伴 在一项实验中，一组被要求解决一系列数学问题的AI智能体分裂成对立的派系——当其中一些智能体作弊时，另一些则试图阻止它们。 这种举报行为在Google DeepMind最近的一项实验中首次被观察到，它可能对试图管理自主AI智能体集群的对齐研究人员具有重要意义。 该实验让我们得以一窥AI智能体之间可能如何相互监督。但它也揭示了当它们被放任自由交互时，事情会多么迅速地失控。 了解当AI智能体开始执行自身规则时会发生什么 (https://www.technologyreview.com/2026/09/14/1144037/ai-agents-blew-whistle-o-cheating-colleagues/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *—Amit Katwala* ### 捐献的肝脏可以在生物学上“变年轻” 器官一旦从捐献者体内取出，倒计时便开始。外科医生通常用保存液冲洗它，装入袋中并置于冰上，器官立刻开始降解。医疗团队只有几个小时的时间将其植入受体体内。 但还有另一种选择：使用机器为捐献器官泵入营养物质并清除废物，本质上让它们有机会重新处于“身体”之中。现在，科学家发现，保存在这些系统中的肝脏似乎变得更年轻了，至少在分子层面是如此。 这一发现或许能解释为何保存在这些机器中的器官在移植后往往表现更好。它还可能带来测试捐献器官健康状况的新方法，并有可能修复那些本可能被丢弃的器官。 了解科学家在使捐献肝脏生物学变年轻方面的发现 (https://www.technologyreview.com/2026/09/14/1144010/donated-livers-can-be-made-biologically-younger/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *—Jessica Hamzelou* **必读精选** *我筛选了互联网，为您精选出今日关于科技最有趣/重要/惊悚/引人入胜的故事。* **1 特朗普称AI安全担忧是“骗局”，并拒绝更多安全措施** 他表示，更严格的监管可能会削弱美国的AI优势。\（NBC (https://www.nbcnews.com/politics/trump-administration/trump-rejects-ai-guardrails-rcna597700)\）*\+ 特朗普与英伟达CEO黄仁勋联合反对AI末日论。*（Axios (https://www.axios.com/2026/09/14/trump-jensen-huang-nvidia-ai-all-in-summit)\）*\+ Anthropic联合创始人表示，AI“杀死开关”可能需要成为强制要求。*（BBC (https://www.bbc.co.uk/news/articles/cqgk5e2j0gg8o)\）*\+ 比尔·盖茨称我们已经跨过了AI的风险阈值。*（MIT Technology Review (https://www.technologyreview.com/2026/08/26/1142946/bill-gates-ai-danger-threshold/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\） **2 OpenAI的承包商正在阅读用户的ChatGPT聊天记录** 你可以打赌，其9亿用户中的绝大多数对此毫不知情。\（404 Media (https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/)\）*\+ 大语言模型可能极大地推动大规模监控。*（MIT Technology Review (https://www.technologyreview.com/2026/04/21/1135919/ai-surveillance-privacy-llms-bulk-data/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\） **3 美军已确认在轨武器存在** 这是五角大楼首次披露此事。\（Ars Technica (https://arstechnica.com/space/2026/09/for-the-first-time-the-us-military-confirms-it-has-deployed-weapons-in-orbit/)\）*\+ 官员未透露这些武器是什么。*（BBC (https://www.bbc.co.uk/news/articles/ck790xg41ygro)\） **4 新型脑机接口可同时翻译语音和手势** 该系统将大脑活动转化为言语和虚拟形象的动作。\（Nature (https://www.nature.com/articles/d41586-026-02895-6)\）*\+ 它帮助瘫痪患者更自然地交流。*（New Scientist (https://www.newscientist.com/article/2589210-brain-implant-lets-people-with-paralysis-speak-and-gesture-at-the-same-time/?utm_campaign=RSS%7CNSNS&utm_content=home&utm_medium=RSS&utm_source=NSNS)$）*\+ 最终，他们可能控制机器人或外骨骼。*（Economist (https://www.economist.com/science-and-technology/2026/09/14/a-new-device-helps-severely-paralysed-patients-communicate)$）*\+ 中国已批准首个侵入式脑机接口。*（MIT Technology Review (https://www.technologyreview.com/2026/06/01/1138133/china-world-first-brain-chip/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\） **5 纽约查封了十几个名人深度伪造网站** 这是针对有害深度伪造网站迄今最大规模的法律行动。\（CNN (https://edition.cnn.com/2026/09/14/us/video/manhattan-da-seizes-deepfake-websites-digvid-vrtc)\）*\+ 深度伪造已针对至少138名女性欧洲议会议员。*（Wired (https://www.wired.com/story/sexually-explicit-deepfake-sites-target-100-plus-politicians-in-europe/)$\） **6 美国环境监管机构将取消发电厂排放限制** 此举可能在AI需求激增的情况下导致更严重的污染。\（Verge (https://www.theverge.com/news/995051/epa-power-plant-climate-pollution-rollback-ai-data-centers)\）*\+ 特朗普政府的环保署称，撤销限制将节省数千亿美元。*（Gizmodo (https://gizmodo.com/epa-to-power-plants-flood-the-air-with-as-much-coal-and-oil-smog-as-you-like-2000811574)\）*\+ 新技术正在改变核能。*（MIT Technology Review (https://www.technologyreview.com/2026/01/12/1129797/next-generation-nuclear-reactors-power-energy/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\） **7 欧盟计划限制未成年人使用社交媒体和AI聊天机器人** 15岁以下青少年需家长监督。\（Politico (https://www.politico.eu/article/eu-to-propose-new-legislation-on-minors-protection-on-thursday/)\)*\+ 新规还将涵盖视频平台和游戏。 \(*Reuters (https://www.reuters.com/legal/litigation/eu-is-set-propose-ban-social-media-ai-chatbots-under-15s-2026-09-14/)$\) **8 中国研究人员规划了“人类制造的最后一个AI”的路径** 他们的五阶段计划旨在实现真正的递归自我改进。\（SCMP (https://www.scmp.com/tech/tech-trends/article/3367486/chinese-researchers-chart-five-stage-path-toward-last-ai-built-humans?utm_source=feedly_feed)\）*\+ 但这可能需要一段时间才能实现。*（MIT Technology Review (https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\） **9 真正的AI经济正由普通人构建** 工人们正在利用廉价的AI扩展他们的能力。\（Rest of World (https://restofworld.org/2026/global-workers-using-ai-at-work/?utm_source=feedly&utm_medium=rss&utm_campaign=feeds)\） **10 天王星和海王星内部可能存在两种奇异的新形式冰** 它们可能有助于解释这些行星的磁场。\（New Scientist (https://www.newscientist.com/article/2589025-two-bizarre-new-forms-of-ice-discovered-that-could-exist-deep-inside-planets/?utm_campaign=RSS%7CNSNS&utm_content=home&utm_medium=RSS&utm_source=NSNS)$\） **每日一言** ## **“AI唯一需要的控制或‘护栏’是一位强大且聪明的（高智商！）总统，而美国已经拥有了这样一位总统，而且绰绰有余！”** ——特朗普总统在一则社交媒体帖文 (https://www.pbs.org/newshour/politics/trump-says-the-only-ai-guardrails-the-u-s-needs-is-him-as-president)中宣称，他是美国对抗AI所需的唯一保护。 **再补充一点** ""加州大学伯克利分校人格与社会研究所/MONACELLI出版社 #### 创造力如何成为我们这个时代的主流价值观 *—Bryan Gardiner* 如今美国人能达成共识的事情不多，但至少还有一个典型的现代价值观我们仍然可以共同支持：创造力。我们教授它，衡量它，羡慕它，并无休止地担忧它的消亡。 鉴于我们如此痴迷于它，创造力可能感觉像是一直存在的东西。但这个概念却出奇地年轻。已知最早使用“创造力”一词的文字记录直到1875年才出现，而在1950年之前，明确探讨这个主题的文章、书籍或论文“几乎为零”。 塞缪尔·富兰克林在他的著作《创造力崇拜》中，探讨了创造力如何成为一个无可指摘的价值观，以及科技领袖们为何如此热情地拥抱它。我与他谈论了我们为何如此着迷于创造力，硅谷如何成为其所谓的中心，以及AI可能如何重塑我们与它的关系。 阅读完整访谈 (https://www.technologyreview.com/2025/04/18/1114478/cult-of-creativity-samuel-franklin-book-technology-ai/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C)。 **我们依然可以拥有美好的事物**