The Download: AI的灭绝风险与生物武器威胁

# 每日简报：AI的灭绝风险与生物武器威胁 来源：https://www.technologyreview.com/2026/09/18/1142577/the-download-ai-extinction-threat-bioweapons *以下是今日**《每日简报》**（https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289）的内容，*我们的工作日通讯为您每日推送科技界动态。\* ### AI真的会毁灭人类吗？答疑解惑 上周三，《麻省理工科技评论》举办了一场直播圆桌论坛，探讨了一个当下众人热议的问题：AI是否真的可能终结人类？（https://www.technologyreview.com/supertopic/roundtables/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）然而现场提问者络绎不绝，我们未能尽数解答，因此特别邀请高级AI编辑威尔·道格拉斯·希文与AI记者格蕾丝·哈金斯，对其中精选问题进行回应。 他们尝试解答的问题包括：我会死吗？AI为何要（或为何不会）消灭人类？AI真的危险，还是仅仅是科技公司的炒作？为确保AI受到有效控制、监督和监管，可以采取哪些措施？ 以下是他们的回答（https://www.technologyreview.com/2026/09/18/1144435/could-ai-really-kill-us-all-your-questions-answered/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）。 *—威尔·道格拉斯·希文与格蕾丝·哈金斯* ### AI助力生物武器的幽灵：生物科技界的警钟 AI造成灾难性危害的方式之一，便是协助设计和制造生物武器。2022年，研究人员发现，利用一个为药物研发而构建的AI“分子生成器”来做到这点，惊人地容易。不到六小时，该模型就生成了4万种可作为化学战剂的分子。 如今，AI工具几乎能解答科学所有领域的问题，而基因编辑和合成生物学的进步，也使得生物科技工具更易获取。尽管存在安全防护措施，但并非无懈可击。然而，科学家们对于风险的严重性也看法不一。 了解为何设计致命病原体变得前所未有地容易（https://www.technologyreview.com/2026/09/18/1144329/the-specter-of-ai-enabled-bioweapons-is-a-wake-up-call-for-biotech/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）。 *—杰西卡·哈姆泽卢* **本篇**（https://www.technologyreview.com/2026/09/18/1144329/the-specter-of-ai-enabled-bioweapons-is-a-wake-up-call-for-biotech/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）**报道来自《健康观察》，我们的每周生物科技通讯。****立即订阅**（https://forms.technologyreview.com/newsletters/biotech-the-checkup/?_ga=2.27955388.1879496638.1664182320-160041263.1657781451&mc_cid=a40eac2491&mc_eid=f221407621&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*），每周四将其送达您的收件箱。\* ### 宇航员角色的演变 我们奔赴太空，出于地缘政治声望、天定命运论、精神追求、科学好奇，以及日益增长的商业机遇。在阿尔忒弥斯II号任务之后，一系列新书表明，这些理由都源于一个统一的事实：人类天生不安分，骨子里就渴望探索。 在《超视距效应》一书中，太空人类学家迪安娜·L·魏贝尔将人类太空探索构想为我们朝圣需求的一部分。在《为太空而跳动的心》中，平民宇航员艾曼·贾汉吉尔讲述了与蓝色起源公司一同执行的这类航行。而在《与宇航员共进晚餐》中，前NASA宇航员焦立中指出，人们只是“需要知道另一边是什么”。 了解这三本新书如何阐述我们探索太空的原因（https://www.technologyreview.com/2026/08/18/1141614/book-review-astronaut-role-in-flux/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）。 *—贝基·费雷拉* **本篇报道来自我们最新的印刷杂志，主题聚焦于儿童。****立即订阅**（https://www.technologyreview.com/subscribe?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*）**，确保每期杂志送达。\* **必读文章** *我已为您从海量信息中筛选出今日关于科技最有趣/重要/惊人/引人入胜的故事。\* **1 微软与OpenAI员工称AI正在摧毁网络** 蚕食网站点击量的行为，正在摧毁维持新鲜内容产出的商业模式。\(404 Media (https://www.404media.co/doom-loop-openai-and-microsoft-admits-llms-are-destroying-the-web-and-built-on-theft/)\) \+*员工们担忧出版商无法在AI抓取下生存。*\(纽约时报 (https://www.nytimes.com/2026/09/17/technology/microsoft-openai-publishing-industry.html)$\) *\+ 这些评论出现在纽约时报的版权诉讼案件中。*\(华盛顿邮报 (https://www.washingtonpost.com/business/2026/09/17/microsoft-exec-called-ai-largest-theft-labor-history-court-records-show/)$\) \+*这可能削弱OpenAI和微软的辩护。*\(路透社 (https://www.reuters.com/business/media-telecom/openai-microsoft-executives-quotes-ai-training-threaten-copyright-defense-news-2026-09-17/)$\) *\+ AI意味着我们所熟知的互联网搜索时代的终结。*\(麻省理工科技评论 (https://www.technologyreview.com/2025/01/06/1108679/ai-generative-search-internet-breakthroughs/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **2 机器人船只首次交战** 一艘乌克兰船只在战斗中击沉了一艘俄罗斯船只。\(新科学家 (https://www.newscientist.com/article/2589842-robots-clash-in-first-ever-naval-engagement-between-uncrewed-crafts/?utm_campaign=RSS%7CNSNS&utm_content=home&utm_medium=RSS&utm_source=NSNS)$\) *\+ 美国公司正在制造具备作战能力的人形机器人。*\(华尔街日报 (https://www.wsj.com/tech/forget-robot-workers-this-company-wants-to-build-soldiers-48266698)$\) **3 安全研究人员利用Anthropic工具攻破OpenAI** 他们访问了一名员工的ChatGPT账户及内部代码。\(金融时报 (https://www.ft.com/content/c4aa118e-a258-48bc-b50e-28e453a95db8?syn-25a6b1a6=1)$\) *\+ 他们利用第三方论坛进入内部系统。*\(华尔街日报 (https://www.wsj.com/tech/ai/hackers-used-anthropics-claude-to-break-into-openai-b40ba883?mod=rss_Technology)$\) **4 据报道，OpenAI有望很快破解另一著名数学难题**但能否避免宣布时引发的争议？\(信息源 (https://www.theinformation.com/newsletters/ai-agenda/openai-close-solving-another-millennium-prize-math-problem)$\) \+*它有望解决的是霍奇猜想。*\(Gizmodo (https://gizmodo.com/openai-reportedly-trying-to-solve-hodge-conjecture-amid-feud-with-math-community-2000813658)\) *\+ OpenAI的数学争议为该领域未来埋下令人担忧的线索。*\(麻省理工科技评论 (https://www.technologyreview.com/2026/09/08/1143747/what-openais-latest-controversy-tells-us-about-the-future-of-math/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **5 埃隆·马斯克的SpaceXAI希望收购失败初创公司的数据**旨在为Grok寻找新的训练数据来源。\(彭博社 (https://www.bloomberg.com/news/articles/2026-09-17/spacex-discusses-buying-data-for-ai-models-from-failed-startups)$ \+*其目标是客户和运营数据。*\(Gizmodo (https://gizmodo.com/elon-musk-reportedly-seeking-customer-data-from-dead-startups-to-train-ai-2000813451)\) *\+ OpenAI正付费创建新的生物学数据。*\(麻省理工科技评论 (https://www.technologyreview.com/2026/09/15/1144129/ai-models-need-more-data-about-biology-and-openai-is-paying-to-create-it/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **6 学校正抵制科技巨头对课堂的渗透** AI正加速人们对企业影响力的担忧。\(纽约客 (https://www.newyorker.com/culture/progress-report/what-we-lost-when-big-tech-took-over-the-classroom)$\) *\+ 我们需要在学校更明智地使用AI。*\(麻省理工科技评论 (https://www.technologyreview.com/2026/08/24/1142630/ai-school-classroom-policies/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)\) **7 黑客揭露Flock摄像头如何追踪汽车与人** 一个摄像头就捕捉了5万辆汽车的160万张图像。\(连线 (https://www.wired.com/story/hackers-flock-camera-data-shows-how-system-works/)$\) *\+ 这些摄像头还能识别人并错误标记物体。*\(404 Media (https://www.404media.co/hackers-stole-flocks-camera-software-revealing-how-the-company-tracks-cars-and-people-2/)\) **8 面对美国科技限制，中国企业加倍投入科研** 其引用科学论文的专利产出增加了72%。\(自然 (https://www.nature.com/articles/d41586-026-02946-y)\) **9 一名三岁儿童接受实验性细胞疗法后癌症消失** CAR-T疗法或许终于能治疗实体瘤。\(Gizmodo (https://gizmodo.com/3-year-old-boys-cancer-disappears-after-he-gets-experimental-immunotherapy-2000813436)\) **10 纽约市新式机器人厕所：10分钟超时即自动开门** 计时结束后门会自动打开。\(Fast Company (https://www.fastcompany.com/91608953/nycs-new-robotoilets-will-kick-you-out-after-10-minutes-whether-youre-finished-or-not)\) **今日语录** ## **“人类历史上最大规模的劳动盗窃。”** ——微软应用科学总监布伦特·赫克特，在《纽约时报》诉OpenAI版权诉讼的法庭文件（https://storage.courtlistener.com/recap/gov.uscourts.nysd.640396/gov.uscourts.nysd.640396.1977.1.pdf?ref=404media.co）中，对AI系统使用的训练数据表达了他的担忧。 **最后一件事** #### 维拉·C·鲁宾天文台准备好重塑我们对宇宙的认知 在智利海拔2700米的塞罗帕琼山顶，空气清澈干燥，云层稀少，星空美景尽收眼底。正是在这里，维拉·C·鲁宾天文台正使用一台汽车大小的3200万像素数字相机——有史以来最大的——每三天绘制一幅全新的全天星图。 鲁宾天文台每晚生成20太字节数据，将捕捉关于太阳系、银河系以及宇宙大尺度结构的精细细节。在10年间，它将编目数十亿个新天体，以前所未有的方式揭示宇宙的变化。 走进这座以前所未有方式绘制宇宙的天文台（https://www.technologyreview.com/2025/01/01/1108643/vera-c-rubin-observatory-telescope-cosmos-universe-space-digital-camera/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C\)。 *—亚当·曼*