The Download：AI 的拒绝机制问题与减肥药副作用

# The Download：AI 的拒绝难题与减肥药副作用 来源：https://www.technologyreview.com/2026/10/09/1146250/the-download-ai-refusal-problem-weight-loss-drug-side-effects 此外：美国冻结了 Microsoft 等科技公司的绿卡申请。 *这是今天的**The Download* (https://forms.technologyreview.com/newsletters/briefing-the-download/?_ga=2.179569122.736533416.1649661040-405833893.1649413289) *—— 我们的工作日通讯，每天为你带来科技世界的最新动态。* ### 我们对 AI 说"不"的能力过于信任了 如今的 AI 模型经过训练，会对大量提示词予以拒绝。如果你问聊天机器人如何毒害同事或如何打绞索，它很可能会拒绝你。但拒绝机制有时会失效，后果甚至可能极其可怕。 有人正试图利用 AI 来改良生物病原体和建造自主无人机蜂群。失败的拒绝迟早可能导致全球性灾难。更重要的是，依赖拒绝机制意味着要在模型"应该服从"和"必须违抗"之间划出一条界线。 各国政府也会自行划定界线，可能因此限制言论自由。与此同时，使 AI 有用的能力也可能使其变得危险。如果我们希望 AI 帮助攻克癌症，它就需要遗传学方面的专业知识，而这些知识同样可能被用于制造生物武器。 阅读关于 AI 拒绝机制面临的艰难权衡的完整报道 (http://technologyreview.com/2026/10/09/1145728/we-are-puting-too-much-faith-in-ai-to-say-no/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*find)。 *——Arthur Holland Michel* **本文来自我们下一期纸质杂志。立即订阅** (https://www.technologyreview.com/subscribe?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**，10月21日周三上市即可第一时间拿到！** ### 我们仍在探索 GLP-1 减肥药的副作用 本周，我的同事 Antonio Regalado 报道了一项新研究，表明 GLP-1 药物可能减缓生物衰老 (https://www.technologyreview.com/2026/10/06/1145836/weight-loss-drugs-glp1-lilly-novo-aging-clocks/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。这是与这类药物相关的众多潜在益处中的最新发现。但它们也带来了一些奇怪的副作用。 最常见的是胃肠道方面的反应，但研究人员还在调查其与脱发、指甲异常以及眼部后方神经损伤之间的可能关联。 以下是目前我们所知的减肥药副作用 (https://www.technologyreview.com/2026/10/09/1146094/were-still-figuring-out-the-side-effects-of-glp-1-weight-loss-drugs/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *——Jessica Hamzelou* **本文** (https://www.technologyreview.com/2026/10/09/1146094/were-still-figuring-out-the-side-effects-of-glp-1-weight-loss-drugs/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*) **来自 The Checkup——我们的每周生物技术通讯。立即订阅** (https://forms.technologyreview.com/newsletters/biotech-the-checkup/?_ga=2.27955388.1879496638.1664182320-160041263.1657781451&mc_cid=a40eac2491&mc_eid=f221407621&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)**，每周四送达你的邮箱。** ### 十大值得关注的气候科技公司：Envision Energy 及其风电全球雄心 *Envision Energy 入选了* MIT Technology Review*《2026年十大值得关注的气候科技公司》* (https://www.technologyreview.com/2026/10/06/1143800/2026-climate-tech-companies-to-watch/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)*，该榜单*仅向订阅用户开放* (https://www.technologyreview.com/subscribe?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)*。 中国安装风力涡轮机的速度超过任何其他国家。作为中国领先的风电设备制造商之一，Envision Energy 正在将可再生能源整合到数据中心中，利用风力涡轮机发电，并通过电池进行就地储能。 最近，它成为首家完全用可再生能源为数据中心直接供电的公司。一套 AI 驱动的系统会优化电力输出，确保数据中心无论风力如何都能获得稳定的电力供应。如今，Envision 计划将这一模式推广到全球沙漠地区的数据中心。 了解 Envision 如何用可再生能源为全球 AI 浪潮提供动力 (https://www.technologyreview.com/2026/10/06/1145226/2026-climate-tech-companies-to-watch-envision-energy-wind-power-global-ambitions/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *——Cici Zhang* **必读** *我在互联网上为你搜罗了今天最有趣/重要/令人震惊/引人入胜的科技新闻。* **1 美国冻结了 Microsoft 和其他 IT 公司的绿卡申请** 美国指控这些公司利用签证欺诈替换美国工人。（CNBC (https://www.cnbc.com/2026/10/08/microsoft-adobe-green-card-labor-suspension.html)）*+ 它们被暂停参与一个关键的绿卡项目。*（AP (https://apnews.com/article/h1b-visa-program-vance-microsoft-e7b3a407f822702b269ee277d21343ea)）*+ Adobe、Infosys、Tata 等 IT 公司也受到影响。*（TechCrunch (https://techcrunch.com/2026/10/08/us-bars-microsoft-adobe-and-major-it-firms-from-green-card-program-for-skilled-foreign-workers/)）*+ Microsoft 表示其 80% 的 H-1B 申请涉及现有员工。*（BBC (https://www.bbc.co.uk/news/articles/ck5yngl2y4gpo)） **2 乌克兰无人机袭击在俄罗斯摧毁了第二座 Yandex 数据中心** 乌克兰袭击了位于 Kaluga 的该设施，使其部分瘫痪。（Reuters (https://www.reuters.com/world/europe/russias-yandex-says-second-data-centre-hit-by-drone-attack-2026-10-09/)$）*+ 就在一天前，另一座 Yandex 数据中心遭到无人机袭击。*（CNBC (https://www.cnbc.com/2026/10/08/russia-yandex-ukraine-drone-strike-data-center.html)）*+ 数据中心已成为军事打击的重要目标。*（Bloomberg (https://www.bloomberg.com/news/articles/2026-10-09/ukraine-targets-yandex-data-centers-in-second-day-of-strikes-hitting-service)）*+ 把它们放在太空中或许更安全。*（MIT Technology Review (https://www.technologyreview.com/2025/03/03/1112758/should-we-be-moving-data-centers-to-space/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)） **3 Anthropic 禁止对 Claude 进行"辱骂或残忍行为"** 如果遭到持续辱骂，Claude 也可以主动结束对话。（Verge (https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude)）*+ 该政策建立在 Anthropic 对 AI 福祉的研究基础之上。*（Guardian (https://www.theguardian.com/technology/2026/oct/08/anthropic-bans-abusive-behavior-claude)）*+ 关于 AI 意识的争论是一个陷阱。*（MIT Technology Review (https://www.technologyreview.com/2026/08/20/1142571/ai-consciousness-debate-trap/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)） **4 OpenAI 将营收预测大幅下调 200 亿美元** 此举引发了对 AI 投资的担忧。（Guardian (https://www.theguardian.com/technology/2026/oct/09/openai-forecast-revenue-gap)）*+ AI 万亿美元豪赌的风险何在？*（MIT Technology Review (https://www.technologyreview.com/2026/09/15/1144028/ai-infrastructure-boom-investment-bubble-risk/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)） **5 基因编辑揭示了小鼠胚胎的发育过程** 这些方法有助于我们理解发育障碍。（Nature (https://www.nature.com/articles/d41586-026-03193-x)）*+ 雄性小鼠的雌性克隆体已经诞生。*（MIT Technology Review (https://www.technologyreview.com/2026/08/12/1141768/scientists-just-created-female-clones-of-male-mice/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)） **6 SpaceX 公布了成为主要移动通信运营商的计划** 它正从一家投资公司手中以 80 亿美元收购无线频谱。（WSJ (https://www.wsj.com/business/telecom/spacex-makes-big-play-to-become-a-wireless-carrier-a90b2a1b?mod=rss_Technology)$）*+ 这笔交易可能帮助其挑战 AT&T 和 Verizon。*（Verge (https://www.theverge.com/science/1008467/spacex-announces-plan-to-become-a-major-mobile-carrier)） **7 ICE 曾考虑使用 Palantir 的工具调查选民欺诈** 该机构希望追踪涉嫌非法投票的人。（Wired (https://www.wired.com/story/ice-emails-discuss-using-palantir-supported-tool-to-investigate-voter-fraud/)$） **8 Peter Thiel 用圣经预言论证反对 AI 监管** 他的新"Antichrist"演讲将 AI 安全描述为对自由的威胁。（Politico (https://www.politico.com/news/2026/10/08/peter-thiel-ai-obama-pope-leo-01112122)） **9 MIT 的 Margaret Hamilton 去世，她编写的软件帮助 Apollo 11 成功登月** 她领导了为 Apollo 飞船机载计算机编写程序的团队。（BBC (https://www.bbc.co.uk/news/articles/cx5yn46j41zpo)）*+ 她还在一个由男性主导的领域成为软件先驱。*（NYT (https://www.nytimes.com/2026/10/08/technology/ai-chatbots-urgent-care.html)$） **10 今年的诺贝尔科学奖宛如现实版科幻小说** 获奖成果涵盖宇宙、人脑和生命起源。（Economist (https://www.economist.com/science-and-technology/2026/10/08/this-years-nobel-science-prizes-are-real-life-sci-fi)$） **今日金言** ## **"白宫将任何使用'人工智能'（Artificial Intelligence）这个词——而不是广为接受的、更准确的新词'超级智能'（Super Intelligence）——的人视为敌人！"** ——Donald Trump 总统在 Truth Social 上的一篇帖子中为其 AI 更名战略增添了一丝不祥的威胁意味，据 Axios 报道 (https://www.axios.com/2026/10/08/trump-ai-super-intelligence-white-house)。 **还有一件事** #### 这座未来派太空栖息地可以在轨道上自行组装 越来越多的人正在飞向地球之外，但国际空间站一次只能容纳 11 人。 总部位于马萨诸塞州剑桥市的建筑研发实验室 Aurelia Institute 正在打造一种解决方案：一种以扁平瓷砖状紧凑堆叠发射——并在轨道上自行组装的栖息地。 这个概念听起来可能很不切实际，但它已经获得了 NASA 的支持。阅读完整报道 (https://www.technologyreview.com/2024/08/09/1096097/this-futuristic-space-habitat-is-designed-to-self-assemble-in-orbit/?utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)。 *——Sarah Ward* **我们依然可以拥有美好的事物** *一个让你在日常生活中找到慰藉、乐趣和放松的地方。（有什么好推荐？*[给我留言](mailto:[email protected])*。）* \+ 以 1000 英里时速驾驶 F-16 并承受 9G 过载是什么感觉？这部影片给出了答案 (https://www.youtube.com/watch?v=6i8PUlfazXQ)。 \+ 认识一下 Jimothy——一只脖子特别短的浣熊 (https://www.today.com/news/good-news/jimothy-raccoon-seattle-viral-video-rcna588184)，它俘获了全世界的心。 \+ 一位独立游戏开发者完全用 ASCII 字符打造了一座令人惊叹的 3D 赛博朋克城市 (https://www.youtube.com/watch?v=3YtygAx_C6A)。 \+ 要吃多少袋薯片才能让你浮起来？一位台湾视频创作者找到了答案 (https://www.youtube.com/watch?v=6GyeX-qZ_Mg)。 ### 深度报道 ### The Download ### 保持联系 插画作者：Rose Wong ## 获取 MIT Technology Review 最新动态 探索特别优惠、热门文章、即将举办的活动及更多精彩内容。