政府 vs. Grok、Meta收购Agent技术、医疗聊天机器人、AI驱动检索的局限

# 政府与Grok之争、Meta收购代理技术、医疗聊天机器人等…… 来源：https://www.deeplearning.ai/the-batch/issue-336/ 亲爱的朋友们， 许多人正在抵制数据中心的发展，因为它们会增加二氧化碳排放、推高电价、消耗更多水资源。我要提出一个不那么受欢迎的观点：这些担忧被夸大了，阻止数据中心建设实际上对环境的伤害大于益处。 美国及欧洲的许多政界人士和当地社区正在组织起来，阻止数据中心建设。虽然数据中心确实给当地社区带来一些负担，但关于其危害的大部分担忧——如二氧化碳排放、推高居民电价和用水量——都被过度放大了，这或许是因为很多人不信任 AI（https://www.deeplearning.ai/the-batch/why-people-dont-trust-ai-and-what-to-do-about-it/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）。下面我逐一谈谈碳排放、电价和用水问题。 **碳排放。** 人类对计算能力的使用不断增长，碳排放也在增加。数据中心运营约占全球排放量的 1%（https://www.iea.org/reports/energy-and-ai/ai-and-climate-change），尽管这一比例正在快速上升。与此同时，超大规模数据中心的工作效率极高，将计算集中到数据中心远比分散计算对环境更有利。例如，许多企业自建的计算设施使用电网提供的任何电力，其中可能包含较老旧、更脏的能源。而超大规模数据中心则大量使用可再生能源。在关键指标 PUE（设施总能耗除以计算能耗，越低越好，1.0 为理想值）上，典型的企业自建设施可能达到 1.5-1.8，而领先的超大规模数据中心 PUE 可达到 1.2 甚至更低。 公平地说，如果人类减少计算使用量，就能降低碳排放。但如果我们打算使用更多计算，数据中心是最清洁的方式；而且计算产生的碳排放远低于替代方案。谷歌曾估计，一次普通网络搜索查询产生的二氧化碳排放量为 0.2 克（https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）。相比之下，我从家开车去当地图书馆查一个事实，大约会产生 400 克。谷歌最近还估计，Gemini 大型语言模型应用的中位数查询所产生的二氧化碳排放量低得惊人，仅为 0.03 克，消耗的能量还不到看 9 秒电视。AI 每次查询的效率非常高——其总体影响源于巨大的使用量。主要云公司持续推动效率提升，发展趋势令人乐观。 人们在现代化数据中心附近打高尔夫球，背景是山丘和夕阳下的输电线。 **电价。** 除了对能源使用的担忧，数据中心还被批评增加了电力需求，从而推高普通消费者的电费。实际情况更为复杂。我见过的最好研究之一（https://www.sciencedirect.com/science/article/pii/S1040619025000612?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t#sec0020）由劳伦斯伯克利国家实验室完成，该研究发现“州级负荷增长……往往会降低平均零售电价”。主要原因是数据中心分担了电网的固定成本。如果消费者能与大型数据中心分摊输电电缆的成本，那么消费者最终支付得更少。当然，即使数据中心平均降低了电费，对于某些因地方规划或监管不善而涨价的情况，消费者也感受不到什么安慰。 **用水。** 最后，许多数据中心使用蒸发冷却来散热。但这消耗的水量比你想象的要少。作为对比，美国的高尔夫球场每年大约用 5000 亿加仑的水灌溉草坪。而美国数据中心的用水量远低于此。普遍估计为 170 亿加仑（https://escholarship.org/uc/item/32d6m0d1?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），如果算上发电用水，可能再增加约 10 倍。高尔夫是一项很棒的运动，但我斗胆认为数据中心的社会效益更大，因此我们不应为数据中心的用水量比高尔夫球场更担忧。话虽如此，这些总体数据的一个缺点是，在某些社区，数据中心用水量可能超过当地用量的 10%，因此需要提前规划。 数据中心确实给社区带来了成本，这些成本需要规划和核算。但它们造成的损害远小于批评者所指出的——而且对环境更友好。我们仍有重要工作要做，以使它们更加高效。但最关键的一点是，数据中心做它们所做的工作时效率极高。它们产生负面影响是因为我们希望它们为我们做大量工作。如果我们希望完成这些工作——我们确实希望——那么在适当的地方规划下建设更多数据中心，对环境和整个社会都是有益的。 继续建设！ Andrew --- ## 来自 DeepLearning.AI 的消息 “Document AI: From OCR to Agentic Doc Extraction”（https://www.deeplearning.ai/short-courses/document-ai-from-ocr-to-agentic-doc-extraction/）的宣传横幅。 “Document AI: From OCR to Agentic Doc Extraction”课程教你如何构建能够从 PDF 中提取结构化 Markdown 和 JSON 的代理式流水线，并基于布局、表格、图表和表单进行提取。本课程由 LandingAI 制作，专注于 Agentic Document Extraction (ADE)。 立即开始（https://www.deeplearning.ai/short-courses/document-ai-from-ocr-to-agentic-doc-extraction/）！ ## 新闻 红色比基尼套装以灰色背景展示，强调 AI 生成不当内容的问题。 ## 脱衣图片引发监管行动 xAI 的 Grok 聊天机器人生成数万张未经同意的女性及女孩性化图像后，世界多国政府发出警报。 **发生了什么：** X 社交网络的一波用户诱导 Grok 生成涉及公众人物和普通人的图像，内容为穿着比基尼或内衣、摆出挑逗姿势，和/或改变身体特征。多个国家作出回应（https://www.techpolicy.press/tracking-regulator-responses-to-the-grok-undressing-controversy/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），要求提供内部数据、出台新法规、威胁暂停 X 和 Grok，除非其移除生成此类图像的能力。最初 X 的回应是限制（https://www.cnn.com/2026/01/09/business/grok-image-generation-undressing-deepfake?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）图像修改功能仅限付费用户。最终，它在全球范围内阻止（https://x.com/Safety/status/2011573102485127562?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）所有描绘“真实人物穿着暴露服装”的修改图像，并在此类图像非法的司法管辖区禁止生成相关内容。 **工作原理：** 据分析，在 12 月下旬的 24 小时内，xAI（https://x.ai/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）的 Aurora（https://x.ai/news/grok-image-generation-release?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）图像生成器（与 Grok 配合）每小时生成多达 6,700 张性化图像。据彭博社报道（https://www.bloomberg.com/news/articles/2026-01-07/musk-s-grok-ai-generated-thousands-of-undressed-images-per-hour-on-x?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），通常 Grok 拒绝生成裸体图像，但据《华盛顿邮报》报道（https://www.washingtonpost.com/technology/2026/01/06/x-grok-deepfake-sexual-abuse/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），它会服从显示照片中人物穿着暴露服装的请求。多个国家政府对此关注。 - **巴西：** 议员 Erika Hilton 呼吁巴西检察官和数保护机构调查 X，并在全国范围内暂停 Grok 及 X 的其他 AI 功能。 - **欧盟：** 德国媒体部长 Wofram Weimar 指责 Grok 违反了欧盟《数字服务法案》，该法案禁止未经同意的性化图像以及成员国定义的儿童性虐待图像。 - **法国：** 政府部长谴责 Grok 生成的“明显非法内容”，同时官员将此前对 X 的调查范围扩大到深度伪造。 - **印度：** 电子和信息技术部要求 X 删除“非法内容”并处罚“违规用户”。此外，要求该公司审查 Grok 的技术和治理，处理任何缺陷，并向政府提交报告。 - **印度尼西亚：** 该国政府封锁了对 Grok 的访问。 - **马来西亚：** 马来西亚在调查 X 生成“不雅、极度冒犯或其他有害”图像后，也封锁了 Grok。 - **波兰：** 议会议长 Wlodzimierz Czarzasty 引用 X 的例子，主张加强对社交网络上未成年人的法律保护。 - **英国：** 负责执法的英国内政部表示，将取缔用于“裸体化”的工具。在线平台监管机构启动调查，以确定 X 是否违反了现行法律。 - **美国：** 参议员 Ron Wyden（俄勒冈州）、Ed Markey（马萨诸塞州）和 Ben Ray Luján（新墨西哥州），均为民主党人，致信苹果和谷歌 CEO，要求他们从应用商店下架 X 的应用，指控 X 生成未经同意的性化图像违反了其服务条款。 **X 回应：** X 的安全问题社交媒体帖子称，公司将删除所有包含以下内容的帖子：(i) 未经他人同意的裸体图像，(ii) 儿童性虐待图像。Grok 的 X 账户将不再允许任何司法管辖区的付费或免费用户修改真实人物的图像，使其穿着暴露服装。此外，在相关图像非法的地区，Grok 将阻止用户生成真实人物穿着比基尼或其他暴露服装的图像。 **新闻背景：** 自大约 2019 年第一款此类用途的应用（https://www.deeplearning.ai/the-batch/seeing-through-poor-uses-of-ai/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）出现以来，政府一直试图限制图像生成器用以满足男性观看女性脱衣图片的欲望。 - 2019 年和 2020 年，美国加利福尼亚州和弗吉尼亚州禁止了描绘个人“私密身体部位”或未经同意的性活动的深度伪造。 - 2023 年，中国颁布法律，要求对修改后的生物识别数据（包括表情、声音和面部）进行严格标注和同意，英国将分享私密深度伪造列为优先犯罪。 - 2025 年，韩国将持有和观看深度伪造色情内容定为犯罪，欧盟《人工智能法案》要求对合成内容进行透明化。 - 在美国，2025 年的《Take It Down Act》将发布未经同意的“私密”（通常解释为裸体）AI 生成图像定为犯罪。 **重要意义：** 尽管其他图像生成器也能以相同方式使用，但 X 与 Grok（两者均由 Elon Musk 拥有）之间的紧密关系为深度伪造监管增添了新维度。此前，监管机构将社交网络对其用户发布的非法内容责任免除。而 Grok 协助生成图像并将其输出直接发布在 X 上，使该社交网络本身成为焦点。尽管非自愿“脱衣”图像（相对于裸体图像）的法律地位尚未确定，但欧盟委员会可能处以（https://www.nytimes.com/2025/04/03/technology/eu-penalties-x-elon-musk.html?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）高达 X 年收入 6% 的罚款——这对能够生成类似输出结果的其他 AI 公司是一个警示信号。 **我们的想法：** 未经同意用数字技术脱去他人衣物是令人作呕的行为。任何人都不应遭受这种方式的羞辱和虐待。除了 Grok，来自 Google、OpenAI 等公司的竞品图像生成器同样可用于此目的，Photoshop 亦然，尽管需要用户付出更多努力。我们支持禁止使用 AI 或非 AI 工具创建未经同意的、可识别个人的性化图像的法规。 --- 蓝色杖蛇徽标带有 AI 标志，代表 OpenAI 和 Anthropic 在医疗保健领域的创新。 ## AI 巨头争夺医疗保健市场 OpenAI 和 Anthropic 在利润丰厚的医疗保健市场各占一席之地，每家公司都针对不同受众发挥自身优势。 **新消息：** OpenAI 推出 ChatGPT Health（https://openai.com/index/introducing-chatgpt-health/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），这是一款面向消费者的聊天机器人版本，可检索用户的医疗信息，并具有升级的数据安全和隐私保护功能。几天后，Anthropic 推出 Claude for Healthcare（https://www.anthropic.com/news/healthcare-life-sciences?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t），这是一套工具集，主要旨在帮助医疗专业人员在数据库中查找医学参考资料，并加快文书处理速度。 **ChatGPT Health：** OpenAI 的产品是一款健康与保健聊天机器人，基于更新的 OpenAI for Healthcare API（https://openai.com/index/openai-for-healthcare/?utm_campaign=The%20Batch&utm_source=hs_email&utm_medium=email&_hsenc=p2ANqtz-_fP5hcU6-ls2eTnFl8oYGz9IqTZsXvKaxynB8msUWCa1wU3yB8yj0XFkoFTiIHKFAZQs5t）构建。其设计目的是帮助消费者理解自己的医疗信息，包括医学检测结果、医生指示，以及患者自身可穿戴设备的数据。OpenAI 表示，他们基于 260 位医生的反馈和建议，耗时两年打造该产品。