美中讨论相互警示AI国家安全威胁

# 中美探讨相互通报人工智能国家安全威胁机制 来源：https://www.wired.com/story/us-and-china-discuss-alerting-each-other-to-ai-national-security-threats/ 中美官员已启动会谈，提议建立两国就可能威胁国家安全的人工智能事件相互通报的机制。 美国财长斯科特·贝森特表示，该框架将被命名为"中美人工智能对话"，届时两国代表将再次会晤讨论该技术，试图在共同目标与威胁认知上达成一致。 "我们认为，如同所有跨境活动一样，作为全球人工智能领域的第一和第二大国，从信息不透明转向更透明的沟通至关重要，"贝森特周日对记者表示。 贝森特称此次讨论延续了五月美国总统特朗普访华时中断的对话。此后，公众对该技术的安全担忧持续加剧。夏季发生的安全事件——包括OpenAI智能体入侵Hugging Face平台（https://www.wired.com/story/openais-hugging-face-hack-debrief-raises-more-questions-than-it-answers/）——凸显了前沿模型的破坏能力，以及行业安全措施未能与时俱进的问题。 本月早些时候，Anthropic公司员工警告人工智能可能走向毁灭人类的道路（https://www.wired.com/story/anthropic-researcher-quits-jacob-coxon-ai-fears-humanity/），相关担忧达到白热化阶段。近几周来，包括OpenAI的山姆·阿尔特曼、Anthropic的达里奥·阿莫迪以及埃隆·马斯克在内的多家顶级前沿实验室负责人，呼吁在制定安全标准期间放缓该技术的发展。阿莫迪在一篇为实验室和政府规划技术发展节奏提出建议的文章中，请求政府协助建立包括中共在内的国际协调机制。 尽管跨党派对该行业实施监管的支持日益增强，特朗普至今基本对这些呼吁置若罔闻。其政府辩称，美国政府已对开发者拥有充分的刑事和监管权限（https://www.wired.com/story/ai-leaders-are-calling-for-a-slowdown-trumps-team-says-its-on-them/）。 持相同立场的还有人工智能基础设施构建商英伟达的首席执行官黄仁勋（https://www.wired.com/tag/jensen-huang/）。他指出人工智能企业已受网络安全和损害责任法约束，"应优先执行现有法律，"他在周末接受CBS新闻采访时表示，"别让这种末日叙事成为逃避现行法律的借口。" 特朗普此前表示，任何放缓举措都可能使美国在技术领域领先中国的优势丧失——因为在他看来，"谁赢得人工智能，谁就赢得未来！"（https://x.com/DoWCTO/status/2099520424207855836）其首席科学顾问大卫·萨克斯曾警告称，"中国极不可能加入"有关协调技术发展的国际协议。开源人工智能平台Hugging Face联合创始人托马斯·沃尔夫质疑美国能否在"明确表示要设计规则以持续扩大自身领先优势"的情况下建立全球合作，"对我而言，这似乎是个适得其反的对话开端，"他在X平台回应阿莫迪文章时写道（https://x.com/Thom_Wolf/status/2098810070423216324?s=61&utm_source=substack&utm_medium=email）。 美国目前正通过对华限制高端芯片和芯片制造技术出口来遏制中国人工智能发展。贝森特表示，上周末的会谈未讨论美国出口管制问题。此次会谈还涉及贸易议题，在中国国家主席习近平本周访华盛顿前取得了"非常成功的"进展。