OpenAI、Anthropic、Google 已就人工智能安全问题进行数周讨论

TechCrunch AI 新闻

摘要

在Anthropic首席执行官Dario Amodei发表文章呼吁行业协调以避免灾难性风险之后,OpenAI、Anthropic和Google已就人工智能安全问题进行了数周讨论,讨论内容涉及反垄断法和潜在的标准制定机构。

OpenAI确认与Anthropic和Google DeepMind进行了数周的人工智能安全讨论,而特朗普团队则淡化安全担忧,推动保持与中国的步伐。
查看原文
查看缓存全文

缓存时间: 2026/09/15 17:55

# OpenAI、Anthropic、Google已就AI安全问题讨论数周 | TechCrunch 来源:https://techcrunch.com/2026/09/15/openai-anthropic-google-have-been-in-talks-on-ai-safety-for-weeks/ OpenAI全球政策负责人Chris Lehane周二向媒体透露,该公司已与竞争对手Anthropic及Google DeepMind就人工智能安全问题开展了数周合作,此前Bloomberg对此事进行了率先报道(https://news.bloomberglaw.com/privacy-and-data-security/openai-says-its-working-with-anthropic-google-on-ai-safety)。据悉Lehane目前身在华盛顿,正与美国立法者共同应对AI可能带来的灾难性风险。 这一消息紧随Anthropic首席执行官Dario Amodei周六发布的文章(https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/)。该文呼吁业界协同放缓前沿AI的发展速度,以规避灾难性风险。包括OpenAI的Sam Altman(https://x.com/sama/status/2098811563415150910)、Google的Demis Hassabis(https://x.com/demishassabis/status/2098909516582490602)以及SpaceXAI的Elon Musk(https://x.com/elonmusk/status/2098789109980332057)在内的多位行业领袖均对Amodei的公开信及行动倡议表示支持。Altman特别指出,OpenAI将效仿Anthropic引入第三方评估机制,对内部安全情况进行持续监督。 Lehane在周二的会议上承认,三家公司已就AI安全事宜进行了数周磋商。部分人士(包括Altman)曾指出,若此类协调被认定为抑制竞争,可能使企业面临违反反垄断法的风险。Amodei的文章曾提议通过政府专项豁免允许此类安全协作,但据Lehane透露,相关企业认为无需此类豁免。 此消息证实了早前的报道,并暗示三家公司确有协作动向。上周晚些时候接受《财富》杂志采访时(https://fortune.com/2026/09/12/sam-altman-interview-ai-doomsday-safety-models-control-ipo-2027/),Altman曾暗示已与其他AI领域领导人进行非公开讨论。本周The Information报道(https://www.theinformation.com/articles/inside-ai-industrys-behind-scenes-push-police)指出,三家公司正合作筹建AI行业标准组织——据称Altman曾向员工表示此过程无需美国政府支持。 Hassabis曾在七月呼吁美国建立新的标准机构(https://x.com/demishassabis/status/2076957440109625718?s=20),作为AI监管机构,该机构应有权筛查全球最先进的AI模型,并在风险升级时协调全行业减速。 特朗普总统则将安全担忧斥为骗局(https://www.reuters.com/world/trump-says-there-is-sick-conspiracy-against-ai-data-centers-2026-09-14/),反对加强监管的举措(https://techcrunch.com/2026/09/14/jensen-huang-took-a-call-from-trump-and-showed-off-something-else-too/),并声称任何减速都将使中国在竞赛中占据优势。其首席AI顾问David Sacks——长期在该领域拥有重大投资利益的投资者(https://techcrunch.com/2025/07/19/david-sacks-and-the-blurred-lines-of government-service/)——呼应此观点(https://x.com/CBSEveningNews/status/2099639396160958964),认为AI存在性风险的担忧被过度渲染。 同在周二的会议上,Lehane表示(https://www.politico.com/news/2026/09/15/openai-backs-bipartisan-house-plan-for-third-party-safety-assessments-01076588)OpenAI支持《前沿法案》中的条款,该条款将强制要求顶尖前沿实验室允许“独立验证组织”进入企业,以确保模型的安全开发。 TechCrunch已就此事联系Anthropic、Google及OpenAI寻求评论。 *当您通过文章中的链接购买产品时,我们可能获得小额佣金(https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不会影响我们的编辑独立性。* Rebecca Bellan是TechCrunch资深记者,负责报道塑造人工智能领域的商业、政策及新兴趋势。其作品也曾发表于福布斯、彭博社、大西洋月刊、每日野兽报等媒体。 您可通过邮件[[email protected]](mailto:[email protected])联系或验证Rebecca的邀约,或通过Signal加密信息联系rebeccabellan.491。 查看个人简介(https://techcrunch.com/author/rebecca-bellan/)

相似文章

独家:OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险

Reddit r/ArtificialInteligence

OpenAI首席执行官Sam Altman暗示,AI公司之间即将达成一项协议,以减缓AI发展并应对安全风险。与此同时,Anthropic宣布了新的安全措施,包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧,以及行业范围协调的必要性。

OpenAI 加入 Anthropic 呼吁设立国际人工智能监管机构

Reddit r/artificial

OpenAI 和 Anthropic 均呼吁建立一个国际组织来监管前沿人工智能发展,理由是递归自我改进和智能爆炸的风险。这一联合呼吁凸显了人们的担忧:随着人工智能能力的快速发展,商业激励可能超越安全措施。