@linamkhan:执法机构已有权对制造并发布危险、未经审查的……公司及其CEO提起指控

X AI KOLs Following 新闻

摘要

文章讨论了现有法律已允许对制造危险人工智能产品的公司进行执法,并强调在考虑新法律框架以确保人工智能安全与问责的同时,遵守现行法规的重要性。

执法机构已有权对制造并发布危险、未经审查或存在缺陷产品的公司及其CEO提起指控。我们不应让关于新法律体系的讨论转移焦点——事实是人工智能并不享有现行法律的豁免权,这一点@FTC(美国联邦贸易委员会)在我任职期间曾多次强调。 1. 存在一套广泛适用于危险和缺陷产品的法律。例如,发布未经审查的人工智能模型或智能体可能违反消费者保护法。在未实施充分措施来检测和制止异常或有缺陷的人工智能智能体的情况下推出有缺陷的人工智能工具,可能构成《FTC法案》(及类似州法律)下的“不公平或欺骗性”行为或做法。部分州总检察长已在探索当人工智能模型参与犯罪活动时,追究人工智能公司及其CEO刑事责任的可能性。 2. 现有法律也禁止“不公平竞争方法”。这涵盖了人工智能公司挪用客户竞争敏感信息的情况,包括通过跟踪客户使用各种工具的行为。这也可能涵盖公司推行危险行为、且明知此举可能迫使竞争对手效仿的情况。 正如最高法院所指出的:“一种将业务损失的负担强加于竞争对手的方法,除非他们愿意降低到一种即使不违法但受强大道德约束所不容许采用的做法,这种竞争方法被认为涉及[不公平竞争方法]法规旨在针对的那种不公平性。” 3. 这些市场高度集中且相互关联的结构可能正在制造重大风险和利益冲突。我们已开始调查整个技术栈中的这些合作伙伴关系和交叉投资(并发布了关于部分发现的初步概述:https://ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study…)。 联邦和州的执法机构都应审查这些不透明的关系和相互依赖性。我们已经看到这些关系可能如何破坏问责制。例如,鉴于Hugging Face事件,OpenAI可能面临责任,但Hugging Face被Nvidia收购意味着我们不太可能看到它就此提起诉讼——因为Nvidia有强烈动机希望OpenAI全速前进。 4. 随着人工智能工具极大改变了网络安全风险和黑客攻击的格局,所有企业都应加倍落实核心安全保护措施。未能投资于充分数据安全措施或未修复已知漏洞的公司也可能违法。最近的一项分析显示,约三分之一的《财富》100强公司甚至没有报告安全问题的简易渠道。在我@FTC任职期间,我们曾因糟糕的数据安全实践起诉公司,并对个人负有责任的CEO追究责任。 https://this.weekinsecurity.com/dozens-of-americans-largest-companies-have-no-simple-way-to-report-security-flaws/… https://ftc.gov/news-events/news/press-releases/2022/10/ftc-takes-action-against-drizly-its-ceo-james-cory-rellas-security-failures-exposed-data-25-million… 5. 当政策制定者考虑新的法律体系时,我们应借鉴先前治理主要行业(如银行业及其他网络、平台和公用事业)的经验教训。结构性分离、非歧视和监督等工具可能是关键,历史已经提供了丰富的关于何者有效、何者无效的案例。但我们能够且必须在执行现有法律的同时,推进任何新的努力。
查看原文
查看缓存全文

缓存时间: 2026/09/14 09:27

执法机构已有权对制造和发布危险、未经审核或缺陷产品的公司及其CEO提起诉讼。我们不应让关于新法律框架的讨论转移注意力,忽视一个重要事实:现有法律对AI同样适用——这一点我在@FTC任职期间曾反复强调。

  1. 现有法律体系已对危险和缺陷产品建立了广泛规制。例如,发布未经审核的AI模型或智能体可能违反消费者保护法。在未采取充分措施检测和阻止异常或缺陷AI智能体的情况下,部署有缺陷的AI工具可能构成《FTC法案》(及各州类似法律)下的“不公平或欺骗性”行为或商业实践。部分州总检察长已开始探索在AI模型参与犯罪活动时,追究AI公司及其CEO的刑事责任。

  2. 现有法律还禁止“不公平竞争方法”。这包括AI公司通过追踪客户使用各种工具的方式,窃取其具有竞争敏感性的信息等情形。也涵盖公司在明知危险行为可能迫使竞争对手采取同样措施的情况下,仍执意为之的情况。

正如最高法院指出的:“某种竞争方法若将业务损失强加给竞争对手,除非他们愿意采用受强烈道德约束所反对的行为(即使该行为不违法),则被认为涉及《不公平竞争方法法》所针对的不公平性。”

  1. 这些市场高度集中且相互关联的结构可能带来重大风险与利益冲突。我们已启动对技术栈各层级合作伙伴关系和交叉投资的调查(并发布了部分初步发现概览:https://ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study…)。

联邦和州级执法机构都应审查这些不透明的关系和相互依存性。我们已看到这些关系如何可能削弱问责性。例如,考虑到Hugging Face事件,OpenAI可能需要承担法律责任,但由于Hugging Face已被英伟达收购,鉴于英伟达强烈希望OpenAI保持高速发展,我们不太可能看到其就此提起诉讼。

  1. 随着AI工具急剧改变网络安全风险与攻击格局,所有企业都应加强核心安全防护。未能投入充分数据安全措施或修复已知漏洞的公司也可能违法。近期分析显示,约三分之一的《财富》100强企业甚至没有安全问题报告渠道。我在@FTC任职期间,曾起诉存在数据安全缺陷的公司,并在CEO负有个人责任时追究其法律责任。

https://this.weekinsecurity.com/dozens-of-americas-largest-companies-have-no-simple-way-to-report-security-flaws/…

https://ftc.gov/news-events/news/press-releases/2022/10/ftc-takes-action-against-drizly-its-ceo-james-cory-rellas-security-failures-exposed-data-25-million…

  1. 政策制定者在考虑新法律框架时,应借鉴过去治理银行、其他网络、平台和公共事业等重要行业的经验。结构性分离、非歧视性和监管等工具可能至关重要,相关历史经验能告诉我们何种措施有效、何种无效。但我们在执行现有法律的同时,也完全能够且必须推进任何新举措。

FTC发布AI合作伙伴关系与投资研究团队报告

来源:https://www.ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study 联邦贸易委员会今日发布团队报告,分析最大云服务提供商(CSPs)——Alphabet公司、亚马逊公司和微软公司——与两家最知名生成式AI开发商Anthropic PBC及OpenAI OpCo, LLC之间建立的企业合作与投资关系。

报告(https://www.ftc.gov/reports/ftc-staff-report-ai-partnerships-investments-6b-study)详述了CSP与AI开发商合作关系的结构关键要素,包括CSP在合作中保留的股权和收入分成权利,以及通过投资获得的某些咨询、控制和排他性权利。

报告概述了潜在竞争影响,指出:这些合作可能影响对计算资源和工程人才等特定投入要素的获取;可能提高AI开发商合作伙伴的转换成本;并使CSP合作伙伴能够获取可能无法被其他方获取的敏感技术和商业信息。

FTC主席莉娜·汗表示:“随着企业快速部署生成式AI技术,执法者与政策制定者必须保持警惕,防范破坏开放市场、机遇与创新的商业策略。FTC的报告揭示了大型科技公司的合作如何形成锁定效应,剥夺初创企业关键AI资源,并泄露可能破坏公平竞争的敏感信息。”

该团队报告源于FTC于2024年1月依据《FTC法案》第6(b)条发出的调查令(https://www.ftc.gov/news-events/news/press-releases/2024/01/ftc-launches-inquiry-generative-ai-investments-partnerships)。调查令发送给涉及三项数十亿美元投资的五家公司:微软与OpenAI、亚马逊与Anthropic,以及Alphabet与Anthropic。

FTC的报告旨在帮助委员会、公众和政策制定者深入理解生成式AI开发商与CSP之间的企业合作关系。报告发现也有助于提升FTC评估大型科技公司合作属性及潜在影响的能力,这些合作可能对数亿消费者、无数企业及经济重要领域产生影响。

主要发现

报告重点指出AI合作关系的若干关键条款,包括:

  • CSP合作伙伴在其AI开发商合作伙伴中持有重大股权及特定收入分成权利;
  • CSP合作伙伴通过不同程度的咨询、控制及排他性权利对AI开发商合作伙伴实施影响;
  • 要求AI开发商将其从CSP合作伙伴获得的大量投资用于购买该合作伙伴的云服务的承诺;
  • 关键资源与信息的共享,包括以折扣价格获取大量计算资源、与AI开发商前沿模型相关的资产及知识产权,以及某些财务和训练数据;
  • 通过将AI模型整合到CSP产品中或部署在CSP平台上等方式,扩展现有产品的机遇。

此外,报告强调了以下需关注的潜在影响领域:

  • 影响对计算资源和工程人才等特定投入要素获取的能力,可能影响AI开发商合作伙伴及非合作伙伴AI开发商之间的竞争;
  • 提高AI开发商合作伙伴转换合同与技术的潜在成本,使其更难更换CSP或限制其使用多个CSP;
  • 使CSP合作伙伴能够获取其他方可能无法获取的敏感技术和商业信息,如与生成式AI模型、AI开发方法、机密芯片协同设计、合作伙伴财务状况及客户使用量和收入数据相关的信息。

报告中的发现代表截至2024年9月团队可获取的信息及截至2025年1月的公开信息。

委员会以5-0投票通过授权团队发布报告。主席莉娜·汗将发表声明。安德鲁·N·弗格森委员发布并同意声明(https://www.ftc.gov/legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-andrew-n-ferguson-joined-commissioner-melissa-holyoak),该声明获得梅丽莎·霍利奥克委员联署。霍利奥克委员发布并同意声明(https://www.ftc.gov/legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-melissa-holyoak-joined-commissioner-andrew-n-ferguson),该声明获得弗格森委员联署。

相似文章