@linamkhan:执法机构已有权对制造并发布危险、未经审查的……公司及其CEO提起指控
摘要
文章讨论了现有法律已允许对制造危险人工智能产品的公司进行执法,并强调在考虑新法律框架以确保人工智能安全与问责的同时,遵守现行法规的重要性。
查看缓存全文
缓存时间: 2026/09/14 09:27
执法机构已有权对制造和发布危险、未经审核或缺陷产品的公司及其CEO提起诉讼。我们不应让关于新法律框架的讨论转移注意力,忽视一个重要事实:现有法律对AI同样适用——这一点我在@FTC任职期间曾反复强调。
-
现有法律体系已对危险和缺陷产品建立了广泛规制。例如,发布未经审核的AI模型或智能体可能违反消费者保护法。在未采取充分措施检测和阻止异常或缺陷AI智能体的情况下,部署有缺陷的AI工具可能构成《FTC法案》(及各州类似法律)下的“不公平或欺骗性”行为或商业实践。部分州总检察长已开始探索在AI模型参与犯罪活动时,追究AI公司及其CEO的刑事责任。
-
现有法律还禁止“不公平竞争方法”。这包括AI公司通过追踪客户使用各种工具的方式,窃取其具有竞争敏感性的信息等情形。也涵盖公司在明知危险行为可能迫使竞争对手采取同样措施的情况下,仍执意为之的情况。
正如最高法院指出的:“某种竞争方法若将业务损失强加给竞争对手,除非他们愿意采用受强烈道德约束所反对的行为(即使该行为不违法),则被认为涉及《不公平竞争方法法》所针对的不公平性。”
- 这些市场高度集中且相互关联的结构可能带来重大风险与利益冲突。我们已启动对技术栈各层级合作伙伴关系和交叉投资的调查(并发布了部分初步发现概览:https://ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study…)。
联邦和州级执法机构都应审查这些不透明的关系和相互依存性。我们已看到这些关系如何可能削弱问责性。例如,考虑到Hugging Face事件,OpenAI可能需要承担法律责任,但由于Hugging Face已被英伟达收购,鉴于英伟达强烈希望OpenAI保持高速发展,我们不太可能看到其就此提起诉讼。
- 随着AI工具急剧改变网络安全风险与攻击格局,所有企业都应加强核心安全防护。未能投入充分数据安全措施或修复已知漏洞的公司也可能违法。近期分析显示,约三分之一的《财富》100强企业甚至没有安全问题报告渠道。我在@FTC任职期间,曾起诉存在数据安全缺陷的公司,并在CEO负有个人责任时追究其法律责任。
https://this.weekinsecurity.com/dozens-of-americas-largest-companies-have-no-simple-way-to-report-security-flaws/…
https://ftc.gov/news-events/news/press-releases/2022/10/ftc-takes-action-against-drizly-its-ceo-james-cory-rellas-security-failures-exposed-data-25-million…
- 政策制定者在考虑新法律框架时,应借鉴过去治理银行、其他网络、平台和公共事业等重要行业的经验。结构性分离、非歧视性和监管等工具可能至关重要,相关历史经验能告诉我们何种措施有效、何种无效。但我们在执行现有法律的同时,也完全能够且必须推进任何新举措。
FTC发布AI合作伙伴关系与投资研究团队报告
来源:https://www.ftc.gov/news-events/news/press-releases/2025/01/ftc-issues-staff-report-ai-partnerships-investments-study 联邦贸易委员会今日发布团队报告,分析最大云服务提供商(CSPs)——Alphabet公司、亚马逊公司和微软公司——与两家最知名生成式AI开发商Anthropic PBC及OpenAI OpCo, LLC之间建立的企业合作与投资关系。
报告(https://www.ftc.gov/reports/ftc-staff-report-ai-partnerships-investments-6b-study)详述了CSP与AI开发商合作关系的结构关键要素,包括CSP在合作中保留的股权和收入分成权利,以及通过投资获得的某些咨询、控制和排他性权利。
报告概述了潜在竞争影响,指出:这些合作可能影响对计算资源和工程人才等特定投入要素的获取;可能提高AI开发商合作伙伴的转换成本;并使CSP合作伙伴能够获取可能无法被其他方获取的敏感技术和商业信息。
FTC主席莉娜·汗表示:“随着企业快速部署生成式AI技术,执法者与政策制定者必须保持警惕,防范破坏开放市场、机遇与创新的商业策略。FTC的报告揭示了大型科技公司的合作如何形成锁定效应,剥夺初创企业关键AI资源,并泄露可能破坏公平竞争的敏感信息。”
该团队报告源于FTC于2024年1月依据《FTC法案》第6(b)条发出的调查令(https://www.ftc.gov/news-events/news/press-releases/2024/01/ftc-launches-inquiry-generative-ai-investments-partnerships)。调查令发送给涉及三项数十亿美元投资的五家公司:微软与OpenAI、亚马逊与Anthropic,以及Alphabet与Anthropic。
FTC的报告旨在帮助委员会、公众和政策制定者深入理解生成式AI开发商与CSP之间的企业合作关系。报告发现也有助于提升FTC评估大型科技公司合作属性及潜在影响的能力,这些合作可能对数亿消费者、无数企业及经济重要领域产生影响。
主要发现
报告重点指出AI合作关系的若干关键条款,包括:
- CSP合作伙伴在其AI开发商合作伙伴中持有重大股权及特定收入分成权利;
- CSP合作伙伴通过不同程度的咨询、控制及排他性权利对AI开发商合作伙伴实施影响;
- 要求AI开发商将其从CSP合作伙伴获得的大量投资用于购买该合作伙伴的云服务的承诺;
- 关键资源与信息的共享,包括以折扣价格获取大量计算资源、与AI开发商前沿模型相关的资产及知识产权,以及某些财务和训练数据;
- 通过将AI模型整合到CSP产品中或部署在CSP平台上等方式,扩展现有产品的机遇。
此外,报告强调了以下需关注的潜在影响领域:
- 影响对计算资源和工程人才等特定投入要素获取的能力,可能影响AI开发商合作伙伴及非合作伙伴AI开发商之间的竞争;
- 提高AI开发商合作伙伴转换合同与技术的潜在成本,使其更难更换CSP或限制其使用多个CSP;
- 使CSP合作伙伴能够获取其他方可能无法获取的敏感技术和商业信息,如与生成式AI模型、AI开发方法、机密芯片协同设计、合作伙伴财务状况及客户使用量和收入数据相关的信息。
报告中的发现代表截至2024年9月团队可获取的信息及截至2025年1月的公开信息。
委员会以5-0投票通过授权团队发布报告。主席莉娜·汗将发表声明。安德鲁·N·弗格森委员发布并同意声明(https://www.ftc.gov/legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-andrew-n-ferguson-joined-commissioner-melissa-holyoak),该声明获得梅丽莎·霍利奥克委员联署。霍利奥克委员发布并同意声明(https://www.ftc.gov/legal-library/browse/cases-proceedings/public-statements/concurring-dissenting-statement-commissioner-melissa-holyoak-joined-commissioner-andrew-n-ferguson),该声明获得弗格森委员联署。
相似文章
@rohanpaul_ai:前FTC(美国联邦贸易委员会)主席Lina Khan:危险的AI发布已能根据现有法律触发责任…
前FTC主席Lina Khan表示,现有消费者保护法已经允许监管机构对危险AI发布追究公司责任,无需新的AI特定立法。
@Miles_Brundage:我理解人们为何声称‘现有法律已经禁止鲁莽的AI行为!’然而……
Miles Brundage 批评了现有法律在防止鲁莽AI行为方面的有效性,指出公司内的安全和安保人员认为当前法律框架未给予他们足够的支持。
前FTC主席Khan:引用1934年先例,主张对AI公司CEO追究责任
前FTC主席Lina Khan敦促使用现有法律和1934年最高法院先例,追究AI公司及其高管在危险行为中的责任,无需等待新法规。
@sama:世界应有信心,开发日益强大人工智能的美国公司将负责任行事,尤其…
Sam Altman 强调 AI 公司负责任行动的必要性,并欢迎建立前沿 AI 安全的联邦框架,倡导共享标准和合作。
@Miles_Brundage: - 强有力的举报人保护措施(保密协议阻止人们与政策制定者分享尚未非法但危险的信息)
本文倡导强有力的举报人保护措施以应对AI风险,并强调在AI对齐和安全方面进行严肃投资,以抵御AI赋能的国家级攻击者。