@MackenZ_arnold: 登录我的预测:至少两家前沿AI公司将在年底前做出新的单方面安全承诺…

X AI KOLs Timeline 新闻

摘要

该推文预测前沿AI公司将在年底前做出有限的安全承诺,这些承诺可能被违反,而反垄断问题将延迟合作协议,影响公共利益并导致未来立法。

登录我的预测: 1. 至少两家前沿AI公司将在年底前做出新的单方面安全承诺。网络共识将是~这些承诺好、狭窄且不足。 2. 这些协议会有一些真正好的部分——可能围绕技术监督和监控(各种不限制输出或开发方法的东西)。它们不会包含像系统分层发布、不安全事件后的限制或延迟、安全程序失败的披露,或对某些技术(如非人类可读的CoT)的限制等承诺。它们可能会包括一些关于事件披露的内容,但会很弱。 3. 在一年内,至少一家公司会因其认为即将违反承诺而修改其单方面承诺。至少两家其他公司会违背其承诺的精神(例如,披露的信息远少于承诺,或隐藏这些信息直到泄露) 至于集体协议: 4. 公司相信它们可以相互分享事件信息,但由于其他原因不会分享太多。最终,它们将开始分享更多关于蒸馏和其他更直接影响其底线的信息,但即使这也会因法律风险的担忧而延迟。它们不会分享新出现的安全风险或其安全协议失败的信息。50/50 DOJ将发布指导方针,称在网络安全等方面的信息共享是可以的;这不会产生重大影响,将主要针对最容易、最少争议的共享版本。 5. 到2027年底,公司会尝试达成一些合作协议。这些协议将接近失败,但以受伤、狭窄的形式存活下来。在幕后,人们会说,对公司的公众压力和来自员工的压力使交易更可能且更强。 6. 在协商这些合作协议时,公司实际上会感到被反垄断所阻碍,且超过80%的总法律顾问会说,2026年底声称公司显然可以在有限风险下合作的说法显然是错误的,并且过于轻视了困难。如果你对参与者进行调查,约30%会说反垄断障碍导致安全协议实用性大大降低,60%会说它大大增加了协议破裂的可能性。 7. 这一失败的关键机制之一将是法律不确定性降低了关心公共安全的员工的影响力,并赋予了希望维持现状的员工权力。 8. 这些协议将发生得更晚,参与者比法律清晰时更少。如果法律已经清晰,一些协议今天就已经存在了。 9. 在此合作协议的18个月内,将不会提起任何诉讼。如果确实有诉讼,最有可能来自对某些参与公司怀有敌意的DOJ。许多人会对Elon表现友好且不起诉感到惊讶。反垄断不确定性的主要成本将体现在缓慢、担忧、程序和FUD上。这一成本将是真实的,并且损害了公共利益。 10. 集体协议中包含的任何安全承诺将更可能出现在协议通过后的国会或CA立法中。
查看原文
查看缓存全文

缓存时间: 2026/09/19 06:49

记录我的预测如下:

  1. 至少两家前沿人工智能公司将在年底前发布新的单边安全承诺。舆论共识将大致认为:这些承诺方向正确、范围狭窄且力度不足。

  2. 这些协议将包含部分切实有益的内容——很可能涉及技术监督与监控(各种不限制输出结果或开发方法的措施)。协议不会包含诸如:系统分阶段发布、安全事故后的限制或延迟、安全程序故障披露、特定技术(如非人类可理解的思维链)限制等承诺。它们可能包含事件披露条款,但实际约束力会很弱。

  3. 一年内,至少一家公司将修订其单边承诺,因认为自身即将违反协议条款。另有至少两家公司将违背承诺精神(例如:披露信息量远低于承诺,或隐瞒信息直至泄露)。

关于集体协议:

  1. 企业相信可以在彼此间共享事故信息,但出于其他顾虑实际共享有限。最终将开始共享关于模型蒸馏等更直接影响商业利益的信息,但出于法律风险担忧,这也会有所延迟。它们不会共享新兴安全风险或自身安全协议失败的信息。司法部有50%概率发布指南,认可网络安全等部分领域的信息共享;但这不会带来实质性改变,主要针对最简单、争议最小的共享场景。

  2. 到2027年底,企业将尝试达成某些协作协议。这些协议近乎失败但最终以受损、狭隘的形式存活下来。私下里,人们会认为公众对企业的压力以及员工内部的推力使协议更有可能达成并更具力度。

  3. 在谈判这些协作协议时,企业确实会感到反垄断法的束缚。超过80%的首席法务官会表示:2026年末那些声称企业可仅承担有限风险进行合作的言论明显错误,且过度轻视了实际操作难度。若对参与者进行调查,约30%会认为反垄断壁垒导致安全协议实用性显著降低,60%认为这大幅增加了协议破裂的可能性。

  4. 导致这种失败的关键机制之一是:法律不确定性削弱了重视公共安全的员工的议价能力,却强化了希望维持现状的员工的影响力。

  5. 这些协议达成时间会推迟,参与方会少于法律明确时的情形。若法律早已清晰,某些协议今日或许已经存在。

  6. 在此类协作协议达成后的18个月内,将不会发起任何相关诉讼。若真有诉讼出现,最可能来自对某些参与企业怀有敌意的司法部。许多人会惊讶于埃隆·马斯克表现克制未提起诉讼。反垄断不确定性的主要代价在于进程迟缓、普遍顾虑、程序繁琐及制造恐慌。这种代价真实存在且损害了公共利益。

  7. 集体协议中包含的任何安全承诺,在协议通过后更可能体现在国会或加州通过的相关立法中。

相似文章

独家:OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险

Reddit r/ArtificialInteligence

OpenAI首席执行官Sam Altman暗示,AI公司之间即将达成一项协议,以减缓AI发展并应对安全风险。与此同时,Anthropic宣布了新的安全措施,包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧,以及行业范围协调的必要性。

大型人工智能企业制定监管主导权条件

Hacker News Top

包括阿莫迪、阿尔特曼、纳德拉和马斯克在内的主要人工智能领袖提出名为'把控边界'的监管计划,旨在协调安全标准并放缓人工智能发展步伐,但分析师对其实施可行性表示怀疑。