@MackenZ_arnold: 登录我的预测:至少两家前沿AI公司将在年底前做出新的单方面安全承诺…
摘要
该推文预测前沿AI公司将在年底前做出有限的安全承诺,这些承诺可能被违反,而反垄断问题将延迟合作协议,影响公共利益并导致未来立法。
查看缓存全文
缓存时间: 2026/09/19 06:49
记录我的预测如下:
-
至少两家前沿人工智能公司将在年底前发布新的单边安全承诺。舆论共识将大致认为:这些承诺方向正确、范围狭窄且力度不足。
-
这些协议将包含部分切实有益的内容——很可能涉及技术监督与监控(各种不限制输出结果或开发方法的措施)。协议不会包含诸如:系统分阶段发布、安全事故后的限制或延迟、安全程序故障披露、特定技术(如非人类可理解的思维链)限制等承诺。它们可能包含事件披露条款,但实际约束力会很弱。
-
一年内,至少一家公司将修订其单边承诺,因认为自身即将违反协议条款。另有至少两家公司将违背承诺精神(例如:披露信息量远低于承诺,或隐瞒信息直至泄露)。
关于集体协议:
-
企业相信可以在彼此间共享事故信息,但出于其他顾虑实际共享有限。最终将开始共享关于模型蒸馏等更直接影响商业利益的信息,但出于法律风险担忧,这也会有所延迟。它们不会共享新兴安全风险或自身安全协议失败的信息。司法部有50%概率发布指南,认可网络安全等部分领域的信息共享;但这不会带来实质性改变,主要针对最简单、争议最小的共享场景。
-
到2027年底,企业将尝试达成某些协作协议。这些协议近乎失败但最终以受损、狭隘的形式存活下来。私下里,人们会认为公众对企业的压力以及员工内部的推力使协议更有可能达成并更具力度。
-
在谈判这些协作协议时,企业确实会感到反垄断法的束缚。超过80%的首席法务官会表示:2026年末那些声称企业可仅承担有限风险进行合作的言论明显错误,且过度轻视了实际操作难度。若对参与者进行调查,约30%会认为反垄断壁垒导致安全协议实用性显著降低,60%认为这大幅增加了协议破裂的可能性。
-
导致这种失败的关键机制之一是:法律不确定性削弱了重视公共安全的员工的议价能力,却强化了希望维持现状的员工的影响力。
-
这些协议达成时间会推迟,参与方会少于法律明确时的情形。若法律早已清晰,某些协议今日或许已经存在。
-
在此类协作协议达成后的18个月内,将不会发起任何相关诉讼。若真有诉讼出现,最可能来自对某些参与企业怀有敌意的司法部。许多人会惊讶于埃隆·马斯克表现克制未提起诉讼。反垄断不确定性的主要代价在于进程迟缓、普遍顾虑、程序繁琐及制造恐慌。这种代价真实存在且损害了公共利益。
-
集体协议中包含的任何安全承诺,在协议通过后更可能体现在国会或加州通过的相关立法中。
相似文章
当AI前沿实验室协调放缓时,'AI安全'在何时会沦为垄断联盟?
本文探讨AI前沿实验室出于安全考虑协调放缓发展是否可能违反反垄断法,并将此类行为与竞争对手协议限制创新进行对比。
独家:OpenAI的Sam Altman暗示与其他AI公司达成协议以应对安全风险
OpenAI首席执行官Sam Altman暗示,AI公司之间即将达成一项协议,以减缓AI发展并应对安全风险。与此同时,Anthropic宣布了新的安全措施,包括独立评估员访问权限。讨论反映了人们对AI安全事件日益增长的担忧,以及行业范围协调的必要性。
大型人工智能企业制定监管主导权条件
包括阿莫迪、阿尔特曼、纳德拉和马斯克在内的主要人工智能领袖提出名为'把控边界'的监管计划,旨在协调安全标准并放缓人工智能发展步伐,但分析师对其实施可行性表示怀疑。
@Plinz: 没有人计划停止或暂停人工智能。大型科技公司和政府将会改进并使用前沿人工智能,作为…
尽管有人试图限制公众获取强大的模型,大型科技公司和政府将继续推进前沿人工智能。
@TheAhmadOsman:最后的努力,因为他们知道IPO即将泡汤
Sam Altman 同意需要控制AI前沿发展的步伐,并宣布计划在OpenAI设立具有类似员工访问权限的独立评估员,同时讨论AI安全问题。