@RepLoriTrahan:@Fathom_org 是对的。引入独立评估者是真实的一步,但自愿承诺可能随时会被放弃。
摘要
文章倡导通过FRONTIER法案在AI安全中引入独立评估者,以确保透明度和问责制,认为自愿承诺相比法律要求是不够的。
查看缓存全文
缓存时间: 2026/09/14 09:25
Fathom(@Fathom_org)说得对。引入独立评估者确实是实质性的进步。但自愿承诺在遇到不便时随时可能被抛弃。
《前沿法案》将安全与透明度纳入法律框架,并设置独立审计机构对前沿实验室进行监督。而可随意违背的承诺无法构成持久保障。
Fathom(@Fathom_org): 这是个重大进展。Dario Amodei、Sam Altman与Elon Musk正在汇聚于一个我们Fathom长期倡导的理念:AI实验室不应是唯一判断自身系统安全性的主体。
独立验证机构(IVOs)能够提供这种外部制衡。
相似文章
@NatPurser: 过去一周,我收到了很多关于独立AI评估在实践中应该如何进行的询问。
这条推文讨论了为确保独立AI评估的可信度而需要最低条件,强调了超过100位专家认可的原则,以在整个行业标准化安全措施。
Anthropic 和 OpenAI 想要嵌入安全评估员。他们真的会独立吗?
Anthropic 和 OpenAI 提议在其公司内部嵌入独立的安全评估员,以在训练期间评估 AI 模型,但细节需要澄清,以确保真正的独立性和有效的监督。
@NatPurser:与几位非AI安全领域的华盛顿DC朋友聊后的几点想法:我认为存在一种误解,认为独立评估...
作者讨论了人们对独立AI安全评估员旨在取代政府监管的误解,强调他们更希望有明确的监管规则,并将自身定位为对政府工作的补充。
谁在资助独立的AI评估机构?(12分钟阅读)
AI第三方独立评估机构(如METR、Apollo Research、Transluce)正从幕后走向前台,成为行业安全的关键守门人,但其资金来源、评估权限和治理结构仍充满不确定性,尤其是在联邦监管缺位、白宫倾向自愿自律的背景下。
@Miles_Brundage: 我离开OpenAI后决定全力投入前沿AI审计的原因之一是,如果AI公司需要…
Miles Brundage讨论了他在离开OpenAI后转而专注于前沿AI审计的决定,强调独立审计员可以安抚AI公司,让他们相信同行也在采取成本高昂的安全措施。AVERI支持这一观点,倡导在独立监督下进行有节奏的发展。