@Miles_Brundage: 在众多事项中,我们需要: - 在领先公司中真正实施审计,设定最低资格、独立性、访问权限等标准……
摘要
Miles_Brundage 主张为领先的AI公司实施强制性审计和可执行的安全标准,以提高监督和安全性。
在众多事项中,我们需要:
- 在领先公司中真正实施审计,设定最低资格、独立性、访问权限等标准
- 真正的安全和安保标准,而不仅仅是“你需要有一个[可能薄弱的]政策并遵循它”
查看缓存全文
缓存时间: 2026/09/16 03:57
除此之外,我们还需要:
- 在领先企业中实际强制要求审计,并明确最低资质、独立性、权限等标准
- 制定实际的安全标准,而不仅是“企业需制定[可能不够完善的]政策并遵循”
相似文章
@Miles_Brundage: 我离开OpenAI后决定全力投入前沿AI审计的原因之一是,如果AI公司需要…
Miles Brundage讨论了他在离开OpenAI后转而专注于前沿AI审计的决定,强调独立审计员可以安抚AI公司,让他们相信同行也在采取成本高昂的安全措施。AVERI支持这一观点,倡导在独立监督下进行有节奏的发展。
@Miles_Brundage: 我认为我们需要尽快制定联邦AI法规 - 大致类似于Obernolte-Trahan法案,但不应阻止…
Miles Brundage呼吁联邦AI法规应包含透明度和审计要求,并指出支持监管有助于一位候选人在初选中获胜。
@Miles_Brundage: 美国首个前沿AI审计要求!
伊利诺伊州颁布了美国最严格的人工智能安全与问责法案,确立了全国首个前沿AI审计要求。
@Miles_Brundage: - 强有力的举报人保护措施(保密协议阻止人们与政策制定者分享尚未非法但危险的信息)
本文倡导强有力的举报人保护措施以应对AI风险,并强调在AI对齐和安全方面进行严肃投资,以抵御AI赋能的国家级攻击者。
@Miles_Brundage:我理解人们为何声称‘现有法律已经禁止鲁莽的AI行为!’然而……
Miles Brundage 批评了现有法律在防止鲁莽AI行为方面的有效性,指出公司内的安全和安保人员认为当前法律框架未给予他们足够的支持。