@Miles_Brundage: 引人深思
摘要
该推文指出了一种误解,即AI安全领域的独立评估员和审计员旨在替代监管监督,而他们自己并不这样认为。
引人深思 https://t.co/2rkwY6QUyA
查看缓存全文
缓存时间: 2026/09/16 14:02
Nat Purser (@NatPurser):
与一些非AI安全领域的华盛顿朋友交流后,有几个想法:
我认为存在一种误解:独立评估者和审计员将自己视为监管监督的可靠替代者。我遇到的情况完全不是这样。
事实上,许多人觉得他们更像是补充而非替代,旨在填补现有监管框架中的空白,特别是在技术快速发展的背景下。他们关注的是实践中的风险评估和最佳实践推广,而不是试图接管正式的监管职责。
这种区分很重要,因为它影响我们如何设计和整合这些评估机制。
相似文章
@NatPurser:与几位非AI安全领域的华盛顿DC朋友聊后的几点想法:我认为存在一种误解,认为独立评估...
作者讨论了人们对独立AI安全评估员旨在取代政府监管的误解,强调他们更希望有明确的监管规则,并将自身定位为对政府工作的补充。
@Miles_Brundage: 在众多事项中,我们需要: - 在领先公司中真正实施审计,设定最低资格、独立性、访问权限等标准……
Miles_Brundage 主张为领先的AI公司实施强制性审计和可执行的安全标准,以提高监督和安全性。
@Miles_Brundage: 我离开OpenAI后决定全力投入前沿AI审计的原因之一是,如果AI公司需要…
Miles Brundage讨论了他在离开OpenAI后转而专注于前沿AI审计的决定,强调独立审计员可以安抚AI公司,让他们相信同行也在采取成本高昂的安全措施。AVERI支持这一观点,倡导在独立监督下进行有节奏的发展。
@Miles_Brundage: 完整评论比某些人转述的方式好得多且更具建设性
一条推文批评了对 AI 领袖关于监管评论的转述,提到了 Mike Johnson 对紧急暂停令的反对,以及他提出的与 AI 提供商会面的建议。
@Miles_Brundage: 对 Opus 5.5 博客文章摘录中没有看到更多评论感到惊讶:"我们基本上理解当前模型带来的风险..."
一条推文批评了 Anthropic 的 Opus 5.5 博客文章中的声明,认为关于理解和管理当前 AI 风险的说法显然不实。