@Miles_Brundage：有些议员确实很懂出口管制，有些议员确实很懂前沿AI安全，但……
摘要
Miles Brundage评论称，目前尚无议员将前沿AI安全（security）作为自己的首要议题。此前有人指责Anthropic淡化了一起Slack工作区数据泄露事件，该事件据称暴露了研究机密。
查看缓存全文
缓存时间: 2026/10/28 15:39
有些议员对出口管制非常在行，也有一些人对前沿AI安全非常在行，但还没有人真正把这个问题作为自己的头等大事来推动（这里说的是AI安全的本义，而不是被重新包装成“安全“的AI防护）。
希望这种情况很快就能改变！
will depue (@willdepue): Anthropic在严重性上大大轻描淡写了最近的安全事件。我听说“大教堂“已经获得了Slack工作区的完整管理员权限（可以查看所有消息、以任意用户身份登录），而那里存放着每一项研究机密
不了解情况的人注意：Ant指的是Anthropic，OAI指的是OpenAI
相似文章
@Miles_Brundage: 被严重忽视的AI政策专家（可能是因为他长期有一个令人困惑的用户名）关注他来解决这个问题
AI政策专家Miles Brundage推荐关注Charlie Bullock，后者正在MTS上讨论联邦前沿AI立法。
@Miles_Brundage：我理解人们为何声称‘现有法律已经禁止鲁莽的AI行为！’然而……
Miles Brundage 批评了现有法律在防止鲁莽AI行为方面的有效性，指出公司内的安全和安保人员认为当前法律框架未给予他们足够的支持。
@Miles_Brundage: *轻敲标志* https://milesbrundage.substack.com/p/why-security-comes-first… 另外，RAND最近有一份很好的报告关于保护…
Miles Brundage 认为，对于前沿AI公司来说，安全是一个关键优先事项，以防止盗窃和篡改，强调了当前的漏洞以及立即行动的必要性。
@Miles_Brundage：少数曾在多家前沿AI公司（以及政府）工作过的人之一就安全问题发表的强烈声明…
Geoffrey Irving 认为，鉴于当前危险局势，继续在前沿AI实验室进行能力研究是不理智的，他敦促实验室和研究人员为了集体安全而停止。
@Miles_Brundage: - 强有力的举报人保护措施（保密协议阻止人们与政策制定者分享尚未非法但危险的信息）
本文倡导强有力的举报人保护措施以应对AI风险，并强调在AI对齐和安全方面进行严肃投资，以抵御AI赋能的国家级攻击者。