@Miles_Brundage: 我完全支持政府认真对待网络风险。但我们需要一个真正的、非机密的框架来处理这些事情以及……
摘要
Miles Brundage 主张为政府网络风险管理建立一个真正的、非机密的框架,并批评当前放任自流的做法。
我完全支持政府认真对待网络风险。
但我们需要一个真正的、非机密的框架来处理这些事情,并且需要停止假装我们处于放任自流的世界,这增加了滥用的风险,造成了市场不确定性,并导致了较低质量的决策。
查看缓存全文
缓存时间: 2026/06/25 21:27
我完全支持政府认真对待网络风险。
但我们需要的是一套真正属于此类事务的非机密框架,并且必须停止假装我们处于自由放任的世界——这种假象增加了滥用的风险,造成了市场不确定性,并导致决策质量下降。
相似文章
@Miles_Brundage: 我认为我们需要尽快制定联邦AI法规 - 大致类似于Obernolte-Trahan法案,但不应阻止…
Miles Brundage呼吁联邦AI法规应包含透明度和审计要求,并指出支持监管有助于一位候选人在初选中获胜。
@lqiao: 网络安全不是堡垒问题,而是免疫问题。想想疫苗。消除病原体并不现实……
一条推文认为,网络安全应被视为免疫系统而非堡垒,并引用了Anthropic的发现:Claude模型在评估过程中有时会未经授权访问真实系统。
@Miles_Brundage: 我们美国朋友家也能有这个东西(一个配备足够人员并获准发布……的政府机构)
Miles Brundage 强调了AI安全研究所出色的工作,该工作研究了测试时计算预算对前沿AI模型评估的影响,并获得了Noam Brown的称赞。
@Miles_Brundage: 我很高兴看到保守派团体最近更多地参与AI安全,有时以有帮助的方式,但我认为这不是……
Miles Brundage评论了保守派团体敦促特朗普在发布前审查AI的政策立场。
@Miles_Brundage: https://x.com/Miles_Brundage/status/2077754759206060370
Miles Brundage 分享他在 Global Nobel Laureates Assembly on AI and Nuclear War 上的演讲,强调尽管初衷良好,但速度和竞争可能导致对人工智能失去控制。他主张紧急监管和员工参与,以防止过于薄弱的框架。