特朗普测试AI模型的计划面临问题——美国安全团队遭DOGE削弱

Ars Technica 新闻
ai-safety ai-testing executive-order cybersecurity government-policy frontier-models

摘要

特朗普关于前沿模型部署前测试的AI行政令面临挑战，原因是安全团队被削弱以及透明度与可观测性问题，可能限制其有效性。

<p>周二，唐纳德·特朗普终于签署了他的<a href="https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/">行政令</a>，扩大政府在前沿AI模型自愿安全测试方面的努力。如今，批评者警告称，该命令可能目光短浅，仅提供了政府正在积极监控AI风险的表面安抚，而对模型部署方式和时间几乎没有改变。</p> <p>上个月，特朗普<a href="https://arstechnica.com/tech-policy/2026/05/trump-canceled-ai-safety-testing-eo-after-snub-from-tech-ceos/">突然取消了一场签署活动</a>，他原希望在该活动中与领先AI公司的CEO们共同发布该行政令的早期版本。由于是最后一刻才收到邀请，几位CEO无法出席签署，但仍表示支持该命令。官方上，特朗普声称推迟活动是因为担心该行政令可能走得太远，成为阻碍AI创新的“拦路虎”。有报道称，他的政府内部存在分歧，网络安全专家与致力于放松AI监管的官员意见相左。</p> <p>特朗普签署的淡化版行政令承诺“不会以过度繁重的监管扼杀这一创新”，并且没有对AI公司设定任何要求。相反，它建立了一个自愿流程，让企业与政府合作进行安全审查——特朗普的行政令声称，这将“确保最好、最安全的技术能够快速部署，以应对我们国家面临的所有威胁。”</p><p><a href="https://arstechnica.com/tech-policy/2026/06/trumps-ai-executive-order-may-not-prevent-dangerous-deployments/">阅读全文</a></p> <p><a href="https://arstechnica.com/tech-policy/2026/06/trumps-ai-executive-order-may-not-prevent-dangerous-deployments/#comments">评论</a></p>
查看原文
查看缓存全文

缓存时间: 2026/06/03 21:41

# 特朗普的AI模型测试计划存在一个问题——美国安全团队已被DOGE削弱 来源：https: //arstechnica.com/tech-policy/2026/06/trumps-ai-executive-order-may-not-prevent-dangerous-deployments/ 一旦覆盖模型被定义，Nguyen 随即警告称，安全测试的有效性很可能取决于 AI 公司是否完全透明，并将该过程视为“真诚的协作”。 “定义问题之下，存在一个可观测性问题，”Nguyen 写道，“政府无法评估其无法看到的内容，而前沿能力仅对构建它们的实验室可见。” Ferren 提出，“为新型 AI 模型建立适当网络防御的时间窗口也可能迅速关闭”，即便设计良好的政府项目也可能难以在如此短的时间内妥善审查前沿模型。“即使实施得当，部署前测试也有其局限性，”Ferren 指出，谷歌的威胁情报团队已发现国家级行为者利用前沿模型自动化网络攻击，且“研究人员已表明 (https://aisle.com/blog/ai-cybersecurity-after-mythos-the-jagged-frontier)，Mythos 式的漏洞推理能力可通过开放权重系统复现。” 因此，尽管 AI 公司可能会自愿提交测试，但他们可能出于经济动机寻求形式上的批准，而非与政府合作，充分测试已知的前沿能力。 “开发既无法进行恶意黑客攻击又保持商业吸引力的模型，很可能被证明是困难的，”Ferren 表示。 他总结道，该行政令“可能会带来短期的网络安全益处”，但“长期效果”仍然“不明确”。 Nguyen 认为，该行政令采取了必要步骤，创建了“分类网络基准测试、自愿预发布评估和协调漏洞扫描”，这些将是“国家安全界未来数十年所需”的工具，以“持续评估那些概率性而非确定性、自主性而非受控性、能力随每次更新而变化的系统。” 但 Nguyen 表示，安全测试必须与技术发展同步进化，否则我们可能是在根据“昨天的风险”来评估新兴模型。 这正是为什么，从根本上说，这个过程依赖于拥有深厚技术专长和机密国家安全洞察的利益相关方之间的诚实交流。Nguyen 写道，这是确保美国集中精力保护公众免受最可信、最重大的 AI 风险影响的唯一途径，而不仅仅是提供“表演性的 reassurance”。

相似文章