@NatPurser:与几位非AI安全领域的华盛顿DC朋友聊后的几点想法:我认为存在一种误解,认为独立评估...

X AI KOLs Timeline 新闻

摘要

作者讨论了人们对独立AI安全评估员旨在取代政府监管的误解,强调他们更希望有明确的监管规则,并将自身定位为对政府工作的补充。

与几位非AI安全领域的华盛顿DC朋友聊后的几点想法: 我认为存在一种误解,即独立的评估员和审计员把自己视为政府监管的可靠替代品。这完全不是我接触到的情况。 相反,许多人觉得自己对被要求开展的工作准备不足,更希望政府能制定明确的规则。 例如——那些能确保他们访问公司AI系统,而不取决于他们正在审计的公司善意的规则! 他们中许多人开始做这项工作,是因为当时存在空白;无论是政府还是私营部门,都没有充分监控AI风险。 但我认为,如果政府加强自身能力,并承诺自己进行部分或大部分测试,许多人会表示欢迎。并且,仍然会有空间让专门的、利基的评估员作为政府监管的补充或延伸。 总的来说,我认为从硅谷科技文化出发,模式化地推断整个安全社区,假设这些人坚决反对监管或试图垄断监管/访问权,这是不公平也不准确的。
查看原文
查看缓存全文

缓存时间: 2026/09/16 10:02

与一些非AI安全领域的华盛顿特区朋友交流后,我有一些想法:

我注意到一种误解,认为独立评估员和审计员将自身视为监管监督的可靠替代方案。这完全不符合我的观察。

事实上,许多人对分配给他们的工作感到准备不足,更希望政府制定明确的规则。

例如——确保他们获取企业AI系统的权限不依赖于被审计企业配合意愿的规则!

许多人最初涉足这项工作是因为存在监管真空:政府和私营部门都未能充分监控AI风险。

但我认为,若政府加强自身能力并承诺承担部分或大部分测试工作,许多独立评估员会对此表示欢迎。同时,仍将存在空间供细分领域的专业评估员作为政府监管的补充或延伸。

总体而言,我认为将旧金山科技文化模式直接套用于整个安全社区是不公平且不准确的——这些人并非顽固反对监管,也非试图垄断监督权或访问权限。

相似文章

@Miles_Brundage: 引人深思

X AI KOLs Following

该推文指出了一种误解,即AI安全领域的独立评估员和审计员旨在替代监管监督,而他们自己并不这样认为。