论人工智能监管与信息传递

1/2 感谢加文进行如此深入的交流。我通常不太花时间在社交媒体上，但这次我想参与讨论，因为这确实触及了一场重要对话的核心。

首先，关于监管，我认为“要么通过监管将权力集中在少数选定的公司和政客手中，要么广泛分散权力”是一种虚假的二分法。我知道硅谷有一种简化的逻辑：监管=监管俘获=权力集中，但我一直认为这过于简化了现实。这个圈子之外的许多人认为监管是约束企业权力、造福普通人的手段。我也不一定认同这种观点，但我认为情况很复杂，取决于“监管”的具体内容。尤其是，那些持“监管=监管俘获=权力集中”观点的人，往往低估了客观公正的制度流程所具有的分散权力的作用。一个粗略的类比是，正式的法院系统有时可能显得刻板和精英化，但在保护弱势个体权利方面，它比替代方案——暴民正义——要做得好得多。从最佳状态来看，制度可以将权力赋予理念而非个人，从而分散权力。

这就是为什么Anthropic在提出政策建议时总是非常谨慎。我们努力提出既削弱（减缓）前沿AI公司发展、又能利好小型竞争者的提案。加州SB53法案（我们支持），以及饱受批评的SB1047法案（我们持保留态度），都完全豁免了低于特定收入或模型训练成本的公司（SB53为5亿美元，1047更低但这是我们反对的）。最近我们在CAISI和白宫倡导的测试流程，对前沿模型的测试比非前沿模型更为严格——这同样有利于挑战者。类似地，“Pacing the Frontier”倡议（或至少是我们Anthropic倾向的实施方案）设想调节最顶尖模型的发展速度，而不限制追赶者。这损害了前沿实验室的商业利益，却帮助了包括开放权重模型在内的挑战者！

总体而言，我的观点是，AI从结构上就是一种倾向于集中权力的技术，其原因与监管无关（更多与scaling laws的极端影响有关）。开放权重模型在这方面有一定帮助，但远非充分的解决方案，因为它们只是将集中转移到了拥有最多算力和芯片的群体手中（这大致相当于前沿实验室加上硬件供应商）。相反，我认为恰当的“道路规则”可以同时做到：（a）应对AI的网络/生物/对齐风险，（b）在制度上约束前沿AI公司的权力，（c）为开放权重模型留出空间，同时应对其带来的特定风险。

顺便提一下，我认为过去几个月的事件并未“未能实现[我]偏好的监管路径”。据报道特朗普政府采取的方法——对前沿模型进行部署前测试，以及对接近前沿的开放权重模型也进行测试——是我非常支持的，当然具体细节还有待确认。我也支持Demis Hassabis关于建立类似FINRA（美国金融业监管局）实体的构想。这与六个月前大多数行业仍主张联邦预先优先于所有州监管、且没有明显联邦方案的情况形成鲜明对比。

Gavin Baker (@GavinSBaker): Sholto，感谢你澄清事实。更重要的是，硅谷多位非常严肃的人士都听过类似的说法并认为其真实可信。而之所以如此多人相信，是因为这与Dario的公开表态一致。