Anthropic、OpenAI、梵蒂冈和美国国会一致同意AI护栏，但理由各不相同

过去几个月，Anthropic、OpenAI、教皇利奥十四世和美国国会议员各自发布了关于AI治理的立场文件。各方都支持某种形式的护栏，但在这些规则应优先保护什么的问题上存在分歧。Anthropic 从灾难性风险入手。其政策提案聚焦于前沿模型可能增加网络和生物威胁、以更高自主性运作或变得难以控制的可能性。它呼吁进行独立测试、加强模型安全、事件报告以及与风险挂钩的部署阈值。梵蒂冈从人类尊严出发。教皇利奥十四世的《Magnifica Humanitas》根据AI对工作、真理、自由、和平和弱势群体的影响进行评判。它将岗位流失、监控、自主武器和算法歧视视为道德关切，而非技术进步的次要后果。OpenAI 从国家能力入手。其政策文件强调美国的领导力、基础设施、能源、人才和AI的广泛接入。它们还支持前沿模型审计、事件报告、员工参与部署决策、可携带福利以及为受劳动力市场冲击影响的人群提供安全网。经济增长仍然是核心，但该公司现在更重视管理其后果所需的制度。《伟大美国AI法案》讨论草案从实施入手。它将要求大型前沿开发者发布风险管理框架、发布透明度报告、使用独立验证机构并报告关键安全事件。它还涉及举报人保护、AI驱动的欺诈、劳动力数据、网络安全、教育、开源安全以及联邦与州政府之间的权力划分。综合阅读这四份文件可以发现一些共同点。各方都将AI视为超出产品范畴的存在。它正成为经济、国家安全、教育、科学和政府基础设施的一部分。各方也认识到，AI公司的自愿承诺无法解决治理争论。在劳动方面，它们的差异更加明显。Anthropic 关注可能的岗位流失规模和速度。梵蒂冈将工作与尊严、公民身份和社会参与联系起来。OpenAI 强调新岗位和生产力，同时承认需要员工声音、可携带福利和适应性安全网。国会草案提出了测量工具，包括当AI对覆盖范围内的大规模裁员有实质影响时的披露要求、对AI敏感职业的预测以及调整援助的研究。安全问题也遵循类似模式。Anthropic 专注于灾难性的网络、生物和失控风险。OpenAI 将安全与美国领导力和国防能力联系起来。国会将这些关切转化为涉及模型权重保护、事件报告和研究安全的要求。梵蒂冈则增加了对监控、操纵和自主武器的限制。一个可行的框架需要为前沿开发者设定明确义务，为部署AI的组织制定特定行业要求，并在整个供应链中进行独立验证。它还需要足够稳固的立法以经受总统行政当局的更迭。企业、工人和公众无法根据每四年重写一次的规则进行规划。披露：我为福布斯撰写了一篇更长的比较文章，包含底层提案的链接：《Anthropic、OpenAI、梵蒂冈和美国国会如何治理AI》