如何定义“能力活动”以便于进行节奏调控?(阅读约 21 分钟)
摘要
文章认为,要调控 AI 前沿发展的节奏,需要公开验证的算力支出度量,并呼吁 AI 开发者允许第三方审计方报告分配给能力活动与非能力活动的算力比例,这一建议建立在 Anthropic 已发布的安全研究算力估算之上。
对前沿发展进行节奏调控已迫在眉睫。这需要可靠的、公开验证的度量标准,用以衡量有多少算力被用于推动前沿发展。Anthropic 已经公布了其 AI 研发中有多少算力用于安全研究的估算。AI 开发者应当允许第三方审计方衡量并报告 AI 公司将多少算力分配给了能力活动与非能力活动。
相似文章
节奏控制是什么意思?(6分钟阅读)
本文分析了Dario Amodei呼吁人工智能行业控制自身节奏的倡议,探讨五个不同阵营对'节奏控制'含义的看法,包括对可解释性、劳工权益、经济增长、地缘政治竞争和监管俘获的担忧。
@levie: “Pacing”可以是一个有点敏感的词,因为它听起来像是任意降低能力或通过不当监管来束缚竞争对手的一种方式……
本文讨论了人工智能发展中的“pacing”一词,强调了在关键领域中确保安全和对齐的必要性,同时不妨碍创新进展。
掌控前沿节奏
本文探讨了人工智能能力快速加速可能超越社会理解和控制能力所带来的风险,以及需要通过治理工具有意识地掌控前沿整体进展的必要性。
AI实验室的真正目标并非引领前沿
本文认为,引领前沿并非AI实验室的真正目标,暗示它们在人工智能发展上可能有其他隐藏或战略性的目标。
把握节奏,稳步推进
本文就如何控制科技和人工智能发展节奏提供指导,以保持稳定进展并避免倦怠。