如何定义“能力活动”以便于进行节奏调控?(阅读约 21 分钟)

TLDR AI 新闻

摘要

文章认为,要调控 AI 前沿发展的节奏,需要公开验证的算力支出度量,并呼吁 AI 开发者允许第三方审计方报告分配给能力活动与非能力活动的算力比例,这一建议建立在 Anthropic 已发布的安全研究算力估算之上。

对前沿发展进行节奏调控已迫在眉睫。这需要可靠的、公开验证的度量标准,用以衡量有多少算力被用于推动前沿发展。Anthropic 已经公布了其 AI 研发中有多少算力用于安全研究的估算。AI 开发者应当允许第三方审计方衡量并报告 AI 公司将多少算力分配给了能力活动与非能力活动。
查看原文

相似文章

节奏控制是什么意思?(6分钟阅读)

TLDR AI

本文分析了Dario Amodei呼吁人工智能行业控制自身节奏的倡议,探讨五个不同阵营对'节奏控制'含义的看法,包括对可解释性、劳工权益、经济增长、地缘政治竞争和监管俘获的担忧。

掌控前沿节奏

Reddit r/singularity

本文探讨了人工智能能力快速加速可能超越社会理解和控制能力所带来的风险,以及需要通过治理工具有意识地掌控前沿整体进展的必要性。

把握节奏,稳步推进

Reddit r/singularity

本文就如何控制科技和人工智能发展节奏提供指导,以保持稳定进展并避免倦怠。