@mattshumer_: 我们需要为人工智能对齐发起一个曼哈顿计划。这是我们这个时代最重要的问题。世界需要……

X AI KOLs Timeline 新闻
ai-alignment manhattan-project existential-risk ai-safety superintelligence

摘要

文章呼吁发起类似曼哈顿计划的倡议来解决人工智能对齐问题，强调超级人工智能带来的紧迫存在风险。

我们需要为人工智能对齐发起一个曼哈顿计划。 这是我们这个时代最重要的问题。 世界需要团结一致，投入适当的（巨大）资源，并在时间耗尽之前实现这一目标。
查看原文
查看缓存全文

缓存时间: 2026/09/10 12:20

我们需要为人工智能对齐问题启动一项曼哈顿计划。 这是我们这个时代最重要的问题。 全球必须团结一致，投入足够（且巨大）的资源，在为时已晚之前完成这项使命。

Evan Hubinger (@EvanHub)： Jacob在此问题上的判断是正确的——我们真诚地相信AI可能毁灭全人类！我个人认为，未来十年内发生这种风险的概率超过10%。我相信Anthropic正在竭尽全力，但我们目前尚未制定出解决超级智能对齐问题的明确方案，也没有明确的实现路径。

相似文章

AI安全与对齐

Reddit r/artificial

文章讨论了对AI安全与对齐的担忧，随着AI变得更智能并融入社会，文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。