[Anthropic 对齐科学负责人] Evan Hubinger : "....我们真的真诚地相信AI可能杀死所有人类！我个人认为在未来十年内概率超过10%......我们还没有解决超级智能对齐的计划，而且明显不在正轨上。"

Reddit r/singularity 新闻
ai-safety existential-risk alignment anthropic evan-hubinger superintelligence

摘要

Evan Hubinger，Anthropic的对齐科学负责人，表示他相信AI在未来十年内杀死所有人类的概率超过10%，并且Anthropic缺乏解决超级智能对齐的计划。

Jacob 在这里是正确的——我们真的真诚地相信AI可能杀死所有人类！我个人认为在未来十年内概率超过10%。我相信Anthropic正在尽最大努力，但我们还没有解决超级智能对齐的计划，而且明显不在正轨上。
查看原文
查看缓存全文

缓存时间: 2026/09/09 03:33

Jacob在这里说得对——我们确实真诚地相信AI可能毁灭全人类！我个人认为未来十年内发生这种情况的概率超过10%。我相信Anthropic正在竭尽全力，但我们尚未找到解决超级智能对齐问题的方案，目前也未明显走上正轨。

Jacob Coxon (@hilbertspaess):
AI的构建者们真诚地相信，它可能在十年内将我们全部毁灭。这不是营销噱头。如果非要说的话，许多高管和高级研究人员在媒体上会措辞谨慎以显得理性——但我亲耳听到同一批人表达恐惧

相似文章

AI安全与对齐

Reddit r/artificial

文章讨论了对AI安全与对齐的担忧，随着AI变得更智能并融入社会，文章引用了Anthropic呼吁暂停以应对潜在的灾难性风险。