@Miles_Brundage：少数曾在多家前沿AI公司（以及政府）工作过的人之一就安全问题发表的强烈声明…

X AI KOLs Following 新闻
ai-safety frontier-labs capabilities-research research-moratorium expert-opinion

摘要

Geoffrey Irving 认为，鉴于当前危险局势，继续在前沿AI实验室进行能力研究是不理智的，他敦促实验室和研究人员为了集体安全而停止。

来自少数曾在多家前沿AI公司（以及政府）从事安全工作的人之一的强烈声明 https://t.co/VZfAFhKUPD
查看原文
查看缓存全文

缓存时间: 2026/08/08 07:06

来自少数曾在多家前沿AI公司（以及政府）从事安全工作的人士之一的强烈声明 https://t.co/VZfAFhKUPD

Geoffrey Irving (@geoffreyirving): 我不认为现在任何人从事前沿实验室的能力研究是理性的。我们并不处于囚徒困境：局势非常危险，如果某个人或实验室停下来，就会让其他人或其他实验室更容易停下，也更能与同行保持步调一致。

相似文章

构建前沿AI的人们刚刚要求政府放慢脚步。以下是我为何持怀疑态度。

Reddit r/AI_Agents

来自OpenAI、Anthropic、Google DeepMind和Meta等顶级AI实验室的1100多名员工签署了一份文件，敦促美国政府帮助建立国际机制，以放缓前沿AI的发展，理由是存在递归自我改进的风险。作者对此表示怀疑，指出那些构建AI的人要求自我克制具有讽刺意味，并提到了地缘政治挑战。

引用Jeremy Howard

Simon Willison's Blog

Jeremy Howard批评了Anthropic在前沿AI安全方面的做法，认为拥有排名最高模型的实验室不应将其用于前沿研究，以减缓自我改进并防止权力失衡。