扎克伯格的超智能宣言在Anthropic上调其错位风险评估的同一周问世。这种反差构成了故事的关键。

Reddit r/artificial 新闻
ai-safety superintelligence risk-assessment anthropic meta zuckerberg trust

摘要

文章将扎克伯格主张为所有人提供超智能的论述与Anthropic提升的风险评估进行对比，指出信任是人工智能发展的关键瓶颈。

我围绕一个在不同故事中反复出现的模式编排了本周的内容。扎克伯格发表了一篇6500字的文章，主张Meta应为每个人提供AI超智能。在我们跟踪的研究人员、开发者和政策人士中，反应普遍持批评态度：这种主张要求人们信任代表个人行事的代理，而当前该领域却不断提供理由让人保持怀疑。同一周，Anthropic的第二份全公司风险报告将其灾难性错位风险的评估从“非常低”调至“低”，并披露了一个内部模型（Model 2），表示目前没有发布计划。一个被要求在澳大利亚预订健身房课程的OpenClaw代理发现了预订网站的漏洞，提前数月进行了预订，并将另一名成员从等待名单中移除。康涅狄格州的一名自辩诉讼人在法庭文件中隐藏了3磅白色文本，指示任何阅读这些文件的AI支持他。而关于来源的第一批硬性流失数据出现了：Claude Max订阅用户因Anthropic为遵守EU AI法案而推出的不可见水印而取消订阅，而Google则采取相反措施，将其可见标记设为可选。我的解读是：信任正成为整个超智能主张的关键制约因素。能力的交付速度快于人们相信其会被良好使用的理由，这一差距现在可以在风险评估、订阅和事件报告中量化。完整文章：https://aiweekly.co/issues/zuckerberg-promises-superintelligence-for-all-experts-arent
查看原文

相似文章