Google DeepMind启动研究所拓宽AGI辩论

# Google DeepMind成立研究所，推动通用人工智能讨论 | TechCrunch 来源：https://techcrunch.com/2026/09/17/google-deepmind-launches-institute-to-widen-the-agi-debate/ 谷歌与谷歌DeepMind的研究人员于周三共同成立了DeepMind研究所，旨在推进关于通用人工智能的讨论。该研究所宣布DeepMind联合创始人Shane Legg、谷歌高管James Manyika以及谷歌DeepMind主席Demis Hassabis担任理事，其中Legg将担任执行编辑。 新成立的研究所旨在呈现谷歌、谷歌DeepMind与全球研究界在通用人工智能领域的不同观点。"他们的意见不会总是一致，随着快速发展前沿领域的新数据和信息不断涌现，他们的观点也很可能发生变化，"公告中写道。 首批推出的四篇文章涵盖多个主题：应对通用人工智能潜在冲击的经济政策、保持模型推理过程的人类可读性、人类繁荣发展原则，以及评估前沿AI模型的框架。 其中一篇由DeepMind安全研究员Rohin Shah和Anca Dragan撰写的文章（https://institute.deepmind.com/essays/the-case-for-reasoning-transparency/）指出，AI透明度窗口的缩小——即观察和检查模型逐步推理过程的能力——并非必然趋势。随着新架构使得最强大的模型更难（https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/）被监控，作者认为开发者和监管者应当直接面对安全性权衡问题。这可能意味着限制"不透明序列深度"——即模型在不产生可读推理轨迹的情况下能执行的连续计算量——或要求开发者证明较低透明度的系统仍具备同等可监控性。 在另一篇文章（https://institute.deepmind.com/essays/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age/）中，Hassabis提议建立一个由美国主导的前沿AI标准机构，用于评估最先进的AI模型。根据该框架，开发者最初可在模型发布前30天内自愿提交模型进行评审。一旦评估体系证明有效，通过测试或将成为在美国部署前沿模型的必要条件。 该机构最初将与AI企业协商设计评估方案，但最终将制定独立且保密的评估体系——文章称之为"预留"测试——以防止实验室针对已知评估标准调整模型。Hassabis表示，该框架"可根据事态严重程度升级"，可能包括要求前沿AI开发者协调减速。 这些文章的发布正值行业安全讨论（https://techcrunch.com/wp-admin/post.php?post=3165059&action=edit）从泛泛的担忧声明转向具体的披露、外部审查提案，以及在保障措施落后时可能需要的协调减速。本周行业领袖们赞同了Anthropic首席执行官Dario Amodei关于"调节"（https://techcrunch.com/2026/09/12/anthropic-ceo-outlines-plan-to-pace-the-frontier/）前沿AI发展的呼吁，推动了这一转变。 *当您通过文章中的链接购买商品时，我们可能会获得少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*