DeepMind CEO呼吁建立独立标准机构来规范前沿AI
摘要
DeepMind CEO Demis Hassabis提议建立类似于FINRA的独立标准机构,以前沿AI模型为监管对象,旨在利用技术专长和自愿合规,之后再正式化。
DeepMind CEO Demis Hassabis正在提议建立一个仿效FINRA的AI‘标准机构’,用于测试前沿模型并为其发布制定最佳实践。
查看缓存全文
缓存时间: 2026/07/14 19:18
# DeepMind CEO呼吁成立独立标准机构监管前沿AI | TechCrunch
来源:https://techcrunch.com/2026/07/14/deepmind-ceo-calls-for-an-independent-standards-body-to-regulate-frontier-ai/
DeepMind Technologies首席执行官Demis Hassabis
**图片来源:** Jose Sarmento Matos/Bloomberg / Getty Images
2026年7月14日 · 太平洋夏令时上午10:45
周二上午,Google DeepMind首席执行官Demis Hassabis在X平台上发帖,呼吁成立一个新的监管机构来监督前沿模型的发布。这篇题为《前沿AI与新时代曙光框架》(https://x.com/demishassabis/status/2076957440109625718)的帖子,提出了建立一个以金融业监管局(FINRA,https://en.wikipedia.org/wiki/Financial_Industry_Regulatory_Authority)为蓝本的“标准机构”的理由,该机构可以测试前沿模型并为其发布制定最佳实践。
帖子中写道:“最初,前沿实验室将在发布前最多30天自愿将模型提交给标准机构审查。一旦评估协议被证明有效且稳健,可以迅速推进正式化,这意味着前沿模型必须通过评估才能在美国市场部署。实验室还将与标准机构合作,解决发布后的任何关键漏洞。”
拟议的系统将基于美国政府此前对Anthropic的Mythos和OpenAI的Sol进行的临时审查。那些审查因缺乏技术专长以及何时允许模型发布的决策不透明而遭到强烈批评(https://techcrunch.com/2026/06/26/its-not-about-anthropic-vs-openai-anymore/)。根据Hassabis提议的监管机构,这些决策可以交给一个新组织负责,该组织由美国政府支持,但由AI行业资助并独立运作。
AI监管的前景在科技行业和特朗普政府内部仍然存在争议。最近,白宫AI顾问兼a16z普通合伙人Sriram Krishnan否定了行政分支内部设立AI监管机构的可能性(https://www.ft.com/content/5128e476-db8b-48ac-a8fb-0f16d0f5c2ed),表示“不会有AI领域的FDA”。
将标准机构建立成像FINRA这样的自律组织,或许是解决这些担忧的一种方式。Hassabis设想该监管机构由开源代表和业内技术专家组成,并由AI实验室提供维持其运作所需的资金支持。他们甚至可以将部分评估工作外包给不断壮大的AI安全组织,这些组织能够专注于特定风险领域。
“这种方法的力量在于,它专注于技术层面,同时支持创新并激励负责任的行为,”Hassabis认为。“它旨在跟上该领域的加速发展,并适应被识别出的最大风险,如果情况严重需要,还可以加强力度。”
*通过我们文章中的链接购买商品,我们可能会赚取少量佣金(https://techcrunch.com/techcrunch-affiliate-monetization-standards/)。这不会影响我们的编辑独立性。*
Russell Brandom自2012年起报道科技行业,重点关注平台政策和新兴技术。他曾任职于The Verge和Rest of World,并为Wired、The Awl和MIT Technology Review撰稿。可通过[email protected]或Signal(412-401-5489)联系他。
查看简介(https://techcrunch.com/author/russell-brandom/)
## 最受欢迎文章
相似文章
Google DeepMind 的 Demis Hassabis 呼吁建立美国主导的全球 AI 监管机构
Google DeepMind 首席执行官 Demis Hassabis 呼吁建立一个由美国主导的国际监管机构,以监督人工智能的发展并确保其安全性。
谷歌DeepMind的Demis Hassabis表示,是时候建立一个由美国主导的全球AI监管机构了
Demis Hassabis提议建立一个由美国主导的全球AI监管机构,评估前沿模型,并在风险过高时协调减速,他援引AGI临近的紧迫性。
DeepMind 创始人 Demis Hassabis 刚刚发布了今年关于 AGI 最重要的文章。以下是解读。
Demis Hassabis 发表了一篇关于 AGI 的框架文章,认为 AGI 还需几年时间,其经济影响可能达到工业革命的 10 倍。他还提议建立一个类似于 FINRA 的公共-私营前沿 AI 标准机构,用于部署前测试和风险评估。
前沿AI监管:管理新兴的公共安全风险
OpenAI提议了一个针对可能造成公共安全风险的「前沿AI」模型的监管框架,倡导制定标准流程、注册/报告要求和合规机制,包括部署前风险评估和部署后监测。
DeepMind 员工呼吁私营 AI 实验室:要么上市、允许普通大众投资,要么承认你们只是在让亿万富翁发财
一名 DeepMind 员工认为,那些追求通用人工智能(AGI)的私营 AI 实验室应该上市或允许普通大众投资,以防止仅使亿万富翁获利。