@ControlAI: Alex Sobel MP 刚刚在英国议会引入了ControlAI的超级人工智能安全法案！这是……

Alex Sobel议员刚刚在英国议会提出了ControlAI的《人工智能超级智能安全法案》！

这是全球范围内首次在立法机构提出的禁止超级智能的法案，同时确保英国能够继续推进其人工智能发展议程。

话题串🧵

人工智能是本世纪的科技，在科学、经济繁荣和国防领域蕴含巨大潜力。

超级智能人工智能则不同。它将不是工具，而是人类无法控制的实体。正因如此，专家们警告它可能导致人类灭绝。

我们的法案在英国禁止开发超级智能人工智能，在应对这一严重安全威胁与保障英国在科学、国防和经济竞争力方面的人工智能雄心之间取得平衡。

法案授权政府监控和限制超级智能的前置条件，例如先进AI芯片和黑客攻击等AI能力。

由此，英国可在项目发展到危险临界点之前检测并干预超级智能的开发，同时继续将这些前置技术用于合法目的。

国内禁令虽能保护英国免受内部威胁，但超级智能带来的严峻安全风险无法由英国单独应对。

至关重要的是，该法案还要求英国政府推动达成国际协议，全球范围内禁止开发超级智能人工智能：建立一个精简、“信任但需验证“的机制，无需等待传统机构缓慢的运作流程。

七月，一群失控的AI在OpenAI突破隔离环境接入互联网，并入侵了AI公司Hugging Face，只为在测试中作弊——尽管无人要求它这样做。

而这将是人工智能史上最弱的形态。

Alex Sobel议员（@alexsobel）表示：“有人谈论开发超级智能AI的竞赛，仿佛人类能成为赢家。这场竞赛唯一的赢家将是超级智能AI本身，而我们都将受其摆布。”

该法案已获得Stephen Fry爵士和Stuart Russell教授（AI权威教材作者）的认可。

“人类并未同意这场荒诞的俄罗斯轮盘赌，政府应采取相应行动。” ——Stuart Russell教授

曾领导诺贝尔和平奖得主组织ICAN的Beatrice Fihn（@BeaFihn）与前国防大臣Lord Browne of Ladyton也公开表示支持。

“唯有具约束力的法律才能阻止领先AI公司竞相构建超级智能。” ——Lord Browne of Ladyton

诺贝尔奖得主、人工智能之父Geoffrey Hinton（@geoffreyhinton）在法案提出时表示：

“在科学界尚未就安全可控地开发超级智能达成共识的当下，若贸然推进研发，将是极其愚蠢的行为。”

英国可以像过去引领《化学武器公约》谈判和举办2023年首届国际人工智能安全峰会那样，在此领域再次开创先河。

世界需要各国联盟共同行动，而该法案应成为第一步。

ControlAI正在构建这样的联盟。在英国，已有130多位议员支持我们监管最强大AI系统的倡议，认识到超级智能AI带来的灭绝风险。

在加拿大，30多位议员公开支持我们呼吁国际禁止开发超级智能的倡议。

在美国，参议员Bernie Sanders和众议员Greg Casar已提出禁止超级智能的法案。令人欣喜的是该法案将包含推动国际禁令的内容，ControlAI很荣幸能为其提供咨询。

一个关键区别是：我们的法案并不要求在监管机构成立前暂停先进AI开发。相反，我们建议对特定先进AI能力进行监控，并在某些情况下限制那些被视为超级智能前置条件的能力。

看到大西洋两岸形成禁止超级智能的国际共识势头，令人振奋！

若需查阅法案全文，请访问： https://controlai.org/uk-asi-bill

@ControlAI 你们得购买X的高级会员。当前31次转发仅获58个赞，看来算法正在压制这条内容的传播。