LawZero - Joshua Bengio 通过构建 AI 预言机解决 AI 对齐问题的愿景

# LawZero | 主页 来源：https://lawzero.org/en ## 守护人类的快乐与奋斗 ### LawZero 是一家致力于为能力卓越、安全设计的 AI 系统开发技术解决方案的非营利初创公司。 **挑战：** 当前最前沿的 AI 系统正变得更具能力和自主性，但它们仍然不透明且与人类目标未对齐。这些系统已经显示出许多欺骗行为和自我保护的早期迹象，造成了日益增长的不确定性，关于这些系统在拥有更强的自主战略规划能力时将如何表现。 **我们的方案：** 我们正在建立一条通往安全高级 AI 的多步骤路径，以确保未来的 AI 系统得到负责任、公平的开发和部署，并成为全球公共福祉。 简而言之，我们正在创造一种全新形式的高级 AI，旨在值得信赖且安全可靠。 我们的科学方向基于由 Yoshua Bengio 教授领导的开创性研究 (https://lawzero.org/en/research)，他是全球公认的人工智能专家，也是所有领域中被引用次数最多的在世科学家。 #### 最新新闻 新西兰前总理、尊敬的 Jacinda Ardern 女爵士加入 LawZero 全球顾问委员会。 LawZero 任命了 7 位全球领袖进入其董事会和全球顾问委员会，其中包括顶尖 AI 和商业界人士以及一位前政府首脑。 #### 媒体报道 #### 捐赠者 得益于慷慨捐赠者的支持，我们成立了一家主要的非营利 AI 安全初创公司，使其免受往往将部署速度置于安全性和可靠性之上的市场压力的影响。 Silicon Valley Community Foundation 的捐赠建议基金 由 Jaan Tallinn 和 Founders Pledge Inc. (US) 的慷慨资助促成 由 Jaan Tallinn 和 Survival and Flourishing DAF（SVCF 的捐赠建议基金）的慷慨资助促成