世界尚未为AI做好准备

AI已经决定谁能获得贷款、谁能获得面试机会、谁被标记为福利欺诈。不是辅助人类做这些决策，而是直接做出决策。在大多数国家，没有任何法律要求告知你AI参与了决策、解释它为何做出这样的决定，或为你提供任何质疑的途径。这种情况必须改变。我们需要这样的法律：如果AI做出了关于你的决定，你有权知道，有权理解原因，并有权质疑。总要有一个人为结果负责。这不是反对创新，而是为生活在这些系统已经塑造的世界中的人们提供基本保护。大多数政府甚至还没有充分理解这些系统，无法制定这类法律。大多数制定AI政策的政客确实无法解释这些系统如何运作、谁拥有它们、或者当它们出错时问责制是什么样。自愿框架每次都失败了。社交媒体公司自愿承诺减少伤害，但它们没有做到。金融公司自愿承诺负责任的贷款，也没有做到。自愿总是意味着最不负责的参与者设定了标准。硬性法律是唯一能够大规模产生问责的机制。我们需要在损害造成之前为AI立法——而不是之后。纠正这个问题的窗口仍然敞开，但它不会永远敞开。