Don’t Outsource AI’s Ethics to the Market

# 不要将人工智能的伦理外包给市场 本文探讨人工智能安全、发展权衡与财富分配的伦理责任，强调市场机制不足以应对存在性风险，呼吁公众参与伦理决策。 ## AI安全与安全气囊的类比 讨论从一个常见的质疑开始：为人工智能安装“安全气囊”是否会妨碍其性能，就像强制安装安全气囊是否会影响驾驶体验一样。经济学教授贾斯汀·沃尔弗斯指出，这个类比在权衡上是成立的，但风险层级完全不同。 无安全气囊驾车存在一定的死亡风险，而安全气囊可以降低这种风险。不加防护地使用人工智能，则可能带来从电网瘫痪到人类文明存续危机等不同程度的风险。为人工智能设置“安全气囊”（即安全防护），虽然可能会牺牲其部分性能，但能降低灾难性后果发生的概率或减轻其危害。 ## 从市场转向国际外交协调 当问题涉及类似核武器的存在性威胁时，解决方案不应局限于私营部门或国内市场。沃尔弗斯强调，当初各国领袖共同商讨核武器问题，并非出于自愿，而是因为风险太过巨大。 他以假设情景为例：如果核武器最初是由像壳牌这样的私营公司开发的，国际社会也不会放任其自由生产和销售。同样，面对可能带来存在性风险的人工智能，我们需要类似的国际外交协调与监管，将其视为一种受监管的公用事业，而不仅仅是又一项可以自由竞争的商业技术。 目前华盛顿的政治辩论常聚焦于通过加速发展来在竞争中“击败中国”。但沃尔弗斯指出，真正的关键在于认识到，无论哪个国家率先取得极其强大的人工智能，所带来的风险可能是全球性的。我们需要建立的是确保彼此不会同归于尽的机制，而不是陷入一场可能危及所有人的军备竞赛。 ## 经济增长与存在风险的权衡 全球经济已经在人工智能上押注了巨额资本，这使其成为当前美国经济的主要驱动力之一。然而，沃尔弗斯强调，当前投入的资本量级，本质上只相当于一两年GDP的增长。 真正的巨大赌注在于未来：如果人工智能真的能够实现技术专家的愿景——不仅能创造新理念，还能制造出能产生更优理念的机器——那么它可能带来前所未有的经济增长。经济学家通常认为新理念是经济增长的源泉，因此这种转变值得严肃对待。 但与此同时，我们正面临一场关乎人类存亡的风险赌注。人工智能如果变得极其强大（比现在强大十倍、百倍、千倍），其潜在危害将不再是小规模的系统入侵，而可能是瘫痪电网、研发生物武器，或被用于实施可怕的全球性威胁。 因此，赌注的两端是：一端是难以置信的经济增长和随之而来的繁荣（更闲暇、更愉悦、更长更丰富的生活）；另一端是人类灭绝的风险。沃尔弗斯认为，虽然这只是基于人工智能实现远大梦想的概率计算，但这已不再是天方夜谭。我们应当极度认真地对待这种可能性。 ## 财富分配：一个伦理问题，而非纯粹的市场问题 当讨论转向如果人工智能创造了巨大繁荣，我们该如何分配这份财富时，问题便从经济学领域进入了伦理学领域。 沃尔弗斯明确指出，市场机制本身不带有任何道德判断。市场产生的是均衡和结果，但不能将其等同于“公平”。如果我们放任市场自由分配人工智能带来的财富，很可能只有少数寡头拥有大部分财富。但经济学从未宣称这种结果是道德上正确的或不可反对的。 他强调，每个公民在伦理和公平问题上都有平等的发言权。尽管经济学家或许能更清晰地分析机制，哲学家能帮助理清思路，但最终的伦理判断源自每个人的内心。沃尔弗斯呼吁观众永远不要将这些判断权拱手让给所谓的“专家”。 ## 每个人的伦理责任 沃尔弗斯分享了他个人的优先事项：他希望利用人工智能带来的红利优先解决医疗保健和贫困问题，确保每个人都能吃饱饭、看上医生，并改进教育体系。但他反复强调，这仅仅是他的个人观点。 核心观点是：关于如何分配巨大的社会财富，应该是一场开放、民主的社会辩论。观众可能有不同的优先级，比如更关注精神或文化层面的发展，这同样是合理的。重要的是社会要在相互尊重中展开讨论，共同寻找分配“蛋糕”的方式，而不是默默接受市场或专家给出的唯一答案。 因此，最终的结论是呼吁公众积极参与：不要将人工智能的伦理决策外包给市场，也不要外包给专家。每个人都应拥有并行使自己的判断权。 来源：[Don’t Outsource AI’s Ethics to the Market](https://youtu.be/OAGV50CDgno?is=SEq1DmFwuQGzInZW)