什么是监管人工智能的正确平衡？（阅读时间47分钟）

# AI监管的平衡之道应当是什么？ 来源：https://weightythoughts.com/p/whats-the-right-balance-in-regulating [](https://substackcdn.com/image/fetch/$s_!HhvB!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2a2fa75e-2df5-4112-b4dc-360d33a01bb4_1536x1024.png) 我通常不涉足政治内容，但Bethany Andres-Beck的团队联系了我。经过简短的筛选交流，我觉得这是一个探讨人工智能、监管与政治的有趣契机。 Beth曾在BAE Systems、TripAdvisor、Twitter等多家公司担任软件工程师，并曾担任Hillary for America捐赠平台的技术负责人。Beth是敏捷/极限编程领域的知名人物，参与创建了Forest和Desert（https://martinfowler.com/bliki/ForestAndDesert.html）等框架。与许多对人工智能（乃至技术）知之甚少的政治人物不同，Beth深耕该领域多年，其立场比近期竞选活动中常见的条件反射式反对AI的态度更为审慎。 **本文不代表政治背书，我鼓励不认同Beth政治立场（民主党候选人、民主社会主义者）的读者，更多关注其思想本身而非政治标签。我选择这次采访的部分原因，正是希望深入探讨政策的细微之处。** **本文同样不代表政策背书。我本人在一篇长期搁置的文稿中确有自己的观点，但我认为这次采访提供了一个良机，能与一位正在竞选公职、既需思考政策提案又需权衡AI公众接受度的人士共同探讨这一问题。** - **机器人税。** “机器人”的定义重要性有限，更关键的是税法结构对自动化约5%税率的显著优惠，而人力工作者的税率约为21%。 [**30:35**] - **勿让政府挑选模型。** 作为民主社会主义者，Beth出人意料地不赞成政府指定使用何种模型。这一定程度上源于她在技术平台和开源领域的背景。 [**34:49**] - **责任制度是负责任技术应用的关键。** 建议结合消费者保护法，并为每次部署指定明确责任人。 [**35:55**] - **反对OpenAI/Anthropic的黄金股方案。** 谈及伯尼的提案（https://www.sanders.senate.gov/op-eds/the-public-should-own-half-of-the-big-a-i-companies/），她表示“这是个糟糕的主意……Amtrak可不是世界上最受欢迎的铁路公司。” [**42:08**] - **若条件允许，建议建立可供所有人蒸馏使用的政府基础模型。** 可考虑设立类似国会图书馆的机构——但这明确以通用预训练/后训练经济模式自然演变为垄断为前提。 [**43:38**] - **我们应警惕的是AI公司的垄断。** 情况与软件业类似。一旦形成无替代方案的垄断，便可肆无忌惮地提价十倍甚至更多。文中提到了软件业的相关案例。 [**40:48**] - **鉴于数据中心选址，这与其说是左右之争，不如说是城乡之争。** “我认为这正是公众运动发挥作用之处——会有2000人聚集会议反对数据中心。据我所知，从未有2000人出席过关于自动驾驶汽车的会议，更不用说在美国几乎每个城镇都能召集起这样的规模。” [**47:27**] [](https://substackcdn.com/image/fetch/$s_!-JbZ!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F33029ce6-f63a-4fd9-a6f0-8acc5d9d407e_2400x1820.png) *为提升可读性已做轻微编辑。时间戳对应发布视频。* *[00:12]* **[00:12] JAMES：** 大家好。今天我很高兴邀请到Bethany Andres-Beck，她正在竞选马萨诸塞州第6国会选区的众议员席位。我认为这次对话尤其有趣，因为我通常不涉足政治报道，但Beth是软件工程师，精通技术，且并非条件反射式地反对AI。我想探讨竞选活动中的情况、Beth对这些议题的思考，以及当前政治领域的态势。Beth，请向观众介绍一下自己吧。 **[00:47] BETH：** 好的。我是Bethany Andres-Beck。我在这个领域工作了二十多年，从本世纪初的自动驾驶和计算机视觉工作，到TripAdvisor、Twitter、一家名为“长期证券交易所”的初创公司（我们确实在那里建立了一个证券交易所），以及最近为初级保健医生和患者编写软件。我的一个长期爱好是政治。当我看到无人挑战前国会议员Seth Moulton时，我站出来挑战他。随后他转而竞选参议员。现在这是一场公开竞选，我将成为首位从软件工程师直接进入国会的人。 **[01:31] JAMES：** 先问一下，为什么会出现这种情况？看起来国会和许多政策制定机构都缺乏技术背景或经验。 **[01:41] BETH：** 部分原因只是资金问题。律师进入国会比其他任何领域都容易得多。如果你很富有，进入国会的可能性比普通人高十倍。如果你是律师，可能性则高出一百倍。而当律师参选时，胜选几率更是加倍，因为律师们会相互为政治竞选捐款。 科技界缺乏这种政治参与的传统。我联系以前共事过的同事，他们几乎从未向政治候选人捐赠过。从这一点进入政治世界，处境截然不同。我们看到的是那些成为高管的人，因为他们有资金可投入；或是进入市场营销领域的人；或是去攻读法律学位的人。这些是拥有技术背景的人最常转向政治的途径。但至少在我的职业生涯中，人们很少真正讨论或思考：让程序员参与技术决策需要什么条件？ **[02:45] JAMES：** 这让我们明白为何国家面临诸多问题：太多哈佛法学院和耶鲁法学院毕业的律师。尽管科技从业者在政治中代表性不足，但技术已成为热点议题。在竞选活动中，你听到了哪些声音？你如何看待这一点？ *[03:07]* **[03:07] BETH：** 我看到普通选民对技术的思考与政治圈人士的看法之间存在巨大鸿沟。我认为这是因为政治圈的人主要与高管、销售人员、说客以及科技公司出于人脉关系从政治圈聘请的顾问交流。这意味着他们得到的世界观非常扭曲。结果就是，数十亿美元的补贴流向数据中心和AI，而选民却感觉自己的关切根本无人理会。 没人谈论你打电话给医生办公室时，只能跟机器人对话，无法联系到真人，而机器人又无能为力的情况。这是许多人第一次——甚至可能是唯一一次——接触AI的常见经历。推出那些只能在特定时间、特定地点勉强运行的产品，对我们的公众形象造成了极坏影响。这意味着当数据中心来到城镇，人们将其宣传为参与AI的激动人心的机会时，民众听到的是：“我们将要建一个仓库，用来存放那些我讨厌与之对话的机器人。” **[04:25] JAMES：** 尤其是在民主党阵营中，条件反射式地反对AI——说“我们讨厌这东西，它毫无用处”——会更容易。从你的角度看，为何你有兴趣不完全反对数据中心或完全反对AI？为何要提出这种特定的观点？ *[04:52]* **[04:52] BETH：** 也许这很天真，但我依然认为我们应该追求准确、正确，并努力达成最佳结果。我曾在数据中心工作。我的工作让我进入过数据中心。虽然我从未在那里全职工作，但我深知它们创造的工作岗位之少，因为我进去过，而且我的计算机就设在那里。我知道你不会希望一大群人接触那些机器。 我也知道我们使用了几十年的数据中心与那些直接连接天然气管道、占地百英亩并配备大量燃气发电机的新设施之间存在巨大差异。这种建设规模确实是我们以前未曾考虑的。我认为，如果我们退一步思考：这是否意味着这些技术尚未准备好迎接黄金时代？我们是否在试图强行推进，而非追求效率？ 当我入行时，计算机在物理尺寸上比现在大得多。在相同的空间里能做的事情少得多。十年后、二十年后依然如此。对社会而言，空间与能源的权衡——尤其是在我们终于拥有比传统能源更便宜的绿色能源的时代——以及这是否符合我们所有人的利益，与这对OpenAI或X公司是否正确是两个不同的问题。 这正是政府应扮演的角色：不能仅仅考虑经济因素，而应审视我们试图实现的目标，以及现有做法在多大程度上达成了这些目标。 **[06:34] JAMES：** 如何平衡这些方面？你仍然相信技术能发挥作用并带来助益，但也存在关于数据中心及其权衡的问题。尤其在这些设施持续建设的过程中，我们该如何平衡？ **[06:51] BETH：** 一点是，目前我们正在对这些项目提供大量补贴。我是社会主义者，但从资本主义角度看，如果你对某事进行补贴，产出就会超过自然水平。如果你认为我们生产不足有其原因，这样做当然可以。但如果存在负面外部性——如果这会对周边社区产生负面影响——那么如果要获得适量的数据中心，合理的做法就是让这些成本成为建设数据中心所需支付代价的一部分。 我常常思考如何正确设置激励机制。我们如何建立一个体系，既无需在顶层决定应该有多少数据中心，又避免我们人为干预，将20%的农田变成数据中心？我们应该让承担成本的人与受益者一致，让产生的价值广泛共享而非形成垄断。这些是我最关切的问题。 目前，AI公司销售一个工具。有人为其添加外包装并找到非常好的应用场景，但大语言模型真的是该应用的最佳答案吗？我们在法律领域看到，如果你需要可靠的引用，它并非理想工具。其他机器学习和AI方法在这些情况下可能更好。我们尚未拥有这些，但当工具制造者无需为错误付出代价时，他们完全可能乐于销售一个只在60%情况下有效的工具。 [](https://substackcdn.com/image/fetch/$s_!taXY!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F63eee1be-0e72-40b8-9ad2-df9c84144930_2400x2050.png) **[08:38] JAMES：** 问题之一在于数据中心的激励模型——无论是税收抵免还是其他措施，或是公司自身承担新互联设施和新发电设施的成本。之二是大语言模型是否适用于所有领域。我同意它们并非万能，但它们似乎确实有一席之地。我很好奇政府是否也能利用一部分，因为我想到你特别提到的一点是：政府可以使用更好的软件，运用更多技术，从而真正步入现代化。 **[09:19] BETH：** 让我们先从数据中心说起。我希望法规能让建设数据中心的公司与那些在法律允许范围内尽可能偷工减料的公司处于平等地位。我们知道，仅仅为了实现能源独立和缓解气候变化影响，我国就需要建设庞大的绿色能源基础设施。目前有很多投资者希望参与AI公司和AI投资。如果我们能将这两者结合，就能利用这些资本投资来资助我们无论如何都需要的能源基础设施。 我们看到科技公司特意将计算资源放在芬兰等地，因为那里建设了更高效的数据中心，且他们关注其计算的碳足迹。如果在那些鼓励建设优质设施的国家布局，也给了公司这种选择。我希望建立这样的模式：你在发展能源；它支持良好的水资源使用；并且尽可能提高效率，而非一味求快。 **目前激励和补贴的另一个问题是，我们正在数据中心被允许建设的任何地方建设它们。通常，这是那些他们能够以诉讼威胁的小城镇，或是为社区提供较少反击机会的州。这些地方未必最适合建数据中心。我希望确保我们将它们建在拥有基础设施且合理的地方——即土地利用最高效的地方——而非仅仅在民主力量薄弱的地方。** *[11:17]* **[11:17] JAMES：** AI，更具体地说是大语言模型，在政府中能否发挥作用？你能否进一步阐述关于政府更多地整合软件和技术的想法？ **[11:32] BETH：** 我们看到的一件事是，我们的政府主要通过与承包商签订大型合同来构建其技术。你必须预先定义所有要求，获取一系列投标，由中标方构建，如果效果不佳，你必须支付更多费用。我们都知道瀑布式开发在最佳情况下效果不佳。当我们采用瀑布式开发并选择最低价投标时，已被证明更为困难。长期维护软件尤其困难。你最终会得到已有25年历史的系统，它们从未与其他新上线的系统集成，因为那将是新的合同。 在本届政府之前，我们看到过一些替代方法，这后来演变成了DOGE：一个团队四处确保如果政府内部需要网站，就能得到网站。这比试图投标给承包商让股东分利要便宜得多、响应也快得多。我期待看到更多这样的软件开发：我们确定软件要实现的功能，然后政府能够高效有效地构建它。 我看到大语言模型真正产生巨大回报的领域，是那些需要寻找反例的案例。许多数学成果以及其他类似搜索空间的工作，都在尝试……