特朗普的反偏见人工智能命令不过是另一种偏见

# 特朗普的反偏见AI行政令不过是另一种偏见 来源：https://www.wired.com/story/trump-ai-order-bias-openai-google/ 2022年11月2日，我参加了在纽约市举办的谷歌AI活动。其中一个主题是负责任的AI。当我听到高管们谈论如何让技术与人类价值观保持一致时，我意识到AI模型的可塑性是一把双刃剑。模型可以被调整以最小化偏见，但同样可以被用来强制推行特定观点。政府可能要求操纵模型以审查不受欢迎的事实并推广宣传。我曾设想这可能会被像中国这样的威权政权所利用。当然在美国，宪法会阻止政府干预私营公司创建的AI模型的输出。 本周三，特朗普政府发布了其AI宣言，一项针对这个国家乃至人类面临的最重要议题之一的全面行动计划。该计划总体上聚焦于在AI霸权竞赛中胜过中国。但其中一部分似乎更符合中国的剧本。以真相为名，美国政府现在希望AI模型遵循唐纳德·特朗普对这个词的定义。 你不会在28页的计划中明确找到这一意图。相反，它写道：“从一开始就构建这些系统时，必须牢记言论与表达自由，并且美国政府政策不得干扰这一目标。我们必须确保在AI时代自由言论得以繁荣，并且联邦政府采购的AI应客观反映真相，而非社会工程议程。”这听起来都没问题，除了最后一句话，它引出了一个问题：谁的真相？究竟什么是“社会工程议程”？我们在紧接着的段落中得到了线索，该段指示商务部审查拜登时期的AI规则，并“消除对错误信息、多元化、公平与包容，以及气候变化的提及。”（注：原文中使用了奇怪的大小写格式）。承认气候变化是社会工程？至于真相，在一份关于该计划的情况说明书中，白宫表示：“大语言模型应真实可信，并优先考虑历史准确性、科学探究和客观性。”听起来不错，但这句话来自一个将美国历史限定为“鼓舞人心”解释、否认气候变化，并认为唐纳德·特朗普关于自己是美国最伟大总统的主张是客观事实的政府。与此同时，就在本周，特朗普的Truth Social账户还转发了一段奥巴马入狱的AI生成视频。 在周三于华盛顿宣传该计划的演讲中，特朗普解释了这一指令背后的逻辑：“美国人民不希望在AI模型中看到觉醒的马克思主义疯狂，”他说。随后他签署了一项名为“防止联邦政府中的觉醒AI”的行政令。该行政令在指出“联邦政府应谨慎监管私人市场上AI模型的功能”的同时，宣称“在联邦采购的背景下，有责任不采购那些为意识形态议程而牺牲真实性与准确性的模型”。由于所有大型AI公司都在争取政府合同，该行政令似乎是一次后门行动，旨在确保大语言模型普遍效忠于白宫对历史、性别认同及其他热点问题的诠释。如果对于政府认定的违规行为还有什么疑问的话，该行政令用了几个段落来妖魔化那些支持多元化、指出种族偏见或重视性别平等的AI。警惕！特朗普禁止自上而下意识形态偏见的行政令，恰恰是公然实施自上而下的意识形态偏见。 ## 马克思主义疯狂 如何应对这些要求取决于相关公司。本周我与一位从事模型行为研究的OpenAI工程师交谈，他告诉我公司已经在努力保持中立。从技术角度说，他指出满足政府诸如“反觉醒”之类的标准不应是巨大障碍。但这不是技术争议，而是宪法争议。如果像Anthropic、OpenAI或谷歌这样的公司决定尝试在其大语言模型中最小化种族偏见，或者有意识地确保模型的回应反映气候变化的危险，第一修正案大概会将这些决定作为行使AI行动计划中鼓吹的“言论与表达自由”而加以保护。政府以剥夺合同为要挟来阻止公司行使这一权利，正是干扰的本质。 你可能会认为，构建AI的公司会援引其在宪法上的权利在此问题上进行抗争。但到目前为止，没有任何大型科技公司公开反对特朗普政府的计划。谷歌庆祝了白宫对其关切议题的支持，比如加强基础设施建设。Anthropic发布了一篇对该计划持积极态度的博客文章，不过它抱怨了白宫本月早些时候突然看似放弃强有力的出口管制的做法。OpenAI则表示它已接近实现客观性。但都没有提及维护其自身的表达自由。 ## 参与其中 这种沉默是可以理解的，因为总体而言，AI行动计划对AI公司来说是一场盛宴。拜登政府要求对大型科技公司进行审查，而特朗普的计划对这个产业则是一盏巨大的绿灯，将其视为在对抗中国的国家斗争中的伙伴。它允许AI巨头在建造大型数据中心时基本上绕过环境方面的反对意见。它承诺支持将流向私营部门的AI研究。甚至还有条款限制对那些试图自行监管AI的州提供某些联邦资金。这是对最近预算案中失败部分（该部分本会禁止州级监管十年）的安慰奖。 然而，对我们其他人来说，“反觉醒”行政令并非那么容易置之不理。AI正日益成为我们获取新闻和信息的媒介。美国的一项基本原则是这些渠道独立于政府干预。我们已经看到本届政府如何让CBS等媒体巨头的母公司在显然做出妥协以迎合企业目标。将这种“反觉醒”议程扩展到AI模型，预计会出现类似的妥协并非不合理。参议员爱德华·马基已直接致信字母表公司、Anthropic、OpenAI、微软和Meta的首席执行官，敦促他们抵制该行政令。他写道：“该行政令的细节和实施计划仍不清楚，但它将为大型科技公司……创造巨大的经济激励，以确保其AI聊天机器人不会产生让特朗普政府不悦的言论。”他在给我的一份声明中表示：“共和党人想利用政府的权力让ChatGPT听起来像《福克斯与朋友》节目。” 正如你可能怀疑的那样，参与AI计划的白宫团队并不认同这种观点。他们相信他们的目标是真正的中立，纳税人不应为不反映无偏见真相的AI模型买单。实际上，计划本身将中国作为真相被操纵时会发生什么的例子。它指示政府审查中华人民共和国的前沿模型，以确定“是否与中国共产党的论调和审查保持一致”。除非AI的大老板们拿出一些骨气，否则未来对美国前沿模型的评估很可能揭示其与白宫的论调和审查步调一致。但你可能无法通过询问AI模型得知这一点——太觉醒了。 --- *这是****Steven Levy*** (https://www.wired.com/author/steven-levy/)***的Backchannel通讯*** (https://www.wired.com/newsletter?sourceCode=editarticle)*的一个版本。阅读Steven Levy此前的报道请点此处* (https://www.wired.com/author/steven-levy/)。