AI与危机管理 | 控制、边缘化或反叛乱——AI系统注定要管理资本的全球危机。

# AI与危机管理 | Tomasz Konicz 来源：https://www.konicz.info/2024/08/05/ai-and-crisis/ 控制、边缘化、瘫痪或反叛乱——AI系统注定要管理资本的全球危机。 2024年8月1日 一种特别有效的颠覆性科幻恐怖片手法，是将晚期资本主义的现实仅作略微夸张，将社会的某些瞬间转嫁到虚构领域。运用这一手法的经典之作是约翰·卡朋特的《极度空间》\[1\]，该片将资本主义的剥削、压迫和世界毁灭归因于一场秘密的外星入侵，电视站播出的信号操纵了人们的感知。一副特制眼镜屏蔽了信号，揭示了资本主义日常物体背后被编码的操纵性真相，例如美元钞票上印着"这是你的上帝"。将人类在资本统治下早已习以为常的日常恐怖搬上银幕，并不需要太多科幻元素。 链接：https://exitinenglish.com/2024/08/01/ai-and-crisis-management/ 电影《优势》\[2\]则采用了更微妙但同样有效的手法。影片中，主角在一家高科技公司的胁迫下，为了免于失业和社会地位下降，被迫作为实验对象接受意识移植到新身体。一方面，新自由主义的优化狂热和适应话语被推向了技术上的极致——电影将通常对薪资劳动者提出的自我优化和"重塑"要求，推到了身体交换的极端。另一方面，片中那些由AI系统操控的全自动化基础设施，通过逐步关闭越来越多的互联且数字化控制的基础设施系统，来实现主角的社会性死亡，这些场景令人震撼。具体的人几乎不再参与其中。现实可能性（如信用卡透支）与虚构情节交织在一起。在拨打就业中心电话时，主角始终无法确定自己面对的是一个冷漠的人，还是一个AI助手。 这部"沉默反乌托邦"电影中的许多场景尤其令人不安，因为《优势》在2015年预言的大部分内容如今已具备可行性。而且，AI支持的社会控制在中期内很可能以某种形式占据主导地位。在资本主义制度下管理人是成问题的，尤其是在危机时期，因为这也给大多数负责执行管理的薪资劳动者带来了心理压力。将制度的限制强加于人是一项艰巨的工作，必然会留下痕迹。完全能够胜任这项工作，而不陷入虐待或不服从等不良行为的人寥寥无几。将繁重、压力大的任务自动化——这不正是资本主义合理化的伟大承诺吗？ 非人资源 在"就业中心"，人类仍然掌握着权力。但如今相当普遍的做法是，使用AI助手对薪资劳动者进行"初步评估"，以在招聘过程中检查其就业能力。在美国，越来越多的公司使用专门的聊天机器人来筛选求职申请、联系申请人或进行初步面试。\[3\]主要是那些低薪、不稳定、要求低且求职者众多的岗位，正在越来越多地被外包给AI系统的全自动化"非人资源"。麦当劳或温迪等快餐公司、零售连锁店或仓库，都使用聊天机器人筛选申请，并根据标准化问题（"你能在周末工作吗？"或"你会操作叉车吗？"）进行面试。优势显而易见：除了在人力资源部门（公司通常首先削减成本的部门）可能节省成本外，较小的人力资源团队可以更有效地处理大量申请。 目前，来自亚利桑那和加利福尼亚的两家初创公司开发的AI系统Olivia和Mya在行业中领先，但据商业杂志《福布斯》报道，它们仍在处理初期问题。有时会分配错误的后续对话日期或地点，或者这些专用机器人的语言模型远不如ChatGPT等旗舰项目先进，可能导致错误和误解。但更成问题的是一个简单事实：AI不是人类，无法与之讨论特殊情况。有残疾的求职者——他们需要协商适当的工作调整——会被忽略，有语言障碍的薪资劳动者也是如此。同样，那些移民背景、语言不流利的工人也会被排除在外。 这就是在机器客观性的外衣下进行的自动化歧视的开始。不符合机器智能模式的社会弱势少数群体在求职中被淘汰。2023年7月，纽约市甚至颁布法规，要求使用AI系统进行招聘的公司检查这些系统是否存在"种族或性别偏见"。但该法规的执行完全不清楚，因为招聘机器的算法和选择标准仍处于保密状态。 还有一个根本性问题：AI控制的申请扫描器和聊天机器人——与所有机器学习系统一样\[4\]——必须使用大量数据进行模式识别训练。例如，RecruitBot软件在法律灰色地带扫描了6亿份在线申请，以完善公司的筛选过程。这家AI初创公司的创始人向《福布斯》解释说，整个过程"有点像Netflix"。该软件搜索并向公司推荐与之前成功招聘具有相同特征的求职者。因此，这些选择系统在结构上是保守的，因为它们使用已有的数据进行训练。结果，它们无法很好地应对劳动力构成的变化——例如移民工人的涌入。例如，亚马逊在2018年不得不关闭其求职申请扫描器，因为发现它对女性存在歧视。该软件使用大量数据进行训练，而这些数据中男性申请者的比例过高。 目前，这类AI系统主要用作员工初步评估的工具，为人力资源团队进行预选。然而，这类筛选软件的创造者的野心远不止于此。最新的聊天机器人现在将受访者回答所需的时间纳入评估，并评估求职者语言的句子结构、语法正确性和复杂性。招聘软件Sapia AI甚至能够向求职者提出更复杂的问题，并评估他们50至150字长度的答案，以检查他们是否适合职位空缺（"能很好地应对变化、压力"等）。 这里正在发生视角的转变。在AI热潮初期，当系统向公众开放时，是人对AI机器人进行挑剔的互动以评估其表现。而现在，在求职中，角色颠倒了：资本的AI使用属于公司机密的模式和算法来评估人类材料，以衡量其表现。尽管如此，AI初创公司Sense HQ的所有者（其聊天机器人负责戴尔和索尼的粗筛工作）强调，这只是在招聘过程中对人类团队的支持："我们不认为AI应该独自做出招聘决定。那会很危险。我们认为它还没到那一步。"这种措辞很危险。任何像样的聊天机器人都会得出结论：这里的重点绝对是"还没到"。 生存权由AI决定？ 很少有比在工作中做出生死抉择更令人压力山大的事了。然而，这实际上是美国私有化医疗体系中为保险公司工作的人们的日常，他们必须为"客户"决定治疗类型和时长。职员必须将投保患者的治疗费用降至最低，以使公司利润尽可能高——即使以客户健康为代价。因此，从资本的角度看，在晚期资本主义中，让看似客观的AI系统来处理这种生存权证明的分配似乎很诱人。 这正是美国"医疗保健提供者"据称在某种程度上正在做的事情。2023年底，客户对保险公司UnitedHealthcare提起集体诉讼，因为他们的检查和术后康复索赔被一个AI系统大幅削减。根据起诉书和媒体报道，AI算法被授权修改主治医生的建议并自行做出决定，导致患者的治疗被过早终止。\[5\] 据调查，名为nH Predict的程序使用一个包含600万患者的数据集作为模式识别的经验来源，从而做出错误率高达90%的严厉误判。所有这些错误都对UnitedHealthcare有利——美国最大的健康保险公司。通常术后需要100天康复期的投保人，在预后AI nH Predict判定后仅14天就被撤资。自2019年以来，私营保险公司据称在法律灰色地带使用此类AI程序，拒绝患者必要但昂贵的治疗。2024年2月初，美国相关当局出面澄清，AI程序不能用于拒绝福利。\[6\]因此，美国医疗行业的强大游说团体在华盛顿还有很多工作要做。 哪个房东没有经历过？与拖欠租金的房客进行的令人神经紧张的战斗——他们就是不想搬走，即使他们实在无法承受最新一轮的涨租。但在这里，AI也可以让所有富裕到可以出租房产的客户生活更轻松。两项技术创新正在融合，以改变美国的租赁房地产市场：创建信息网络紧密连接的智能家居，以及由AI助手控制这些家居。黄金热潮般的氛围已经出现，因为AI房地产市场预计到2029年将增长到1.3万亿美元的规模。\[7\]使智能家居中的温度或能源供应等功能能够从外部监控和控制的传感器和控制系统，正在与能够控制它们的AI系统实现兼容。 AI不仅充当房客与其公寓之间的界面（其功能类似于《银翼杀手》\[8\]中的愿景——通过语音控制），还必须预测行为并永久监控房产及其周边环境。因此，这不仅涉及通过送货服务及时补充冰箱，或在房客到来前不久将室温调整到最佳温度，还涉及永久监控，例如用水用电量——以及门禁控制。\[9\]生物识别锁使得"在房客更换时无需换锁"，正如为房东提供此类AI系统的供应商兴高采烈地评论的那样，而智能监控摄像头会对房产周边的可疑行为做出反应，尤其是在犯罪率高的区域，可以创造"安全与信任"，以吸引"更多房客"。 但是，面对高得离谱的租金而拖欠付款的房客会面临什么？智能锁的访问数据被更改，而温柔的AI声音告诉他们前往最近的流浪者收容点——他们的个人物品已被运送到那里。如果发生愤怒爆发或绝望行为，智能摄像头会报警。欠费的房客可能事先被烦人的AI账单催收机器人骚扰。在东欧，仍然存在电话催收行业。这些是反向呼叫中心，大多购买消费者债务，其员工通过威胁和劝说试图在"地面人员"接手这项工作之前收钱。但这个行业也面临消亡的危险。早在2023年，移动运营商Orange就已经尝试使用AI机器人通过电话骚扰欠费客户，以欢快的声音鼓励他们尽快付款。 最后，实施人工智能的趋势并未在国家机器面前止步。到目前为止，人们还不需要像开头提到的反乌托邦电影《优势》所预言的那样，在就业中心预约时与AI机器人打交道。但在行政部门，过度劳累的公务员面临难以处理的申请和行政流程洪流\[10\]，AI正在大规模推进。\[11\]德意志联邦共和国的办公室也拥有海量数据，非常适合训练AI系统。这是相同的基本原则：基于模式识别（通过扫描现有数据获得），机器智能通过复制和/或修改过去的行政流程，做出极有可能"正确"的决定。 公民津贴、儿童福利、失业救济金、短时工作津贴、补助金和申请——未来，AI算法将在这些领域拥有发言权，因为德国最大的机构——联邦就业局正在引领第二波"智能"数字化浪潮。然而，该机构发言人对Spiegel-Online表示，在制定内部AI战略时已采取所有安全预防措施。已经制定了程序来最大程度降低算法歧视的风险。联邦就业局现在有一个数据伦理委员会。此外，人类将始终做出"最终决定"，声明继续说道。在实践中，过度劳累的案件管理员很可能会批量批准AI准备的决策。 然而，对于联邦就业局来说，未来的问题很可能恰恰在于AI做出的决定是正确的。德国对危机的典型反应是立即向社会中最弱势的群体施压。这已经在哈茨IV劳动法中得到了体现——该法引入了强制劳动，通过剥夺不愿工作的薪资劳动者的任何支持，有效地以饥饿相威胁。在哈茨IV的德国，失业者确实被活活饿死了。\[12\]而2024年的经济危机似乎也是如此。\[13\]3月中旬，CDU议会党团领袖马蒂亚斯·米德尔伯格呼吁向公民津贴领取者提供"市政工作机会"。根据米德尔伯格的说法，他想通过这项措施节省300亿欧元，如果失业者拒绝，他们的全部标准费率将被削减。而