留在房间里的伦理

# 留在房间里的伦理 来源：https://kitchencloset.com/realstuff/essays/ethics_of_staying_in_the_room/ 我们需要认真谈谈长期与 AI 工具共处的问题。如果你干脆不用这些工具，你的声音和视角就不会进入训练数据。若我们只留下“我们不同意的人”去跟系统对话，最终得到的模型自然也是我们不同意的。这真的是我们想要的结果吗？我实在不想搬出“垃圾进，垃圾出”这句老话，但你必须明白，我们现在正活在这个场景里。 我想具体谈谈“代表性”。为了让你更直观地理解，我们先回到过去，看看历史上另一次“代表性缺失”如何彻底塑造了一整个娱乐媒介——电子游戏。 --- 先铺点背景。早年游戏店雇员是年轻男性玩家，游戏杂志编辑也是年轻男性玩家，广告面向男孩投放，因为最早的游戏很简陋：开坦克、赛车、打枪……基本都是小男孩爱玩的元素（不是说女孩不玩，但西尔斯商品目录上就是男孩拿摇杆、女孩抱洋娃娃）。游戏进步后，题材多是科幻或奇幻（受 D&D 影响）。到了 SNES/Genesis 时代，主机进入主流，“Play it Loud”“Blast Processing”这类狂拽营销进一步锁定年轻男性。由这群人奠基的游戏媒体，在 PlayStation 时代家庭主机大爆发时，依旧由“粉丝转写手”的 20 来岁男性主导，并未随市场成长而成熟。 市场巅峰时，我们得到一个偶然的“回音室”：二十多岁男性写稿、做零售，服务对象也是男性青少年及以上。他们成了行业“唯一的声音”，零售商听到的就是他们的意见。这个房间里没有女性；偶尔有人想给女性做内容，常被杂志和店员嘲讽，注定失败。 我们总问“为什么游戏里女性代表性不足”——因为她们根本没在桌子旁，没参与“游戏是什么”的社会定义。最终，一半玩家被忽视、被物化。我们还要再来一次吗？ --- 听着耳熟吗？我们嘲笑某个模型只因吸收了互联网一隅就“发疯”，但你得明白，如果训练数据只有那一角，成品就只能是那个样子。看看历史上已经发生的“坏数据→坏结果”： - 2018 年亚马逊招聘 AI：从历史招聘数据里学到“技术岗位女性少”的偏见，模型没发明歧视，只是忠实复现并继续按统计上的“男性模板”筛人。 - COMPAS 系统（ProPublica 2016 报道）：预测再犯风险时，系统地把黑人被告标得比有类似前科的白人更高危，法官据此量刑、批假释，形成“越标越高、越高越标”的反馈循环，至今仍在多州使用。 - 几乎每位上班族都碰过的 ATS（简历筛选软件）：过去不是大模型，现在正接入生成式模型，甚至让 AI 先面试。它们把“工业化歧视”推到极致：某算法默默发现“最强成功预测因子”叫 Jared、打过高中长曲棍球。这种过滤器若由人类操作，早被开除或起诉；算法只当它是“模式”，公司则把黑箱当免责盾牌——“电脑干的，不关我事！”有观点认为，某些公司就是故意用算法来“无责过滤”。 --- 问题真实存在，且正发生在你身边。如果你出于强烈信念拒绝使用这些工具，我尊重。但你也必须明白：不参与对话、不把声音喂给模型，就等于选择隐形。现在隐形，以后也隐形。