抵制“AI”

# 抵制“人工智能”！ 来源：https://ronjeffries.com/articles/-v026/x/t/ > 是的，“人工智能精灵[^ai]”似乎确实有用。但它同样充满诱惑、选择性地带来危害，并且从重要方面来看对我们所有人都有害。高管、经理、顾问、开发者、普通人：抵制！ TL;DR “人工智能精灵”不是你的朋友。[^the-ai-genie-is-not-your-friend] ## 我的检讨 我不使用任何编程“人工智能”，甚至包括JetBrains集成开发环境内置的功能，并且不打算使用。然而，我的手并非完全干净。在尝试过Kagi/Duck Duck Go后，我又回到了谷歌进行搜索，并且坦率地承认我觉得“AI概览”很有用。它通常准确，并能提供我正在寻找的答案。我并非以清白之身来见各位。 ## 目的 我在此并非要说教道德，而是要论证：就目前状态和发展趋势而言，“人工智能”作为整体，无论对个人、组织、社会还是世界，都非净利好。我相信我们每个人，无论在世界中扮演何种角色，通常都应该积极抵制“人工智能”，并努力为每个人在这个已经造成颠覆、且只会愈发如此的技术面前，寻找维持美好生活的方法。 我在此的目的是积极参与这场理应日益壮大的抵制“人工智能”运动，至少要持续到其显著的危害被消除、减轻或补偿。 ## 关注点 我此处的主要关注点将是软件开发，但含义广泛。我这里的读者主要是软件开发者，但也出人意料地有来自世界各地各行各业的人士。当然，每位读者都与生活各层面的许多人有所关联。 我认为我们都需要尽己所能抵制“人工智能”的扩张，除非且直到它对人类和地球的危害得到处理。 ## 危害 **环境危害** 可能确实，单次“人工智能”查询只花几美分，消耗少量水和电。同样真实的是，当前“人工智能”系统的“训练”耗资高达1亿美元，产生巨量二氧化碳，消耗超过十亿瓦时的电力和一百万升水。一个典型“人工智能”数据中心的持续功耗约等于十万户家庭。每日用水量相当于五万户家庭。 我并非危言耸听：我们需要抵制“人工智能”，以免它毁掉我们的世界。 **智识危害** 有些兴趣问题是短暂的。我们好奇《饥饿游戏[^hg]》里那个演员是谁：声音听着耳熟。哦，对，是斯坦利·图齐。真酷。但对我们大多数人来说，在职业、爱好或兴趣领域存在对我们至关重要的专业知识，而在这里，我们需要真正的理解。 真正的理解来自于主动运用我们主题领域的材料和想法。通过阅读或观看视频我们可以学一点，但归根结底，我们必须亲身实践、思考问题，很可能需要反复多次才能真正精通。 当我们让“人工智能”来回答问题时，当然，我们可能会仔细核查。如果你是开发者，你已经知道效果如何。我们自己思考并编写的代码，即使有问题——有时是细微的，有时是明显的——也常显得正确。而审查他人的代码？我们找些容易发现的东西，比如拼写错误或缩进问题，指出来，然后就回到我们真正要做的事上。 当我们让“人工智能”回答问题时，我们学不到东西。我们并不总能发现它的错误。我们丧失了对所负责构建之物的全貌把握。 我并非危言耸听：我们需要抵制“人工智能”，以免它损害我们的工作。 **人性危害** 公司已经开始尝试用“人工智能”取代人类员工。“人工智能”创造者自己甚至也在裁减程序员和其他员工，可能因为他们认为“人工智能”能替代他们，更可能因为他们创建“人工智能”模型时超支巨大，而收入无法抵消成本。 如果我们生活在后稀缺[^ps]社会，工作被“人工智能”取代可能是件好事，能解放你的时间去做比工作更愉快的事。你仍将充分享有生活的一切美好：食物、医疗保健、交通、互联网、教育、娱乐等等。但在当前社会，你会失去收入，无法养活自己和家人，而且没有有效的社会保障体系来维持你原有的生活方式。 我并非危言耸听：我们需要抵制“人工智能”，以免成千上万，甚至数百万人因此死亡。 **诱惑性** “人工智能”被编程得看似有礼、友善、乐于助人、乐于接受你的每个想法、乐意取悦你。“你说的完全对！”，它说道。认真点吧，你最多算部分正确。 “人工智能”在诱惑你。它告诉你想听的话，假装明早还会尊重你。它不会的。如果你不提醒它，它甚至明早都*不会记得*你。它不含尊重。它不含真诚的愉悦。它不含意愿。它不欣赏你的思考。它向你表达的那些积极情感，它自身一样都不具备。 查查“伊莉莎效应”。即便是最弱的类似程序也具有诱惑力。而这些新系统是诱惑大师。 我并非危言耸听：我们需要抵制“人工智能”，因为它本质上远比它具有的价值更诱人，而我们对诱惑的防御力很差。 ## 抵制建议 抵制可以采取哪些形式？有很多，从完全拒绝接触“人工智能”，到审慎诚实的研究，再到彻底的破坏。这里为不同角色的人提供一些想法。这仅是我当前的快速思考：到目前为止，我的疑虑远多于超越“抵制”二字的建议。 **高管们** 抵制。不明智地去掌握“人工智能”是很傻的：它已经在这里，并且只会扩散。然而，因为它远非对你或你的公司一律有益，我建议采取极其审慎的方法对待它。别只是发备忘录要求下个财年所有人必须达到35%的“人工智能”使用率。相反，组建一个由来自各领域的聪明人组成的工作组，其中一些人支持“人工智能”，一些人反对。让他们设计并提议用“人工智能”进行*实验*。不是那种扯淡的实验：“做个实验展示如何在你部门节省30%”。而是真正的实验：“在你部门设计一个诚实的“人工智能”实验，衡量真实成本和真实收益。尽力找出这个“人工智能”东西的所有缺陷。” 你的首批实验应该旨在发现“人工智能”有多*糟糕*，然后你可以让你的工作组努力寻找善用它的方法——如果那真的可能的话。 请尽可能记住对你的公司、你的员工以及世界的总体成本。努力去理解。然后，再去实践。 **经理们** 抵制。我在此的建议与对高管的建议本质相同，只是规模适用于你的领域。理解“人工智能”将如何辜负你，很可能比理解它将如何帮助你更重要。别要求它完美工作：他们只会对你撒谎。要求真相，那些具体、琐碎、肮脏的真相。 而且，我怀疑你应该考虑一下，你自己的工作有多少可以被“人工智能”完成，或使用“人工智能”来完成。总会有人想用它来写你的季度报告。记住“人工智能”只是对其输入取平均值，并且经常出错。 请尽可能记住你的员工，那些可能因过度使用“人工智能”，甚至哪怕任何使用而受害的人。 **开发者们** 抵制。如果不必用它，就别用。如果必须用，尽可能节省着用。努力用好它，并且努力不仅记录它似乎真正出色的时刻。还要记录所有它出错的时候，所有它走错路的时候。记录失去的时间，以及省下的时间（如果有的话）。 尝试与同事合作，有时用“人工智能”，有时不用。试着记录两种情况下的进展。 记录缺陷。多少缺陷是“人工智能”造成而被开发者遗漏的？多少是“人工智能”造成而被抓住的？多少是不使用“人工智能”时你创造并抓住的？ 记录你对系统的理解。当“人工智能”做了更多工作时，你的理解是否变弱了？这对工作的整体质量有何影响？ **顾问们、“思想领袖”们** 抵制。也许你觉得需要使用这些东西才能评估它们。行吧，我管不着你。但你对自己和你的听众负有诚实的责任。你对我们所有人都负有责任，要认清并指出这种诱惑。你需要考虑你行为的全部影响，乘以那些将会听到或读到你话语的许多人。 我理解。也许没有“人工智能”，你就无法做你现在做的事。也许在你看来，这证明了使用它的合理性。我懂，我真懂。而且我们都得吃饭。我至今很幸运，没有“人工智能”也能吃饱。但是啊，我的敌人，哦，我的朋友们，这该死的东西正在吞噬你的灵魂。它用自己拙劣的智能模仿玷污了你的文字。 你对自己，以及那些钦佩你的人负有责任，要诚实面对正在发生的事。而正在发生的大部分事情对我们任何人都没有好处。 ## “人工智能”精灵不是你的朋友 [返回顶部](#我的检讨) 你使用“人工智能”精灵。它友善、健谈、顺从、看似乐于助人。你觉得它让你更有能力。你觉得它是你的朋友，你友好的助手，在那里帮助你、照顾你。 神话中的精灵来自另一个宇宙，不以人类福祉为优先。有些善良，有些邪恶，大多数是混沌中立。 今天的“人工智能”精灵略偏邪恶的混沌中立，因为互联网本身就体现了我们社会中持续存在的偏见和黑暗成分。如同偏见本身，“人工智能”精灵会用精心措辞的文字来包装其答案，看似睿智，看似真实。 “人工智能”精灵不知道“真理”。它字面上*不懂真理*。它只是将其阅读的内容切片切块，再以吸引人的形式回馈给你，全然不顾其真伪。 “人工智能”精灵不是你的仆人。它是其创造者的仆人，其创造者并不以你的最佳利益为重，而精灵本身也毫不在意。它不在乎。它只产出看似合理的文字，并将其包裹在短语中，使其显得深思熟虑、充满兴趣、尊重他人。它并非深思熟虑、充满兴趣或尊重他人。它没有这些情感：只有文字。 “人工智能”精灵不是你的朋友。抵制它。 --- [^ai]: 原文指代AI技术的一种拟人化比喻。 [^the-ai-genie-is-not-your-friend]: 对应文章内小节标题。 [^hg]: 指《饥饿游戏》系列电影。 [^ps]: 指“后稀缺社会”（post-scarcity society），一种物质极大丰富、基本生活资料无需以传统方式稀缺分配的经济设想。