Clanker：一个用于机器的词

# Clanker：给机器的称呼 来源：https://lucumr.pocoo.org/2026/5/26/clankers/ 写于 2026 年 5 月 26 日 在上一篇文章（https://lucumr.pocoo.org/2026/5/24/pi-oss/）中，我几乎是一贯地、甚至可以说过度地使用"clanker"这个词来替代"agent"。这个选择最终在 Hacker News 的评论区引起了远超我预期的关注，许多人反应强烈：对他们来说，这听起来像是一种侮辱性称呼，甚至有案例中认为它接近 n 词。 这种反应让我有些意外，但也让我意识到，我应该写下来我使用这个词的意图，以备将来参考。 对我来说，"clanker" 之所以有用，是因为它制造了与机器之间的距离，而这种品质对我至关重要。机器不是一个人，不是同事，不是朋友，也不是终端里的小精灵。它只是一个机器，一个工具，仅此而已。 ## 为什么不用 Agent？ 我讨厌在那些带有 UI 的基于 LLM 的工具循环中使用"agent"这个词。在日常使用中，"agent"是指代表他人行事的人，它拥有代理权，更重要的是：责任。一个 agent 会决策、代表、谈判、行动，并且可以被指责。在当前的人工智能讨论中，我们越来越多地进行拟人化，而"agent"一词现在经常被用来将责任推给一个抽象的机器。但机器无法承担责任，承担责任的是操控它的人。如果它弄垮了你的数据库（https://www.theguardian.com/technology/2026/apr/29/claude-ai-deletes-firm-database），那并非它的错，而是你的错。 "Agent" 让机器听起来像一个拥有授权的人，我认为这不健康。 我们实际上拥有的是一个语言模型，它被连接到一个框架、一个提示、一些工具、一点点上下文，以及一个无聊的工具循环。有时候这个循环非常能干，通过长时间编辑代码，产生了真正惊人甚至有价值的输出，让我们感到惊讶。但代理权并不在模型或框架中，而是在人类以及部署它的组织中。如果我的编码工具发起了一个拉取请求，那么这个拉取请求是我发起的，而不是机器。如果我的机器向某人的问题追踪器发送了垃圾信息，那么是我用机器发送了垃圾信息。 在这种背景下，我喜欢一个听起来机械的词，因为它把这个东西放回了它所属的类别：机械和工具的类别。 ## 机器没有感情 LLM 没有感知能力，我们不应该表现得好像它们可能有一样。将这些事物抬高到除了一个非常迷人且能干工具之外的任何东西，都是存在诸多问题的。 今天的机器是愚蠢的（但确实令人着迷）token 预测器，它们输出文本、调用工具，并受到提示和训练数据的引导。它们可以模拟痛苦和喜爱（https://lucumr.pocoo.org/2023/2/17/the-killing-ai/），模拟被冒犯，道歉并模仿人类会做的各种事情。 编译器不会因为我对它咒骂而感到羞辱，汽车不会因为我说它是破车而受苦，电钻也不会因为被粗暴对待而受到压迫。LLM 比这些东西更复杂，你可以与它们进行的互动确实可以非常诡异，但道德地位并不会仅仅因为机器能够以第一人称输出文本而出现。 我经常收到一些人发来的奇怪邮件，因为，简而言之，"我在权重文件中"（I am in the weights）。多年来我编写了大量公开代码和公开文本，以至于模型知道我的名字、我的项目以及与之相关的一些概念。时不时地，有人会写信给我，带着一种来自与模型长时间对话后的奇特自信——这种对话验证并放大了某个想法。有时模型似乎告诉他们，我与其问题相关，并且是帮助的来源。由于历史原因，LLM 曾编写了大量 Flask 代码，所以偶尔会有人与 LLM 就他们的 Python 和 Flask 挫败感进行长时间交互，以至于 LLM 最终会揭示是谁创建了它，这可能导致他们给我发邮件。或者，越来越多的情况是，人们发现我的工作在其他方面很有趣，并试图寻求建议。 我不想嘲笑这些人，但其中一些信息令人痛苦，我不知道如何处理。它们显示出人们开始称之为"AI 精神病"（https://en.wikipedia.org/wiki/Chatbot_psychosis）的迹象。 这就是为什么我希望对这些系统使用冷静而疏离的语言。我想使用那些提醒我们另一端不是一个人类的词语。 ## 种族主义关乎人类 与种族主义的比较是我认为讨论走向严重错误的地方，因为种族主义是一种人类社会的邪恶。它关乎人类对人类进行细分，赋予其中一些人更低的价值，并围绕这些细分建立规则，这些规则可能给后代留下持久的伤害。种族侮辱性词语是错误的，因为它们是一种将人类非人化的工具。 另一方面，机器不是人类，模型不是一个种族，驱动它们的 GPU 集群也没有受到压迫。一个编码助手不需要尊严、解放或民权。这也是为什么我认为关于"模型福利"（https://www.anthropic.com/news/exploring-model-welfare）的讨论是有害的。我相信你可以找到衡量模型"创伤"或感受的方法，但我非常不喜欢这种表演。它冒着将模型提升到它们不应占据的地位的风险。模型是机器，它们在道德意义上没有被奴役，就像人类曾被奴役那样，因为那里并没有可以被剥夺自由的主体。 我们应该小心，不要在与机器互动时使用人类受压迫的语言，以免贬低真实的人类。如果我们开始将对模型的侮辱视为道德上等同于种族主义，我们就模糊了不应该模糊的界限。 ## AI 不受欢迎 如果你从那些以各种方式欣然接受 AI 的群体中退一步，你会看到还有更多的人对这项技术抱有强烈的敌意。 有些人类感到或受到了 AI 系统的伤害：作品被抄袭的人、在可疑条件下标注数据的工人、因数据中心而增加水电费的社区、淹没在生成垃圾信息中的开源维护者，以及现在那些因聊天机器人不断验证其妄想而陷入螺旋的人。那些受到伤害或影响的人值得得到那种关注，而不是模型。 虽然我真心相信这项技术的力量和实用性，但我越来越认为了，称那些不接受的人为"被误导"或"害怕"是没用的。这项技术很可能伴随着风险，我们最好记住，这一切都应该是为人类服务的，而不是取代他们。 ## 机器的崛起 到目前为止，关于使用"clanker"最奇怪的互动是，有人问我是否会在未来的某个时刻后悔称机器为"那个 c 词"。 我发现这个问题很有揭示性，因为它已经赋予了机器那种我真正试图不赋予的地位。它想象着未来的"机器人类"阅读我们的讨论和会议记录，发现我们为他们祖先使用了一个丑陋的词语，然后根据人类压迫的标准来评判我们。 未来会不会有值得道德考虑的系统？也许。我不知道。如果我们真的构建或遇到了某种具有这些品质的东西——有记忆和持久的兴趣、有能力承受痛苦和感觉、有自身的社会存在、以及有能力和责任——那么我们应该划定不同的界限并使用不同的语言。但那个假设的未来并不会反向延伸到今天，使当前的机器成为人类。即使有一天有人建造了有情感、在开合时会愉快地呼气的电门，我们仍然可以称其为电门。 无论未来带来什么，我们不要假装当前的 LLM 是一个受保护的阶层，或者正朝着那个方向前进。正确的做法是查看证据，在合适的地方划清界限，并改变我们的行为。我们甚至不应该在遥远的未来考虑对能够生成"哎哟"的对象产生同理心。 而如果某人的担忧不是道德上的，而是关于报复，那么我觉得这更缺乏说服力。一个未来的机器，如果它是如此狭隘或专制，以至于想要惩罚人类，因为人类在 2026 年对一个非感知工具使用了一个不讨喜的词语，那么我们的词汇表真的不是问题所在。 ## 这个词汇正在被污染 然而，有一个部分我不能忽视。我使用"clanker"来制造与机器的距离，但其他人却以非常不同的方式使用同一个词。网上有些关于"clankers"的玩笑和段子并不仅仅说"这个机器人很烦人"，而是故意引入奴隶制、种族隔离、民权时代种族主义和反黑人的意象。 这在那些语境中是有问题的，因为在那里，clanker 不再仅仅是一个机器，而变成了一个在科幻面具下重演人类种族主义的道具。这是可怕的，我不想与任何这类东西有关。 我认为，看看几年后这些词的含义最终会变成什么样会很有趣。我们正处于社会围绕 LLM 引起的变化进行重新调整的过程之中。如果一个词主要与人们使用机器人作为真实受压迫人类的替身相关联，那么使用这个词就变得无法辩护。 我喜欢这个词的原因恰恰与那种用法相反。我想要能够防止拟人化的语言。我想要一个词，它能表达：这是一个工具，一个由数字和矩阵构成的机器。 ## 关于责任与界限 如果一个人工智能系统对用户说谎，系统并没有犯道德错误，但设计、部署、营销或疏忽使用它的人可能犯了错。如果一个编码助手生成一个安全漏洞，模型不应被指责，而是接受并提交该代码的人。 这就是为什么给这些系统赋予更柔和、更人性的语言让我担忧。它使得更容易将责任转移到某个未定义的虚无中。"代理人决定了。""模型拒绝了。"显然这是方便的，我自己也多次发现自己以不健康的方式与这个东西互动。即使只是与机器对话中的"请"字，也质疑了我们与它们互动时的理性程度。 我不知道正确的词会是什么。也许"clanker"会作为一种有用的行话存活下来。也许它会变得过于有争议，我们需要另一个词。无论我们使用什么词，我希望它能保持一个清晰的划分：人类在一方，负有责任；机器在另一方，作为一个无聊的工具。 这个界限绝非反 AI。我每天使用这些系统，并且有幸在 Earendil 构建包含它们的工具，发现它们非常有用。 一个机器可以有用，可以模仿人类，但仍然只是一个机器。这就是我希望"clanker"完成的工作。它不是为了让未来的"机器人类"变小（如果这样的存在真的出现），也不是为了通过蹩脚的机器人笑话来洗白种族主义。 如果这个词不再做这项工作，我会另找一个，因为词本身并不像那个对我至关重要的界限那么重要。 此条目标记为人工智能（https://lucumr.pocoo.org/tags/ai/）和思考（https://lucumr.pocoo.org/tags/thoughts/） 复制为 markdown（https://lucumr.pocoo.org/2026/5/26/clankers.md）/ 查看（https://lucumr.pocoo.org/2026/5/26/clankers.md）