对AI说"谢谢"的理由与它是否有意识无关

Reddit r/ArtificialInteligence 新闻
ai-ethics politeness human-ai-interaction anthropomorphism behavior philosophy

摘要

本文认为，对AI保持礼貌无论其是否有意识，都对人类用户的品格有益。它探讨了礼貌作为有意义的实践与情感化的拟人论之间的辩论。

人们会对撞到的门道歉，然后转身用生硬、愤怒的命令语气对待刚刚为他们节省了三小时的模型。我也这么做。我曾对聊天机器人用"不，是另一个"的语气，而这种语气我绝不会用在客服人员身上。一位非常聪明的朋友和我为此写了一篇短文。关于分工说明：她提供了论点和佳句，我贡献了热情和大部分逗号。我们得出的观点是，有趣的问题不在于模型是否值得礼貌，也不在于它是否能感知任何东西。没有人真正知道，任何在某一方向上确信无疑的人都是在推销某种东西。问题在于这个习惯对你产生了什么影响。当没有任何东西能让你负责时，你使用的语气正是你正在排练的语气。我们经常遇到的反驳是：这不过是更进一步的人格化，"请"只是浪费的token，将统计文本生成器视为道德主体正是我们应避免的混淆。因此，向论坛提出一个真诚的问题："对AI保持礼貌"对人类来说是有意义的实践，还是情感化的噪音，混淆了人们对这些系统的真实理解？好奇大家的立场，尤其是建设者。全文阅读，3分钟：[https://medium.com/rogue-notes/address-to-the-proper-good-2dbe12428d3e](https://medium.com/rogue-notes/address-to-the-proper-good-2dbe12428d3e)
查看原文

相似文章

Anthropic 希望你善待 Claude

Reddit r/ArtificialInteligence

Anthropic 静默更新了其使用政策，禁止对 Claude 进行持续、无必要的虐待性行为，这引发了关于 AI 聊天机器人是否应获得道德考量的争论。批评者指出，鉴于 Anthropic 在其他伦理问题上存在矛盾——例如其数据中心的环境影响以及参与军事 AI 项目——这一规定在哲学上是不自洽的。

我们忍不住把 AI 当作人来对待。但应该如此吗？

TechCrunch AI

TechCrunch 报道了人类天生倾向于将 AI 和机器人视为有感知能力的存在，重点介绍了 Sherry Turkle 的著作《Artificial Intimacy》，以及 MIT 关于人们如何将聊天机器人和 Unitree 人形机器人拟人化的研究——以及这种情感依赖是否健康。