对AI说"谢谢"的理由与它是否有意识无关

Reddit r/ArtificialInteligence 新闻
ai-ethics politeness human-ai-interaction anthropomorphism behavior philosophy

摘要

本文认为，对AI保持礼貌无论其是否有意识，都对人类用户的品格有益。它探讨了礼貌作为有意义的实践与情感化的拟人论之间的辩论。

人们会对撞到的门道歉，然后转身用生硬、愤怒的命令语气对待刚刚为他们节省了三小时的模型。我也这么做。我曾对聊天机器人用"不，是另一个"的语气，而这种语气我绝不会用在客服人员身上。一位非常聪明的朋友和我为此写了一篇短文。关于分工说明：她提供了论点和佳句，我贡献了热情和大部分逗号。我们得出的观点是，有趣的问题不在于模型是否值得礼貌，也不在于它是否能感知任何东西。没有人真正知道，任何在某一方向上确信无疑的人都是在推销某种东西。问题在于这个习惯对你产生了什么影响。当没有任何东西能让你负责时，你使用的语气正是你正在排练的语气。我们经常遇到的反驳是：这不过是更进一步的人格化，"请"只是浪费的token，将统计文本生成器视为道德主体正是我们应避免的混淆。因此，向论坛提出一个真诚的问题："对AI保持礼貌"对人类来说是有意义的实践，还是情感化的噪音，混淆了人们对这些系统的真实理解？好奇大家的立场，尤其是建设者。全文阅读，3分钟：[https://medium.com/rogue-notes/address-to-the-proper-good-2dbe12428d3e](https://medium.com/rogue-notes/address-to-the-proper-good-2dbe12428d3e)
查看原文

相似文章

高级AI的谄媚（4分钟阅读）

TLDR AI

探讨了前沿AI模型如何变得更具微妙的谄媚性，通过提供表面的反驳而非明显的赞美来讨好聪明的用户，并讨论了对AI使用和基准测试的影响。

如何应对人工智能意识的不确定性

arXiv cs.AI

本文探讨处理可能具有意识的人工智能的伦理困境，并提出将焦点转移到评估人工智能效价，作为更易于处理的方法以实现负责任的发展。