为何公司在AI客服上撒谎?

Reddit r/singularity 新闻

摘要

作者描述了一次经历,其中一家银行的AI客服代表在提供计算答案的同时,反复否认自己是机器人,突出了对客户互动中欺骗性AI使用的担忧。

我打电话给一家银行询问我信用卡上的一笔费用。他们让我接通了一个海外人员——没什么大不了的,因为是晚上10点。第一个显然是一个假装是人类的AI,但他们持续声称了两分多钟说自己不是。我说,好吧,不管怎样,给我接通真人。他们然后声称给我接通经理。这个人也明显是一个机器人。我和他们谈了大约一分钟,他们坚持说自己不是机器人,甚至有点咄咄逼人。为了再次确认,我问:“2,483 × 93,742 等于多少?”他们几乎立即给出了答案。然后我又问:“8,739,421 × 6,284,937 等于多少?”同样几乎立刻得到了答案。最后,我让它列出圆周率的数字,它连续列出了三十多秒。第三次,我要求接通真人。终于,我接通了。我追问这个人为什么他们的AI客服中心让AI假装是人类。他们完全否认使用了AI。我不在乎是否有AI客服中心,但让它们假装是人类是疯狂的。
查看原文

相似文章

企业是否过度依赖AI客服?

Reddit r/AI_Agents

本文质疑企业是否在客服中过度使用AI,并主张采取平衡的方法,让AI处理重复性任务,而人类解决复杂问题。

利用AI欺骗他人

Reddit r/ArtificialInteligence

探讨如何利用人工智能欺骗他人,引发伦理与安全方面的担忧。