AI 幻觉正在让特权感十足的客户变得更糟

# AI 幻觉让得寸进尺的顾客变本加厉 来源：https://www.theverge.com/report/1002963/ai-hallucinations-customer-service-jobs-agents Madison 是纽约市的一名服务员，每次接待客人时都会询问每位食客是否有食物过敏。最近，已经发生过几次险情。"有时候有人告诉我他们对贝类过敏，等我回来时，他们却什么也不问，"Madison 说，她要求不透露姓氏以保护身份。"然后他们点了一道鱼菜，配的却是用贝类熬制的汤汁。" 当她告诉客人某道菜含有过敏原时，曾有顾客反驳，声称 ChatGPT 的说法不是这样。"他们只想跟 ChatGPT 对话，"Madison 解释道。"你对贝类过敏，ChatGPT 说这道菜里没有贝类，而我们告诉你，有的！" 生成式 AI 工具的大规模普及，正在改写那句长期让餐饮和零售从业者头疼的老话："顾客永远是对的。"但当顾客指望你配合 AI 编造的内容时，又会怎样？ 除了无视她关于过敏原的警告，Madison 还注意到，在她直到最近还在工作的那家米其林推荐的意大利餐厅里，食客对生成式 AI 的依赖越来越重。"我提议说'我去帮您叫侍酒师来'的次数，他们回答'不用了，我直接问 ChatGPT'，或者因为客人更信任 ChatGPT 而把侍酒师请离餐桌的次数，都明显增多了，"她说。有些顾客还会点餐厅根本不供应的酒款——有些情况下，甚至是现实中根本不存在的酒。 对 Madison 来说，这些 AI 幻觉加剧了某些人本就对葡萄酒存在的焦虑。"有些人一直对侍酒师有意见，觉得'这些人就像卖二手车的，想让我们花远超预期的钱买一瓶酒'，"她说，"还有些人容易钻牛角尖，觉得'侍酒师一定会觉得我很蠢'。"为了"减轻"AI 幻觉带来的尴尬，Madison 和同事们会说一些这样的话："我们的酒单非常细致，AI 可能给您推荐了一款法国酒，但我们不供应法国酒"，而不是直接告诉顾客，他们的 AI 聊天机器人完全凭空编造了一个酒类品牌。 > 你对贝类过敏，ChatGPT 说这道菜里没有贝类，而我们告诉你，有的！ AI 对客户服务类岗位的渗透如今似乎无处不在。Meta 新推出的 AI 智能体 Muse 上线后，很可能会加剧这一问题——也会给不得不应对顾客那些偶尔荒唐请求的员工带来更多烦恼。在报道这个故事时，我联系到了影院员工、咖啡师和 Apple Store 店员，他们都遇到过顾客询问根本不存在的产品或功能。在 Reddit 和 X 上，客户服务从业者（https://www.reddit.com/r/antiai/comments/1v64tnv/ai_has_somehow_made_my_customer_service_job_even/）也在抱怨（https://x.com/gromitzen/status/2097776572677656966）那些把 ChatGPT 的话奉为金科玉律的顾客。 Jason 是一名在西部山区联邦土地上工作的河流巡护员，他说他注意到越来越多的游客带着 AI 生成的荒唐行程单来到公园。 "我和同事都解释过，AI 幻觉出了根本不存在的营地，或者把行程安排的地理顺序完全搞错，导致团队有些天得逆流划船（这根本不可能），有些天却顺流而下，"Jason 说，他要求使用化名，因为他是一名联邦雇员。"最疯狂的是，即便巡护员一边指着地图一边解释，我们仍遇到过多个团体持怀疑态度。某类 AI 用户更愿意相信 ChatGPT，而不是巡护员、地图和印刷版指南手册。" Casey 是纽约市一名课后辅导老师，她也要求使用化名。她说她注意到许多学生的家长、保姆和其他监护人现在都转向 ChatGPT 或 Claude 来解答儿童发展方面的问题。 "有一家人咨询了 ChatGPT，为孩子制定了睡前流程和睡眠时间表，但孩子的睡眠时间还是不够，"Casey 说。根据孩子在辅导项目中的表现，Casey 估计孩子每晚还需要多睡两到三个小时，并把这一点告诉了家长。"家长就是坚持认为他们的 ChatGPT 说时间表没问题。" 她说，现在有些父母把生成式 AI 工具视为专家，认为它们的知识甚至超过了育儿专业人士。"跟一个已经打定主意的人沟通真的很难，"Casey 说，"因为他们把这个外部实体视为宝贵的信息来源。"她还注意到一些更无伤大雅的 AI 使用方式，比如孩子们带着 AI 生成的涂色纸来上课。 Lauren Wilford 在餐饮行业工作了 15 年，她也注意到 AI 正悄然渗入她与客人的互动中。这从菜单开始：有人会把菜单照片上传到 ChatGPT 或 Claude，询问该点什么，或者求推荐葡萄酒搭配，而不是直接问服务员。 但现在，似乎有些顾客干脆把中间人省略了。过去一年里，Wilford 所在的餐厅开始收到一些智能体试图代表用户预订的电话和邮件。agentic AI 的兴起让这些互动变得更加扑朔迷离。 当一位原本甩手掌柜的客户在大型活动前夕突然变得苛刻，临时要求讲台和视听设备——这两样东西在她位于罗得岛州普罗维登斯市管理的餐厅里都不容易现成获得——并且在最后一刻对餐饮菜单提出修改时，Wilford 感到十分意外。但当这些客户第二天抵达时完全没有提及上述任何要求，Wilford 更加震惊。虽然无法证实，Wilford 认为这些要求可能根本不是该公司任何人提出的；她怀疑那是某个 AI 智能体的手笔。 "我对人们使用 AI 智能体的理由是理解的，"Wilford 说，尤其是那些涉及官僚和行政事务的任务。"但在任何两个人能够当面交流、共同解决问题有价值的情况下，我认为我们没有充分意识到，如果我们试图跳过这一切，可能会失去什么。" **关注本报道的相关话题和作者**，以便在您的个性化主页中看到更多类似内容，并接收邮件更新。 - Gaby Del Valle