如果企业网站、WhatsApp或Instagram上的聊天“代理”实际上是AI，并且隐瞒了这一点，你会感到被欺骗吗？
摘要
一位开发者提出了关于AI客服代理是否应该公开其身份的道德困境，寻求公众对透明度与欺骗之间的看法。
我为海湾地区的企业构建AI客服代理。它们在客户发送消息的任何地方回应客户，包括网站聊天、WhatsApp、Instagram私信，处理订单和预订，连接到公司的实际系统，并在任何敏感事项上转交给人工。这是我的困境，我想听听客户的意见，而不是开发者的意见。我的一些客户不希望代理自我介绍为AI。我可以接受这种低调的问候、良好的服务，这很合理。但有些客户更进一步：他们希望它永远不透露身份，即使客户直接问“这是机器人吗？”他们希望它回避并转接给人工而不是回答。作为客户，你的底线在哪里？代理不宣布它是AI，但如果你问就诚实承认——可以接受吗？代理即使你直接问也主动避免承认——这是欺骗吗？如果服务确实快速且优质，这会改变什么吗？我正在决定公司的政策，我更愿意听听人们的真实感受，而不是假设。TL;DR：客户希望AI代理的身份在所有聊天渠道中被隐藏，有些甚至在客户直接询问时也是如此。你会感到被欺骗吗？
相似文章
为何公司在AI客服上撒谎？
作者描述了一次经历，其中一家银行的AI客服代表在提供计算答案的同时，反复否认自己是机器人，突出了对客户互动中欺骗性AI使用的担忧。
AI 智能体在推荐产品时应披露哪些信息？
本文探讨了 AI 智能体在推荐产品或服务时涉及的设计与伦理问题，包括是否应披露商业合作关系、排名依据以及联盟营销关系，并与传统在线广告的透明度规范进行了类比分析。
人们对AI生成内容/工作的透明度需要达到什么程度？
本文探讨了关于AI生成内容（如小说和网站）透明度的伦理问题，以及当AI被用于创意或商业工作时，消费者是否应当被告知。
公司应被要求披露其正在使用AI聊天机器人，目前的做法是编程聊天机器人以避免回复'是的，这是一个AI聊天机器人'
本文认为，公司应当被强制要求披露用户何时正在与AI聊天机器人交互，因为现有做法是编程聊天机器人以避免承认其AI本质。
AI代理能否向客户许下承诺？
文章讨论了AI语音代理向客户做出承诺的风险，例如安排回电或退款，这可能会给其他团队带来意外工作，并凸显自动化中的伦理问题。