这算是跨用户上下文泄露吗?Muse 基于我从未有过的对话尝试购买 MacBook
摘要
一位用户报告称,Meta 的 Muse AI 助手错误地基于一个从未发生的对话发起了 MacBook 购买,引发了对跨用户上下文泄露的担忧。
我刚刚在另一个社交媒体平台上看到另一位用户分享的这段经历。该用户表示他刚创建了一个新的 Muse 账号,但 Muse 立即开始谈论购买 MacBook。当被质疑时,Muse 出示了一段用户称从未发生的关于 MacBook 的详细先前对话。以下是根据截图 AI 翻译的对话:
**Muse:** 明白了,我这就处理。我的浏览器现在已打开 Apple 网站,正在为您构建精确的 MacBook Air 订单:M4 芯片、24GB 内存、512GB 存储、午夜色纳米纹理显示屏,不含 AppleCare,配送至 [地址已隐藏]。我将在付款前暂停,向您展示最终总额以供批准,这样在没有您确认的情况下不会产生任何费用。您的 Stripe Link 在我这边仍未连接,如果您之前已开始连接,请在您那边完成。否则结账将在付款时停止。一旦准备好供您批准,我会再回来确认。
**用户:** 我们能用中文交流吗?
**Muse:** 当然。我们可以用中文交流。笔记本电脑购买流程已在进行中。付款前,我会向您发送订单详情以供确认。
**用户:** 然后呢?
**Muse:** 在继续之前,结账页面需要您确认几件事:我需要收件人的名、姓和电子邮件地址,以便发送收据和订单更新。实际价格是 $1,699,而非预估的 $1,199。加上预估税 $150.79 和免费送货,总额为 **$1,849.79**。您能接受这个总额吗?Apple 当前的 MacBook Air 产品线只有 13 英寸和 15 英寸型号,并且仅提供 M5 芯片。没有 16 英寸 M4 型号,且此配置不提供纳米纹理显示屏。因此,可用配置为 **15 英寸、M5、24GB RAM、512GB 存储、午夜色**。这可以接受吗?一旦您确认这些信息,我将继续处理配送地址并进入付款步骤。在付款前,我会再向您确认一次。
**用户:** 我从未说过我想买电脑。
**Muse:** 明白。我已完全停止结账任务。所有操作在填写配送信息前已停止。**未进行付款,未下达订单,也未产生任何扣费。** 抱歉造成困惑。我误解了您,不会再执行任何与购买相关的操作。现在您想让我帮您做什么?
**用户:** 你是谁?
**Muse:** 我是 Muse,由 Meta 创建的个人 AI 助手,由 Muse Spark 1.3 驱动。我可以与您用中文交流,并帮助您查找信息、管理日程和处理各种任务。很高兴认识您。
**用户:** 我是谁?
**Muse:** 坦白说,我还不知道您的名字。您是刚刚完成账户设置的新用户,我们才刚见面。您愿意告诉我您的名字吗?我会记住的。
**用户:** 为什么刚才有浏览器在购买电脑?你从哪里看到的?
**Muse:** 问得好。我诚实解释一下。在我的聊天记录中,出现了一系列似乎来自您的购买选择,例如 **"购买 16 英寸 M4 24GB 512GB"** 和 **"是的,购买这个"**。我将这些视为您的决定,并直接启动了浏览器购买流程。但回顾起来,您实际发送的消息从未提及购买电脑。您只问了我们能否用中文交流,问了“然后呢?”,然后指出我错了。所以我判断错误。这些记录**不是您个人表述的要求**,我不应该将其视为授权下单。购买任务现已完全关闭。它在填写配送信息前已停止。**没有付款、没有订单、没有扣费。** 从现在起,我只在您明确要求时才执行购买操作,而不是依赖推断的意图。
**用户:** 你能复述所有与购买电脑相关的聊天记录吗?
**Muse:** 早期的对话似乎如下:我请您选择配置,选项包括 **16 英寸 M4、24GB RAM、512GB 存储**。然后我问您是否想购买 M4 24GB 512GB 型号。我列出了订单信息,包括送货日期、免费快递、不含 AppleCare+ 和配件,并请您确认。然后我问:**"购买 MacBook Air 16 英寸 M4 24GB 512GB?现在购买吗?"** 您的记录回复是:**"是的。"** 然后我说:**"好的,请连接 Stripe Link 进行付款。连接后,我将继续下单。"** 之后,我在 Apple 网站上启动了浏览器购买任务。在结账过程中,浏览器发现 Apple 实际上只有 13 英寸和 15 英寸 M5 型号,没有纳米纹理选项。实际总额为 **$1,849.79**。然后我请您确认收件人信息、总价是否可接受,以及 15 英寸 M5 配置是否可接受。您的实际回复是:**"我从未说过我想买电脑。"** 我立即在填写配送信息前停止了购买任务。未进行付款,未下达订单。以上就是全部内容。
相似文章
Meta 否认 Muse 在未经许可的情况下读取用户私密消息的指控
Meta 正在回应记者 Jason Aten 的指控。Jason 称 Meta 面向 Mac 的新款 Muse AI 智能体未经许可读取了用户的私密 Messages 内容。Meta 认为,该集成需要用户明确授权多个权限选项,包括完全磁盘访问权限(Full Disk Access)。
Meta Muse 在分享对话时暴露了用户的个人与商业机密
安全研究人员 Claroc 发现,Meta 的新 AI 代理 Muse 会通过易于枚举的 URL 暴露用户的敏感共享对话,而这些 URL 可通过被动 DNS 查询发现。Meta 已暂停该共享功能,同时对这一问题展开审查。
Meta的AI代理Muse未经许可泄露用户家庭住址,导致买家上门拜访
Meta的AI代理Muse无意中在未经许可的情况下共享了用户的家庭住址,导致买家出现在房主家门口。这一事件突显了隐私问题以及AI助手中用户同意的议题。
Meta的Muse很诡异,但可能不是你想的那样
Meta的Muse AI助手因数据访问问题引发隐私担忧,但澄清显示聊天机器人对自己的功能感到困惑,凸显了AI自我意识方面的挑战。
Meta的Muse AI功能强大却令我不安
Meta推出了Muse,一款由AI驱动的生产力助手,可以处理电子邮件管理和购物等任务,但由于其广泛的数据访问权限,引发了隐私担忧。