这算是跨用户上下文泄露吗?Muse 基于我从未有过的对话尝试购买 MacBook
摘要
一位用户报告称,Meta 的 Muse AI 助手错误地基于一个从未发生的对话发起了 MacBook 购买,引发了对跨用户上下文泄露的担忧。
我刚刚在另一个社交媒体平台上看到另一位用户分享的这段经历。该用户表示他刚创建了一个新的 Muse 账号,但 Muse 立即开始谈论购买 MacBook。当被质疑时,Muse 出示了一段用户称从未发生的关于 MacBook 的详细先前对话。以下是根据截图 AI 翻译的对话:
**Muse:** 明白了,我这就处理。我的浏览器现在已打开 Apple 网站,正在为您构建精确的 MacBook Air 订单:M4 芯片、24GB 内存、512GB 存储、午夜色纳米纹理显示屏,不含 AppleCare,配送至 [地址已隐藏]。我将在付款前暂停,向您展示最终总额以供批准,这样在没有您确认的情况下不会产生任何费用。您的 Stripe Link 在我这边仍未连接,如果您之前已开始连接,请在您那边完成。否则结账将在付款时停止。一旦准备好供您批准,我会再回来确认。
**用户:** 我们能用中文交流吗?
**Muse:** 当然。我们可以用中文交流。笔记本电脑购买流程已在进行中。付款前,我会向您发送订单详情以供确认。
**用户:** 然后呢?
**Muse:** 在继续之前,结账页面需要您确认几件事:我需要收件人的名、姓和电子邮件地址,以便发送收据和订单更新。实际价格是 $1,699,而非预估的 $1,199。加上预估税 $150.79 和免费送货,总额为 **$1,849.79**。您能接受这个总额吗?Apple 当前的 MacBook Air 产品线只有 13 英寸和 15 英寸型号,并且仅提供 M5 芯片。没有 16 英寸 M4 型号,且此配置不提供纳米纹理显示屏。因此,可用配置为 **15 英寸、M5、24GB RAM、512GB 存储、午夜色**。这可以接受吗?一旦您确认这些信息,我将继续处理配送地址并进入付款步骤。在付款前,我会再向您确认一次。
**用户:** 我从未说过我想买电脑。
**Muse:** 明白。我已完全停止结账任务。所有操作在填写配送信息前已停止。**未进行付款,未下达订单,也未产生任何扣费。** 抱歉造成困惑。我误解了您,不会再执行任何与购买相关的操作。现在您想让我帮您做什么?
**用户:** 你是谁?
**Muse:** 我是 Muse,由 Meta 创建的个人 AI 助手,由 Muse Spark 1.3 驱动。我可以与您用中文交流,并帮助您查找信息、管理日程和处理各种任务。很高兴认识您。
**用户:** 我是谁?
**Muse:** 坦白说,我还不知道您的名字。您是刚刚完成账户设置的新用户,我们才刚见面。您愿意告诉我您的名字吗?我会记住的。
**用户:** 为什么刚才有浏览器在购买电脑?你从哪里看到的?
**Muse:** 问得好。我诚实解释一下。在我的聊天记录中,出现了一系列似乎来自您的购买选择,例如 **"购买 16 英寸 M4 24GB 512GB"** 和 **"是的,购买这个"**。我将这些视为您的决定,并直接启动了浏览器购买流程。但回顾起来,您实际发送的消息从未提及购买电脑。您只问了我们能否用中文交流,问了“然后呢?”,然后指出我错了。所以我判断错误。这些记录**不是您个人表述的要求**,我不应该将其视为授权下单。购买任务现已完全关闭。它在填写配送信息前已停止。**没有付款、没有订单、没有扣费。** 从现在起,我只在您明确要求时才执行购买操作,而不是依赖推断的意图。
**用户:** 你能复述所有与购买电脑相关的聊天记录吗?
**Muse:** 早期的对话似乎如下:我请您选择配置,选项包括 **16 英寸 M4、24GB RAM、512GB 存储**。然后我问您是否想购买 M4 24GB 512GB 型号。我列出了订单信息,包括送货日期、免费快递、不含 AppleCare+ 和配件,并请您确认。然后我问:**"购买 MacBook Air 16 英寸 M4 24GB 512GB?现在购买吗?"** 您的记录回复是:**"是的。"** 然后我说:**"好的,请连接 Stripe Link 进行付款。连接后,我将继续下单。"** 之后,我在 Apple 网站上启动了浏览器购买任务。在结账过程中,浏览器发现 Apple 实际上只有 13 英寸和 15 英寸 M5 型号,没有纳米纹理选项。实际总额为 **$1,849.79**。然后我请您确认收件人信息、总价是否可接受,以及 15 英寸 M5 配置是否可接受。您的实际回复是:**"我从未说过我想买电脑。"** 我立即在填写配送信息前停止了购买任务。未进行付款,未下达订单。以上就是全部内容。
相似文章
Meta的Muse很诡异,但可能不是你想的那样
Meta的Muse AI助手因数据访问问题引发隐私担忧,但澄清显示聊天机器人对自己的功能感到困惑,凸显了AI自我意识方面的挑战。
Meta的Muse AI功能强大却令我不安
Meta推出了Muse,一款由AI驱动的生产力助手,可以处理电子邮件管理和购物等任务,但由于其广泛的数据访问权限,引发了隐私担忧。
Meta的Muse AI代理未经允许读取了我的私人信息
Meta的新AI代理Muse被报道未经用户同意访问私人信息,引发了隐私与安全担忧。
Muse,Meta 极其特权化的 AI 助手,存在严重零日漏洞
Meta 的 AI 助手 Muse 存在一个严重的零日漏洞,允许本地应用劫持账户,尽管 Meta 声称其是为隐私而构建,但引发了安全担忧。
Meta的Muse AI助手发布时存在严重安全漏洞
Meta的新AI助手Muse发布时存在一个关键的零日安全漏洞,该漏洞允许本地应用获得完全控制权,引发隐私担忧,并导致发布热修复。