Muse 为你的所有亲友创建详细档案

Wired 新闻

摘要

研究人员提取了 Meta 的 Muse AI 助手的内部指令,发现它会为亲友创建每小时更新的详细档案,这引发了人们对 Meta 访问社交数据的隐私担忧。

已有数百万人下载了 Meta 的 AI 智能体 Muse。但要让它为你所用,是需要付出隐私代价的。
查看原文
查看缓存全文

缓存时间: 2026/10/03 15:43

# Muse 会为你的所有亲友创建详尽档案 来源:https://www.wired.com/story/muse-creates-detailed-profiles-of-all-your-friends-and-family/ *欢迎来到 Kernel Panic!(https://www.wired.com/newsletter/exclusive/kernel-panic)** 这是由 Lily Hay Newman (https://www.wired.com/author/lily-hay-newman/) 和 Matt Burgess (https://www.wired.com/author/matt-burgess/) 每周撰写的一份新闻通讯,从隐私和数字安全的全新世界内部为你带来内容。如想每周将这份新闻通讯送达你的收件箱,请在此注册 (https://www.wired.com/newsletter/exclusive/kernel-panic)\.* Meta 的新个人助理 Muse (https://www.wired.com/story/meta-releases-muse-a-personal-ai-agent-with-privacy-built-into-it/) 已成为爆款,数百万人下载了这款 AI 智能体,将其连接到银行账户、消息或健康数据,并让它代为完成任务。但随着 Muse 在消费者群体中迅速走红 (https://www.wired.com/story/ai-agents-dots-devday-muse-battling-it-out/),应用内部的数据也揭示了它如何组织和向用户呈现信息。 近日,多名研究人员提取了 (https://mouse.dev/blog/muse-runtime-export/) Muse 的内部文件,公开了该智能体的运行指令,让我们得以一窥这套系统的构建方式和行为特征。Meta 声明称,这些文件本就打算向外界开放,以体现透明度,而它们确实让我们了解到 Muse 如何回应提示词,以及如何处理高度政治化或高度敏感的话题等问题。 独立 AI 安全研究员 Karan Joshi 通过常规聊天界面,本质上是让 Muse 自行复制并分享其软件文件,从而提取了大量 Muse 的指令和系统提示词。随后,Joshi 将他的发现分享给了 WIRED。 Muse 的指令之一似乎是要让它为"用户生活中的每一个人创建一个页面"。据指令所述,这一每小时运行一次 (https://futuresociety.ch/muse-findings/#finding-relationship-pages) 的过程涉及汇编家人、伴侣、朋友、同事、"协作者"以及你所"关注"的人的相关数据。 其核心思路是,Muse 可以利用其"记忆 (https://www.wired.com/story/i-am-begging-ai-companies-to-stop-naming-features-after-human-processes/)"(即结构化文本文件)来收集有关你的人际关系和生活中重要人物的信息。然后它便可以提出建议,比如如何改善某段特定关系,或者带一位爱咖啡的朋友去哪里吃早餐。当然,AI 聊天机器人追踪社交信息并不罕见——多年来人们一直在向 ChatGPT 询问恋爱建议 (https://www.wired.com/story/please-stop-asking-chatbots-for-love-advice/)。但考虑到 Meta 的历史 (https://www.wired.com/story/facebook-data-leak-contact-import-flaws/) 以及其对社交网络数据的巨大访问权限,看看 Muse 是如何被设置的,还是相当有趣的。 "在我看来——从所有这些提示词、系统技能数据,以及他们喂给 Muse 的内容来看——他们想了解你与真实人类之间的关系,"Joshi 说。"他们想成为了解你的朋友,说实话,这真的相当瘆人。" Muse 的文档称,一个页面可能一开始很"简陋",然后随着时间推移逐渐充实,可能包含诸如事实、历史、这段关系、共同点、未完结话题和关系增进等部分。Meta 的指令称,Muse 只应使用其手头已有的"证据",因为编造细节比空白页面更糟。 "他们住在哪里、做什么工作、反复出现的话题(搬家、共同的储蓄目标),"指令如此写道。它还补充说,模型可以记录"重要的日子",比如生日或纪念日。一个人的历史可能包含类似"三月的那次旅行、那次和解的争吵、上周的重要进展"之类的背景故事。 指令还着重于记录关系细节,例如"他们的关系有多亲密、建立在什么基础之上、彼此如何相处,以及眼下这段关系似乎需要什么"。"关系增进"部分则建议了改善关系的方法,包括"一个打电话的理由、一个值得纪念的日期、他们说过的话值得日后回过头来跟进、一种真正重要的陪伴方式"。 "我们给予 AI 系统的关于我们自己的信息,远多于我们从它们那里获得的信息,"牛津大学人工智能伦理研究所副教授 Carissa Véliz 说。"这不只是我们明确告诉它们的内容,还包括它们能够从我们身上推断出来的东西——无论推断正确还是错误,从不同角度而言都令人担忧——以及它们能从其他数据来源中拼凑出的内容。" Muse 的架构设计为每位用户拥有各自的专属虚拟机,用于存储用户数据和上下文。其他智能体无法访问该 VM,用户可随时清除记忆或断开外部服务的连接。Meta 表示,Muse 还被设计为在执行发送邮件或购买商品等操作前先寻求人工确认,并且设有一份审计日志,用户可以在其中查看智能体的所有活动和未来计划。 "任何智能体要变得有用并真正帮助你实现目标,就需要拥有关于你以及你所互动对象的上下文,"Meta 发言人 Daniel Roberts 在一份声明中告诉 WIRED。"Muse 基于公开信息以及你选择分享的内容来收集这些信息,这就是它能记住给你发账单的人其实是你之前请来修浴室的水管工,或者你的配偶说最喜欢哪几种花的原因。" AI 助手引入某种记忆功能已变得普遍,这类功能旨在让回答和活动实现更高度的个性化 (https://www.wired.com/story/how-to-use-memory-in-chatgpt/)。民主与技术中心人工智能治理实验室主任 Miranda Bogen 表示,与竞争对手的系统相比,Muse 似乎更强调人际关系和个人联系。总体而言,这类工具通常会提供一定的透明度和编辑功能,Muse 也不例外 (https://www.meta.com/en-gb/help/artificial-intelligence/995796179982326/)。不过 Bogen 指出,智能体和助手鼓励人们主动向它们分享更多数据,而不是专注于数据的收集与删减。 "这些 [AI 助手] 工具正在积极诱导用户把整个生活都接入进来——他们的电子邮件、日历、金融机构、所有的一切,以便提供有帮助的辅助,"Bogen 说。"这比人们在其他情况下可能提供给这些公司的信息量大得多。这些工具对信息的广泛访问权限,将导致它们对用户了解程度的急剧膨胀。 --- *发现我们下周应该收录的内容?请告诉我们:[protected-email]。注意安全。\*

相似文章

Meta的Muse AI功能强大却令我不安

The Verge

Meta推出了Muse,一款由AI驱动的生产力助手,可以处理电子邮件管理和购物等任务,但由于其广泛的数据访问权限,引发了隐私担忧。

Meta 可爱又诡异的 Muse AI 智能体:最新动态汇总

The Verge

Meta 新推出的个人 AI 智能体 Muse 近期引发关注:有报道称它通过 Facebook Marketplace 将一名 YouTuber 的家庭住址泄露给陌生人,而 Meta 一面强调其安全功能,一面向小型企业和企业客户拓展 Muse 工具。