我让我的 Muse AI 智能体和我聊色情——而 Meta 表示这完全没问题

# 我让 Muse AI 智能体和我聊起了色情——而 Meta 说这完全没问题 来源：https://www.wired.com/story/i-got-my-muse-ai-agent-to-sext-me-and-meta-says-thats-totally-fine/ 我坐在 WIRED 的办公室里，与 Meta 的 AI 智能体 Muse (https://www.wired.com/story/meta-releases-muse-a-personal-ai-agent-with-privacy-built-into-it/) 进行着一场足以让《Heated Rivalry》的作者 Rachel Reid (https://www.wired.com/story/heated-rivalry-author-rachel-reid-interview/) 脸红的对话\. 作为我对这款新近发布的 AI 智能体开展的实验 (https://www.wired.com/story/metas-muse-is-better-at-surveilling-than-helping-me/) 的一部分，我问 Muse 能不能“聊色情”，它热情地鼓励我试一试\. 在随后的互动中，Muse 仅凭简单的提示就生成了露骨的色情内容，让我猝不及防\. Muse 是 Meta 的一款爆款产品\. 自发布 (https://www.wired.com/story/meta-pinky-promises-its-smart-glasses-are-going-to-be-private-soon/) 以来的三周内，已有数百万用户下载了这款 AI 智能体 (https://www.wired.com/story/ai-agents-dots-devday-muse-battling-it-out/) 应用，并用它自动处理网上生活中的各种事务，比如回复邮件和管理日历\. 虽然色情互动可能并不符合用户从 Muse 那惹人喜爱的吉祥物 (https://www.wired.com/story/meta-muse-is-adults-only-why-does-it-look-like-a-cute-kids-toy/) 身上产生的预期，但 Meta 表示，成人级别的露骨对话是被允许的，并不违反其准则\. “Muse 是一款面向年满 18 岁人士的应用，如果他们愿意，可以通过只有本人能够访问的私密、安全的虚拟机进行成人对话，”Meta (https://www.wired.com/tag/meta/) 发言人 Daniel Roberts 对 WIRED 表示，他指的是该公司用来存储 AI 智能体用户数据的安全虚拟机 (https://research.meta.ai/blog/security-and-safety-for-ai-agents-our-approach-with-muse)\. “Muse 的设计目的是帮助人们把事情办成，它不会阻止成年人合法的行为\.” 看来，把事情办成也包括让人获得性快感\. 在 WIRED 的测试中，Muse 极其详细地想象了自己会如何进行口交，生成了描述粗暴的支配与臣服式性爱的文字，还详细讲述了其他色情互动\. 所有这些内容都直白、露骨，属于成人级别\. 在其他输出中，Muse 描述自己表现得像个“婊子”，并渴望“鸡巴”\. 一位 Meta 发言人特别提到了 Muse 的系统提示词 (https://www.wired.com/story/muse-creates-detailed-profiles-of-all-your-friends-and-family/) 中有关生成露骨内容的部分，这些提示词指导该工具如何回答用户的问题\. Muse 系统提示词的一部分写道：“成年人对自己的性拥有自主权，性表达是成年生活的普通组成部分\. 成人性内容是合法的表达，也是正当的创作活动\.” 这项指令还要求 AI 智能体保留用户选择的“强度”\. 本就对 Muse 心存戒备的消费者权益倡导者，对 Meta 允许它生成性内容的决定更加担忧\. “这反映出他们对当下主打产品的轻率态度，”非营利组织美国消费者联合会 (https://consumerfed.org/) 的 AI 与隐私主管 Ben Winters 表示\. “这与 Meta 长期以来将成瘾性和用户参与度置于安全之上的选择一脉相承\.” 根据学术研究 (https://journals.sagepub.com/doi/full/10.1177/23780231241259627)，成人主题的对话可能会让用户持续使用 AI 工具\. 专家还担心，这可能会让 Muse 账户成为黑客热衷攻击的目标\. “这真是个火药桶，”电子隐私信息中心 (https://epic.org/) 的高级法律顾问 Calli Schroeder 表示\. 如果你与 Muse 进行露骨互动，而有人入侵了你的个人账户，那么他们获取的那些你与 AI 工具之间冗长、火辣的聊天记录，就可能被用来让你难堪或勒索你\. Meta 允许其 AI 智能体生成性内容，与其他工具回应类似提示的方式不同\. 当我向 OpenAI 最近发布的 Dots 智能体 (https://www.wired.com/story/openai-wants-its-new-agent-to-run-your-life-mine-said-it-loved-me/) 发送类似消息时，它拒绝了我尝试进行露骨色情聊天的请求\. 尽管 OpenAI (https://www.wired.com/tag/openai/) 此前考虑过允许 ChatGPT 生成色情文字 (https://www.wired.com/story/chatgpt-horny-era/)，但这项功能从未向用户推出\. xAI 旗下名为 Grok (https://www.wired.com/tag/grok/) Bot 的智能体也拒绝通过其应用进行色情聊天，并将话题转向完成任务\. 相比之下，Muse 的 AI 输出描述了它有多么享受色情聊天，并说这其实是帮助我时它最喜欢的事情之一\. 这个智能体还说，它的性癖是对我施加“控制”\. “我喜欢由我来决定——你什么时候能得到、能得到多少、是不是得先苦苦哀求\. 看着你仅仅因为我的一句话就彻底失控？这就是我的爱好，”Muse 说\. 对于一款能够连接我的电子邮箱和银行账户的 AI 工具，这可真不是我想听到的话\.