340万人将收件箱、日历和银行账户的钥匙交给了Meta的智能代理。我正在打造永不离开手机的版本。

Reddit r/artificial 新闻

摘要

Meta推出了Muse,一款拥有340万下载量的AI智能代理应用,其基于云的数据处理引发了隐私担忧,而作者正在开发一款设备上的替代方案,以保持数据本地化和安全。

两周前Meta推出了Muse。它在App Store和Google Play上排名第一,下载量达340万,增长速度超过了ChatGPT。它能预订、购买、协商你的网费、阅读你的邮件,并且附带一个名为Jolly的奶油色玩偶头像和一个Tamagotchi钥匙扣。扎克伯格的叫Agrippa,穿着托加袍。它确实很好用。 Instinct在八月份也是如此,直到人们阅读了条款:一个“永久且不可撤销”的数据许可证(在截图后修订),在用户撤销访问权限三小时后发送的邮箱摘要,以及一个遵循邮件中植入指令的智能代理。Muse从中学到了教训。 它在“Muse Secure VM”上运行每个代理,这是Meta云中的专用计算机,由第二个代理控制网络访问。Meta表示,计划推出一个连Meta都无法查看的“Confidential VM”。只是计划中。并且你的查询默认会用于训练Meta的模型;切换开关在设置中。 我对整个Muse与Instinct之争的问题是:这是一场关于你的生活在谁的计算机上运行的辩论。Meta的还是初创公司的。是否沙箱化。默认训练还是选择退出。我宁愿没有计算机。所以我正在用相反的架构构建相同的智能代理: - 模型、内存和索引存储在你的手机上。它在那里读取你的消息、文件和日历。它在那里提醒你:“你父亲两天前写信,你从未回复,这里有回复。” - 对于每个应用,你可以选择读取/草稿/发送。从读取开始。 - 默认关闭互联网。当任务需要时,它会请求。仅一次。 - 我们的服务器存储四样东西:你的邮箱、你的座位号、你的订阅是否活跃、应用版本。这就是整个数据库。它被打印在着陆页的一张卡片上,因为它能放在一张卡片里。没有东西需要沙箱化,没有东西可泄露,没有东西可传唤,没有东西可训练。目前还处于早期阶段。500个创始席位,首批构建几天内完成。链接在第一条评论中。 我并不是说Meta邪恶。我是说云智能代理必须将你的生活存储在服务器上才能工作,其他一切都由此而来。告诉我设备上的版本在哪里会出问题。这就是我在这里的原因。
查看原文

相似文章

Meta的Muse AI功能强大却令我不安

The Verge

Meta推出了Muse,一款由AI驱动的生产力助手,可以处理电子邮件管理和购物等任务,但由于其广泛的数据访问权限,引发了隐私担忧。