人工智能公司正竞相让助手记住你,却几乎没有人在开发工具,帮助你记住它们对你说过的话。

Reddit r/ArtificialInteligence 新闻

摘要

作者认为,AI 助手是单向记忆系统——它们存储有关用户的信息,却没有提供便捷的方式让用户搜索或导出自己的聊天记录——从而造成用户锁定。作者还提到,自己正在开发 AI Toolbox,这是一款为 ChatGPT、Claude、Gemini 和 Grok 添加全文搜索、文件夹和导出功能的扩展程序。

一年多来,记忆功能一直是备受瞩目的主打功能。如今,ChatGPT、Claude、Gemini 和 Grok 都有了各自版本的记忆功能,而且宣传口径如出一辙:助手会随着时间推移越来越了解你。但这一切都是单向的。助手记着关于你的各种信息。与此同时,你积累了两年的聊天记录里,保存着你为什么选择那家供应商、最终说服老板的那段措辞、你排除的三个选项以及各自的原因。你交付的文档保留的是结果。只有聊天记录保留了推理过程。那你能靠什么把它找出来?一串自动生成的标题,加上一个搜索框。没错,搜索已经有所改善,你也可以让助手从以前的聊天中找出某些内容。但返回的却是模型对自己当时所说内容的转述,而你之所以回头查找,恰恰是为了找到原话或确切的数字。我对这种严重失衡的理解是:记忆功能让你更难离开一个助手,因为离开就意味着失去它为你积累的记忆。好用的搜索和便捷的导出则恰恰相反。如果你能找到所有内容并随身带走,切换就毫无成本。所以,一边能登上主题演讲的舞台,另一边却只能待在设置页面里。我认为,一旦企业开始像对待电子邮件一样对待 AI 聊天,将其视为必须可搜索、可导出且受保留政策约束的记录,这种局面就会逆转。其中一些压力已经开始在工作空间中显现。我在这件事上有自己的立场。我开发了 AI Toolbox,这是一款浏览器扩展,为上述四款产品添加全文搜索、文件夹和导出功能,因为我总是找不到那些明明已经得到过的答案。免费搜索只显示前 25 条结果,批量导出则需要付费高级版,所以对我来说,这是一门生意,不只是一种观点。你真的会回头翻以前的聊天记录吗?还是每次拿到答案后,那段聊天就可以随手丢弃了?
查看原文

相似文章

AI聊天机器人能记住你提供的信息吗?

Reddit r/ArtificialInteligence

本文探讨了像ChatGPT或Claude这样的AI聊天机器人是否能够存储用户提供的信息,并可能将其用于其他用户,从而引发隐私和数据安全的担忧。